Network
Dilansir laman DW, Kamis (30/3/2023), beberapa pemimpin di bidang teknologi mutakhir telah menandatangani surat yang dirilis pada hari Rabu (29/3/2023) menyerukan para pengembang Artificial Intelligence (AI) atau kecerdasan buatan menghentikan sementara pekerjaan mereka selama enam bulan.
Surat tersebut memperingatkan potensi risiko kecerdasan buatan terhadap masyarakat dan kemanusiaan, ketika raksasa teknologi seperti Google dan Microsoft berlomba untuk membangun program AI yang dapat belajar secara mandiri.
Peringatan tersebut muncul setelah peluncuran GPT-4 (Generative Pre-trained Transformer) awal bulan ini, sebuah program yang dikembangkan oleh OpenAI dengan dukungan dari Microsoft.
"Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola," kata surat itu.
Penghentian
Penandatangan surat itu termasuk nama-nama besar seperti CEO Stability AI Emad Mostaque, peneliti di DeepMind yang dimiliki Alphabet, Yoshua Bengio, dan Stuart Russel, serta nama-nama terkemuka lainnya seperti CEO Tesla dan Twitter Elon Musk dan salah satu pendiri Apple Steve Wozniak.
Surat itu mengatakan, "beberapa bulan terakhir mereka telah melihat laboratorium AI terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menyebarkan pemikiran digital yang lebih kuat yang tidak seorang pun, bahkan pencipta mereka, dapat memahami, memprediksi, atau mengontrol dengan andal."
"Kami mengimbau semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang bisa belajar mandiri yang lebih kuat dari GPT-4, setidaknya selama enam bulan," tambahnya. "Jeda ini harus bersifat publik dan dapat diverifikasi dan mencakup semua aktor kunci. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.”
Surat tersebut memperingatkan potensi risiko kecerdasan buatan terhadap masyarakat dan kemanusiaan, ketika raksasa teknologi seperti Google dan Microsoft berlomba untuk membangun program AI yang dapat belajar secara mandiri.
Peringatan tersebut muncul setelah peluncuran GPT-4 (Generative Pre-trained Transformer) awal bulan ini, sebuah program yang dikembangkan oleh OpenAI dengan dukungan dari Microsoft.
"Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola," kata surat itu.
Penghentian
Penandatangan surat itu termasuk nama-nama besar seperti CEO Stability AI Emad Mostaque, peneliti di DeepMind yang dimiliki Alphabet, Yoshua Bengio, dan Stuart Russel, serta nama-nama terkemuka lainnya seperti CEO Tesla dan Twitter Elon Musk dan salah satu pendiri Apple Steve Wozniak.
Surat itu mengatakan, "beberapa bulan terakhir mereka telah melihat laboratorium AI terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menyebarkan pemikiran digital yang lebih kuat yang tidak seorang pun, bahkan pencipta mereka, dapat memahami, memprediksi, atau mengontrol dengan andal."
"Kami mengimbau semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang bisa belajar mandiri yang lebih kuat dari GPT-4, setidaknya selama enam bulan," tambahnya. "Jeda ini harus bersifat publik dan dapat diverifikasi dan mencakup semua aktor kunci. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.”
Pendekatan
Dilansir laman DW, surat itu dibuat oleh Future of Life Institute, organisasi nirlaba yang didanai oleh Musk, demikian menurut daftar transparansi Uni Eropa. Organisasi ini menindaklanjuti upaya Inggris dan UE untuk mencari cara mengatur teknologi yang berkembang sangat pesat ini.
Pemerintah Inggris merilis sebuah makalah pada hari Rabu (29/03) yang memberikan gambaran tentang pendekatannya, tetapi mengatakan akan "menghindari undang-undang yang kaku yang dapat menghambat inovasi."
Anggota parlemen UE juga telah berbicara tentang perlunya regulsai AI, di tengah kekhawatiran bahwa itu dapat digunakan untuk menyebarkan disinformasi yang berbahaya dan membuat seluruh pekerjaan menjadi sia-sia.
Namun, surat itu bukannya tanpa kritik. "Pernyataan semacam ini dimaksudkan untuk meningkatkan hype. Ini dimaksudkan untuk membuat orang khawatir," Johanna Björklund, seorang peneliti AI dan profesor di Universitas Umea. "Saya tidak memandang perlu menarik rem darurat", ujarnya.
Björklund menyerukan lebih banyak transparansi ketimbang jeda.***
Dilansir laman DW, surat itu dibuat oleh Future of Life Institute, organisasi nirlaba yang didanai oleh Musk, demikian menurut daftar transparansi Uni Eropa. Organisasi ini menindaklanjuti upaya Inggris dan UE untuk mencari cara mengatur teknologi yang berkembang sangat pesat ini.
Pemerintah Inggris merilis sebuah makalah pada hari Rabu (29/03) yang memberikan gambaran tentang pendekatannya, tetapi mengatakan akan "menghindari undang-undang yang kaku yang dapat menghambat inovasi."
Anggota parlemen UE juga telah berbicara tentang perlunya regulsai AI, di tengah kekhawatiran bahwa itu dapat digunakan untuk menyebarkan disinformasi yang berbahaya dan membuat seluruh pekerjaan menjadi sia-sia.
Namun, surat itu bukannya tanpa kritik. "Pernyataan semacam ini dimaksudkan untuk meningkatkan hype. Ini dimaksudkan untuk membuat orang khawatir," Johanna Björklund, seorang peneliti AI dan profesor di Universitas Umea. "Saya tidak memandang perlu menarik rem darurat", ujarnya.
Björklund menyerukan lebih banyak transparansi ketimbang jeda.***
