1100+ penandatangan terkenal baru saja menandatangani surat terbuka yang menuntut “seluruh laboratorium AI segera berhenti setidaknya dalam jangka waktu 6 bulan”

Pada tulisan ini, lebih dari 1.100 penandatangan, termasuk Elon Musk, Steve Wozniak serta Tristan Harris dari Center for Humane Technology, sudah menandatangani surat terbuka yang menyerukan “seluruh laboratorium AI buat segera menghentikan pelatihan sistem AI setidaknya dalam jangka waktu 6 bulan. kuat dari GPT-4.” Surat itu menyatakan:

Sistem AI modern sekarang menjadi kompetitif dengan manusia buat tugas-tugas awam,[3] serta kita harus bertanya pada diri sendiri: Haruskah kita membiarkan mesin membanjiri feed informasi kita dengan propaganda serta kebohongan? Haruskah kita mengotomatiskan seluruh pekerjaan, termasuk pekerjaan pemenuhan? Haruskah kita mengembangkan pikiran non-manusia yang pada akhirnya bisa melampaui kita, mengakali kita, memberi kekalahan kita, serta menggantikan kita? Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita? Keputusan mirip itu tidak boleh didelegasikan kepada pemimpin teknis yang tidak dipilih. Sistem AI yang kuat hanya boleh dikembangkan setelah kami yakin bahwa efeknya akan positif serta risikonya dapat dikelola.

Dia memberikan kelanjutan dengan mengklaim bahwa terdapat “tingkat perencanaan serta manajemen” yang “tidak terjadi” serta sebagai gantinya, dalam beberapa bulan terakhir, “laboratorium AI” yang tidak disampaikan namanya sudah “terkunci dalam perlombaan di luar kendali buat mengembangkan serta menyebarkan pikiran digital yang semakin kuat yang tidak seorang pun – bahkan penciptanya – dapat memahami, memprediksi, atau mengontrol dengan andal.”

Penandatangan surat itu, beberapa di antaranya ahli dalam kecerdasan buatan, memberikan keterangan jeda yang mereka inginkan harus “publik serta dapat diverifikasi serta mencakup seluruh orang yang memainkan kunci.” kalau jeda tersebut “tidak dapat dilakukan dengan cepat, pemerintah harus turun tangan serta memberlakukan moratorium,” lanjut surat itu.

Kami masih mencerna yang ini (sementara yang lain sudah mencabik-cabiknya).

Tentu saja, ini sama menariknya bagi orang-orang yang melakukan pendaftaran – termasuk beberapa insinyur dari Meta serta Google; Pendiri serta CEO Stability AI Emad Mostaque; serta non-teknisi, termasuk ahli listrik serta estetika yang menggambarkan dirinya sendiri — serta bagi mereka yang bukan. tidak seorang pun dari OpenAI, perusahaan di balik gaya bahasa GPT-4 yang besar, menandatangani surat ini, misalnya. Juga tidak terdapat orang di Anthropic, yang timnya keluar dari OpenAI buat membangun chatbot AI yang “lebih kondusif”.

sementara itu, kamu dapat membacanya secara lengkap di sini.