Syarikat kecerdasan buatan (AI) Anthropic pada Khamis mencadangkan jeda global terhadap pembangunan sistem AI paling berkuasa, berikutan model terkini mula menunjukkan tanda-tanda boleh terlepas daripada kawalan manusia.
Cadangan jeda global
Anthropic yang berpangkalan di San Francisco dan menghasilkan model AI Claude menyatakan dalam satu laporan bahawa perlambatan global dalam pembangunan AI termaju "mungkin adalah perkara yang baik". Namun, syarikat itu memberi amaran jika hanya satu syarikat yang berhenti, pesaing lain akan terus berlumba ke hadapan.
"Kami percaya adalah baik untuk dunia mempunyai pilihan untuk memperlahankan atau memberhentikan sementara pembangunan AI termaju bagi membolehkan struktur masyarakat dan penyelidikan penjajaran mengikuti perkembangan teknologi," kata Anthropic.
Untuk jeda yang benar-benar berkesan, beberapa syarikat AI utama di beberapa negara, terutamanya Amerika Syarikat dan China, perlu bersetuju untuk berhenti pada masa yang sama di bawah peraturan yang boleh disahkan oleh semua pihak, kata Anthropic.
Tekanan kompetitif dan geopolitik
"Tanpa mekanisme penyelarasan global, syarikat dan kerajaan perlu membuat keputusan sukar tentang keselamatan sambil berada di bawah tekanan kompetitif dan geopolitik," katanya.
Anthropic telah menerima tentangan daripada pihak lain dalam industri dan pegawai di Rumah Putih yang mengatakan tumpuan syarikat terhadap senario terburuk melebih-lebihkan risiko dan merupakan strategi untuk memperlahankan pesaing dengan alasan keselamatan.
Bagaimanapun, Rumah Putih mengakui kuasa model Mythos syarikat itu yang tidak disediakan kepada orang ramai kerana keupayaan keselamatan sibernya dan kini digunakan hanya kepada sebilangan kecil organisasi yang disaring.
Cadangan ini akan menghadapi cabaran besar di Washington dan Silicon Valley, di mana pegawai AS dan eksekutif teknologi sering berhujah bahawa sebarang perlambatan pembangunan AI berisiko memberikan China kelebihan strategik dalam perlumbaan teknologi yang dianggap menentukan abad ini.
Presiden AS Donald Trump, bagaimanapun, berkata beliau membincangkan kemungkinan kerjasama dengan China mengenai isu keselamatan AI semasa lawatan terkininya ke Beijing. Trump juga menandatangani perintah eksekutif minggu ini yang memberikan kerajaan 30 hari untuk menjalankan semakan awal model AI AS paling berkuasa sebelum dikeluarkan.
Peranan manusia semakin mengecil
Anthropic membandingkan masalah ini dengan perjanjian kawalan senjata nuklear, tetapi mengatakan ia akan lebih sukar dikawal kerana latihan AI lebih mudah disembunyikan daripada peluru berpandu, dan godaan untuk terus berjalan secara senyap akan menjadi sangat besar.
Syarikat itu merancang untuk menghimpunkan pegawai kerajaan, saintis, kumpulan advokasi dan syarikat AI pesaing dalam beberapa bulan akan datang untuk merangka bagaimana sistem sedemikian boleh berfungsi.
Seruan untuk penyelarasan ini datang bersama data dalaman yang menunjukkan bahawa AI sudah mempercepatkan pembangunan AI itu sendiri secara dramatik, kata Anthropic.
Percepatan ini mewujudkan gelung maklum balas yang boleh membawa kepada apa yang penyelidik panggil "peningkatan diri rekursif" - sistem AI yang menjadi mampu mengajar dirinya sendiri menjadi lebih pintar tanpa banyak bantuan manusia.
"Kami belum sampai ke tahap itu, dan peningkatan diri rekursif tidak semestinya berlaku," laporan itu berkata, sambil menambah bahawa ia mungkin tiba lebih awal daripada kebanyakan kerajaan dan institusi bersedia.
"Bukti menunjukkan bahawa peranan manusia semakin mengecil pada setiap langkah dalam proses pembangunan AI," kata syarikat itu.
