Syarikat kecerdasan buatan (AI) Anthropic pada Khamis mencadangkan jeda global bagi pembinaan sistem AI paling berkuasa, memandangkan model terkini mula menunjukkan tanda-tanda boleh melepasi kawalan manusia.
Cadangan Jeda Global
Anthropic yang berpangkalan di San Francisco dan menghasilkan model AI keluarga Claude, dalam satu laporan menyatakan bahawa perlambatan global dalam pembangunan AI termaju mungkin menjadi perkara yang baik. Namun, syarikat itu memberi amaran jika hanya satu syarikat berhenti, pesaing akan terus berlumba ke hadapan.
Kami percaya adalah baik untuk dunia mempunyai pilihan untuk memperlahankan atau menjeda buat sementara waktu pembangunan AI sempadan bagi membolehkan struktur masyarakat dan penyelidikan penjajaran mengikuti kemajuan teknologi, kata Anthropic.
Untuk mendapatkan jeda yang berkesan, ia memerlukan banyak syarikat AI utama di pelbagai negara, terutamanya Amerika Syarikat dan China, bersetuju berhenti pada masa yang sama di bawah peraturan yang boleh disahkan oleh semua pihak.
Tanpa mekanisme penyelarasan global, syarikat dan kerajaan terpaksa membuat keputusan sukar tentang keselamatan di bawah tekanan kompetitif dan geopolitik, tambahnya.
Reaksi Industri dan Kerajaan
Anthropic menghadapi tentangan daripada pihak lain dalam industri dan pegawai Rumah Putih yang mengatakan tumpuan kepada senario terburuk melebih-lebihkan risiko dan merupakan strategi untuk memperlahankan pesaing dengan alasan keselamatan.
Namun, Rumah Putih mengakui kuasa model Mythos syarikat itu yang tidak tersedia kepada umum kerana kemampuan keselamatan sibernya dan kini digunakan hanya kepada segelintir organisasi yang disaring.
Cadangan ini berdepan cabaran besar di Washington dan Silicon Valley, di mana pegawai AS dan eksekutif teknologi kerap berhujah bahawa sebarang perlambatan pembangunan AI berisiko memberikan China kelebihan strategik dalam perlumbaan teknologi abad ini.
Presiden AS Donald Trump bagaimanapun menyatakan beliau membincangkan kemungkinan kerjasama dengan China mengenai isu keselamatan AI semasa lawatan terkininya ke Beijing. Trump juga menandatangani perintah eksekutif minggu ini yang memberi kerajaan 30 hari untuk menjalankan semakan awal model AI paling berkuasa AS sebelum dikeluarkan.
Peranan Manusia Semakin Mengecil
Anthropic membandingkan masalah ini dengan perjanjian kawalan senjata nuklear, tetapi mengatakan ia lebih sukar dikendalikan kerana latihan AI lebih mudah disembunyikan daripada silo peluru berpandu, dan godaan untuk terus beroperasi secara senyap adalah besar.
Syarikat itu merancang untuk mengumpulkan pegawai kerajaan, saintis, kumpulan advokasi dan syarikat AI pesaing dalam beberapa bulan akan datang untuk merangka bagaimana sistem sedemikian boleh berfungsi.
Seruan penyelarasan ini datang bersama data dalaman yang menunjukkan AI sudah mempercepatkan pembangunan AI itu sendiri secara dramatik, kata Anthropic. Pecutan ini mewujudkan gelung maklum balas yang boleh membawa kepada apa yang dipanggil penyempurnaan kendiri berulang, iaitu idea sistem AI yang mampu mengajar dirinya menjadi lebih pintar tanpa banyak bantuan manusia.
Kami belum sampai ke tahap itu, dan penyempurnaan kendiri berulang tidak semestinya berlaku, kata laporan itu, sambil menambah bahawa ia mungkin tiba lebih awal daripada kebanyakan kerajaan dan institusi bersedia. Bukti menunjukkan peranan manusia semakin mengecil pada setiap langkah dalam proses pembangunan AI, kata syarikat itu.
