Model kecerdasan buatan Mythos daripada syarikat Anthropic berjaya mengenal pasti kelemahan dalam sistem komputer kerajaan Amerika Syarikat yang sangat sensitif semasa ujian keselamatan, lapor Associated Press pada Selasa.
Project Glasswing: Kerjasama AI dan Perisikan AS
Anthropic bekerjasama dengan agensi perisikan Washington untuk menjalankan ujian menggunakan Mythos di bawah Project Glasswing. Program terhad ini direka untuk mencari dan membaiki kelemahan dalam perisian kritikal sebelum penyerang boleh mengeksploitasinya.
Senator Mark Warner dari Virginia merujuk kepada ujian tersebut dalam pendengaran kongres bulan ini. Beliau memaklumkan bahawa Ketua Agensi Keselamatan Nasional (NSA) Joshua Rudd memberitahunya bahawa Mythos "memasuki hampir semua sistem klasifikasi kami, bukan dalam minggu, tetapi dalam beberapa jam."
Keupayaan dan Had Mythos
Memetik seorang pegawai AS yang tidak dikenal pasti, AP melaporkan bahawa walaupun Mythos mengenal pasti kelemahan tertentu dalam beberapa jam, itu tidak bermakna model tersebut dapat mengeksploitasinya dalam tempoh tersebut. Ini menunjukkan batasan keupayaan AI dalam melaksanakan serangan siber sepenuhnya.
Gedung Putih, Anthropic dan Jabatan Pertahanan tidak memberi respons segera kepada permintaan komen Reuters.
Hubungan Anthropic dengan Kerajaan AS
Hubungan Anthropic yang bakal disenaraikan di bursa saham dengan kerajaan AS telah menjadi tegang. Syarikat itu enggan membenarkan tentera AS menggunakan model AI mereka untuk pengawasan domestik dan sistem senjata autonomi sepenuhnya. Sebagai tindak balas, kerajaan AS meletakkan Anthropic dalam senarai hitam keselamatan negara.
Pada bulan ini juga, kerajaan AS mengarahkan syarikat itu menggantung eksport model AI Mythos dan Fable terkini ke destinasi di seluruh dunia dan kepada semua warga asing, dengan alasan kebimbangan keselamatan negara. The New York Times melaporkan awal hari bahawa NSA kehilangan akses kepada Mythos berikutan pertikaian tersebut.
