Anthropic Tangguh Pelancaran Model AI 'Mythos' Kerana Risiko Keselamatan Siber
Syarikat kecerdasan buatan Anthropic telah mengambil keputusan untuk menangguhkan pelancaran model AI terbaharunya yang dikenali sebagai Claude Mythos, berikutan kebimbangan serius bahawa teknologi tersebut boleh dieksploitasi untuk meningkatkan serangan siber secara drastik. Keputusan ini dibuat walaupun syarikat itu berada dalam perlumbaan sengit dalam industri AI yang semakin kompetitif.
Kebimbangan Terhadap Ancaman Siber Yang Lebih Canggih
Model Mythos dikatakan mempunyai keupayaan pengaturcaraan yang begitu maju sehingga ia berpotensi menjadi senjata ampuh di tangan penggodam. Menurut laporan daripada Anthropic dan rakan kongsinya, Mythos mampu mengimbas secara autonomi jumlah kod yang besar untuk mencari dan menggabungkan kelemahan keselamatan yang sebelum ini tidak diketahui dalam pelbagai jenis perisian, daripada sistem pengendalian hingga pelayar web.
"Dunia tidak mempunyai pilihan selain mengambil ancaman siber yang berkaitan dengan Mythos dengan serius," kata David Sacks, seorang usahawan dan pelabur yang mengetuai majlis penasihat teknologi Presiden Donald Trump. "Tetapi sukar untuk mengabaikan fakta bahawa Anthropic mempunyai sejarah menggunakan taktik menakut-nakutkan."
Pratonton Terhad Di Bawah Projek Glasswing
Pratonton yang sangat terhad bagi Mythos telah dikongsi dengan organisasi rakan kongsi minggu ini di bawah inisiatif yang dipanggil Project Glasswing. Antara syarikat yang terlibat termasuk gergasi teknologi seperti Amazon, Apple, Microsoft, Google, Cisco, CrowdStrike dan JPMorgan Chase.
Yang membimbangkan, keupayaan Mythos boleh dilaksanakan pada kelajuan dan skala yang tidak dapat dicapai oleh manusia, bermakna ia berpotensi digunakan untuk melumpuhkan bank, hospital atau infrastruktur negara dalam masa beberapa jam sahaja.
"Model Mythos menunjuk kepada sesuatu yang jauh lebih penting daripada sekadar lompatan lain dalam kecerdasan buatan," kata Shlomo Kramer, pengasas bersama dan ketua pegawai eksekutif Cato Networks dalam catatan blog. "Ia menandakan peralihan yang boleh mentakrifkan semula keseimbangan antara penyerang dan pembela dalam ruang siber."
Era 'Perang Agen-Ke-Agen' Dalam Dunia Digital
Pada persidangan HumanX AI di San Francisco, Alex Stamos daripada startup Corridor yang menangani keselamatan AI mengakui ancaman sebenar daripada penggodam yang menggunakan agen AI. Beliau juga menyindir tentang apa yang dirujuknya sebagai "gimik pemasaran" Anthropic.
"Mereka mempunyai kartun comel yang menggemaskan tentang produk-produk ini yang begitu luar biasa berbahaya sehingga mereka tidak akan membenarkan orang menggunakannya," kata Stamos mengenai startup yang berpangkalan di San Francisco itu. "Ia seolah-olah Projek Manhattan mengumumkan bom nuklear dalam kartun Calvin dan Hobbes yang comel."
Stamos meramalkan dinamik masa depan akan melibatkan manusia yang menyelia agen AI untuk melindungi rangkaian daripada penggodam yang menggunakan teknologi yang sama untuk menyerang. Beliau merujuknya sebagai "perang agen-ke-agen" dengan manusia di tepi lapangan memberikan nasihat.
Kebimbangan Dalam Industri Perbankan Dan Keselamatan
Ketua-ketua bank terbesar Amerika Syarikat telah bertemu minggu ini dengan Pengerusi Rizab Persekutuan Jerome Powell dan Setiausaha Perbendaharaan Scott Bessent untuk menimbang implikasi keselamatan Claude Mythos yang belum dilancarkan, menurut laporan pada hari Jumaat.
Wendy Whitmore, daripada firma keselamatan siber Palo Alto Networks, menjangkakan "beberapa jenis serangan bencana" tahun ini yang berkaitan dengan keupayaan agen AI.
"Perkara yang membuatkan saya berjaga malam ialah kita sedang menghadapi kemasukan besar-besaran kelemahan baharu yang akan ditemui oleh AI," kata Adam Meyers daripada CrowdStrike.
Meyers melihat penyematan model AI kecil terus ke dalam kod berniat jahat yang menjangkiti rangkaian sebagai taktik semula jadi yang akan diterokai oleh penggodam. "Senjata muktamad akan menjadi perisian hasad yang tidak mempunyai pengaturcaraan awal," jelas Meyers. "Ia boleh melakukan apa sahaja yang anda minta."
Implikasi Untuk Masa Depan Keselamatan Digital
Keputusan Anthropic untuk menangguhkan pelancaran Mythos mencerminkan kesedaran yang semakin meningkat dalam industri teknologi tentang potensi penyalahgunaan AI yang maju. Walaupun teknologi ini menjanjikan kemajuan besar dalam pelbagai bidang, kebimbangan mengenai keselamatan siber telah memaksa syarikat-syarikat untuk mempertimbangkan semula strategi pelancaran mereka.
Perbincangan di persidangan HumanX AI menunjukkan konsensus yang jelas bahawa masuk akal jika agen AI yang sudah mahir dalam pengaturcaraan akan cemerlang dalam mencari kelemahan dalam perisian. "Kita tidak berada dalam era di mana manusia boleh menulis kod apabila kita mempunyai model AI superman yang kemudiannya akan mencari pepijat di dalamnya," tegas Stamos. "Ia tidak mungkin."
Penangguhan ini menimbulkan persoalan penting tentang bagaimana masyarakat global akan mengimbangi inovasi teknologi dengan keperluan keselamatan yang kritikal dalam era digital yang semakin kompleks.
