Kontraktor Krisis OpenAI dan Anthropic Rancang Alat Baharu untuk Lawan Ekstremisme
SYDNEY: Individu yang menunjukkan kecenderungan ekstremisme ganas pada platform kecerdasan buatan seperti ChatGPT mungkin akan dialihkan kepada sokongan deradikalisasi melalui manusia dan chatbot pada masa depan, menurut pengasas startup New Zealand, ThroughLine. Inisiatif ini merupakan usaha terkini untuk menangani kebimbangan keselamatan berikutan peningkatan tuntutan mahkamah yang menuduh syarikat AI gagal menghalang atau malah membolehkan keganasan.
Inisiatif ThroughLine untuk Meningkatkan Keselamatan AI
ThroughLine, sebuah startup yang telah diupah oleh pemilik ChatGPT, OpenAI, serta pesaingnya Anthropic dan Google, untuk mengalihkan pengguna yang dikenal pasti berisiko membahayakan diri, keganasan domestik, atau gangguan pemakanan kepada sokongan krisis, kini sedang meneroka cara untuk memperluaskan perkhidmatannya kepada pencegahan ekstremisme ganas. Pengasas dan bekas pekerja belia Elliot Taylor menyatakan bahawa syarikat itu sedang berbincang dengan The Christchurch Call, sebuah inisiatif untuk menghapuskan kebencian dalam talian yang dibentuk selepas serangan pengganas terburuk New Zealand pada 2019.
"Ia adalah sesuatu yang kami ingin tuju dan lakukan dengan lebih baik untuk meliputi serta menyokong platform dengan lebih efektif," kata Taylor dalam satu temu bual, sambil menambah bahawa tiada jangka masa telah ditetapkan. OpenAI mengesahkan hubungan dengan ThroughLine tetapi enggan mengulas lanjut, manakala Anthropic dan Google tidak segera membalas permintaan komen.
Model Hibrid untuk Intervensi Ekstremisme
Alat anti-ekstremisme yang dirancang kemungkinan akan menjadi model hibrid yang menggabungkan chatbot yang dilatih untuk bertindak balas terhadap individu yang menunjukkan tanda ekstremisme dan rujukan kepada perkhidmatan kesihatan mental di dunia nyata. Taylor menekankan bahawa mereka tidak menggunakan data latihan daripada model bahasa besar generik, sebaliknya bekerjasama dengan pakar yang sesuai. Teknologi ini sedang diuji, tetapi tarikh pelancaran belum ditetapkan.
Galen Lamphere-Englund, penasihat kontraterorisme yang mewakili The Christchurch Call, menyatakan harapan untuk melancarkan produk ini untuk moderator forum permainan dan ibu bapa yang ingin membasmi ekstremisme dalam talian. Henry Fraser, penyelidik AI di Queensland University of Technology, berpendapat bahawa alat pengalihan chatbot adalah "idea yang baik dan perlu kerana ia mengakui bahawa bukan hanya kandungan yang menjadi masalah, tetapi dinamik hubungan".
Cabaran dan Pertimbangan Masa Depan
Kejayaan produk ini mungkin bergantung pada mekanisme susulan dan struktur sokongan yang disediakan. Taylor menyatakan bahawa ciri susulan, termasuk kemungkinan amaran kepada pihak berkuasa mengenai pengguna berbahaya, masih dalam perbincangan dan akan mengambil kira risiko mencetuskan tingkah laku yang meningkat. Beliau menambah bahawa individu dalam kesusahan cenderung berkongsi perkara dalam talian yang mereka malu untuk katakan kepada seseorang, dan kerajaan berisiko meningkatkan bahaya jika mereka menekan platform untuk memutuskan pengguna yang terlibat dalam perbualan sensitif.
Kajian 2025 oleh Stern Center for Business and Human Rights di New York University menunjukkan bahawa peningkatan moderasi berkaitan militansi oleh platform di bawah tekanan penguatkuasaan undang-undang telah menyebabkan penyokong berpindah ke alternatif kurang terkawal seperti Telegram. Taylor mengingatkan, "Jika anda bercakap dengan AI dan mendedahkan krisis dan ia menutup perbualan, tiada siapa tahu itu berlaku, dan orang itu mungkin masih tanpa sokongan."
