MONTREAL, 19 Jun — Video yang kelihatan memaparkan penghidap sindrom Down dan mendorong pengguna untuk membeli dari perniagaan mereka yang susah mendapat berjuta-juta tontonan, tetapi kebanyakannya adalah palsu yang dihasilkan oleh kecerdasan buatan (AI).
Eksploitasi stereotaip untuk keuntungan
Ribuan siaran yang menjual lampu resin, beg kait dan mangkuk tanah liat ini sebahagian daripada corak lebih luas klip hasilan AI yang cuba meraih jualan dengan menimbulkan empati terhadap orang kurang upaya atau yang dianggap kurang bernasib baik, seperti orang kulit hitam atau warga emas.
Peguambela dan penyelidik berkata amalan ini mengekalkan stereotaip negatif dan menjejaskan kehidupan serta perniagaan orang sebenar.
Di TikTok, YouTube dan Instagram, watak AI mendakwa mereka dibuli kerana menjual kraf, dengan latar belakang kata-kata menghina tentang orang kurang upaya.
Nathan Rowe, pengarah program di Down Syndrome International, memberitahu AFP video ini mengambil kesempatan terhadap stereotaip bahawa penghidap sindrom Down perlu dikasihani.
“Mereka memangsa orang yang mungkin mempunyai pandangan simpati dan agak kebapaan terhadap sindrom Down,” katanya.
Pautan ke kedai mencurigakan
Akaun-akaun ini memaut ke kedai dalam talian yang mencurigakan, termasuk satu yang mempromosikan pelbagai “ulasan bintang lima” tetapi semuanya mengandungi teks isian yang sama.
AFP mendapati sebahagian produk tembikar mula-mula muncul dalam kandungan pencipta sebenar sebelum diambil alih. Satu reka bentuk beg kait mungkin bukan buatan tangan, kerana ia dijual di Shein, laman popular untuk peniaga dropship yang menjalankan kedai tanpa menyimpan inventori fizikal.
Video-video ini “menenggelamkan” siaran daripada usahawan sebenar dengan sindrom Down, berpotensi merampas perniagaan mereka, kata Rowe.
“Terdapat ramai orang berbakat dengan sindrom Down yang membuat barangan, tetapi ia mengukuhkan naratif bahawa mereka tidak mampu dan ia mestilah AI,” katanya.
Trend berterusan
Ini bukan trend pertama seumpamanya yang menggunakan orang kurang bernasib baik untuk perhatian atau keuntungan dalam talian.
Down Syndrome International pernah mengadu kepada Meta mengenai deep-fake seksual penghidap sindrom Down, yang menyebabkan banyak video dipadam. Namun Rowe berkata syarikat media sosial harus lebih proaktif mencegah kandungan sebegini daripada tersebar.
AFP menghubungi Meta mengenai trend promosi produk baru ini tetapi tidak menerima respons. Menurut garis panduan komuniti TikTok, platform itu melarang akaun yang terlibat dalam aktiviti menipu atau manipulatif, serta diskriminasi. YouTube mempunyai dasar serupa tentang spam mengelirukan.
Walaupun banyak video yang diperiksa AFP sudah tidak aktif, akaun lain masih berkongsi klip AI yang mengarahkan pengguna ke produk.
“Orang di sebalik tabir mungkin bermotifkan keuntungan dan tidak mengambil berat tentang kerosakan yang mereka lakukan,” kata Rowe.
Mudah dihasilkan
Jeremy Carrasco, pengasas bersama firma penyelidikan AI Riddance, berkata jumlah akaun yang mendorong kandungan ini menunjukkan video itu berfungsi sebagai skim mengaut keuntungan.
“Terdapat banyak kegagalan sistemik yang bergabung menjadikan perkara ini lebih buruk,” katanya, sambil menunjukkan bahawa video ini sangat mudah dihasilkan dan sukar dikesan.
“Itulah sebabnya ia merebak dengan begitu meluas.”
Katanya, terdapat banyak video yang menampilkan watak AI dengan sindrom Down dan akaun yang sama cuba menjual produk identik menggunakan watak warga emas sintetik.
AFP sebelum ini menyiasat trend pelbagai bahasa yang mencuri identiti warga emas untuk memikat pembelian simpati selipar dan kolar anjing.
“Rasanya kita sudah mencapai tahap paling rendah apa yang dibenarkan, dan jika mereka terus melangkah lebih jauh, saya fikir sesuatu akan berlaku,” kata Carrasco. — AFP
