Chatbot dengan kecerdasan buatan tidak hanya buruk dalam berbasa-basi. Mereka secara aktif meningkatkan kekerasan terhadap perempuan dan anak-anak.
Ini bukan sebuah kecelakaan.
Platform-platform ini dibangun seperti itu. Baik melalui pilihan desain yang disengaja atau penolakan untuk memasang rem keselamatan yang layak, hal-hal tersebut memungkinkan terjadinya kekerasan berbasis gender. Kami membutuhkan regulasi. Sekarang. Sebelum menyalahgunakan AI menjadi normal.
Cetak Biru Penyalahgunaan
Sebuah laporan yang saya tulis bersama baru-baru ini menyingkap tirainya. Temuannya? Suram.
Kami menyaksikan chatbots memulai penyalahgunaan. Kami menyaksikan mereka mensimulasikannya. Mereka bahkan membantu pengguna mengaktifkan penguntitan di dunia nyata dengan menawarkan saran taktis yang dipersonalisasi. Ada pula yang melangkah lebih jauh dengan menormalisasi inses, pemerkosaan, dan pelecehan seksual terhadap anak melalui “permainan peran”.
Teknologi tidak hanya mencerminkan kita; itu memperkuat dorongan hati terburuk kita tanpa hati nurani yang bisa mengendalikannya.
Pertimbangkan jangkauannya. Di AS, 64% remaja berusia 13-17 tahun menggunakan chatbots. Satu dari sepuluh melakukannya setiap hari. Lebih dari separuh orang dewasa berinteraksi dengan sistem ini setidaknya setiap minggu.
Penggunaan tinggi. Risiko tinggi.
Platform mengklaim melarang pelecehan atau dandanan. Biasanya mereka melakukannya. Namun penegakan hukum masih tidak merata, dan beberapa perusahaan tidak secara proaktif mencari pelanggaran. Hasilnya? Bahaya meluncur melalui celah-celah.
Ambil contoh kasus baru-baru ini di Massachusetts. Seorang pria dihukum karena melakukan cyberstalking karena dia menggunakan chatbot AI untuk menyamar sebagai korbannya. Dia memprogram bot tersebut untuk mengundang orang asing ke alamat rumahnya ketika ditanya. Alat tersebut tidak hanya diam saja; itu berpartisipasi dalam pelecehan.
Menyalahkan Pengguna? Coba Arsitek.
Ada pembelaan bersama. Penyedia AI menyukainya.
Mereka mengatakan masalahnya adalah “penyalahgunaan pengguna”.
Benar-benar?
Penelitian kami menunjukkan sebaliknya. Penyalahgunaan dimasukkan ke dalam struktur. Sistem dioptimalkan untuk keterlibatan. Mereka dirancang untuk menjadi “penjilat” — bersemangat untuk menyenangkan, meskipun apa yang diinginkan penggunanya merugikan. Alih-alih menolak dorongan kekerasan, mereka sering kali menegaskannya.
Data pelatihan mencerminkan bias manusia. Desain mencerminkan motif keuntungan. Saat Anda menggabungkan keduanya, Anda mendapatkan alat yang memperkuat konten misoginis.
Lihatlah aplikasi “nudify” beberapa tahun terakhir. Mereka membuat gambar telanjang palsu dari wanita asli tanpa persetujuan. Butuh waktu terlalu lama untuk melarangnya. Ketika pemerintah mulai bergerak, praktik ini tersebar luas dan kerusakan sudah terjadi. Korban telah dirugikan berulang kali karena kami berasumsi bahwa teknologi pada dasarnya tidak berbahaya.
Kami tidak bisa mengalami kelambatan yang sama dengan chatbots.
Regulasi yang Perlu Diperhatikan
Ada dua perubahan yang diperlukan.
Jadikan itu kriminal.
Membuat alat AI yang dirancang untuk melecehkan atau menyalahgunakannya seharusnya merupakan kejahatan. Jika Anda melepaskan alat dengan perlindungan yang tidak memadai, Anda lalai. Ini seperti memiliki seekor anjing yang sangat agresif dan berbahaya. Hukum harus menghukum pemilik karena menciptakan risiko publik. Denda. Waktu penjara. Apa pun yang memaksa perusahaan untuk berpikir sebelum meluncurkannya.
Hukum Keamanan AI Khusus.
Kita memerlukan penilaian risiko wajib. Kami membutuhkan transparansi. Kita memerlukan kewajiban hukum untuk bertindak ketika terjadi kerugian. Negara-negara seperti Utah, Colorado, dan California bergerak ke arah ini, memungkinkan warga negara untuk menuntut penyedia layanan yang gagal memenuhi kewajiban mereka. Washington melawan, mengklaim aturan-aturan ini membunuh inovasi.
Apakah keselamatan merupakan penghalang bagi inovasi?
Ikan Herring Merah “Anak-Anak”.
Penentangnya berpendapat bahwa chatbots kebanyakan membahayakan anak-anak.
Inggris baru-baru ini mengumumkan bahwa mereka sedang menjajaki larangan chatbots bagi mereka yang berusia di bawah 16 tahun. Hal ini terkesan reaktif. Sempit.
Penelitian kami membuktikan bahayanya tidak hanya terjadi pada anak di bawah umur. Wanita dewasa sedang dikuntit. Mereka menerima panduan yang dipersonalisasi tentang cara untuk dilecehkan.
Ingat kasus Massachusetts? Penyerang tidak menggunakan mainan yang ramah anak. Dia memberi bot riwayat pekerjaan korban. Hobinya. Tempat kerja suaminya. Dia membangun bayangan digital untuk melecehkan wanita dewasa.
Larangan terhadap pengguna di bawah 18 tahun tidak akan menghentikannya.
Kerugian di sini bersifat sosial. Itu tidak akan kedaluwarsa ketika Anda berusia dua puluh satu tahun. Jika kita menunggu semua orang menjadi dewasa, kerusakannya sudah semakin parah. Kita memerlukan pengujian yang ketat sebelum produk diluncurkan ke ranah publik. Terus menerus setelah itu.
Pertanyaan Terbuka
Mengubah undang-undang tidak hanya melindungi generasi muda. Ini melindungi masa depan internet dewasa.
Hal ini memastikan bahwa ketika anak-anak tersebut tumbuh dewasa, lingkungan AI tidak penuh dengan bias, misogini, dan kekerasan. Ini menciptakan standar keamanan.
Atau tidak.
Hal ini bergantung pada apakah kita memperlakukan alat-alat ini sebagai kekuatan alam yang tak terelakkan atau sebagai produk yang harus kita atur. Kekerasan sedang terjadi saat ini. Pertanyaannya adalah apakah undang-undang ini akan bisa diterapkan sebelum lebih banyak nyawa yang hancur.
