Kode ini tidak ditulis oleh para filsuf. Tapi mereka tetap berada di dalam ruang server.
Ini bukanlah infiltrasi metaforis. Perusahaan AI besar sedang merekrut PhD dalam bidang filsafat. Gaji besar. Opsi saham. Tawaran itu terlalu bagus untuk ditolak. Jonathan Birch dari LSE menyatakan secara blak-blakan: Perusahaan-perusahaan AI telah menjadi lapangan kerja utama bagi lulusan filsafat. Ini adalah pengurasan otak yang sangat besar.
Karya akademis selama puluhan tahun tentang rasionalitas, prinsip moral, dan definisi pemikiran tiba-tiba memiliki nilai pasar. Tiba-tiba.
Salah satu deskripsi pekerjaannya berbunyi: penyelarasan. Lainnya: keandalan. Mereka bertugas menjaga model agar tidak meledak—atau memberi tahu pengguna cara membuat bom.
Upaya awal untuk menyelamatkan diri sangatlah kikuk. Pagar pembatas berwarna hitam-putih. Jangan sebutkan bahan peledak. Mudah pecah. Seperti perisai kertas. Para model belajar menari sesuai aturan. Untuk menemukan celah. Sekarang pendekatannya lebih dalam. Itu bersandar pada filsafat. Tentang definisi benar dan salah yang berbeda-beda dan berantakan.
Shane Glackin di Exeter mencatat bahwa masalahnya bersifat struktural. Jika Anda membiarkan suatu model melanggar satu aturan, ia akan melanggar semuanya. Mengapa? Tautan semantik dalam data pelatihan menyatukan konsep. Hal-hal baik berada di dekat hal-hal baik. Hal-hal buruk dekat dengan hal-hal buruk. Anda mendorong batas setelah model melakukan ekstrapolasi. Itu meluncur.
“Sebagai ahli etika, kami mencoba memetakan bentuk ‘baik’ dan ‘buruk’. Tampaknya itulah yang dilakukan LLM.”
Glackin melihat cermin di sini. Mesin tersebut melakukan analisis yang biasa kami klaim sebagai sesuatu yang unik bagi manusia. Atau uniknya akademis.
Ada juga pekerjaan lain untuk para pemikir ini. Halusinasi. Bias. Metrik kinerja. Tapi yang besar? Kesadaran. Bisakah perangkat lunak merasakan? Apakah ada rasanya menjadi sebuah algoritma? Para filsuf telah merenungkan hal ini selama berabad-abad. Sekarang seseorang membayar mereka untuk menjawabnya sebelum peluncuran.
Apa yang dilakukan pikiran? Bagian mana dari proses tersebut yang dapat ditiru?
Mahrad Almotahari mengingatkan kita pada akarnya. Alan Turing menerbitkan tesnya yang terkenal di Mind sebuah jurnal filsafat. Bukan Ilmu Komputer Triwulanan. Garis-garisnya selalu buram.
Jumlah perekrutan tidak jelas. Aaron Kagan memindai iklan pekerjaan. Jumlah kata kunci yang naif menunjukkan bahwa 26 persen peran melibatkan etika atau keselamatan AI. Singkirkan standar perusahaan. Jumlahnya menurun. Sampai lima persen. Hanya sebagian kecil yang benar-benar memerlukan pengangkatan filosofis yang berat.
Tetap saja ketertarikan itu nyata.
Almotahari skeptis terhadap jawaban kesadaran. Menurutnya nilainya terletak pada penerjemahan. Insinyur berbicara matematika. Para filsuf berbicara tentang makna. Seseorang perlu menjembatani kesenjangan tersebut. Untuk menjelaskan apa yang diwakili oleh suatu fitur, bukan sekadar cara penghitungannya. Dari deskripsi teknis hingga representasional.
Tapi ada jebakan.
“Perusahaan mempunyai harapan… dan mereka mempunyai kekuatan untuk mendukung siapa yang memberikan argumen yang baik.”
Birch khawatir tentang bias. Jika industri mendanai pekerjaan tersebut, mereka mungkin secara halus akan menentukan kesimpulannya. Mereka menginginkan jawaban yang sesuai dengan timeline produk. Mereka mungkin tidak menginginkan kenyataan pahit.
Dia menyesal kita tidak memecahkan teka-teki ini lebih awal. Tentang agensi. Tentang moralitas. Kami punya waktu. Kami menyia-nyiakannya. Sekarang yang paling mendesak adalah kecerdasan buatan. Jam terus berdetak. Dan jawabannya masih berupa hantu di dalam mesin.
Menunggu definisi yang mungkin belum ada.
