Сам код філософи не пишуть. Але вони вже знаходяться усередині серверних кімнат.
Це не метафоричне проникнення. Великі компанії, які розробляють штучний інтелект, активно наймають докторів філософії. Високі зарплати, опціони на акції — пропозиція надто вигідна, щоб її відхиляти. Джонатан Бірч із Лондонської школи економіки (LSE) формулює це гранично прямо: компанії, які розробляють ІІ, стали основними роботодавцями для випускників філософських факультетів. Це масштабний витік умів.
Десятиліття академічних досліджень раціональності, моральних принципів та визначення мислення раптово придбали ринкову вартість. Несподівано.
Одне опис вакансії говорить: «вирівнювання» (alignment). Iнше: «надійність». Їхнє завдання – не допустити, щоб моделі вийшли з-під контролю або підказували користувачам, як будувати бомби.
Початкові спроби забезпечити безпеку були незграбними. Надмірно суворі рамки. Не згадувати вибухові речовини. Легко обходиться. Немов паперовий щит. Моделі навчилися ухитрятися, щоб ухилятися від правил, і знаходили лазівки. Тепер підхід став глибшим. Він спирається на філософію. На тонкі, заплутані визначення правильного та неправильного.
Шейн Глекін з Ексетерського університету зазначає, що проблема має структурний характер. Якщо дозволити моделі порушити одне правило, вона почне порушувати їх усі. Чому? Змістові зв’язки в навчальних даних пов’язують поняття між собою. “Хороші” речі розташовані поруч з “хорошими”. * Погані * – поруч з “поганими”. Рухнули кордон в одному місці — модель екстраполює. Вона зміщується.
«Як етик, ми намагаємося намалювати карту форм „хорошого“ та „поганого“. Схоже, що великі мовні моделі (LLM) роблять саме те саме».
Глекін бачить тут дзеркальне відображення. Машина виконує аналіз, який ми раніше вважали за прерогативу виключно людини. Або принаймні академічної спільноти.
Для цих мислителів існують інші ролі. Галюцинації. Упередженість. Метрики ефективності. Але найголовніше питання? Свідомість. Чи може програмне забезпечення відчувати? Чи існує суб’єктивний досвід алгоритму? Філософи розмірковували про це століттями. Тепер їм платять за те, щоб відповісти перед запуском продукту.
Що роблять уми? Які частини цього процесу можна відтворити?
Махрад Алмотahari нагадує нам про коріння. Алан Т’юрінг опублікував свій знаменитий тест у журналі “Mind”, присвяченому філософії. А не у «Квартальному журналі комп’ютерних наук». Кордони завжди були розмиті.
Статистика за наймом неточна. Аарон Каган проаналізував оголошення про вакансії. Наївний підрахунок за ключовими словами показує, що 26% посад так чи інакше стосуються етики чи безпеки ІІ. Однак, якщо усунути корпоративні кліше, число падає. До п’яти відсотків. Лише незначна частка вакансій справді потребує глибокої філософської роботи.
Проте інтерес є реальним.
Алмотahari скептично ставиться до відповіді питання про свідомості. Він вважає, що цінність полягає у перекладі. Інженери розмовляють мовою математики. Філософи – мовою сенсу. Комусь треба мостити прірву між ними. Пояснювати що є та чи інша функція, а не просто як вона обчислюється. Перехід від інженерного опису до репрезентативного.
Але тут є пастка.
«У компаній є очікування… і вони мають владу afavorirr тих, хто висуває прийнятні їм аргументи».
Бірч стурбований упередженістю. Якщо промисловість фінансує дослідження, може тонко проводити висновки. Їм потрібні відповіді, які вписуються у графік випуску товару. Можливо, їм не потрібні суворі істини.
Він шкодує, що ми не вирішили ці загадки раніше. Питання agency (агентності) та моралі. Ми мали час. Ми його розгубили. Тепер терміновість диктує штучний інтелект. Годинник цокає. А відповіді залишаються примарами у машині.
Чекаючи на визначення, якого, можливо, не існує.
