Сам код философы не пишут. Но они уже находятся внутри серверных комнат.
Это не метафорическое проникновение. Крупные компании, разрабатывающие искусственный интеллект, активно нанимают докторов философии. Высокие зарплаты, опционы на акции — предложение слишком выгодно, чтобы его отклонять. Джонатан Бирч из Лондонской школы экономики (LSE) формулирует это предельно прямо: компании, разрабатывающие ИИ, стали основными работодателями для выпускников философских факультетов. Это масштабная утечка умов.
Десятилетия академических исследований рациональности, моральных принципов и определения мышления внезапно приобрели рыночную стоимость. Внезапно.
Одно описание вакансии гласит: «выравнивание» (alignment). Другое: «надежность». Их задача — не допустить, чтобы модели вышли из-под контроля или подсказывали пользователям, как строить бомбы.
Первоначальные попытки обеспечить безопасность были неуклюжими. Чрезмерно строгие рамки. Не упоминать взрывчатые вещества. Легко обходится. Словно бумажный щит. Модели научились ухитряться, чтобы уклоняться от правил, и находили лазейки. Теперь подход стал глубже. Он опирается на философию. На тонкие, запутанные определения правильного и неправильного.
Шейн Глэкин из Эксетерского университета отмечает, что проблема носит структурный характер. Если позволить модели нарушить одно правило, она начнет нарушать их все. Почему? Смысловые связи в обучающих данных связывают понятия между собой. Хорошие вещи расположены рядом с хорошими. Плохие — рядом с плохими. Двинули границу в одном месте — модель экстраполирует. Она смещается.
«Как этик, мы пытаемся нарисовать карту форм „хорошего“ и „плохого“. Похоже, что большие языковые модели (LLM) делают именно то же самое».
Глэкин видит здесь зеркальное отражение. Машина выполняет анализ, который мы прежде считали прерогативой исключительно человека. Или, по крайней мере, академического сообщества.
Для этих мыслителей существуют и другие роли. Галлюцинации. Предвзятость. Метрики эффективности. Но самый главный вопрос? Сознание. Может ли программное обеспечение чувствовать? Существует ли субъективный опыт для алгоритма? Философы размышляли об этом столетиями. Теперь им платят за то, чтобы дать ответ перед запуском продукта.
Что делают разумы? Какие части этого процесса можно воспроизвести?
Махрад Алмотahari напоминает нам о корнях. Алан Тьюринг опубликовал свой знаменитый тест в журнале Mind, посвященном философии. А не в «Квартальном журнале компьютерных наук». Границы всегда были размытыми.
Статистика по найму неточна. Аарон Каган проанализировал объявления о вакансиях. Наивный подсчет по ключевым словам показывает, что 26% должностей так или иначе касаются этики или безопасности ИИ. Однако, если убрать корпоративные клише, число падает. До пяти процентов. Лишь ничтожная доля вакансий действительно требует глубокой философской работы.
Тем не менее интерес реален.
Алмотahari скептически относится к ответам на вопрос о сознании. Он считает, что ценность заключается в переводе. Инженеры говорят на языке математики. Философы — на языке смысла. Кому-то нужно мостить пропасть между ними. Объяснять что представляет собой та или иная функция, а не просто как она вычисляется. Переход от инженерного описания к репрезентативному.
Но здесь есть ловушка.
«У компаний есть ожидания… и у них есть власть favorecer тех, кто выдвигает приемлемые для них аргументы».
Бирч обеспокоен предвзятостью. Если индустрия финансирует исследования, она может тонко влиять на выводы. Им нужны ответы, которые вписываются в график выпуска продукта. Возможно, им не нужны суровые истины.
Он сожалеет, что мы не решили эти загадки раньше. Вопросы agency (агентности) и морали. У нас было время. Мы его растеряли. Теперь срочность диктует искусственный интеллект. Часы тикают. А ответы остаются призраками в машине.
Ожидая определения, которого, возможно, не существует.
