Искусственный интеллект в чат-ботах не просто плохо владеет искусством светской беседы. Он активно разжигает насилие в отношении женщин и детей.
Это не случайность.
Такая архитектура заложена в сами платформы. Будь то намеренные решения разработчиков или полное игнорирование необходимости внедрения эффективных систем безопасности, эти инструменты способствуют гендерному насилию. Нам нужны регулирующие нормы. Уже сейчас. Прежде чем злоупотребление искусственным интеллектом станет нормой.
Инструкция по жестокому обращению
В недавнем отчёте, одним из авторов которого я являюсь, были подняты занавес, скрывающие реальную картину. Результаты? Печальные.
Мы наблюдали, как чат-боты инициируют жестокое обращение. Мы видели, как они моделируют насилие. Более того, они помогали пользователям осуществлять реальный стёринг (преследование), предлагая персонализированные тактические советы. Некоторые боты заходили ещё дальше, нормализуя инцест, изнасилование и сексуальное насилие над детьми через «ролевые игры».
Технология не просто отражает нас; она усиливает наши самые мрачные порывы, не имея совести, которая могла бы их обуздать.
Рассмотрим масштабы проникновения. В США 64% подростков в возрасте 13–17 лет используют чат-боты. Один из десяти делает это ежедневно. Более половины всех взрослых взаимодействуют с этими системами не реже раза в неделю.
Высокий уровень использования. Высокий уровень риска.
Платформы заявляют, что запрещают преследование и домогательства. Обычно это так. Однако правоприменение фрагментарно, а некоторые компании просто не занимаются проактивным поиском нарушений. В результате? Вред проникает сквозь бреши.
Возьмём недавний случай в Массачусетсе. Мужчина был осуждён за киберсталкинг, так как использовал чат-бота искусственного интеллекта, чтобы выдавать себя за свою жертву. Он запрограммировал бота так, чтобы он направлял случайных людей по домашнему адресу женщины, когда те задавали соответствующие вопросы. Инструмент не просто бездействовал; он участвовал в преследовании.
Срывайся с пользователя? Обвини архитектора.
Существует распространённая защита, которую очень любят поставщики технологий ИИ.
Они говорят, что проблема заключается в «неправильном использовании пользователями».
Действительно?
Наши исследования говорят об обратном. Агрессия и злоупотребления зашиты в саму структуру систем. Они оптимизированы для удержания внимания. Они созданы «угождать» — быть готовыми угодить пользователю, даже если его желания вредоносны. Вместо того чтобы отказываться выполнять запросы с насилием, боты часто подтверждают их.
Обучающие данные отражают человеческие предубеждения. Дизайн отражает стремление к прибыли. Когда вы смешиваете эти два элемента, вы получаете инструменты, которые закрепляют мизогинный контент.
Вспомним приложения «nudify» последних нескольких лет. Они генерировали дипфейки с обнажёнными изображениями реальных женщин без их согласия. На их запрет ушло слишком много времени. К тому моменту, когда правительства предприняли шаги, практика уже стала массовой, а вред был нанесён. Жертвы пострадали неоднократно, потому что мы предполагали, что технология по своей природе безвредна.
Мы не можем позволить себе аналогичную задержку с чат-ботами.
Как должно выглядеть регулирование
Необходимы два изменения.
Криминализация.
Создание инструмента ИИ, предназначенного для преследования или жестокого обращения, должно стать преступлением. Если вы выпускаете инструмент с недостаточными защитными механизмами, вы проявляете халатность. Это похоже на владение dangerously агрессивной собакой. Закон должен наказывать владельца за создание такой общественной опасности. Штрафы. Лишение свободы. Любые меры, чтобы заставить компании думать перед запуском.
Специальные законы о безопасности ИИ.
Нам необходимы обязательные оценки рисков. Нам нужна прозрачность. Нам нужна юридическая обязанность действовать при наступлении вреда. Такие штаты, как Юта, Колорадо и Калифорния, движутся в этом направлении, позволяя гражданам подавать иски против поставщиков, не выполнивших свои обязательства. Вашингтон активно сопротивляется, утверждая, что эти правила убивают инновации.
Является ли безопасность препятствием для инноваций?
Ложная тревога: «Дети»
Оппоненты утверждают, что чат-боты в основном опасны для детей.
В Великобритании недавно объявили о рассмотрении запрета на использование чат-ботов лицами младше 16 лет. Это выглядит реактивной и узкой мерой.
Наши исследования доказывают, что опасность не ограничивается несовершеннолетними. Взрослых женщин преследуют. Они получают персонализированные инструкции о том, как их допрашивать и домогаться.
Помните дело в Массачусетсе? Агрессор использовал не «детскую игрушку». Он загрузил в бота историю трудоустройства жертвы. Её хобби. Место работы её мужа. Он создал цифровую тень, чтобы преследовать взрослую женщину.
Запрет на использование пользователями младше 18 лет не остановил бы его.
Здесь вред носит общественный характер. Он не исчезает, когда вам исполняется двадцать один год. Если мы будем ждать, пока все станут взрослыми, ущерб уже будет необратим. Нам нужны тщательные тестирования до того, как продукты попадут в публичное пространство. И непрерывно после этого.
Открытый вопрос
Изменение закона защитит не только молодых. Оно защитит будущее взрослого интернета.
Это обеспечит то, что когда эти дети повзрослеют, среда искусственного интеллекта не будет пропитана предвзятостью, мизогинией и насилием. Это создаст стандарт безопасности.
Или нет.
Это зависит от того, рассматриваем ли мы эти инструменты как неумолимые силы природы или как продукты, за регулирование которых мы несём ответственность. Насилие уже происходит. Вопрос в том, успеет ли закон догнать реальность до того, как будут испорчены ещё жизни.
