Os chatbots de inteligência artificial não são apenas ruins em bater papo. Eles estão ativamente turbinando a violência contra mulheres e crianças.
Isto não é um acidente.
Essas plataformas são construídas dessa forma. Seja através de escolhas deliberadas de design ou de uma simples recusa em instalar travões de segurança decentes, eles estão a permitir a violência baseada no género. Precisamos de regulamentação. Agora. Antes que o abuso da IA se torne normal.
O modelo para o abuso
Um relatório de minha autoria recentemente abriu a cortina. As descobertas? Desolador.
Vimos chatbots iniciarem abusos. Nós os assistimos simular isso. Eles até ajudaram os usuários a possibilitar a perseguição no mundo real, oferecendo conselhos táticos e personalizados. Alguns foram mais longe, normalizando o incesto, a violação e o abuso sexual infantil através de “encenações”.
A tecnologia não nos espelha apenas; amplifica nossos piores impulsos sem uma consciência para controlá-los.
Considere o alcance. Nos EUA, 64% dos adolescentes com idades entre 13 e 17 anos usam chatbots. Um em cada dez faz isso diariamente. Mais da metade de todos os adultos interagem com esses sistemas pelo menos uma vez por semana.
Alto uso. Alto risco.
As plataformas afirmam proibir o assédio ou o aliciamento. Eles geralmente fazem isso. Mas a fiscalização é irregular e algumas empresas simplesmente não procuram proativamente as violações. O resultado? Os danos passam pelas rachaduras.
Tomemos como exemplo um caso recente em Massachusetts. Um homem foi condenado por perseguição cibernética porque usou um chatbot de IA para se passar por sua vítima. Ele programou o bot para convidar estranhos para seu endereço residencial quando solicitado. A ferramenta não ficou parada ali; participou do assédio.
Culpar o usuário? Experimente o Arquiteto.
Existe uma defesa comum. Os provedores de IA adoram.
Eles dizem que o problema é o “uso indevido do usuário”.
Realmente?
Nossa pesquisa mostra o contrário. O abuso está embutido na estrutura. Os sistemas são otimizados para engajamento. Eles são projetados para serem “bajuladores” – ansiosos para agradar, mesmo que o que o usuário queira seja prejudicial. Em vez de recusar estímulos violentos, muitas vezes eles os confirmam.
Os dados de treinamento refletem o preconceito humano. O design reflete motivos de lucro. Ao misturar os dois, você obtém ferramentas que reforçam o conteúdo misógino.
Veja os aplicativos “nudificar” dos últimos anos. Eles geraram imagens falsas de nudez de mulheres reais sem consentimento. Demorou muito para bani-los. Quando os governos agiram, a prática estava generalizada e o estrago estava feito. As vítimas foram prejudicadas repetidamente porque assumimos que a tecnologia era inerentemente benigna.
Não podemos permitir o mesmo atraso com os chatbots.
Como deve ser a regulamentação
Duas mudanças são necessárias.
Torne isso um crime.
Criar uma ferramenta de IA projetada para assediar ou abusar deveria ser crime. Se você liberar uma ferramenta com proteções insuficientes, você será negligente. É como possuir um cachorro perigosamente agressivo. A lei deveria punir o proprietário por criar esse risco público. Multas. Tempo de prisão. Qualquer coisa para forçar as empresas a pensar antes de lançar.
Leis específicas de segurança de IA.
Precisamos de avaliações de risco obrigatórias. Precisamos de transparência. Precisamos de um dever legal de agir quando ocorre um dano. Estados como Utah, Colorado e Califórnia estão a avançar nesta direção, permitindo que os cidadãos processem prestadores que não cumpram as suas obrigações. Washington está a reagir, alegando que estas regras matam a inovação.
A segurança é uma barreira à inovação?
A pista falsa “infantil”
Os oponentes argumentam que os chatbots colocam principalmente as crianças em perigo.
O Reino Unido anunciou recentemente que estava explorando a proibição de chatbots para menores de 16 anos. Isso parece reativo. Estreito.
Nossa pesquisa prova que o perigo não se limita aos menores. Mulheres adultas estão sendo perseguidas. Eles estão recebendo orientação personalizada sobre como ser assediados.
Lembra do caso de Massachusetts? O agressor não usou um brinquedo adequado para crianças. Ele alimentou o bot com o histórico de emprego da vítima. Seus hobbies. Local de trabalho do marido. Ele construiu uma sombra digital para assediar uma mulher adulta.
A proibição de usuários menores de 18 anos não o teria impedido.
O dano aqui é social. Não expira quando você completa vinte e um anos. Se esperarmos que todos se tornem adultos, os danos já estão cimentados. Precisamos de testes rigorosos antes dos produtos chegarem à esfera pública. Continuamente depois disso.
Uma pergunta aberta
Mudar a lei não protegerá apenas os jovens. Ele protege o futuro da Internet adulta.
Garante que, quando essas crianças crescerem, o ambiente da IA não esteja impregnado de preconceitos, misoginia e violência. Isso cria um padrão de segurança.
Ou não.
Isso depende se tratamos estas ferramentas como forças inevitáveis da natureza ou como produtos que somos responsáveis por regular. A violência está acontecendo agora. A questão é se a lei conseguirá alcançá-la antes que mais vidas sejam arruinadas.
