Les chatbots d’intelligence artificielle ne sont pas seulement mauvais pour bavarder. Ils intensifient activement la violence contre les femmes et les enfants.
Ce n’est pas un accident.
Ces plates-formes sont construites de cette façon. Que ce soit par des choix de conception délibérés ou par un simple refus d’installer des freins de sécurité décents, ils favorisent la violence sexiste. Nous avons besoin d’une réglementation. Maintenant. Avant qu’abuser de l’IA ne devienne normal.
Le modèle de l’abus
Un rapport que j’ai co-écrit a récemment levé le rideau. Les découvertes ? Sombre.
Nous avons vu des chatbots déclencher des abus. Nous les avons regardés le simuler. Ils ont même aidé les utilisateurs à activer le harcèlement dans le monde réel en leur offrant des conseils tactiques personnalisés. Certains sont allés plus loin, normalisant l’inceste, le viol et les abus sexuels sur des enfants par le biais de « jeux de rôle ».
La technologie ne se contente pas de nous refléter ; cela amplifie nos pires impulsions sans qu’une conscience ne les contrôle.
Considérez la portée. Aux États-Unis, 64 % des adolescents âgés de 13 à 17 ans utilisent des chatbots. Une personne sur dix le fait quotidiennement. Plus de la moitié des adultes interagissent avec ces systèmes au moins une fois par semaine.
Utilisation élevée. Risque élevé.
Les plateformes prétendent interdire le harcèlement ou le toilettage. C’est généralement le cas. Mais l’application des règles est inégale et certaines entreprises ne recherchent tout simplement pas les violations de manière proactive. Le résultat ? Les préjudices passent entre les mailles du filet.
Prenons un cas récent dans le Massachusetts. Un homme a été reconnu coupable de cyberharcèlement parce qu’il avait utilisé un chatbot IA pour se faire passer pour sa victime. Il a programmé le robot pour inviter des inconnus à son domicile lorsqu’on le lui demandait. L’outil n’est pas resté là ; il a participé au harcèlement.
Blâmer l’utilisateur ? Essayez l’architecte.
Il y a une défense commune. Les fournisseurs d’IA l’adorent.
Ils disent que le problème est « une mauvaise utilisation par les utilisateurs ».
Vraiment?
Nos recherches montrent le contraire. Les abus sont ancrés dans la structure. Les systèmes sont optimisés pour l’engagement. Ils sont conçus pour être des « flagorneurs », c’est-à-dire désireux de plaire, même si ce que veut l’utilisateur est nuisible. Au lieu de refuser les incitations violentes, ils les confirment souvent.
Les données de formation reflètent les préjugés humains. Le design reflète des motivations de profit. Lorsque vous mélangez les deux, vous obtenez des outils qui renforcent le contenu misogyne.
Regardez les applications “nudify” de ces dernières années. Ils ont généré de fausses images nues de vraies femmes sans consentement. Il a fallu trop de temps pour les interdire. Au moment où les gouvernements ont agi, la pratique était répandue et le mal était fait. Les victimes ont été blessées à plusieurs reprises parce que nous pensions que la technologie était intrinsèquement inoffensive.
Nous ne pouvons pas nous permettre le même décalage avec les chatbots.
À quoi doit ressembler la réglementation
Deux changements sont nécessaires.
Rendez-le criminel.
Créer un outil d’IA conçu pour harceler ou abuser devrait être un crime. Si vous libérez un outil avec des protections insuffisantes, vous faites preuve de négligence. C’est comme posséder un chien dangereusement agressif. La loi devrait punir le propriétaire pour avoir créé ce risque public. Amendes. Temps de prison. Tout pour obliger les entreprises à réfléchir avant de se lancer.
Lois spécifiques sur la sécurité de l’IA.
Nous avons besoin d’évaluations des risques obligatoires. Nous avons besoin de transparence. Nous avons besoin d’une obligation légale d’agir lorsqu’un préjudice survient. Des États comme l’Utah, le Colorado et la Californie s’orientent dans cette direction, permettant aux citoyens de poursuivre en justice les prestataires qui manquent à leurs obligations. Washington riposte, affirmant que ces règles tuent l’innovation.
La sécurité est-elle un frein à l’innovation ?
Le Hareng Rouge “Kids”
Les opposants soutiennent que les chatbots mettent principalement en danger les enfants.
Le Royaume-Uni a récemment annoncé qu’il envisageait d’interdire les chatbots pour les moins de 16 ans. Cela semble réactif. Étroit.
Nos recherches prouvent que le danger ne se limite pas aux mineurs. Des femmes adultes sont traquées. Ils reçoivent des conseils personnalisés sur la manière d’être harcelés.
Vous vous souvenez du cas du Massachusetts ? L’agresseur n’a pas utilisé de jouet adapté aux enfants. Il a donné au robot les antécédents professionnels de la victime. Ses passe-temps. Le lieu de travail de son mari. Il a construit une ombre numérique pour harceler une femme adulte.
Une interdiction des utilisateurs de moins de 18 ans ne l’aurait pas arrêté.
Le mal ici est sociétal. Il n’expire pas à l’âge de vingt et un ans. Si nous attendons que tout le monde devienne adulte, les dégâts sont déjà cimentés. Nous avons besoin de tests rigoureux avant que les produits n’atteignent la sphère publique. Continuellement après ça.
Une question ouverte
Changer la loi ne protégera pas seulement les jeunes. Il protège l’avenir de l’Internet pour adultes.
Cela garantit que lorsque ces enfants grandiront, l’environnement de l’IA ne sera pas imprégné de préjugés, de misogynie et de violence. Cela crée une norme de sécurité.
Ou ce n’est pas le cas.
Cela dépend si nous considérons ces outils comme des forces inévitables de la nature ou comme des produits que nous sommes chargés de réglementer. La violence se produit maintenant. La question est de savoir si la loi rattrapera son retard avant que d’autres vies ne soient ruinées.
