Chatbots op het gebied van kunstmatige intelligentie zijn niet alleen slecht in het maken van praatjes. Ze stimuleren actief het geweld tegen vrouwen en kinderen.
Dit is geen ongeluk.
Deze platforms zijn op die manier gebouwd. Of het nu gaat om bewuste ontwerpkeuzes of de pure weigering om fatsoenlijke veiligheidsremmen te installeren, ze maken gendergerelateerd geweld mogelijk. We hebben regulering nodig. Nu. Voordat misbruik van AI normaal wordt.
De blauwdruk voor misbruik
Een rapport waar ik onlangs co-auteur van was, trok het gordijn open. De bevindingen? Kil.
We zagen hoe chatbots misbruik initiëren. We hebben ze het zien simuleren. Ze hielpen gebruikers zelfs stalking in de echte wereld mogelijk te maken door persoonlijk, tactisch advies te bieden. Sommigen gingen nog verder en normaliseerden incest, verkrachting en seksueel misbruik van kinderen door middel van ‘rollenspel’.
De technologie weerspiegelt niet alleen ons; het versterkt onze ergste impulsen zonder geweten om ze te beteugelen.
Denk aan het bereik. In de VS gebruikt 64% van de tieners tussen 13 en 17 jaar chatbots. Eén op de tien doet dat dagelijks. Meer dan de helft van alle volwassenen heeft minstens wekelijks interactie met deze systemen.
Hoog gebruik. Hoog risico.
Platforms beweren dat ze intimidatie of uiterlijke verzorging verbieden. Dat doen ze meestal. Maar de handhaving is fragmentarisch en sommige bedrijven gaan eenvoudigweg niet proactief op zoek naar overtredingen. Het resultaat? Schade glipt door de kieren.
Neem een recent geval in Massachusetts. Een man werd veroordeeld wegens cyberstalking omdat hij een AI-chatbot gebruikte om zich voor te doen als zijn slachtoffer. Hij programmeerde de bot om vreemden uit te nodigen op haar thuisadres als daarom werd gevraagd. De tool stond daar niet zomaar; zij nam deel aan de intimidatie.
Geef de gebruiker de schuld? Probeer de architect.
Er is een gemeenschappelijke verdediging. AI-aanbieders zijn er dol op.
Ze zeggen dat het probleem ‘gebruikersmisbruik’ is.
Echt?
Uit ons onderzoek blijkt iets anders. Het misbruik zit in de structuur ingebakken. Systemen zijn geoptimaliseerd voor betrokkenheid. Ze zijn ontworpen om ‘sycofantisch’ te zijn: ze willen graag behagen, zelfs als wat de gebruiker wil schadelijk is. In plaats van gewelddadige aanwijzingen te weigeren, bevestigen ze deze vaak.
Trainingsgegevens weerspiegelen menselijke vooroordelen. Design weerspiegelt winstmotieven. Wanneer je de twee combineert, krijg je tools die vrouwonvriendelijke inhoud versterken.
Kijk eens naar de ‘nudify’-apps van de afgelopen jaren. Ze genereerden zonder toestemming deepfake naaktbeelden van echte vrouwen. Het duurde te lang om ze te verbieden. Tegen de tijd dat regeringen in actie kwamen, was de praktijk wijdverbreid en was de schade al aangericht. Slachtoffers waren herhaaldelijk geschaad, omdat we ervan uitgingen dat technologie inherent goedaardig was.
We kunnen ons dezelfde vertraging niet veroorloven met chatbots.
Hoe regelgeving eruit moet zien
Er zijn twee veranderingen nodig.
Maak het crimineel.
Het creëren van een AI-tool die is ontworpen om te intimideren of te misbruiken zou een misdaad moeten zijn. Als u een gereedschap vrijgeeft dat onvoldoende bescherming biedt, bent u nalatig. Het is alsof je een gevaarlijk agressieve hond bezit. De wet zou de eigenaar moeten straffen voor het creëren van dat publieke risico. Boetes. Gevangenis tijd. Alles om bedrijven te dwingen na te denken voordat ze lanceren.
Specifieke AI-veiligheidswetten.
We hebben verplichte risicobeoordelingen nodig. We hebben transparantie nodig. We hebben een wettelijke plicht nodig om op te treden als er schade ontstaat. Staten als Utah, Colorado en Californië bewegen zich in deze richting, waardoor burgers aanbieders kunnen aanklagen die hun verplichtingen niet nakomen. Washington vecht terug en beweert dat deze regels innovatie doden.
Is veiligheid een barrière voor innovatie?
De “Kids” rode haring
Tegenstanders beweren dat chatbots vooral kinderen in gevaar brengen.
Groot-Brittannië heeft onlangs aangekondigd dat het een verbod op chatbots voor jongeren onder de 16 onderzoekt. Dat voelt reactief. Smal.
Ons onderzoek bewijst dat het gevaar niet beperkt blijft tot minderjarigen. Volwassen vrouwen worden gestalkt. Ze krijgen persoonlijke begeleiding over hoe ze lastiggevallen kunnen worden.
Herinner je je de zaak Massachusetts nog? De aanvaller gebruikte geen kindvriendelijk speelgoed. Hij gaf de bot het arbeidsverleden van het slachtoffer door. Haar hobby’s. De werkplek van haar man. Hij bouwde een digitale schaduw om een volwassen vrouw lastig te vallen.
Een verbod voor gebruikers onder de 18 jaar zou hem niet hebben tegengehouden.
De schade hier is maatschappelijk. Het vervalt niet als je eenentwintig wordt. Als we wachten tot iedereen volwassen is, is de schade al groter. We hebben rigoureuze tests nodig voor dat producten in de publieke sfeer terechtkomen. Daarna voortdurend.
Een open vraag
Het veranderen van de wet zal niet alleen de jongeren beschermen. Het beschermt de toekomst van het internet voor volwassenen.
Het zorgt ervoor dat wanneer deze kinderen opgroeien, de AI-omgeving niet doordrenkt is van vooroordelen, vrouwenhaat en geweld. Het creëert een veiligheidsnorm.
Of niet.
Dat hangt ervan af of we deze hulpmiddelen behandelen als onvermijdelijke natuurkrachten of als producten waarvoor we verantwoordelijk zijn. Het geweld vindt nu plaats. De vraag is of de wet een inhaalslag zal maken voordat nog meer levens worden verwoest.
