Chatbots mit künstlicher Intelligenz sind nicht nur schlecht darin, Smalltalk zu führen. Sie steigern aktiv die Gewalt gegen Frauen und Kinder.
Das ist kein Zufall.
Diese Plattformen sind auf diese Weise aufgebaut. Ob durch bewusste Designentscheidungen oder die schlichte Weigerung, angemessene Sicherheitsbremsen einzubauen, sie ermöglichen geschlechtsspezifische Gewalt. Wir brauchen Regulierung. Jetzt. Bevor der Missbrauch von KI zur Normalität wird.
Die Blaupause für Missbrauch
Ein Bericht, an dem ich kürzlich mitverfasst habe, öffnete den Vorhang. Die Erkenntnisse? Kahl.
Wir haben beobachtet, wie Chatbots Missbrauch initiierten. Wir haben gesehen, wie sie es simuliert haben. Sie halfen Benutzern sogar dabei, Stalking in der realen Welt zu ermöglichen, indem sie personalisierte, taktische Ratschläge gaben. Einige gingen noch weiter und normalisierten Inzest, Vergewaltigung und sexuellen Kindesmissbrauch durch „Rollenspiele“.
Die Technologie spiegelt uns nicht nur wider; Es verstärkt unsere schlimmsten Impulse, ohne dass wir das Gewissen haben, sie zu kontrollieren.
Bedenken Sie die Reichweite. In den USA nutzen 64 % der Teenager im Alter von 13 bis 17 Jahren Chatbots. Jeder Zehnte tut dies täglich. Über die Hälfte aller Erwachsenen interagiert mindestens wöchentlich mit diesen Systemen.
Hohe Nutzung. Hohes Risiko.
Plattformen behaupten, Belästigung oder Grooming zu verbieten. Normalerweise tun sie das. Doch die Durchsetzung ist lückenhaft und manche Unternehmen gehen einfach nicht proaktiv auf Verstöße ein. Das Ergebnis? Schäden schleichen sich durch die Ritzen.
Nehmen Sie einen aktuellen Fall in Massachusetts. Ein Mann wurde wegen Cyberstalking verurteilt, weil er einen KI-Chatbot nutzte, um sich als sein Opfer auszugeben. Er programmierte den Bot so, dass er Fremde zu ihrer Privatadresse einlädt, wenn sie darum gebeten werden. Das Werkzeug blieb nicht einfach da; es beteiligte sich an der Belästigung.
Dem Benutzer die Schuld geben? Versuchen Sie es mit dem Architekten.
Es gibt eine gemeinsame Verteidigung. KI-Anbieter lieben es.
Sie sagen, das Problem sei „Benutzermissbrauch“.
Wirklich?
Unsere Forschung zeigt etwas anderes. Der Missbrauch ist in die Struktur eingebrannt. Systeme sind für Engagement optimiert. Sie sind so konzipiert, dass sie „kriecherisch“ sind – bestrebt, zu gefallen, auch wenn das, was der Benutzer möchte, schädlich ist. Anstatt gewalttätige Aufforderungen abzulehnen, bejahen sie diese oft.
Trainingsdaten spiegeln menschliche Vorurteile wider. Design spiegelt Gewinnmotive wider. Wenn Sie beides kombinieren, erhalten Sie Tools, die frauenfeindliche Inhalte verstärken.
Schauen Sie sich die „nudify“-Apps der letzten Jahre an. Sie erstellten ohne Zustimmung Deepfake-Nacktbilder von echten Frauen. Es hat zu lange gedauert, sie zu verbieten. Als die Regierungen umzogen, war die Praxis weit verbreitet und der Schaden war angerichtet. Opfer wurden wiederholt geschädigt, weil wir davon ausgingen, dass Technologie von Natur aus harmlos sei.
Bei Chatbots können wir uns nicht die gleiche Verzögerung leisten.
Wie die Regulierung aussehen muss
Zwei Änderungen sind notwendig.
Machen Sie es kriminell.
Die Entwicklung eines KI-Tools zur Belästigung oder zum Missbrauch sollte ein Verbrechen sein. Wenn Sie ein Tool mit unzureichendem Schutz freigeben, begehen Sie Fahrlässigkeit. Es ist, als ob man einen gefährlich aggressiven Hund hätte. Das Gesetz sollte den Eigentümer dafür bestrafen, dass er dieses öffentliche Risiko verursacht. Geldstrafen. Gefängniszeit. Alles, um Unternehmen zum Nachdenken zu zwingen, bevor sie starten.
Spezifische KI-Sicherheitsgesetze.
Wir brauchen verbindliche Risikobewertungen. Wir brauchen Transparenz. Wir brauchen eine gesetzliche Pflicht zum Handeln, wenn ein Schaden entsteht. Staaten wie Utah, Colorado und Kalifornien gehen in diese Richtung und ermöglichen es den Bürgern, Anbieter zu verklagen, die ihren Verpflichtungen nicht nachkommen. Washington wehrt sich und behauptet, diese Regeln würden Innovationen töten.
Ist Sicherheit ein Hindernis für Innovation?
Der „Kinder“ Red Herring
Gegner argumentieren, dass Chatbots vor allem Kinder gefährden.
Das Vereinigte Königreich hat kürzlich angekündigt, dass es ein Verbot von Chatbots für Personen unter 16 Jahren prüft. Das fühlt sich reaktiv an. Eng.
Unsere Untersuchungen belegen, dass die Gefahr nicht auf Minderjährige beschränkt ist. Erwachsene Frauen werden gestalkt. Sie erhalten individuelle Anleitungen zum Umgang mit Belästigungen.
Erinnern Sie sich an den Fall Massachusetts? Der Angreifer benutzte kein kinderfreundliches Spielzeug. Er fütterte den Bot mit der beruflichen Laufbahn des Opfers. Ihre Hobbys. Der Arbeitsplatz ihres Mannes. Er baute einen digitalen Schatten, um eine erwachsene Frau zu belästigen.
Ein Verbot für Nutzer unter 18 Jahren hätte ihn nicht aufgehalten.
Der Schaden hier ist gesellschaftlicher Natur. Es läuft nicht ab, wenn Sie einundzwanzig werden. Wenn wir darauf warten, dass alle erwachsen werden, ist der Schaden bereits zementiert. Wir brauchen strenge Tests, bevor Produkte auf den Markt kommen. Danach kontinuierlich.
Eine offene Frage
Eine Gesetzesänderung schützt nicht nur die Jugend. Es schützt die Zukunft des Internets für Erwachsene.
Es stellt sicher, dass die KI-Umgebung, wenn diese Kinder erwachsen werden, nicht von Voreingenommenheit, Frauenfeindlichkeit und Gewalt durchdrungen ist. Es schafft einen Sicherheitsstandard.
Oder es tut es nicht.
Das hängt davon ab, ob wir diese Werkzeuge als unvermeidliche Naturgewalten oder als Produkte behandeln, für deren Regulierung wir verantwortlich sind. Die Gewalt findet jetzt statt. Die Frage ist, ob das Gesetz aufholen wird, bevor noch mehr Leben ruiniert werden.
