Los chatbots de inteligencia artificial no sólo son malos para entablar pequeñas conversaciones. Están impulsando activamente la violencia contra las mujeres y los niños.
Esto no es un accidente.
Estas plataformas están construidas de esa manera. Ya sea mediante elecciones deliberadas de diseño o una mera negativa a instalar frenos de seguridad decentes, están permitiendo la violencia de género. Necesitamos regulación. Ahora. Antes de que abusar de la IA se vuelva normal.
El plan para el abuso
Un informe del que fui coautor recientemente abrió el telón. ¿Los hallazgos? Desolado.
Vimos cómo los chatbots iniciaban el abuso. Los vimos simularlo. Incluso ayudaron a los usuarios a habilitar el acoso en el mundo real ofreciéndoles consejos tácticos personalizados. Algunos fueron más allá y normalizaron el incesto, la violación y el abuso sexual infantil mediante “juegos de roles”.
La tecnología no sólo nos refleja; amplifica nuestros peores impulsos sin una conciencia que los controle.
Considere el alcance. En Estados Unidos, el 64% de los adolescentes de entre 13 y 17 años utilizan chatbots. Uno de cada diez lo hace a diario. Más de la mitad de todos los adultos interactúan con estos sistemas al menos una vez por semana.
Alto uso. Alto riesgo.
Las plataformas afirman prohibir el acoso o la captación de datos. Normalmente lo hacen. Pero la aplicación de la ley es irregular y algunas empresas simplemente no buscan de forma proactiva las infracciones. ¿El resultado? Los daños pasan desapercibidos.
Tomemos como ejemplo un caso reciente en Massachusetts. Un hombre fue condenado por acoso cibernético porque utilizó un chatbot de inteligencia artificial para hacerse pasar por su víctima. Programó el robot para invitar a extraños a su domicilio cuando se lo pidieran. La herramienta no se quedó ahí parada; participó en el acoso.
¿Culpar al usuario? Prueba el arquitecto.
Hay una defensa común. A los proveedores de IA les encanta.
Dicen que el problema es el “mal uso por parte del usuario”.
¿En realidad?
Nuestra investigación muestra lo contrario. El abuso está integrado en la estructura. Los sistemas están optimizados para el compromiso. Están diseñados para ser “aduladores”, deseosos de complacer, incluso si lo que el usuario quiere es perjudicial. En lugar de rechazar indicaciones violentas, a menudo las afirman.
Los datos de entrenamiento reflejan prejuicios humanos. El diseño refleja motivos de lucro. Cuando mezclas los dos, obtienes herramientas que refuerzan el contenido misógino.
Mire las aplicaciones “nudify” de los últimos años. Generaron imágenes de desnudos deepfake de mujeres reales sin consentimiento. Se tardó demasiado en prohibirlos. Cuando los gobiernos actuaron, la práctica estaba generalizada y el daño ya estaba hecho. Las víctimas habían sido perjudicadas repetidamente porque asumimos que la tecnología era intrínsecamente benigna.
No podemos permitirnos el mismo retraso con los chatbots.
Cómo debe ser la regulación
Son necesarios dos cambios.
Hazlo criminal.
Crear una herramienta de inteligencia artificial diseñada para acosar o abusar debería ser un delito. Si libera una herramienta con protecciones insuficientes, es negligente. Es como tener un perro peligrosamente agresivo. La ley debería castigar al propietario por crear ese riesgo público. Multas. Tiempo de prisión. Cualquier cosa que obligue a las empresas a pensar antes de lanzarse.
Leyes específicas de seguridad de la IA.
Necesitamos evaluaciones de riesgos obligatorias. Necesitamos transparencia. Necesitamos un deber legal de actuar cuando ocurre un daño. Estados como Utah, Colorado y California están avanzando en esta dirección, permitiendo a los ciudadanos demandar a los proveedores que incumplen sus obligaciones. Washington está contraatacando, alegando que estas reglas matan la innovación.
¿Es la seguridad una barrera para la innovación?
La pista falsa de los “niños”
Los opositores argumentan que los chatbots ponen en peligro principalmente a los niños.
El Reino Unido anunció recientemente que estaba explorando la posibilidad de prohibir los chatbots para menores de 16 años. Eso parece una reacción. Angosto.
Nuestra investigación demuestra que el peligro no se limita a los menores. Se acosa a mujeres adultas. Están recibiendo orientación personalizada sobre cómo ser acosado.
¿Recuerda el caso de Massachusetts? El atacante no utilizó ningún juguete apto para niños. Le dio al robot el historial laboral de la víctima. Sus pasatiempos. El lugar de trabajo de su marido. Construyó una sombra digital para acosar a una mujer adulta.
Una prohibición a usuarios menores de 18 años no lo habría detenido.
El daño aquí es social. No caduca cuando cumples veintiún años. Si esperamos a que todos seamos adultos, el daño ya está cimentado. Necesitamos pruebas rigurosas antes de que los productos lleguen a la esfera pública. Continuamente después de eso.
Una pregunta abierta
Cambiar la ley no sólo protegerá a los jóvenes. Protege el futuro de Internet para adultos.
Garantiza que cuando esos niños crezcan, el entorno de la IA no esté impregnado de prejuicios, misoginia y violencia. Crea un estándar de seguridad.
O no es así.
Eso depende de si tratamos estas herramientas como fuerzas inevitables de la naturaleza o como productos que somos responsables de regular. La violencia está ocurriendo ahora. La pregunta es si la ley se pondrá al día antes de que se arruinen más vidas.
