El código no lo están escribiendo filósofos. Pero de todos modos están dentro de las salas de servidores.
No es una infiltración metafórica. Las principales empresas de IA están contratando doctores en filosofía. Grandes salarios. Opciones sobre acciones. La oferta es demasiado buena para rechazarla. Jonathan Birch, de la LSE, lo expresa sin rodeos: las empresas de inteligencia artificial se han convertido en los principales empleadores de los graduados en filosofía. Es una fuga de cerebros masiva.
Décadas de trabajo académico sobre la racionalidad, los principios morales y la definición del pensamiento de repente tienen un valor de mercado. De repente.
Una descripción del trabajo dice: alineación. Otro: confiabilidad. Su tarea es evitar que los modelos exploten o decirles a los usuarios cómo construir bombas.
Los primeros intentos de lograr la seguridad fueron torpes. Barandillas en blanco y negro. No menciones explosivos. Fácil de romper. Como un escudo de papel. Las modelos aprendieron a bailar según las reglas. Para encontrar lagunas. Ahora el enfoque es más profundo. Se apoya en la filosofía. Sobre las definiciones matizadas y confusas de lo correcto y lo incorrecto.
Shane Glackin de Exeter señala que el problema es estructural. Si dejas que un modelo rompa una regla, comenzará a romperlas todas. ¿Por qué? Los vínculos semánticos en los datos de entrenamiento mantienen unidos los conceptos. Las cosas buenas se encuentran cerca de las cosas buenas. Cosas malas cerca de cosas malas. Empujas el límite una vez que el modelo se extrapola. Se desliza.
“Como especialistas en ética, estamos tratando de mapear la forma de lo ‘bueno’ y lo ‘malo’. Eso parece ser exactamente lo que está haciendo el LLM”.
Glackin ve el espejo aquí. La máquina realiza análisis que solíamos considerar exclusivamente humanos. O únicamente académico.
También hay otros trabajos para estos pensadores. Alucinaciones. Sesgos. Métricas de rendimiento. ¿Pero el grande? Conciencia. ¿Puede el software sentir? ¿Hay algo que se siente al ser un algoritmo? Los filósofos han reflexionado sobre esto durante siglos. Ahora alguien les paga para que respondan antes del lanzamiento.
¿Qué hacen las mentes? ¿Qué partes de ese proceso son replicables?
Mahrad Almotahari nos recuerda las raíces. Alan Turing publicó su famoso test en Mind, una revista de filosofía. No Informática Trimestral. Las líneas siempre han sido borrosas.
Las cifras de contratación son confusas. Aaron Kagan escaneó anuncios de trabajo. Un recuento ingenuo de palabras clave sugiere que el 26 por ciento de los roles involucran la ética o la seguridad de la IA. Sin embargo, eliminemos el modelo corporativo. El número baja. Al cinco por ciento. Sólo una pequeña fracción necesita realmente el pesado trabajo filosófico.
Aún así el interés es real.
Almotahari se muestra escéptico sobre las respuestas de la conciencia. Cree que el valor reside en la traducción. Los ingenieros hablan matemáticas. Los filósofos hablan de significado. Alguien necesita cerrar la brecha. Explicar qué representa una característica en lugar de simplemente cómo se calcula. De la descripción de ingeniería a la representativa.
Pero hay una trampa.
“Las empresas tienen expectativas… y tienen el poder de favorecer a quien ofrece argumentos bienvenidos.”
A Birch le preocupa el sesgo. Si la industria financia el trabajo, puede dar forma sutil a las conclusiones. Quieren respuestas que se ajusten al cronograma del producto. Quizás no quieran las duras verdades.
Lamenta que no hayamos resuelto estos acertijos antes. Sobre agencia. Sobre la moralidad. Tuvimos tiempo. Lo desperdiciamos. Ahora la urgencia es la inteligencia artificial. El tiempo corre. Y las respuestas siguen siendo fantasmas en la máquina.
Esperando una definición que tal vez no exista.
