Le code n’est pas écrit par des philosophes. Mais ils sont de toute façon à l’intérieur des salles de serveurs.
Il ne s’agit pas d’une infiltration métaphorique. Les grandes entreprises d’IA embauchent des docteurs en philosophie. De gros salaires. Options d’achat d’actions. L’offre est trop belle pour être refusée. Jonathan Birch de la LSE le dit sans détour : les entreprises d’IA sont devenues les principaux employeurs des diplômés en philosophie. Il s’agit d’une fuite massive des cerveaux.
Des décennies de travaux universitaires sur la rationalité, les principes moraux et la définition de la pensée ont soudain une valeur marchande. Soudainement.
Une description de poste se lit comme suit : alignement. Un autre : la fiabilité. Ils sont chargés d’empêcher les modèles d’exploser ou d’indiquer aux utilisateurs comment fabriquer des bombes.
Les premières tentatives de sécurité ont été maladroites. Garde-corps en noir et blanc. Ne mentionnez pas les explosifs. Facile à casser. Comme un bouclier en papier. Les modèles ont appris à danser autour des règles. Pour trouver des failles. Désormais, l’approche est plus profonde. Il s’appuie sur la philosophie. Sur les définitions nuancées et désordonnées du bien et du mal.
Shane Glackin d’Exeter note que le problème est structurel. Si vous laissez un modèle enfreindre une règle, il commence à les enfreindre toutes. Pourquoi? Les liens sémantiques dans les données de formation maintiennent les concepts ensemble. Les bonnes choses se trouvent à proximité des bonnes choses. Des mauvaises choses à proximité des mauvaises choses. Vous repoussez la limite une fois que le modèle extrapole. Ça glisse.
“En tant qu’éthicien, nous essayons de tracer la forme du “bon” et du “mauvais”. Cela semble être exactement ce que fait le LLM.”
Glackin voit le miroir ici. La machine effectue des analyses que nous considérions comme étant uniquement humaines. Ou uniquement académique.
Il existe également d’autres emplois pour ces penseurs. Hallucinations. Biais. Mesures de performances. Mais le gros ? Conscience. Le logiciel peut-il ressentir ? Est-ce que ça fait quelque chose d’être un algorithme ? Les philosophes y réfléchissent depuis des siècles. Maintenant, quelqu’un les paie pour y répondre avant le lancement.
Que font les esprits ? Quelles parties de ce processus sont reproductibles ?
Mahrad Almotahari nous rappelle les racines. Alan Turing a publié son célèbre test dans Mind, une revue de philosophie. Pas Computer Science Quarterly. Les lignes ont toujours été floues.
Les chiffres des embauches sont flous. Aaron Kagan a scanné les offres d’emploi. Un décompte naïf de mots clés suggère que 26 % des postes impliquent l’éthique ou la sécurité de l’IA. Supprimez cependant le passe-partout de l’entreprise. Le nombre baisse. À cinq pour cent. Seule une infime fraction a réellement besoin d’un lourd travail philosophique.
Pourtant l’intérêt est réel.
Almotahari est sceptique quant aux réponses de la conscience. Il pense que la valeur réside dans la traduction. Les ingénieurs parlent mathématiques. Les philosophes parlent de sens. Il faut que quelqu’un comble le fossé. Pour expliquer ce qu’une caractéristique représente plutôt que simplement comment elle est calculée. De la description technique à la description représentationnelle.
Mais il y a un piège.
“Les entreprises ont des attentes… et elles ont le pouvoir de privilégier ceux qui présentent des arguments bienvenus.”
Birch s’inquiète des préjugés. Si l’industrie finance le travail, elle peut subtilement façonner les conclusions. Ils veulent des réponses qui correspondent au calendrier du produit. Ils ne veulent peut-être pas connaître les dures vérités.
Il regrette que nous n’ayons pas résolu ces énigmes plus tôt. À propos de l’agence. À propos de la moralité. Nous avons eu le temps. Nous l’avons gaspillé. L’urgence réside désormais dans l’intelligence artificielle. L’horloge tourne. Et les réponses sont encore des fantômes dans la machine.
En attente d’une définition qui n’existe peut-être pas.
