De code is niet geschreven door filosofen. Maar ze bevinden zich toch in de serverruimtes.
Het is geen metaforische infiltratie. Grote AI-bedrijven nemen filosofie-promovendi aan. Grote salarissen. Aandelenopties. Het aanbod is te mooi om te weigeren. Jonathan Birch van de LSE zegt het ronduit: AI-bedrijven zijn de belangrijkste werkgevers geworden voor afgestudeerden in de filosofie. Het is een enorme braindrain.
Tientallen jaren van academisch werk op het gebied van rationaliteit, morele principes en de definitie van het denken hebben plotseling een marktwaarde. Plotseling.
Eén functiebeschrijving luidt: afstemming. Nog een: betrouwbaarheid. Ze hebben de taak om te voorkomen dat modellen exploderen – of om gebruikers te vertellen hoe ze bommen moeten bouwen.
De eerste pogingen tot veiligheid waren onhandig. Zwart-witte vangrails. Vermeld geen explosieven. Gemakkelijk te breken. Als een papieren schild. De modellen leerden om de regels heen te dansen. Om mazen in de wet te vinden. Nu is de aanpak dieper. Het leunt op de filosofie. Over de genuanceerde, rommelige definities van goed en kwaad.
Shane Glackin van Exeter merkt op dat het probleem structureel is. Als je een model één regel laat overtreden, overtreedt het ze allemaal. Waarom? Semantische koppelingen in de trainingsgegevens houden concepten bij elkaar. Goede dingen zitten naast goede dingen. Slechte dingen in de buurt van slechte dingen. Je verlegt de grens zodra het model extrapoleert. Het glijdt.
“Als ethicus proberen we de vorm van ‘goed’ en ‘slecht’ in kaart te brengen. Dat lijkt precies te zijn wat de LLM doet.”
Glackin ziet hier de spiegel. De machine voert analyses uit die we vroeger als uniek menselijk beschouwden. Of uniek academisch.
Er zijn ook andere banen voor deze denkers. Hallucinaties. Vooroordelen. Prestatiestatistieken. Maar de grote? Bewustzijn. Kan software voelen? Bestaat er zoiets als een algoritme? Filosofen hebben hier eeuwenlang over nagedacht. Nu betaalt iemand ze om het te beantwoorden vóór de lancering.
Wat doen geesten? Welke delen van dat proces zijn repliceerbaar?
Mahrad Almotahari herinnert ons aan de wortels. Alan Turing publiceerde zijn beroemde test in Mind, een filosofisch tijdschrift. Niet Computer Science Quarterly. De lijnen zijn altijd vaag geweest.
De personeelscijfers zijn vaag. Aaron Kagan scande vacatures. Uit een naïef aantal trefwoorden blijkt dat 26 procent van de functies te maken heeft met AI-ethiek of veiligheid. Haal echter de bedrijfsstandaard weg. Het aantal daalt. Tot vijf procent. Slechts een klein deel heeft daadwerkelijk het zware filosofische werk nodig.
Toch is de interesse reëel.
Almotahari is sceptisch over de antwoorden van het bewustzijn. Hij denkt dat de waarde in de vertaling ligt. Ingenieurs spreken wiskunde. Filosofen spreken betekenis. Iemand moet de kloof overbruggen. Om uit te leggen wat een kenmerk vertegenwoordigt, in plaats van alleen maar hoe het wordt berekend. Van technische beschrijving tot representatieve beschrijving.
Maar er is een valkuil.
“Bedrijven hebben verwachtingen… en zij hebben de macht om degenen die welkome argumenten aandragen, te bevoordelen.”
Birch maakt zich zorgen over vooringenomenheid. Als de industrie het werk financiert, kunnen zij op subtiele wijze de conclusies bepalen. Ze willen antwoorden die passen bij de producttijdlijn. Misschien willen ze de harde waarheden niet.
Hij vindt het jammer dat we deze raadsels niet eerder hebben opgelost. Over agentschap. Over moraliteit. We hadden tijd. Wij hebben het verspild. Nu is de urgentie kunstmatige intelligentie. De klok tikt. En de antwoorden zijn nog steeds geesten in de machine.
Wachten op een definitie die misschien niet bestaat.
