Der Code wird nicht von Philosophen geschrieben. Aber sie sind sowieso in den Serverräumen.
Es handelt sich nicht um eine metaphorische Unterwanderung. Große KI-Firmen stellen Doktoranden der Philosophie ein. Hohe Gehälter. Aktienoptionen. Das Angebot ist zu gut, um es abzulehnen. Jonathan Birch von der LSE bringt es auf den Punkt: KI-Unternehmen sind zu den wichtigsten Arbeitgebern für Absolventen der Philosophie geworden. Es handelt sich um einen massiven Braindrain.
Jahrzehntelange wissenschaftliche Arbeit zu Rationalität, moralischen Prinzipien und der Definition des Denkens haben plötzlich einen Marktwert. Plötzlich.
Eine Stellenbeschreibung lautet: Ausrichtung. Ein weiterer: Zuverlässigkeit. Sie haben die Aufgabe, die Explosion von Modellen zu verhindern – oder den Benutzern zu erklären, wie man Bomben baut.
Frühe Sicherheitsversuche waren ungeschickt. Schwarz-weiße Leitplanken. Erwähnen Sie keine Sprengstoffe. Leicht zu zerbrechen. Wie ein Papierschild. Die Models lernten, nach den Regeln zu tanzen. Schlupflöcher finden. Jetzt ist der Ansatz tiefer. Es basiert auf der Philosophie. Über die differenzierten, chaotischen Definitionen von richtig und falsch.
Shane Glackin von Exeter stellt fest, dass das Problem struktureller Natur ist. Wenn Sie zulassen, dass ein Modell eine Regel bricht, fängt es an, alle zu brechen. Warum? Semantische Verknüpfungen in den Trainingsdaten halten Konzepte zusammen. Gute Dinge stehen neben guten Dingen. Schlechte Dinge in der Nähe von schlechten Dingen. Sie verschieben die Grenze, sobald das Modell extrapoliert. Es gleitet.
„Als Ethiker versuchen wir, die Form von ‚gut‘ und ‚schlecht‘ abzubilden. Das scheint genau das zu sein, was das LLM tut.“
Glackin sieht hier den Spiegel. Die Maschine führt Analysen durch, von denen wir früher behaupteten, sie seien einzigartig menschlich. Oder einzigartig akademisch.
Es gibt auch andere Jobs für diese Denker. Halluzinationen. Vorurteile. Leistungskennzahlen. Aber der Große? Bewusstsein. Kann Software fühlen? Gibt es so etwas wie ein Algorithmus? Philosophen haben darüber seit Jahrhunderten nachgedacht. Jetzt bezahlt sie jemand dafür, dass sie vor der Veröffentlichung antworten.
Was machen Geister? Welche Teile dieses Prozesses sind reproduzierbar?
Mahrad Almotahari erinnert uns an die Wurzeln. Alan Turing veröffentlichte seinen berühmten Test in Mind, einer Zeitschrift für Philosophie. Nicht Computer Science Quarterly. Die Linien waren schon immer verschwommen.
Die Einstellungszahlen sind unklar. Aaron Kagan hat Stellenanzeigen gescannt. Eine naive Stichwortzählung lässt darauf schließen, dass 26 Prozent der Rollen KI-Ethik oder Sicherheit betreffen. Entfernen Sie jedoch den Unternehmensstandard. Die Zahl sinkt. Auf fünf Prozent. Nur ein winziger Bruchteil benötigt tatsächlich die schwere philosophische Anstrengung.
Dennoch ist das Interesse real.
Almotahari ist skeptisch gegenüber den Antworten des Bewusstseins. Er glaubt, dass der Wert in der Übersetzung liegt. Ingenieure sprechen Mathematik. Philosophen sprechen Bedeutung. Jemand muss die Lücke schließen. Um zu erklären, was ein Feature darstellt, und nicht nur, wie es berechnet wird. Von der technischen Beschreibung zur repräsentativen Beschreibung.
Aber es gibt eine Falle.
„Unternehmen haben Erwartungen … und sie haben die Macht, denjenigen zu bevorzugen, der willkommene Argumente liefert.“
Birch macht sich Sorgen über Voreingenommenheit. Wenn die Industrie die Arbeit finanziert, kann sie die Schlussfolgerungen subtil beeinflussen. Sie wollen Antworten, die zum Produktzeitplan passen. Sie wollen vielleicht nicht die harten Wahrheiten.
Er bedauert, dass wir diese Rätsel nicht früher gelöst haben. Über Agentur. Über Moral. Wir hatten Zeit. Wir haben es verschwendet. Jetzt kommt es auf die künstliche Intelligenz an. Die Uhr tickt. Und die Antworten sind immer noch Geister in der Maschine.
Warten auf eine Definition, die möglicherweise nicht existiert.
