Il codice non viene scritto dai filosofi. Ma sono comunque nelle stanze dei server.
Non è un’infiltrazione metaforica. Le principali aziende di intelligenza artificiale stanno assumendo dottorandi in filosofia. Grandi stipendi. Opzioni su azioni. L’offerta è troppo buona per rifiutarla. Jonathan Birch della LSE lo dice senza mezzi termini: le aziende di intelligenza artificiale sono diventate i principali datori di lavoro per i laureati in filosofia. Si tratta di una massiccia fuga di cervelli.
Decenni di lavoro accademico sulla razionalità, sui principi morali e sulla definizione del pensiero hanno improvvisamente un valore di mercato. All’improvviso.
Una descrizione del lavoro recita: allineamento. Un altro: affidabilità. Hanno il compito di impedire ai modelli di esplodere o di dire agli utenti come costruire bombe.
I primi tentativi di mettersi in salvo furono goffi. Guardrail in bianco e nero. Non menzionare gli esplosivi. Facile da rompere. Come uno scudo di carta. Le modelle hanno imparato a ballare attorno alle regole. Per trovare scappatoie. Ora l’approccio è più profondo. Si appoggia alla filosofia. Sulle definizioni sfumate e confuse di giusto e sbagliato.
Shane Glackin di Exeter nota che il problema è strutturale. Se permetti a un modello di infrangere una regola, inizierà a infrangerle tutte. Perché? I collegamenti semantici nei dati di training tengono insieme i concetti. Le cose buone stanno accanto alle cose buone. Cose cattive vicino a cose cattive. Sposti il confine una volta estrapolato il modello. Scivola.
“Come studiosi di etica, stiamo cercando di mappare la forma del ‘buono’ e del ‘cattivo’. Questo sembra essere esattamente ciò che sta facendo il LLM.”
Glackin vede lo specchio qui. La macchina esegue analisi che consideravamo unicamente umane. O unicamente accademico.
Ci sono anche altri lavori per questi pensatori. Allucinazioni. Pregiudizi. Metriche delle prestazioni. Ma quello grande? Coscienza. Il software può sentire? C’è qualcosa che significa essere un algoritmo? I filosofi hanno riflettuto su questo per secoli. Ora qualcuno li paga per rispondere prima del lancio.
Cosa fanno le menti? Quali parti di questo processo sono replicabili?
Mahrad Almotahari ci ricorda le radici. Alan Turing pubblicò il suo famoso test su Mind, una rivista di filosofia. Non Trimestrale di informatica. Le linee sono sempre state sfocate.
I numeri delle assunzioni sono confusi. Aaron Kagan ha scannerizzato gli annunci di lavoro. Un conteggio ingenuo di parole chiave suggerisce che il 26% dei ruoli coinvolge l’etica o la sicurezza dell’IA. Togliete però lo standard aziendale. Il numero scende. Al cinque per cento. Solo una piccola parte ha effettivamente bisogno di un pesante sollevamento filosofico.
L’interesse è comunque reale.
Almotahari è scettico riguardo alle risposte della coscienza. Pensa che il valore risieda nella traduzione. Gli ingegneri parlano matematica. I filosofi parlano di significato. Qualcuno deve colmare il divario. Per spiegare cosa rappresenta una caratteristica piuttosto che semplicemente come viene calcolata. Dalla descrizione ingegneristica a quella rappresentativa.
Ma c’è una trappola.
“Le aziende hanno aspettative… e hanno il potere di favorire chi porta argomenti graditi.”
Birch si preoccupa dei pregiudizi. Se l’industria finanzia il lavoro, potrebbe influenzare in modo sottile le conclusioni. Vogliono risposte che si adattino alla sequenza temporale del prodotto. Potrebbero non volere le dure verità.
Si rammarica che non abbiamo risolto questi enigmi prima. A proposito di agenzia. A proposito di moralità. Avevamo tempo. L’abbiamo sprecato. Adesso l’urgenza è l’intelligenza artificiale. Il tempo stringe. E le risposte sono ancora fantasmi nella macchina.
In attesa di una definizione che potrebbe non esistere.
