O código não está sendo escrito por filósofos. Mas eles estão dentro das salas de servidores de qualquer maneira.
Não é uma infiltração metafórica. As principais empresas de IA estão contratando doutores em filosofia. Grandes salários. Opções de ações. A oferta é boa demais para ser recusada. Jonathan Birch, da LSE, diz sem rodeios: as empresas de IA tornaram-se os principais empregadores dos licenciados em filosofia. É uma fuga massiva de cérebros.
Décadas de trabalho académico sobre a racionalidade, os princípios morais e a definição do pensamento têm subitamente um valor de mercado. De repente.
Uma descrição do trabalho diz: alinhamento. Outro: confiabilidade. Eles têm a tarefa de evitar que os modelos explodam – ou de dizer aos usuários como construir bombas.
As primeiras tentativas de segurança foram desajeitadas. Grades de proteção em preto e branco. Não mencione explosivos. Fácil de quebrar. Como um escudo de papel. As modelos aprenderam a dançar de acordo com as regras. Para encontrar brechas. Agora a abordagem é mais profunda. Apoia-se na filosofia. Sobre as definições matizadas e confusas de certo e errado.
Shane Glackin, da Exeter, observa que o problema é estrutural. Se você deixar um modelo quebrar uma regra, ele começará a quebrar todas elas. Por que? Os links semânticos nos dados de treinamento mantêm os conceitos unidos. Coisas boas ficam perto de coisas boas. Coisas ruins perto de coisas ruins. Você altera o limite quando o modelo extrapola. Ele desliza.
“Como especialistas em ética, estamos tentando mapear a forma do ‘bom’ e do ‘ruim’. Isso parece ser exatamente o que o LLM está fazendo.”
Glackin vê o espelho aqui. A máquina realiza análises que costumávamos considerar exclusivamente humanas. Ou exclusivamente acadêmico.
Existem outros empregos para esses pensadores também. Alucinações. Preconceitos. Métricas de desempenho. Mas o grande? Consciência. O software pode sentir? Existe algo como ser um algoritmo? Os filósofos refletiram sobre isso durante séculos. Agora alguém lhes paga para responder antes do lançamento.
O que as mentes fazem? Quais partes desse processo são replicáveis?
Mahrad Almotahari nos lembra das raízes. Alan Turing publicou seu famoso teste no Mind, um jornal de filosofia. Não Ciência da Computação Trimestral. As linhas sempre foram confusas.
Os números de contratações são confusos. Aaron Kagan digitalizou anúncios de emprego. Uma contagem ingênua de palavras-chave sugere que 26% das funções envolvem ética ou segurança em IA. No entanto, retire o padrão corporativo. O número cai. Para cinco por cento. Apenas uma pequena fração realmente precisa do pesado trabalho filosófico.
Mesmo assim o interesse é real.
Almotahari é cético quanto às respostas da consciência. Ele acha que o valor está na tradução. Engenheiros falam matemática. Os filósofos falam significado. Alguém precisa preencher a lacuna. Para explicar o que um recurso representa, em vez de apenas como ele é calculado. Da descrição de engenharia à representacional.
Mas há uma armadilha.
“As empresas têm expectativas… e têm o poder de favorecer quem apresenta argumentos bem-vindos.”
Birch se preocupa com o preconceito. Se a indústria financiar o trabalho, poderá moldar subtilmente as conclusões. Eles querem respostas que se ajustem ao cronograma do produto. Eles podem não querer as duras verdades.
Ele lamenta não termos resolvido esses enigmas antes. Sobre agência. Sobre moralidade. Tivemos tempo. Nós desperdiçamos isso. Agora a urgência é a inteligência artificial. O relógio está correndo. E as respostas ainda são fantasmas na máquina.
Esperando por uma definição que talvez não exista.
