O sonho de encontrar vizinhos entre as estrelas é poderoso. Os métodos que usamos para encontrá-los? Potencialmente falho.
A inteligência artificial luta com coisas que nunca viu antes. Dois pesquisadores da Michigan State University, Christoph Adami e Ankit Gupta, provaram isso em uma simulação. Eles testaram a capacidade da IA de detectar vida fora dos limites do nosso planeta.
O resultado não foi bonito para a máquina.
A IA tem um “calcanhar de Aquiles”. É a tendência de classificar incorretamente dados desconhecidos. Adami chama essas amostras de “fora de distribuição”. Colocar um micróbio alienígena na frente de um bot treinado apenas na biologia da Terra? Não saberá o que está acontecendo. A máquina pode simplesmente alucinar uma forma de vida do nada.
“Já tínhamos visto que a IA tem um enorme ponto cego ao lidar com dados diferentes do seu conjunto de treinamento”, explicou Adami. É incrivelmente fácil enganar o algoritmo para que ele veja vida onde não existe.
Biologia Digital como Teste de Estresse
Como você testa o desconhecido? Você precisa de uma verdade fundamental.
Adami usa Avida, um ambiente evolutivo digital. Lançado em 1993, abriga programas de computador que se comportam como organismos. Eles replicam. Eles competem pelos ciclos da CPU. Eles evoluem. É um código disfarçado de vida de carbono, mas para fins de teste, fornece um conjunto de dados enorme e rotulado.
As formas de vida e os programas não-vida compartilham estruturas de codificação muito semelhantes. As diferenças são sutis. Isso imita a realidade da astrobiologia. Os alienígenas provavelmente não se pareceriam conosco. Eles podem nem usar DNA. Mas a impressão digital computacional ainda pode parecer suspeitamente semelhante a nós.
A dupla passou três meses analisando 1.000 máquinas paralelas. Sua tarefa? Ensine uma IA a distinguir o código que representa a vida do código que não representa a vida.
Eles começaram com sequências moleculares aleatórias. Então eles ajustaram uma coisa de cada vez. O objetivo era infalível: fazer com que a sequência da não-vida parecesse cada vez mais com vida para o algoritmo.
“Dentro de cerca de 15 mudanças… poderíamos fazer com que a IA estivesse perfeitamente confiante em uma classificação de vida”, disse Adami.
A confiança atingiu o pico. A precisão atingiu o fundo do poço.
Com 100% de confiança, o programa nunca identificou a vida real. Estava vendo fantasmas. Aconteceu de forma consistente em todas as sequências iniciais.
A maçã, a banana e o micróbio
Por que isso importa?
A IA é fantástica no processamento de padrões em dados que entendemos. É inestimável para filtrar o ruído. Mas isso requer contexto.
“Se você perguntar a uma IA sobre algo a partir de seus dados de treinamento, geralmente ela estará correta”, observou Adami. Treine-o para identificar maçãs. Mostrar mais maçãs? Funciona. Mostrar bananas? Confusão. A banana está “fora de distribuição”. Forma diferente. Recursos diferentes. A IA não possui pontos de referência para fazer um julgamento válido.
Enfrentamos exatamente o mesmo problema com micróbios extraterrestres.
Não temos ideia de como será biologicamente a vida alienígena. Poderia ser radicalmente diferente dos organismos terrestres. Portanto, representa dados “fora de distribuição” para nossos modelos atuais de IA. Não há dados de treinamento para isso. A IA não tem contexto para verificar se um aglomerado específico de moléculas está realmente vivo ou apenas quimicamente ruidoso.
“Você precisa conhecer seus dados de treinamento”, disse Adami. “Se os dados do teste forem da mesma distribuição do treinamento, você ficará bem. Você não pode garantir isso com a biologia extraterrestre.”
Missões espaciais e armadilhas de especificação de massa
Este não é apenas um risco teórico. Afeta as próximas missões.
Imagine um veículo espacial em Marte perfurando uma rocha. Encontra uma estrutura. Se o robô vir uma bolha reconhecível semelhante a uma célula, podemos verificá-la. Podemos testá-lo com banhos químicos e microscopia. Os dados são diretos.
Mas a visualização direta é a exceção, não a regra.
Pesquisas futuras dependem de espectrometria de massa. Eles procuram processos moleculares em atmosferas como Vénus, sob o gelo dos oceanos de Europa, ou em exoplanetas distantes observados pelo planeado Observatório de Mundos Habitáveis da NASA (previsto para a janela de lançamento de 2040).
Os dados serão assinaturas químicas complexas, e não fotos de alta resolução.
“Se uma IA em missão analisar dados de espectrometria de massa… poderia retornar um veredicto positivo para a vida sem absolutamente nenhuma relação com a vida real”, alertou Adami. A máquina anunciará com segurança uma descoberta. A descoberta será falsa. O sinal é um mimetismo não biológico, e a IA, sem contexto para a verdadeira biologia alienígena, é enganada.
Próximas etapas do laboratório
A conclusão?
A IA não pode substituir a cautela humana. Ela não pode substituir a exigência de verificação prática e tradicional.
Adami e Gupta estão retirando esta pesquisa do reino puramente digital. Eles planejam realizar os mesmos testes usando conjuntos de dados químicos e biológicos do mundo real. A hipótese permanece: sem compreender a distribuição completa das possíveis formas biológicas, a IA continuará a tropeçar nos seus próprios pontos cegos.
Eles estão programados para apresentar essas descobertas em agosto na Conferência 2a026 sobre Vida Artificial em Waterloo, Canadá.
Por enquanto, a busca continua. Confiamos em nossas máquinas porque elas processam mais rapidamente. Mas o processamento mais rápido de suposições erradas é apenas um caminho mais rápido para a decepção. Podemos olhar através do ruído e encontrar padrões que pareçam amigos, quando na verdade são apenas estáticos.
Será que um padrão se torna um parceiro no momento em que nossos computadores dizem “sim”?
Talvez devêssemos verificar novamente.
