De droom om buren tussen de sterren te vinden is krachtig. De methoden die we gebruiken om ze te vinden? Mogelijk gebrekkig.
Kunstmatige intelligentie worstelt met dingen die het nog niet eerder heeft gezien. Twee onderzoekers van de Michigan State University, Christoph Adami en Ankit Gupta, bewezen dit in een simulatie. Ze testten het vermogen van AI om leven buiten de grenzen van onze planeet te ontdekken.
Het resultaat was niet mooi voor de machine.
AI heeft een ‘achilleshiel’. Het is de neiging om onbekende gegevens verkeerd te classificeren. Adami noemt deze ‘buiten-distributie’-monsters. Een buitenaardse microbe voor een bot plaatsen die alleen getraind is in de biologie van de aarde? Het zal niet weten wat er gebeurt. De machine kan zomaar uit het niets een levensvorm hallucineren.
“We hadden eerder gezien dat AI een enorme blinde vlek heeft bij het omgaan met gegevens, in tegenstelling tot de trainingsset”, legt Adami uit. Het is ongelooflijk eenvoudig om het algoritme te misleiden om leven te zien waar er geen is.
Digitale biologie als stresstest
Hoe test je op het onbekende? Je hebt een grondwaarheid nodig.
Adami gebruikt Avida, een digitale evolutionaire omgeving. Het werd gelanceerd in 1993 en herbergt computerprogramma’s die zich gedragen als organismen. Ze repliceren. Ze strijden om CPU-cycli. Ze evolueren. Het is code die zich voordoet als koolstofleven, maar voor testdoeleinden biedt het een enorme, gelabelde dataset.
De levensvormen- en niet-levensprogramma’s delen zeer vergelijkbare coderingsstructuren. De verschillen zijn subtiel. Dit bootst de realiteit van de astrobiologie na. Buitenaardse wezens zouden waarschijnlijk niet op ons lijken. Misschien gebruiken ze niet eens DNA. Maar de computationele vingerafdruk lijkt misschien nog steeds verdacht op die van ons.
Het duo analyseerde drie maanden lang duizend parallelle machines. Hun taak? Leer een AI om code die het leven vertegenwoordigt te onderscheiden van code die dat niet doet.
Ze begonnen met willekeurige moleculaire sequenties. Vervolgens hebben ze één ding tegelijk aangepast. Het doel was onfeilbaar: ervoor zorgen dat de niet-levensreeks voor het algoritme steeds meer op leven gaat lijken.
“Binnen ongeveer vijftien veranderingen… zouden we ervoor kunnen zorgen dat de AI volkomen vertrouwen heeft in een levensclassificatie,” zei Adami.
Het vertrouwen bereikte een hoogtepunt. De nauwkeurigheid is op een dieptepunt beland.
Met 100% zekerheid identificeerde het programma nooit het werkelijke leven. Het was het zien van geesten. Het gebeurde consistent in alle startreeksen.
De appel, de banaan en de microbe
Waarom doet dit er toe?
AI is fantastisch in het verwerken van patronen in gegevens die we begrijpen. Het is van onschatbare waarde voor het doorzoeken van lawaai. Maar het vereist context.
“Als je een AI iets vraagt uit zijn trainingsgegevens, is het meestal correct”, merkte Adami op. Train het om appels te identificeren. Laat het meer appels zien? Het werkt. Laat het bananen zien? Verwarring. De banaan is “uit distributie”. Andere vorm. Verschillende kenmerken. De AI mist de referentiepunten om een geldig oordeel te vellen.
We worden geconfronteerd met precies hetzelfde probleem met buitenaardse microben.
We hebben geen idee hoe buitenaards leven er biologisch uit zal zien. Het zou radicaal kunnen verschillen van terrestrische organismen. Daarom vertegenwoordigt het ‘buiten distributie’-gegevens voor onze huidige AI-modellen. Er zijn geen trainingsgegevens voor dat. De AI heeft geen context om te verifiëren of een specifiek cluster van moleculen daadwerkelijk leeft of alleen maar chemisch luidruchtig is.
“Je moet je trainingsgegevens kennen”, zei Adami. “Als de testgegevens uit dezelfde distributie komen als de training, komt alles goed. Dat kun je niet garanderen met buitenaardse biologie.”
Ruimtemissies en massaspecificatievallen
Dit is niet alleen een theoretisch risico. Het heeft invloed op komende missies.
Stel je voor dat een rover op Mars in een rots boort. Het vindt een structuur. Als de robot een herkenbare celachtige klodder ziet, kunnen we dit verifiëren. We kunnen het testen met chemische baden en microscopie. De gegevens zijn direct.
Maar directe visualisatie is de uitzondering, niet de regel.
Toekomstige zoekopdrachten zijn afhankelijk van massaspectrometrie. Ze zoeken naar moleculaire processen in atmosferen zoals Venus, onder het ijs van de Europese oceanen, of op verre exoplaneten die worden bekeken door NASA’s geplande Habitable Worlds Observatory (gericht op de lancering in 2040).
De gegevens zullen complexe chemische handtekeningen zijn, geen foto’s met een hoge resolutie.
“Als een AI op een missie massaspectrometriegegevens analyseert… zou dit een positief oordeel over het leven kunnen opleveren, zonder enige relatie met het werkelijke leven,” waarschuwde Adami. De machine zal vol vertrouwen een ontdekking aankondigen. De ontdekking zal vals zijn. Het signaal is een niet-biologische nabootsing, en de AI, die geen context heeft voor echte buitenaardse biologie, wordt voor de gek gehouden.
Volgende stappen in het laboratorium
De conclusie?
AI kan menselijke voorzichtigheid niet vervangen. Het kan de eis van traditionele, praktische verificatie niet vervangen.
Adami en Gupta halen dit onderzoek vervolgens uit de puur digitale wereld. Ze zijn van plan dezelfde tests uit te voeren met behulp van chemische en biologische datasets uit de echte wereld. De hypothese blijft: zonder de volledige verspreiding van mogelijke biologische vormen te begrijpen, zal AI over zijn eigen blinde vlekken blijven struikelen.
Ze zullen deze bevindingen in augustus presenteren op de 2a026 Conference on ArtificialLife in Waterloo, Canada.
Voorlopig gaat de zoektocht verder. Wij vertrouwen op onze machines omdat ze sneller verwerken. Maar een snellere verwerking van verkeerde aannames leidt alleen maar tot snellere teleurstelling. Misschien kijken we door de ruis heen en ontdekken we patronen die aanvoelen als vrienden, terwijl ze in werkelijkheid alleen maar statisch zijn.
Wordt een patroon een partner op het moment dat onze computers ‘ja’ zeggen?
Misschien moeten we het nog eens controleren.
