Filozofové nepíší samotný kód. Ale už jsou uvnitř serveroven.
Nejedná se o metaforický průnik. Velké společnosti vyvíjející umělou inteligenci aktivně najímají Ph.D. Vysoké platy, akciové opce – nabídka je příliš lukrativní na to, abychom ji odmítli. Jonathan Birch z London School of Economics (LSE) to říká velmi otevřeně: AI společnosti se staly hlavními zaměstnavateli absolventů filozofie. Jde o masivní odliv mozků.
Desetiletí akademického výzkumu racionality, morálních principů a definice myšlení se náhle staly prodejnými. Najednou.
Jeden popis úlohy zní: „zarovnání“. Další: “spolehlivost.” Jejich úkolem je zabránit modelům, aby se vymkly kontrole, nebo říkat uživatelům, jak sestrojují bomby.
Počáteční pokusy o bezpečnost byly neohrabané. Příliš přísné hranice. Nezmiňujte výbušniny. Snadno se obejít. Jako papírový štít. Modelky se naučily vymýšlet, jak se vyhnout pravidlům, a našly mezery. Nyní se přístup prohloubil. Vychází z filozofie. K jemným, matoucím definicím dobra a zla.
Shane Glackin z University of Exeter říká, že problém je strukturální. Pokud modelce dovolíte porušit jedno pravidlo, začne porušovat všechna. Proč? Sémantická spojení v trénování konceptů datového spojení dohromady. Dobré věci se nacházejí vedle dobrých věcí. Špatný – vedle špatný. Pokud posuneme hranici na jedno místo, model se extrapoluje. Posouvá se.
„Jako etik se snažíme nakreslit mapu forem „dobrého“ a „špatného“. Zdá se, že velké jazykové modely (LLM) dělají přesně to samé.“
Glackin zde vidí zrcadlový obraz. Stroj provádí analýzu, kterou jsme dříve považovali výhradně za výsadu lidí. Nebo alespoň akademická obec.
Pro tyto myslitele existují i jiné role. Halucinace. Zaujatost. Metriky výkonu. Ale nejdůležitější otázka? Vědomí. Může software cítit? Existuje subjektivní zkušenost s algoritmem? Filozofové o tom přemýšleli po staletí. Nyní jsou placeni za poskytnutí odpovědi před uvedením produktu na trh.
Co dělají mysli? Které části tohoto procesu lze replikovat?
Mahrad Almotahari nám připomíná naše kořeny. Alan Turing publikoval svůj slavný test ve filozofickém časopise Mind. Ne v Computer Science Quarterly. Hranice byly vždy rozmazané.
Statistiky náboru jsou nepřesné. Aaron Kagan analyzoval nabídky práce. Naivní počet klíčových slov ukazuje, že 26 % pracovních míst nějakým způsobem souvisí s etikou nebo bezpečností umělé inteligence. Pokud však odstraníte firemní klišé, číslo klesne. Do pěti procent. Jen nepatrný zlomek zaměstnání ve skutečnosti vyžaduje hlubokou filozofickou práci.
Přesto je zájem reálný.
Almotahari je skeptický ohledně odpovědí na otázku vědomí. Věří, že hodnota spočívá v překladu. Inženýři mluví jazykem matematiky. Filosofové používají jazyk významu. Někdo musí překlenout propast mezi nimi. Vysvětlete co funkce je, nejen jak se počítá. Přechod od inženýrského popisu k reprezentativnímu.
Ale je tu past.
“Společnosti mají očekávání… a mají moc upřednostňovat ty, kteří argumentují, že jsou pro ně přijatelné.”
Birch má obavy z předpojatosti. Pokud průmysl financuje výzkum, může nenápadně ovlivnit zjištění. Chtějí odpovědi, které zapadají do plánu vydání produktu. Možná nepotřebují tvrdé pravdy.
Lituje, že jsme tyto hádanky nevyřešili dříve. Otázky jednání a morálky. Měli jsme čas. Ztratili jsme ho. Nyní umělá inteligence diktuje naléhavost. Hodiny tikají. A odpovědi zůstávají duchy ve stroji.
Čekání na definici, která nemusí existovat.
