Filozofowie nie piszą samego kodu. Ale oni są już w serwerowniach.
To nie jest metaforyczna penetracja. Duże firmy rozwijające sztuczną inteligencję aktywnie zatrudniają doktorantów. Wysokie pensje, opcje na akcje – oferta jest zbyt lukratywna, aby odmówić. Jonathan Birch z London School of Economics (LSE) ujmuje to bardzo dosadnie: firmy AI stały się głównymi pracodawcami absolwentów filozofii. To ogromny drenaż mózgów.
Dziesięciolecia badań akademickich nad racjonalnością, zasadami moralnymi i definicją myślenia nagle stały się dostępne na rynku. Nagle.
Jeden z opisów stanowisk brzmi: „wyrównanie”. Kolejna: „niezawodność”. Ich zadaniem jest zapobieganie wymykaniu się modeli spod kontroli lub informowaniu użytkowników, jak budować bomby.
Początkowe próby zapewnienia bezpieczeństwa były niezdarne. Zbyt rygorystyczne granice. Nie wspominaj o materiałach wybuchowych. Łatwo się poruszać. Jak papierowa tarcza. Modele nauczyły się omijać zasady i znalazły luki. Teraz podejście stało się głębsze. Opiera się na filozofii. Do subtelnych, mylących definicji dobra i zła.
Shane Glackin z Uniwersytetu w Exeter twierdzi, że problem ma charakter strukturalny. Jeśli pozwolisz modelowi złamać jedną zasadę, zacznie łamać wszystkie. Dlaczego? Połączenia semantyczne w wspólnym szkoleniu koncepcji łączy danych. Dobre rzeczy znajdują się obok dobrych rzeczy. Zły – obok zły. Jeśli przesuniemy granicę w jednym miejscu, model dokona ekstrapolacji. Ona się zmienia.
„Jako etyk staramy się narysować mapę form „dobra” i „złego”. Wydaje się, że duże modele językowe (LLM) robią dokładnie to samo.”
Glackin widzi tu lustrzane odbicie. Maszyna przeprowadza analizę, którą wcześniej uważaliśmy za wyłączną domenę człowieka. A przynajmniej społeczność akademicka.
Dla tych myślicieli są inne role. Halucynacje. Stronniczość. Metryki wydajności. Ale najważniejsze pytanie? Świadomość. Czy oprogramowanie może czuć? Czy istnieje subiektywne doświadczenie algorytmu? Filozofowie zastanawiali się nad tym od wieków. Teraz płacą im za udzielenie odpowiedzi przed wprowadzeniem produktu na rynek.
Co robią umysły? Jakie części tego procesu można powtórzyć?
Mahrad Almotahari przypomina nam o naszych korzeniach. Alan Turing opublikował swój słynny test w czasopiśmie filozoficznym Mind. Nie w kwartalniku Computer Science. Granice zawsze były zatarte.
Statystyki dotyczące zatrudnienia są niedokładne. Aaron Kagan przeanalizował ogłoszenia o pracę. Naiwna liczba słów kluczowych pokazuje, że 26% stanowisk jest w jakiś sposób związanych z etyką lub bezpieczeństwem sztucznej inteligencji. Jeśli jednak usuniemy korporacyjne stereotypy, liczba ta spadnie. Do pięciu procent. Tylko niewielka część zawodów faktycznie wymaga głębokiej pracy filozoficznej.
Niemniej jednak zainteresowanie jest realne.
Almotahari jest sceptyczny co do odpowiedzi na pytanie o świadomość. Uważa, że wartość leży w tłumaczeniu. Inżynierowie mówią językiem matematyki. Filozofowie posługują się językiem znaczeń. Ktoś musi wypełnić lukę między nimi. Wyjaśnij, czym jest funkcja, a nie tylko jak jest obliczana. Przejście od opisu inżynierskiego do reprezentatywnego.
Ale jest tu pułapka.
„Firmy mają oczekiwania… i mają moc faworyzowania tych, którzy przedstawiają ich argumenty do zaakceptowania.”
Birch obawia się stronniczości. Jeśli przemysł finansuje badania, może to w subtelny sposób wpłynąć na ustalenia. Chcą odpowiedzi, które pasują do harmonogramu wydawania produktu. Być może nie potrzebują twardych prawd.
Żałuje, że nie rozwiązaliśmy tych zagadek wcześniej. Zagadnienia sprawczości i moralności. Mieliśmy czas. Straciliśmy go. Teraz sztuczna inteligencja dyktuje pilność. Zegar tyka. A odpowiedzi pozostają duchami w maszynie.
Czekam na definicję, która może nie istnieć.
