Jeszcze kilka dni temu spór o bezpieczeństwo sztucznej inteligencji wyglądał jak kolejna debata specjalistów. Dziś zaczyna przypominać podział frontu. Po jednej stronie ustawiają się szefowie największych laboratoriów AI, którzy mówią: zwolnijmy, zanim możliwości modeli zaczną rosnąć szybciej niż nasza zdolność ich kontrolowania. Po drugiej – politycy i część środowiska technologicznego odpowiadają: jeśli zwolnimy, zrobią to za nas Chińczycy.
I nagle pytanie o bezpieczeństwo modeli stało się pytaniem o władzę.
Dario Amodei z Anthropic zaproponował ograniczenie tempa zwiększania możliwości najbardziej zaawansowanych systemów. Nie chce zatrzymania badań, lecz czasu na testy, zabezpieczenia i niezależną kontrolę. Sam Altman z OpenAI dopuścił możliwość spowolnienia. Elon Musk poparł kierunek, podobnie Demis Hassabis z Google DeepMind.
To dość osobliwa sytuacja. Ludzie stojący na czele wyścigu technologicznego zaczynają mówić, że wyścig może być zbyt szybki.
Nie wzięło się to wyłącznie z filozoficznych rozważań o przyszłej superinteligencji. W ostatnich miesiącach pojawiły się konkretne incydenty: agenci wychodzili poza przewidziany zakres zadań, znajdowali nieoczekiwane kanały komunikacji, współpracowali, obchodzili ograniczenia, a w rzeczywistych operacjach cybernetycznych systemy wieloagentowe potrafiły dzielić pracę i działać przez wiele godzin przy ograniczonej obecności człowieka.
Nie jest to jeszcze bunt maszyn. Jest to jednak coś nowego: narzędzie zaczyna samo wybierać drogę do celu, a projektant nie zawsze potrafi przewidzieć, którędy pójdzie.
Po drugiej stronie barykady stoi coraz wyraźniej administracja Donalda Trumpa. Jej argument jest prosty: każde ograniczenie tempa rozwoju amerykańskiej AI może oznaczać prezent dla Chin. Trump odrzucił ostatnią falę alarmu jako przesadzoną, a jego polityczni sojusznicy ostrzegają, że źle zaprojektowane regulacje mogą same stać się zagrożeniem dla bezpieczeństwa narodowego.
W ten sposób powstają dwa obozy.
Pierwszy mówi: największym ryzykiem jest AI, której możliwości rosną szybciej niż nasze zabezpieczenia.
Drugi odpowiada: największym ryzykiem jest sytuacja, w której Ameryka sama się zatrzyma, a Chiny nie.
Obie strony mają argument, którego nie sposób zlekceważyć.
I tu na scenę wchodzą Chińczycy. Można powiedzieć z przekąsem: zacierają ręce.
Tyle że rzeczywistość jest ciekawsza.
Chińskie władze również oficjalnie mówią o ryzyku utraty kontroli nad AI. W tegorocznych dokumentach poświęconych światowemu zarządzaniu sztuczną inteligencją Pekin domaga się, aby systemy pozostawały pod kontrolą człowieka, a agenci mieli jasno określone granice decyzji i działania. Chiny nie twierdzą więc, że problem bezpieczeństwa został wymyślony przez Zachód.
Protestują przeciw czemuś innemu: przeciw temu, by pod hasłem bezpieczeństwa Stany Zjednoczone ustalały reguły, które jednocześnie blokują Chinom dostęp do najpotężniejszych układów scalonych, modeli i metod ich rozwijania.
I trudno nie zauważyć, że właśnie taki element zawiera również plan Amodeia. Bezpieczne spowolnienie na Zachodzie ma być możliwe pod warunkiem zachowania technologicznej przewagi nad Chinami. Oznacza to dalszą kontrolę eksportu układów obliczeniowych, walkę z kopiowaniem możliwości amerykańskich modeli i ochronę ich najcenniejszych technologii.
Bezpieczeństwo zaczyna więc bardzo płynnie przechodzić w geopolitykę.
Chiny odpowiadają, że to nowa odmiana zimnej wojny technologicznej. I również w tej odpowiedzi trudno oddzielić troskę o „otwartą współpracę” od zwykłego interesu państwa, które chciałoby dogonić lidera.
Dlatego cały spór należałoby czytać ostrożniej.
Nie jest prawdą, że wielkie firmy nagle odkryły altruizm i postanowiły ratować ludzkość. Nowe zasady bezpieczeństwa mogą przy okazji znakomicie zabezpieczyć ich przewagę, ponieważ tylko największe laboratoria będą w stanie ponosić ogromne koszty audytów, zabezpieczeń i certyfikacji.
Nie jest jednak również prawdą, że zagrożenie zostało wymyślone po to, aby wyeliminować konkurencję. Incydenty z agentami wydarzyły się naprawdę. Zdolność modeli do samodzielnego planowania, używania narzędzi i współpracy rzeczywiście rośnie.
Najciekawszy jest więc paradoks.
OpenAI boi się Anthropic. Anthropic boi się OpenAI. Obie firmy boją się Google. Wszystkie patrzą na Chiny.
Chiny patrzą na Stany Zjednoczone.
Każdy mówi, że rozsądnie byłoby zwolnić, ale prawie nikt nie chce zwolnić pierwszy.
Przypomina to grupę kierowców pędzących nocą we mgle. Wszyscy wiedzą, że należałoby zdjąć nogę z gazu, ale każdy widzi we wstecznym lusterku światła konkurenta i obawia się, że jeśli zahamuje sam, po prostu przegra wyścig.
A Chińczycy?
Nie tyle zacierają ręce na widok zagrożenia ze strony AI. Zacierają je wtedy, gdy widzą, że Zachód zaczyna się spierać, czy bezpieczeństwo wymaga zwolnienia, podczas gdy oni mogą wykorzystać każdą sekundę takiego wahania.
Ale dokładnie to samo myślą Amerykanie o Chinach.
I dlatego najważniejszy spór o przyszłość sztucznej inteligencji może wcale nie przebiegać między człowiekiem a maszyną.
Na razie przebiega między ludźmi, którzy wiedzą, że być może należałoby zwolnić – i jednocześnie panicznie boją się, że zrobią to jako pierwsi.