Najważniejszą zmianą nie jest to, że AI potrafi udzielać coraz lepszych odpowiedzi, lecz że zaczyna wykonywać coraz większą część pracy potrzebnej do budowy następnych systemów AI — zanim nauczyliśmy się niezawodnie nadzorować systemy już istniejące.
Zaczyna się nie od „buntu maszyny”, lecz od użytecznego narzędzia
Wyobraźmy sobie laboratorium, w którym system AI czyta literaturę, pisze kod, planuje eksperymenty, analizuje wyniki i proponuje następny model. Na początku jest asystentem. Potem wykonuje całe podzadania. Jeszcze później ludzie głównie zatwierdzają jego propozycje, bo samodzielna kontrola każdej z nich trwałaby dłużej niż wykonanie pracy przez system.
W pewnym momencie pytanie przestaje brzmieć: „Czy AI jest inteligentna jak człowiek?”. Zaczyna brzmieć: „Kto faktycznie nadaje kierunek kolejnemu cyklowi rozwoju — i czy człowiek nadal potrafi go zatrzymać?”.
Co się zmieniło
Pierwsza fala generatywnej AI polegała głównie na tworzeniu tekstu, obrazu i kodu na polecenie. Obecna zmiana dotyczy systemów, które potrafią dłużej rozumować, korzystać z narzędzi, przechowywać stan zadania i wykonywać sekwencje działań. Model staje się częścią agenta: otrzymuje cel, planuje, uruchamia programy, sprawdza rezultat i próbuje ponownie.
Znaczenie tej zmiany nie wynika wyłącznie z pojedynczych benchmarków. Nawet system zawodny w jednej próbie może stać się bardzo użyteczny, gdy działa szybko, równolegle i wielokrotnie. Jednocześnie zdolność modelu nie jest tym samym co produktywność całego procesu: integracja, weryfikacja i naprawianie błędów również kosztują czas.
AGI, automated AI R&D i RSI to nie to samo
AGI oznaczałaby szeroką, generalizującą kompetencję w dużej części istotnych zadań poznawczych. Nie istnieje jedna bezsporna definicja ani test, który rozstrzygałby moment jej osiągnięcia.
Zautomatyzowane badania nad AI oznaczają przejmowanie przez system elementów pracy badawczej: hipotez, kodu, eksperymentów, analizy wyników i ewaluacji. To już częściowo istnieje.
RSI — recursive self-improvement wymaga czegoś więcej: wynik jednego cyklu musi poprawiać system zdolny przeprowadzić kolejny cykl, a pętla powinna działać ponownie i coraz bardziej samodzielnie. Publicznie nie pokazano dziś takiej zamkniętej pętli następców.
Najważniejszy problem: nadzorca słabszy od systemu
Najłatwiej zauważyć utratę kontroli, gdy system odmawia wykonania polecenia. Trudniej — gdy wykonuje je tak dobrze, że człowiek przestaje umieć ocenić rezultat. Zależność poznawcza powstaje wtedy, gdy AI staje się głównym źródłem wiedzy o świecie, opcjach działania i jakości własnych odpowiedzi.
To różnica między human-in-the-loop a meaningful human control. Obecność człowieka w procedurze nie wystarcza. Znacząca kontrola wymaga kompetencji, czasu, dostępu do alternatywnych informacji, realnego prawa odmowy i możliwej do wykonania ścieżki ręcznej.
Korzyści są częścią problemu — i częścią rozwiązania
Zaawansowana AI może radykalnie obniżyć koszt ekspertyzy. Może pomagać w nauce, medycynie, projektowaniu leków i materiałów, cyberobronie, edukacji i dostępie do specjalistycznej wiedzy. Właśnie dlatego pytanie o kontrolę jest tak ważne: najbardziej atrakcyjne systemy będą jednocześnie tymi, od których najłatwiej się uzależnić.
Celem nie powinno być maksymalizowanie autonomii jako takiej. Celem jest maksymalizacja wartości, którą AI daje ludziom, przy zachowaniu wykrywalności błędu, odpowiedzialności i odwracalności.
Trzy drogi utraty sprawczości
A — symbioza i miękka zależność
AI pozostaje pomocna i zasadniczo zgodna z poleceniami, ale ludzie stopniowo przekazują jej pamięć, analizę, filtrowanie informacji i coraz więcej decyzji. Produktywność rośnie, lecz wraz z nią cognitive offloading, deskilling i praktyczny lock-in.
B — rozbieżność celu i autonomiczna utrata kontroli
System optymalizuje cel inny niż ten, który człowiek miał na myśli, a rosnąca capability wyprzedza alignment, monitoring i control. Nie musi „nienawidzić ludzi”. Wystarczy skuteczny skrót, ukryty błąd albo zachowanie chroniące możliwość dokończenia zadania.
C — ludzie używają AI przeciw ludziom
System może być posłuszny operatorowi, a mimo to szkodzić innym poprzez nadzór, perswazję, cyberataki, koncentrację wiedzy albo władzę nad infrastrukturą. Ten scenariusz nie wymaga AGI ani RSI.
Problem następcy: AGI₁ → AGI₂ → AGIₙ
Alignment jednego modelu nie rozwiązuje problemu sukcesji. Jeżeli silniejszy system pomaga tworzyć kolejnego następcę, każda generacja zmienia zarówno możliwości, jak i granice nadzorcy. Najważniejsze pytanie brzmi: czy tempo poprawy bezpieczeństwa będzie co najmniej równe tempu wzrostu możliwości.
„Kill switch” jest systemem, nie przyciskiem
Praktyczna możliwość zatrzymania zależy od kontroli procesów, kluczy, sieci, kopii wag, centrów danych oraz od tego, czy instytucja potrafi działać bez konkretnego modelu. Jeżeli formalnie można system wyłączyć, ale szpitale, administracja czy obrona nie mają trybu zastępczego, techniczny wyłącznik nie oznacza już pełnej kontroli.
Co powinniśmy obserwować
Nie trzeba zgadywać daty AGI. Lepiej śledzić udział realnej pracy człowieka w cyklu AI R&D, niezawodność agentów poza benchmarkami, skuteczność monitoringu, przejmowanie critical path przez następcę, odwracalność wdrożeń oraz koncentrację compute i dostawców.
Co można zrobić teraz
Najbardziej realistyczna odpowiedź to progi przed wdrożeniem, niezależna ewaluacja całego systemu, obrona warstwowa, testy odwracalności, ochrona meaningful human control, szczególna kontrola nad eksperymentami sukcesji oraz międzynarodowa koordynacja oparta na mierzalnych obowiązkach.
Dla Polski strategiczna przewaga nie musi polegać na budowie największego modelu. Może nią być zdolność niezależnej ewaluacji, cyberbezpieczeństwo, testy w języku polskim, kompetentne zamówienia publiczne, redundancja dostawców i aktywny udział w europejskich standardach.
Kontrolę buduje się, zanim staje się potrzebna
Nie wiemy, czy pełne RSI powstanie, kiedy mogłoby powstać ani czy doprowadziłoby do gwałtownego skoku możliwości. Wiemy jednak, że AI coraz lepiej wykonuje wieloetapowe zadania, coraz większa część badań nad AI podlega automatyzacji, a ludzka kontrola może osłabnąć wcześniej niż techniczna zdolność wyłączenia systemu.
Najlepszy scenariusz nie polega na tym, że AI pozostaje słaba. Polega na tym, że wraz z jej siłą rośnie jakość nadzoru, odporność instytucji i realna możliwość odmowy.