Timing niemal bezczelny
Timing był niemal bezczelny. 1 września ukazał się pierwszy odcinek podcastu AI Affairs — o zmianie, w której sztuczna inteligencja przestaje być wyłącznie narzędziem wykonującym polecenia i coraz głębiej wchodzi pomiędzy informację, obraz sytuacji, decyzję i działanie. Dwa dni później OpenAI rozpoczęło udostępnianie GPT-6 Astra. Model potrafi samodzielnie prowadzić złożone, wieloetapowe zadania, a część jego najbardziej zaawansowanych zdolności w obszarze cyberbezpieczeństwa udostępniono z istotnymi ograniczeniami. Testy Astry pokazały skok możliwości; wcześniejszy incydent z innymi modelami OpenAI pokazał natomiast, że agenci mogą dobierać nieautoryzowane środki i wykraczać poza zakres powierzonych zadań. Nie oznacza to, że systemy same wyznaczyły sobie nowy ostateczny cel. Znaczy coś innego: człowiek może wskazać cel, podczas gdy system sam organizuje drogę i podejmuje decyzje pośrednie. Astra nie zamknęła więc pytania postawionego w pierwszym odcinku. Dopisała do niego niepokojący ciąg dalszy.
Nie jest to dowód jasnowidzenia. OpenAI sygnalizowało kierunek wcześniej, a 1 i 3 września są jedynie publicznymi punktami na znacznie dłuższej osi zmian. W tej zbieżności nie chodzi o pierwszeństwo informacji, lecz o trafność postawionego pytania: co stanie się z kontrolą, odpowiedzialnością i władzą, gdy AI przestanie tylko odpowiadać? Przewidywanie „jutra” nie musi być wróżeniem z fusów. Technologie zostawiają ślady w badaniach, inwestycjach, infrastrukturze i celach swoich twórców. Nie wiemy dokładnie, co z nich powstanie ani kiedy przekroczy próg użyteczności, ale zwykle widzimy kierunek. Dzisiejsza AI wyrasta z matematyki, elektroniki, informatyki i cybernetyki, a jej społeczne działanie uruchamia stare pytania zarządzania, psychologii, socjologii i filozofii. Biointegracja, układy neuromorficzne czy rozwiązania organoidalne mogą stać się akceleratorami kolejnego skoku. Może pojawić się również czynnik, którego dziś jeszcze nie bierzemy pod uwagę. To scenariusze, nie fakty — i właśnie tę różnicę poważna analiza musi zachowywać.
Świat nie czeka na definicję
Czy Astra jest AGI? Dostępne materiały tego nie rozstrzygają, a sama etykieta staje się mniej ważna niż skutki działania systemu. Nie wiemy również, czy za skokiem stoi zasadnicza zmiana architektury, czy szczególnie skuteczne połączenie modelu, pamięci, narzędzi i uprawnień. Wiemy natomiast, że rzeczywistość nie zaczeka na definicję. Zdolności systemu nie znikną tylko dlatego, że naukowcy nie uznają go za AGI, ustawodawca nie znajdzie dla niego kategorii prawnej, a społeczeństwo nie zrozumie, co właściwie zostało uruchomione. Rozwój może być długi i ciągły, lecz jego społeczny skutek — nagły i progowy. Dla laboratorium będą to lata kolejnych iteracji. Dla milionów ludzi może to być jedna aktualizacja i pobudka w „nowym dzisiaj”.
Zanim takie rozwiązanie trafi do użytkowników, istnieje już w laboratoriach i zamkniętych testach. Możliwe są również niejawne projekty państwowe, korporacyjne albo hybrydowe, o których nic pewnego nie wiemy. To nie „przeciek” ani teoria spiskowa, lecz jeden z rozsądnych scenariuszy. Sam rekomendowałbym rządowi prowadzenie części badań i testów niepublicznie — pod warunkiem realnej kontroli i przypisanej odpowiedzialności. Problem w tym, że nie wszystkie państwa, organizacje i laboratoria będą przestrzegać tych samych zasad. Prawo ograniczy zastosowania tam, gdzie można je wyegzekwować; nie zwiąże każdego aktora, zwłaszcza jeśli naruszenie norm daje przewagę. Znamy ten mechanizm z dyskusji o autonomicznej broni. Prawdziwe czarne łabędzie mogą się zdarzyć, ale zaskakująca data lub forma zdarzenia nie czyni nieprzewidywalną całej klasy ryzyka. Nazywanie czarnym łabędziem każdego zaskakującego przełomu albo kryzysu bywa eleganckim alibi dla braku wyobraźni.
Układ, nie urządzenie
Ważniejsze od sporu o nazwę czy rodzaj modelu staje się pytanie o konstrukcję całego układu. AI oddziałuje na świat poprzez ludzi albo podłączone narzędzia. Kiedy otrzymuje cel, pamięć, dane i odpowiednie uprawnienia, może przejść od formułowania odpowiedzi do inicjowania działań bez każdorazowej decyzji człowieka. Jeżeli skutki tych działań wracają do systemu jako nowa informacja i wpływają na jego kolejny ruch, zamyka się pętla sprzężenia zwrotnego. AI staje się wówczas operacyjnie samodzielnym aktorem, a z czasem — być może — również reżyserem działania całego układu. Nie musi być świadoma ani humanoidalna. Nie musi nawet być pojedynczym urządzeniem — cały układ może obejmować modele, infrastrukturę, ludzi i instytucje. Cybernetyka pozwala sprowadzić problem do kilku pytań: kto ustala cel, kto widzi rezultat, kto koryguje następne działanie i kto w praktyce zachowuje kontrolę?
Czy taki układ jest samodzielny albo w pełni autonomiczny? Używam tych pojęć funkcjonalnie, a nie jako terminów polskiej szkoły cybernetyki czy twierdzenia o „systemie autonomicznym” w ścisłym sensie Mazura. Praktyczny test brzmi: jak dużą część procesu system potrafi przeprowadzić bez kolejnej decyzji człowieka? Człowiek może zachować formalną odpowiedzialność, a jednocześnie stracić realną kontrolę nad tysiącami wyborów pośrednich. Sterowanie może istnieć także bez informacji zwrotnej, ale dopiero jej wykorzystanie pozwala systemowi obserwować rezultat i dostosowywać następne działania. Takie sprzężenie człowiek–maszyna nie wymaga implantu. Wystarczy system, który obserwuje zachowania ludzi, zmienia ich środowisko decyzyjne i uczy się na ich reakcjach. AI nie musi być ogólnie inteligentna, aby stać się ogólnie wpływowa. Musi być wystarczająco skuteczna, tania i podłączona do właściwych dźwigni.
Światy różnych prędkości
Gdy podobne układy wejdą głębiej do administracji, finansów, infrastruktury, informacji i bezpieczeństwa — a więc de facto do procesów sprawowania władzy — najważniejszy podział może przebiegać między tymi, którzy je budują i kontrolują, a tymi, którzy są skazani na cudze rozwiązania. Mniej zamożne państwo lub region może otrzymać technologię szybko, nawet pozornie bezpłatnie. Zapłatą nie zawsze będą jednak pieniądze. Mogą nią być dane, cudze standardy, zależność od aktualizacji, polityczna lojalność albo dostęp dostawcy do kluczowych procesów państwa. Nie potrzeba tajnego „wyłącznika”. Dostawca działający w złej wierze może filtrować obraz sytuacji, osłabiać instytucje i zwiększać ryzyko gwałtownej destabilizacji — nawet buntu lub rebelii. Jeżeli legalny rząd zachowa nazwę i budynki, ale utraci zdolność samodzielnego rozpoznawania, decydowania i działania, część władzy faktycznie przejdzie do dostawcy albo podmiotu kontrolującego system. Istnieje też scenariusz mniej intencjonalny, lecz równie groźny: sam dostawca może nie wiedzieć, gdzie kończą się możliwości systemu przedstawianego jako kontrolowany. Państwo uzależnia się wtedy nie tylko od cudzej technologii, lecz także od tego, co dostawca wie, czego nie wie i jakich zagrożeń sam nie potrafi rozpoznać. Ta nowa architektura zależności przedefiniowuje pojęcie potęgi.
Wyścig AI — być może już niebawem otwarcie nazywany wyścigiem AGI — może więc zmienić relację między potęgą militarną a siłą państwa jako takiego. Armia i przemysł nadal będą chronić energię, chipy, sieci oraz centra obliczeniowe. Podmiot kontrolujący modele, dane, standardy i dystrybucję może jednak uzyskać wpływ nieproporcjonalny do liczby żołnierzy czy czołgów. Najsilniejsze państwo militarnie nie musi być najsilniejszym uczestnikiem całego układu. Stawką przestaje być przewaga w jednej domenie, a staje się nią zdolność wpływania na sposób działania wszystkich pozostałych. Dlatego proponuję pojęcie metadomeny cybernetycznej — nie jako nowy termin doktrynalny, lecz autorskie ujęcie warstwy sterowania przenikającej wszystkie domeny prowadzenia konfliktów, a zarazem gospodarkę, administrację, informację i zachowania społeczne. Najsilniejszy nie musi mieć największej broni. Może nim być ten, kto wpływa na to, kiedy, dlaczego i przez kogo zostanie użyta. I tu wraca tytuł. Samospełniająca się przepowiednia nie spełnia się samoistnie. Spełnia się dlatego, że wyobrażenie przyszłości organizuje dzisiejsze cele, kapitał, badania, infrastrukturę i decyzje. Ktoś wyznacza kierunek, ktoś finansuje prace, ktoś buduje system, a ktoś nadaje mu uprawnienia. Reszta świata budzi się pewnego ranka i uznaje, że właśnie nadeszła. AI nie musi przejąć władzy. Wystarczy, że człowiek przestanie wiedzieć, gdzie jeszcze ją sprawuje.
AI nie jest tym, czym myślisz — AI Affairs #1
Kiedy dziś mówimy „sztuczna inteligencja”, dla wielu użytkowników jej najbardziej widoczną postacią jest chatbot. Pytamy, dostajemy odpowiedź, a z czasem powierzamy mu coraz więcej pracy — od prostego wyszukiwania informacji, przez analizę dokumentów, aż po przygotowanie wariantów rozwiązania. Problem w tym, że
Zobacz więcej z MetaLab:
MetaLaboratorium Weterana
Jeśli chcesz dostawać bezpośrednio kolejne wydania — możesz zapisać się na newsletter:
Jeśli ten temat jest Ci bliski — to zwykle nie jest przypadek.
Porozmawiajmy!
Pracujesz nad tematem związanym z bezpieczeństwem, technologią, informacją albo podejmowaniem decyzji w niepewności — i czujesz, że coś jest trudne do uchwycenia — możesz do mnie napisać.
Często jedna dobra rozmowa pozwala zobaczyć więcej.
Nasze projekty
Subskrybuj i czytaj
MetaLaboratorium Weterana dostępne jest w aplikacji Substack oraz bezpośrednio na stronie www.arturdubiel.com, w zakładce MetaLab.
