AI Affairs. Gdy sztuczna inteligencja staje się nową areną władzy
Numer 13 / MetaLaboratorium Weterana
AI nie musi być człowiekiem, żeby zmienić człowieka
Największym błędem debaty o sztucznej inteligencji może być to, że próbujemy wyobrazić ją sobie zbyt po ludzku. Pytamy, czy będzie mówić jak człowiek, wyglądać jak człowiek, myśleć jak człowiek, pracować jak człowiek i w końcu — czy człowieka zastąpi. Tymczasem być może najważniejsze pytanie brzmi inaczej: czy AI w ogóle potrzebuje ludzkiego wzorca, żeby zmienić warunki naszego życia, pracy, bezpieczeństwa, polityki i władzy?
Słowo „AI” stało się dziś pojęciem tak pojemnym, że zaczyna tracić precyzję. Nazywamy nim modele językowe, algorytmy rekomendacyjne, automatykę przemysłową, systemy rozpoznawania obrazu, robotykę, asystentów cyfrowych, a marketingowo nawet telewizory, zegarki czy lodówki. W efekcie coraz trudniej odróżnić narzędzie od autonomii, automatyzację od inteligencji, generowanie treści od rozumienia, a procesor z algorytmem od systemu, który realnie uczy się, adaptuje i działa poza prostą inicjatywą użytkownika.
Pułapka humanoida
Myślenie o AI przez pryzmat humanoida też może być pułapką. Oczywiście roboty o ludzkiej formie będą potrzebne: w opiece, usługach, przestrzeniach zaprojektowanych pod ciało człowieka, w interakcji społecznej, edukacji, wojsku czy działaniach ratowniczych. Ale to nie znaczy, że najważniejsza AI będzie miała twarz, ręce i sylwetkę.
W wielu obszarach dużo skuteczniejszy będzie system bez ludzkiego kształtu: sieć agentów, flota dronów, algorytm zarządzający logistyką, platforma decyzyjna, mechanizm nadzoru albo infrastruktura wpływu. Automatyzacja i robotyka nie pojawiły się wczoraj; nowe jest tempo, skala i stopień ich połączenia z systemami zdolnymi do samodzielnej analizy, generowania decyzji i działania. Pytanie nie brzmi więc wyłącznie, czy AI zabierze ludziom pracę, ale gdzie przesunie człowieka do roli nadzorcy, gdzie uczyni go dodatkiem do procesu, a gdzie całkowicie wypchnie go poza obieg decyzji i produkcji.
Tu pojawia się wątek głębszy, niemal cywilizacyjny. W tradycji religijnej Bóg stworzył człowieka na swój obraz i podobieństwo. My, tworząc AI, bardzo często próbujemy zrobić coś podobnego — tylko nie z boskiej pełni, ale z ludzkich ograniczeń, ambicji, lęków, interesów i błędów poznawczych. To nie jest kazanie religijne. To ostrzeżenie etyczne. Czy człowiek naprawdę jest najlepszym wzorcem inteligencji? A jeśli tak, to względem czego: efektywności, moralności, przetrwania, kontroli, empatii, dominacji?
Poza krzemem i prawem
Jeszcze trudniej robi się wtedy, gdy wychodzimy poza krzem i oprogramowanie. Bio-AI, biokomputing, żywe neurony, organoidy, systemy biologiczno-elektroniczne — to nie jest już czysta fantastyka, lecz kierunek laboratoryjnych eksperymentów, często idących szybciej niż język etyki i prawa. Nie wiemy dziś, gdzie dokładnie przebiega granica między reakcją, uczeniem się, adaptacją, autonomią, protoświadomością i świadomością. Ale właśnie dlatego nie wolno udawać, że pytanie nie istnieje.
Nie możemy jednak po prostu zatrzymać rozwoju. Cywilizacyjnie potrzebujemy nowych technologii: w medycynie, energetyce, bezpieczeństwie, nauce, produkcji, logistyce, edukacji i ochronie środowiska. A nawet gdybyśmy chcieli asekuracyjnie zaciągnąć hamulec, ktoś inny tego nie zrobi. Zawsze znajdzie się państwo, korporacja, despota albo laboratorium „w piwnicy”, które uzna, że etyka, prawo i ostrożność są luksusem opóźniającym zwycięstwo. I właśnie ten ktoś może pierwszy uzyskać przewagę, która nie tylko go wzmocni, ale pozwoli mu podporządkowywać innych.
Zakłócony constans: AI Affairs
Dlatego AI zakłóca dawny constans. Państwa narodowe i organizacje międzynarodowe nie są już jedynymi aktorami zdolnymi do kształtowania bezpieczeństwa, gospodarki, wojny i infrastruktury. Korporacje technologiczne dysponują danymi, chmurą, modelami, satelitami, kapitałem i systemami łączności, których znaczenie bywa większe niż zdolności wielu państw.
To jest także pytanie o suwerenność technologiczną — zarówno państw, które chcą zachować kontrolę nad krytyczną infrastrukturą, danymi i modelami, jak i korporacji, które same zaczynają budować własną quasi-suwerenność opartą na dostępie do mocy obliczeniowej, chmury, satelitów, kapitału i użytkowników.
Flagi nie będą już wyłącznie narodowe. Będą korporacyjne, infrastrukturalne, platformowe i algorytmiczne.
Rywalizacja nie będzie dotyczyła wyłącznie państw ani wyłącznie korporacji między sobą. Może przebiegać również między korporacjami a państwami, zwłaszcza wtedy, gdy prywatna infrastruktura stanie się warunkiem publicznego bezpieczeństwa, komunikacji, transportu, energii, obronności albo dostępu do informacji. Być może klasyczne pojęcie stosunków międzynarodowych trzeba będzie rozszerzyć o AI Affairs — nową przestrzeń relacji między państwami, firmami, modelami i systemami autonomicznymi.
AIOPS – starcie algorytmów
W tym świecie INFOOPS i PSYOPS nie znikną. Przeciwnie, zostaną wzmocnione. Ale obok nich pojawi się coś, co roboczo można nazwać AIOPS — nie w klasycznym, informatycznym znaczeniu, lecz jako AI-on-AI operations.
Nie tylko użycie AI do wpływania na ludzi, lecz starcie systemów sztucznej inteligencji ze sobą: rozpoznawanie, zakłócanie, karmienie fałszywymi danymi, testowanie, przeciążanie i neutralizowanie innych systemów AI. To już nie będzie wyłącznie walka o narrację. To będzie walka systemów, które mogą działać szybciej, niż człowiek zdąży zrozumieć, że właśnie stał się tylko jednym z elementów środowiska operacyjnego.
To nie jest tekst o końcu człowieka. To początek rozmowy o końcu naszego monopolu na sprawczość. AI nie musi być człowiekiem, żeby zmienić człowieka. Nie musi mieć twarzy, żeby wpływać na nasze decyzje. Nie musi mieć świadomości, żeby przeorganizować władzę. I nie musi mieć własnej woli, żeby stać się narzędziem czyjejś woli — być może znacznie bardziej bezwzględnej niż sama maszyna.
Zobacz więcej z MetaLab:
MetaLaboratorium Weterana
Jeśli chcesz dostawać bezpośrednio kolejne wydania — możesz zapisać się na newsletter:
Jeśli ten temat jest Ci bliski — to zwykle nie jest przypadek.
Porozmawiajmy!
Pracujesz nad tematem związanym z bezpieczeństwem, technologią, informacją albo podejmowaniem decyzji w niepewności — i czujesz, że coś jest trudne do uchwycenia — możesz do mnie napisać.
Często jedna dobra rozmowa pozwala zobaczyć więcej.
Nasze projekty
Subskrybuj i czytaj
MetaLaboratorium Weterana dostępne jest w aplikacji Substack oraz bezpośrednio na stronie www.arturdubiel.com, w zakładce MetaLab.
