Największym skandalem nie jest to, że sztuczna inteligencja mogła napisać raport. Największym skandalem jest to, że przez niemal dziewięć miesięcy człowiek nie musiał go przeczytać.
Dokument był publiczny. Miał autorów, patronów, logotypy i oficjalną premierę. A jednak dopiero po wielu miesiącach ktoś potraktował go nie jak instytucjonalną dekorację, lecz jak opracowanie, które powinno wytrzymać sprawdzenie. Nie będzie to jednak kolejny tekst o jego błędach ani akt oskarżenia przeciwko jednej osobie. Ciekawsze jest pytanie, dlaczego cały system mógł tak długo działać bez człowieka, który przeczyta, zrozumie, sprawdzi i weźmie odpowiedzialność.
1. Dokument, który miał istnieć
Zakładamy, że raport powstaje po to, aby dostarczać wiedzy. Tymczasem niektóre dokumenty pełnią głównie funkcję rytualną: potwierdzają, że przeprowadzono badanie, wykonano projekt i zajęto się ważnym problemem. Można pokazać okładkę, zorganizować konferencję i odnotować sukces. Ich wartość polega na tym, że istnieją — niekoniecznie na tym, że ktoś je przeczyta.
Słaby raport może więc przegrać jako źródło wiedzy, a zarazem spełnić swoją prawdziwą funkcję. Logotypy tworzą łańcuch zaufania: uczelnia ufa autorowi, urząd uczelni, media komunikatowi, odbiorca wszystkim naraz. Każdy zakłada, że sprawdził ktoś wcześniej. Powstaje łańcuch zaufania bez ogniwa kontroli.
Dziewięć miesięcy ciszy nie dowodzi, że dokumentu nikt nie otworzył. Pokazuje jednak brak widocznej publicznej lektury prowadzonej przeciwko jego tezom — z pytaniami o źródła, metodę i logikę wniosków.
2. Człowiek w podpisie, nie w pętli
Najwygodniejszym oskarżonym jest dziś AI. Model nie ma reputacji ani sumienia, może więc przyjąć całą winę bez protestu. Tyle że model nie zdecydował o publikacji, nie nadał dokumentowi autorytetu ani nie uznał materiału za gotowy. Człowiek zlecił pracę, zaakceptował wynik i podpisał się pod nim — osobiście albo instytucjonalnie.
AI nie jest autorem kryzysu wiedzy. Jest jego podwykonawcą i naszym alibi. Autor zleca maszynie pisanie, instytucja zastępuje kontrolę nazwiskiem, redakcja ocenę — komunikatem, a odbiorca własny osąd — nagłówkiem. Człowiek pozostaje w podpisie, ale wypada z pętli poznawczej.
Być może po tej aferze redakcje zaczną uważniej tropić językowe dziwactwa i fałszywe przypisy. Nie musi to oznaczać poprawy. Następny bezwartościowy raport może być już stylistycznie bezbłędny. Najgroźniejszy AI slop nie będzie wyglądał jak AI slop. Będzie elegancki, spójny i pozornie wiarygodny.
3. Każdy klik jest mikrozleceniem
Nie jesteśmy wyłącznie ofiarami mediów, platform i algorytmów. Jesteśmy również ich codziennymi zleceniodawcami. Każde kliknięcie mówi: zróbcie tego więcej.
Ile razy w ostatnim miesiącu otworzyłeś wiadomość o ślubie, rozwodzie albo wakacjach człowieka znanego głównie z tego, że utrzymał nasze zainteresowanie? Ile razy sięgnąłeś po analizę, tekst popularnonaukowy lub materiał podważający Twoje poglądy?
Nie musisz odpowiadać. Ja również nie. Algorytm zna nasze odpowiedzi, a redakcje potrafią je przeliczyć. Jedno kliknięcie w plotkę niczego nie przesądza. Miliony drobnych wyborów tworzą jednak model biznesowy, program redakcyjny, a w końcu wspólny obraz świata. Karmimy to, czym później gardzimy.
4. Bańka chroni przed zmianą zdania
Bańki informacyjne przedstawiamy jak więzienia zbudowane przez algorytmy. To tylko część prawdy. Algorytm stawia ściany, lecz cegieł dostarczamy sami — wybierając treści niewymagające wysiłku oraz ekspertów mówiących to, co chcemy usłyszeć.
Bańka chroni nas nie tyle przed kłamstwem, ile przed dyskomfortem, że możemy nie mieć racji. Kryzys autorytetów ma więc także stronę popytową. Nie rezygnujemy z autorytetów — zamieniamy je na autorytety na żądanie.
Tę hierarchię uwagi przekazujemy następnym pokoleniom. Uczą się jej nie z naszych deklaracji, lecz z tego, czemu naprawdę poświęcamy wspólny czas. Ile razy razem otworzyliśmy encyklopedię, album albo książkę odpowiadającą na zwykłe „dlaczego”? Choćby Dlaczego zebra jest w paski — pamiętacie? Ile razy posłuchaliśmy podcastu o nauce? Nie chodzi o potępianie rozrywki, lecz o proporcje. Jeżeli ciekawość zawsze przegrywa z widowiskiem, przekazujemy dziecku jasną lekcję o tym, co jest ważne.
5. Prawda ma fatalny PR
Nauka bywa powolna, nieefektowna i pełna zastrzeżeń. Mówi: „nie wiemy”, „to zależy”, „potrzeba dalszych badań”. Sensacja zawsze zna przyczynę, winnego i rozwiązanie. AI podaje je dodatkowo tak płynnym językiem, że łatwo pomylić spójność wypowiedzi ze spójnością rozumowania.
Prawda nie istnieje jednak po to, aby utrzymać naszą uwagę. Jest infrastrukturą decyzji — niewidoczną, dopóki ktoś na podstawie fałszu nie zacznie leczyć, wydawać publicznych pieniędzy albo projektować bezpieczeństwa państwa.
Nauka nie jest gwarancją nieomylności. Jej siła bierze się z metody pozwalającej pokazać drogę od danych do wniosku, wykryć błąd i go skorygować. Bez warsztatu pozostaje scenografia nauki. Messeri i Crockett ostrzegają na łamach „Nature”, że AI może zwiększać produktywność, a równocześnie tworzyć iluzję rozumienia.
Prawda bywa nudna. Konsekwencje jej ignorowania — nigdy.
6. Weryfikacja jest nudna. Afera klika
Odpowiedzialność nie rozkłada się po równo. Większy obowiązek spoczywa na autorze niż na czytelniku, na uczelni niż na użytkowniku sieci, na redakcji niż na człowieku szukającym po pracy rozrywki. Nie wolno rozgrzeszać instytucji zdaniem, że „ludzie właśnie tego chcą”. Odbiorca nie stoi jednak poza systemem. Uwagą głosuje na świat, który później będzie go informował.
Nie chodzi więc o jeden raport ani publiczny lincz jednej osoby. Chodzi o obieg, w którym dokument ma powstać, instytucja go firmować, media odnotować, a odbiorca przeżyć emocję. Kontrola pojawia się dopiero wtedy, gdy błąd staje się dość widowiskowy, by wywołać skandal. Zamiast weryfikacji przed publikacją otrzymujemy audyt przez aferę.
Przez niemal dziewięć miesięcy weryfikacja była nudna. Potem oburzenie w ciągu jednego dnia stało się fascynujące. Raport czekał nie na demaskatora, lecz na czytelnika. I to jest większy skandal niż wszystkie błędy, które w nim znaleziono.
To nie AI odebrała nam prawdę. To my przestaliśmy płacić za nią własną uwagą.
Zobacz więcej z MetaLab:
MetaLaboratorium Weterana
Jeśli chcesz dostawać bezpośrednio kolejne wydania — możesz zapisać się na newsletter:
Jeśli ten temat jest Ci bliski — to zwykle nie jest przypadek.
Porozmawiajmy!
Pracujesz nad tematem związanym z bezpieczeństwem, technologią, informacją albo podejmowaniem decyzji w niepewności — i czujesz, że coś jest trudne do uchwycenia — możesz do mnie napisać.
Często jedna dobra rozmowa pozwala zobaczyć więcej.
Nasze projekty
Subskrybuj i czytaj
MetaLaboratorium Weterana dostępne jest w aplikacji Substack oraz bezpośrednio na stronie www.arturdubiel.com, w zakładce MetaLab.
Arturze, dla mnie najmocniejszym zdaniem tego tekstu jest „człowiek w podpisie, nie w pętli poznawczej”.
Bo ono pokazuje problem szerszy niż AI slop. Formalna obecność człowieka może być zachowana, a realna odpowiedzialność poznawcza już nie.
Autor podpisał. Instytucja zatwierdziła. Dokument opublikowano. Proceduralnie człowiek „był w pętli”. A jednak nikt nie wykonał tej jednej pracy, która nadawałaby temu podpisowi treść: nie sprawdził, czy materiał rzeczywiście zasługuje na stanie się podstawą dalszych decyzji.
Dlatego „audyt przez aferę” jest chyba szczególnie trafnym określeniem. Kontrola pojawia się dopiero po konsekwencji, zamiast przed nią.
I być może właśnie to będzie jednym z ważniejszych problemów epoki AI: nie jak zachować człowieka w procesie, lecz jak zachować moment, w którym człowiek nadal może skutecznie zakwestionować wynik, zanim ten uzyska autorytet i zacznie działać w świecie.