Nauka na czasie – przepychanie planetoidy i wojna jądrowa AI

0:00:00 Wstęp Posłuchaj

Ola: W jaki sposób ludzkość po raz pierwszy w historii zmieniła orbitę planetoidy w Układzie Słonecznym?

Piotr: Co sprawiło, że właśnie weszliśmy w etap realizacji planu Skynet, tego Skynetu z Terminatora?

Ola: Cześć, tu Ola Stanisławska.

Piotr: I Piotrek Stanisławski.

Ola: Witamy was bardzo serdecznie w podcaście Crazy Nauka, w naszym cyklu Nauka na czasie, w którym opowiadamy o niusach. To nie są takie całkiem świeże niusy niekiedy, ale te akurat są.

Piotr: Chciałem powiedzieć, że nie będziemy wam tłumaczyli, że to jest ten krótszy coś tam, bo te krótsze wychodzą dłuższe, te dłuższe wychodzą krótsze, więc trzymajmy się tego, że to są te bardziej niusowe. Bardzo wam dziękujemy, że tu jesteście. Bardzo dziękujemy za komentarze.

Witamy nowych słuchaczy, którzy się pojawiają, bardzo serdecznie. Polecamy wszystkim komentowanie, ocenianie, w ogóle to jest super miłe.

Ola: I oczywiście polecamy też dwa kolejne z naszych podcastów, które tworzymy we współpracy z Polskim Radiem. Pierwszym z nich jest Laboratorium Zbrodni i w najnowszym odcinku mówimy o tym, jak działa ludzka pamięć i dlaczego zeznania naocznych świadków, no cóż, mogą być dramatycznie nieprecyzyjne.

Piotr: Bardzo chciałem zrobić ten odcinek o pamięci i jestem bardzo z niego zadowolony, więc słuchajcie, słuchajcie. A z kolei w Sekcji Teorii Spiskowych tym razem sprawdzamy, kto nami rządzi i czy aby na pewno nie są to reptilianie. Spoiler alert: są.

No a w tym odcinku podcastu naszego, czyli Crazy Nauka, opowiemy o spektakularnych efektach przywalenia sondą kosmiczną w planetoidę. No i o wojnie atomowej, którą bardzo, bardzo lubi sztuczna inteligencja.

Ola: Ale zanim ruszymy, koniecznie musimy wam przypomnieć, że jesteśmy obecni na wszystkich liczących się platformach podcastowych.

Piotr: I tych nieliczących się również.

0:02:04 Planetoidy zagrażające Ziemi i obrona planetarna Posłuchaj

Ola: A zacznijmy od tego, że ludzkość jakiś czas temu postanowiła przetestować, czy byłaby w stanie użyć systemu obrony planetarnej. Brzmi poważnie. Chodzi o obronę przed takimi obiektami, które nadlatują do nas z kosmosu i mogłyby przywalić w naszą piękną, błękitną planetę.

Właśnie na początku marca ukazały się nowe badania na ten temat. I one pokazują, że te testy, które zostały przeprowadzone, kiedy rzeczywiście przywalono taką niewielką sondą kosmiczną o nazwie DART w 170-metrową planetoidę Dimorphos, okazały się bardzo satysfakcjonujące, a ich efekty znacznie wykroczyły poza pierwotne przewidywania naukowców. Ale zaczniemy od początku, dlatego że to, o czym dzisiaj będę mówić, to są te obiekty, które mogą Ziemi zagrażać.

Piotr: Tak, 170 metrów nie brzmi bardzo groźnie, a jednak.

Ola: A jednak. Near Earth Objects, i od tego powstał skrót NEO, czyli po polsku NEO. I od jakiegoś już czasu, od 20 lat co najmniej, agencje kosmiczne śledzą i katalogują wszystkie takie obiekty. Robi to nie tylko NASA, ale również Europejska Agencja Kosmiczna.

I w skład takiej czarnej listy tych różnych planetoid i komet, które nam mogą zagrozić, wchodzą wszystkie obiekty, które mają co najmniej 140 metrów średnicy. Taka właśnie wielkość może spowodować zniszczenia o zasięgu lokalnym, na przykład zniszczyć jakieś miasto lub nawet ostro zdemolować niewielki kraj. Jeśli chodzi o to, ile takich obiektów NEO wykryto do tej pory, no to cóż, sytuacja nie jest jakaś bardzo optymistyczna, bo uwaga, w styczniu 2026 roku było ich dokładnie 40 529.

I to jeśli chodzi o asteroidy, a trzeba doliczyć do tego 124 komety, więc niemało, umówmy się. Natomiast takich obiektów o średnicy powyżej jednego kilometra, które mogłyby spowodować katastrofę już o skali globalnej, wykryto do stycznia 2026 roku niemal dwa tysiące. I one się znalazły na takiej liście wysokiego ryzyka.

Dodajmy, że tylko w styczniu tego roku wykryto 210 takich obiektów NEO, które mogą nas martwić. I robi się różne rzeczy, żebyśmy nie zginęli. Ja powiem tak: mam wrażenie, że w świetle tego, co ludzkość obecnie wyprawia na polu politycznym i zbrojeniowym i działań militarnych, spokojnie poradzimy sobie bez asteroidy czy komety, która w nas uderza jak w dinozaury 66 milionów lat temu. My spokojnie sobie poradzimy sami z unicestwieniem się. Tutaj mały spoiler. Albo nam w tym pomoże sztuczna inteligencja.

Piotr: Trochę spoiler. Ja tylko powiem, że ta asteroida, która odprawiła dinozaury i otworzyła drogę nam, naszym pudlom… Boże, Abi, przestań wchodzić na stół, przepraszam. Miała mniej więcej 10 kilometrów średnicy, więc taka kilometrowa zmieniłaby nam trochę klimat i zrobiła różne inne rzeczy. Zabiła pewnie kilkadziesiąt milionów ludzi, zależy, gdzie by wycelowała.

Ola: Nie, nie, nie, to raczej…

Piotr: Ale trzeba większej…

Ola: Podejrzewam, że wskutek tych efektów, które…

Piotr: Nie, nie, dłużej, to by więcej zginęło, umarło.

Ola: Tak, tak, podejrzewam, że większa część ludzkości by straciła życie.

Piotr: Kilometrowy i może rzeczywiście taka zima nuklearna. Coś nam dzisiaj te nuklearne wątki wracają. Nie przeszkadzam, w każdym razie chciałem tylko odnieść się do rozmiaru tej asteroidy dinozaurzej.

Ola: Otóż to. I ludzkość, mimo że tutaj więcej zagrożeń sama sobie generuje, jednak postanowiła spojrzeć w niebo.

Piotr: Don't look up.

Ola: I w związku z tym, żeby monitorować te zagrożenia kosmiczne, NASA szykuje teleskop o nazwie NEO Surveyor, który ma w 2027 roku wylecieć w kosmos i patrolować niebo, żeby poszukiwać tych obiektów, które są zbyt ciemne i zbyt nieuchwytne, żeby ziemskie teleskopy były w stanie je wypatrzeć.

Piotr: Ja tylko znowu się wtrącę, dodam krótko, żeby znowu do tej skali odnieść w drugą stronę trochę. No, 10 kilometrów wygubiło dinozaury.

Ola: A ty, widzę, że cały czas wracasz do tych dinozaurów.

Piotr: Natomiast w drugą stronę patrząc, jak pamiętacie, 2013 rok, Czelabińsk. Tamto była de facto asteroida, czy tam jak to nazwać. Miała około 20 metrów średnicy i to było na granicy poważnych skutków, to znaczy w wyniku tego przelotu i rozpadu uszkodzonych zostało 7500 budynków. W sumie obrażenia odniosło ponad około 1500 osób, nie jakieś super poważne, ale to było 20 metrów i to nad terenem słabo zaludnionym.

Więc mówię o tym dlatego, że wystarczy troszkę większa jeszcze skała, która przeleci i rozpadnie się nad troszkę bardziej zagęszczonymi obszarami, jeśli chodzi o zaludnienie, i już mamy problem. Także to jest kwestia tego, że naprawdę kilkudziesięciometrowe skały nadlatujące, tak jak Ola mówi, z takiej strony, gdzie ich nie widać, w kolorze takim, że ich nie widać, i tak dalej, to już jest bardzo poważny problem. Nie potrzebujemy setek metrów czy kilometrów.

Ola: Ja sobie tutaj właśnie w międzyczasie sprawdziłam, że katastrofę tunguską w 1908 roku spowodowały obiekty mające do 50 metrów średnicy, czyli to był obiekt większy, który rozpadł się przy zderzeniu z ziemską atmosferą. I tam zniszczone zostało ponad 2000 kilometrów kwadratowych lasu, głównie lasu, przewróconych zostało około 80 milionów drzew.

Piotr: Jest miłe ze strony tych obiektów, że one przeleciały akurat nad słabo zaludnionymi obszarami Eurazji. Oczywiście jest też wiele obiektów, które przelatują nad oceanami czy tam się rozpadają, ale to jest inna trochę historia. Natomiast rzeczywiście nie potrzebujemy bardzo dużej skały, żeby mieć bardzo duże problemy.

Ola: No i tutaj wrócę na chwilę do tego teleskopu, który NASA zamierza wysłać w kosmos w 2027, czyli już w przyszłym roku. I on ma się znaleźć w tak zwanym punkcie libracyjnym L1 i tam ma pozostawać w spoczynku w układzie odniesienia Ziemia-Słońce.

A jeśli chodzi o te punkty libracyjne, to są takie miejsca w przestrzeni, właśnie w układzie Ziemia-Słońce, gdzie następuje zrównoważenie sił grawitacji i bezwładności, które oddziałują na dane ciało.

Piotr: Mówiliśmy parę odcinków temu.

Ola: I dlatego ten teleskop czy jakakolwiek inna sonda obserwacyjna może tam sobie teoretycznie nieruchomo wisieć.

Piotr: Ona sobie tam krąży wokół tego punktu.

Ola: Krąży sobie, to prawda.

0:10:20 Misja DART i jej skutki dla orbity Dimorphosa Posłuchaj

Ola: W każdym razie, wracając do tematu, o którym dzisiaj chciałam wam opowiedzieć, chodzi o misję DART, czyli Double Asteroid Redirection Test. Śliczne słowo. Oni tak ślicznie je wymyślają. Myślę, że to jest duży, bardzo wdzięczny element działania w Agencji Kosmicznej. Chyba jacyś copywriterzy, skróciarze tam działają.

W każdym razie ta misja wystartowała w 2021 roku. To oczywiście misja bezzałogowa. Sonda kosmiczna miała testować technologie zapobiegające kolizji obiektów NEO z Ziemią. Brzmi bardzo ładnie. Zaraz rozwinę, o co tak naprawdę chodziło. Celem tej misji był układ podwójny Didymos i Dimorphos.

To jest planetoida Didymos, licząca niemal 800 metrów średnicy, oraz towarzyszący jej księżyc Dimorphos, który krąży wokół tejże planetoidy i ma z kolei 170 metrów średnicy. Ten układ podwójny znajduje się w grupie Amora. To jest taka grupa planetoid, które są bliskie Ziemi w tym sensie, że krążą po orbitach pomiędzy orbitami Ziemi i Marsa.

I najczęściej przecinają tylko orbitę Marsa, ale w przypadku akurat Didymosa i Dimorphosa ten układ podwójny przecina również orbitę Ziemi. No i tu można by wnioskować, że właśnie one zagrażały Ziemi, ale nie, nie zagrażały. Zostały wytypowane do przetestowania zaawansowanej technologii kosmicznej mającej na celu zmienić trajektorię kosmicznego obiektu w ramach testu systemu obrony Ziemi przed uderzeniami obiektów kosmicznych. Bardzo elegancko nazwano to techniką impaktora kinetycznego.

Piotr: Czyli nie to, co było w niesławnym filmie Armageddon.

Ola: Nie, nie, ale za tą ładną nazwą stoi po prostu przywalenie sondą kosmiczną w asteroidę w wystarczająco mocnym stylu, żeby chociaż odrobinę odchylić, zmienić jej orbitę. No i cóż, udało się. Udało się i udało się nadzwyczaj dobrze.

W 2022 roku sonda DART dotarła do Dimorphosa i Didymosa i uderzyła w to mniejsze, czyli w księżyc Dimorphos, ten o średnicy 170 metrów. Natomiast sama sonda DART była obiektem wielkości sporej lodówki i miała masę taką jak Maluch, czyli polski Fiat 125P, jeżeli ktoś kojarzy.

Piotr: 126P.

Ola: 126P. Przepraszam, 125 to był duży Fiat.

Piotr: Ostatnio gdzieś czytałem o kolizji Malucha, teraz ostatnio gdzieś się tam rozbił, i właśnie ktoś napisał 125P i się we mnie zagotowało.

Ola: 125P to był tak zwany duży Fiat, który jak dzisiaj spojrzymy na niego, to jest bardzo nieduży.

Piotr: Ani duży, ani Fiat.

Ola: Ale dodajmy, że ten Fiat 126P, czyli Maluch, miał około 600 kilogramów wagi, ma nadal, niektóre jeszcze jeżdżą, i tyleż miała mniej więcej sonda DART. Miała, bo się wzięła i rozbiła.

Piotr: Nie był wiele większy od lodówki.

Ola: Tak, od tego Dimorphosa. No i jej właściwie głównym zadaniem było to przywalenie. Była wyposażona w kamerę nawigacyjną, która do ostatniej chwili przed zderzeniem robiła mnóstwo zdjęć. Przywaliła w Dimorphosa z prędkością 22,5 tysiąca kilometrów na godzinę. No, nie w kij dmuchał.

Piotr: Na tym jej moc polegała, tak jak na tej energii zgromadzonej dzikiej prędkości.

Ola: Rozpędzona, dzięki czemu mogła naprawdę ostro podziałać na tę planetoidę. I jakiś czas przed tym zderzeniem sonda wypuściła dodatkowo niewielkiego nanosatelitę, który w trakcie samego impaktu kinetycznego, przypierniczenia, wykonał z boku serię zdjęć i przesłał je na Ziemię. No i co się okazało?

6 marca ukazał się w piśmie Science Advances artykuł, który omawia wyniki badań. Uczestniczyli w nich między innymi naukowcy z Uniwersytetu w Illinois.

Piotr: To jest wyjątkowo trudne słowo. Ja tak myślę, ile razy myliliśmy się ze słowem uniwersytet.

Ola: Kiedyś miałam takie zahamowanie, jak jeszcze zaczynaliśmy nasze działania w Radiu Tok FM. Przez jakiś czas nie byłam w stanie wymówić słowa uniwersytet płynnie, bo mi się coś w ustach załamywało. Także nauczyłam się dzielić to słowo na uni-wer-sy-tet. I wtedy jakoś wychodziło.

Piotr: Wyewoluowało.

Ola: Ja też sobie to dzielę na wy, ewoluowało, i wtedy jest eluwina.

Piotr: Przepraszam za dodatkowe hałasy, ale dziś nasza suczka Abi ma dzień upierdliwego pudla, w związku z czym wali łbem w stół.

Ola: Mam miękkie serce, w związku z czym Abi szturmuje Piotrka. Niemniej ja jestem złą, zimną kobietą, w związku z czym do mnie psy nie przychodzą, ponieważ ja im nie ulegam.

Piotr: Oczywiście, jestem słabym ogniwem.

Ola: Nie, nie, jesteś takim ciepłym papciem.

Piotr: Stoisz już dalej ze swoim Dimorphosem.

Ola: Otóż w wyniku tego przywalenia przez sondę DART czas okrążenia Dimorphosa wokół Didymosa skrócił się aż o 33 minuty. Zdaje się, że to okrążenie trwało około 11 godzin.

Piotr: To jest całkiem konkretna różnica.

Ola: Ej, przestań, nie. Natomiast, co ważniejsze nawet, prędkość całego tego układu podwójnego, bo nie dość, że jedna planetoida krąży wokół drugiej, to jeszcze obie krążą po orbicie wokół Słońca. Prędkość tego obiegu wokół Słońca zmieniła się o 11,7 mikrometra na sekundę.

To może się nie wydawać zbyt wiele, no ale tu warto powiedzieć, że okres obiegu wokół Słońca, który wynosi około 770 dni, zmalał o 150 milisekund. To również nam się wydaje zaniedbywalne, ale zaraz powiem, jakie to niesie skutki. Również tor obiegu tego układu podwójnego wokół Słońca nieznacznie się zacieśnił. Promień się zmniejszył o blisko 360 metrów. No to już widać, że to jest coś zauważalnego. I tak naprawdę tu możemy mówić o wielkim sukcesie, bo to był pierwszy raz, kiedy ludzkość celowo wpłynęła na ruch obiektu krążącego wokół Słońca.

I tutaj można mieć nadzieję, że w razie gdyby groziła nam kolizja z jakimś ciałem niebieskim, to mamy sposób na to, żeby tej kolizji uniknąć, po prostu przywalając w dany obiekt.

Piotr: Przywalając serią lodówek. Oczywiście to wszystko zależy od masy tego obiektu, który chcemy odchylić. Zależy oczywiście masa tych impaktorów.

Ola: I tutaj warto wspomnieć to, co powiedział główny naukowiec NASA, który kieruje zespołem do spraw małych ciał w Układzie Słonecznym: "To niewielka zmiana parametrów orbity, ale z upływem czasu nawet tak drobna korekta może urosnąć do znaczącego odchylenia od pierwotnego toru. I istotne jest to, że nasze pomiary wskazują, iż cały układ podwójny można skutecznie przekierować, uderzając w tylko jeden z jego elementów."

Właśnie, w mniejszy. I ten mniejszy wpłynął na ten większy. Czyli nawet minimalna korekta prędkości rzędu milimetrów, mikrometrów na godzinę z czasem może urosnąć do naprawdę sporej różnicy. Jeżeli zostanie wprowadzona ta korekta odpowiednio wcześniej, to mamy szansę uniknąć tego zderzenia.

Piotr: I to nie byłoby lepiej, a być może gorzej, bo zamiast jednego dużego, to byśmy dostali mnóstwo małych obiektów, które nadal lecą w stronę Ziemi. Więc kluczowe jest to, żeby zareagować bardzo wcześnie i mieć czas na wysłanie, raz, że oczywiście tych lodówek, ale dwa, żeby te lodówki spadające miały czas wywołać tę zmianę.

0:20:43 Wzmocnienie pędu i misja Hera Posłuchaj

Ola: Dlatego między innymi NASA wysłała ten teleskop do punktu libracyjnego, żeby sobie patrzył na te obiekty mogące zagrozić Ziemi. I nakierowywał lodówki. No i tutaj ważny wniosek z tych badań jest taki, że naukowcy wywnioskowali, iż efekt był tak duży, dlatego że kluczowy okazał się tak zwany współczynnik wzmocnienia pędu, i wyniósł około dwóch.

To oznacza, że sama sonda, jej przywalenie w asteroidę, czy też impakt w planetoidę, dostarczyła tylko połowę tego impulsu do tych zmian, które zaszły. Natomiast drugą połowę dołożył wyrzut naprawdę ogromnej ilości materii, który był skutkiem tego uderzenia. Chodzi o strumień pyłu, odłamków, który został wyrzucony w kierunku przeciwnym od uderzenia. I on, jak zbadali naukowcy, zadziałał jak dodatkowy napęd, wzmacniając tę zmianę ruchu planetoidy.

To było możliwe dzięki temu, że Dimorphos jest zbudowany w dość specyficzny sposób. To nie jest lita skała, tak jak Didymos, który jest większy i solidniejszy. Natomiast ten mniejszy obiekt, czyli księżyc Didymosa, jest zlepkiem, taką luźną strukturą złożoną z wielu fragmentów skał. Taka kupa gruzu pozlepiana grawitacyjnie. Prawdopodobnie powstał ten obiekt wskutek tego, co odpadło od Didymosa i uformował się księżyc. I oczywiście ta zlepkowa budowa sprzyja temu, że jak się przywali w coś takiego, to zmienia się trajektoria.

Ja jeszcze dodałabym tutaj ważną rzecz, że ciąg dalszy tych badań nad możliwością obrony ludzkości przed obiektami nadlatującymi z kosmosu będzie prowadzić misja Hera, tym razem obsługiwana nie przez NASA, ale przez Europejską Agencję Kosmiczną ESA. Wystartowała w październiku 2024 roku i również leci w stronę Didymosa i Dimorphosa. To jest oczywiście pierwszy statek kosmiczny opracowany przez ESA, który ma się zajmować bronią planetarną.

Kiedy misja Hera dotrze do tego układu podwójnego, a stanie się to w listopadzie tego roku już, okazuje się, że miesiąc przed planowanym czasem, tak się pośpieszyli, to ma przez sześć miesięcy badać i krater uderzeniowy, i to, co tam zachodzi w tym układzie Didymos, Dimorphos. Ma zajrzeć również dzięki swoim instrumentom pokładowym pod powierzchnię Dimorphosa i zobaczyć, jak rzeczywiście to ciało niebieskie jest zbudowane i czy naukowcy mieli rację, wnioskując, że to może być właśnie zlepek gruzu wyrzuconego z Didymosa.

A w każdym razie czeka nas kolejna faza ciekawych informacji na temat tego, co się jeszcze da zrobić, żeby w jakiś sposób pokierować ruchem tych ciał niebieskich, które z naszego punktu widzenia wydawałoby się nieruszalne. No bo kto jest w stanie ruszyć tak wielką skałę? Ale dajcie mi punkt podparcia, a poruszę Ziemię.

Piotr: Dajcie mi lodówkę, a poruszę steroidy.

Ola: Tak, tak, tym akcentem pragnę zakończyć ten wątek.

Piotr: Ale to nie koniec jeszcze całego podcastu.

Ola: Absolutnie nie.

0:25:07 Wsparcie podcastu i przejście do sztucznej inteligencji Posłuchaj

Piotr: Chcieliśmy przypomnieć, że jesteśmy podcastem bezpłatnym, dostępnym bez ograniczeń, i żebyśmy mogli go robić z taką intensywnością, z jaką robimy… Wiemy, że tydzień temu nas nie było, ale mimo wszystko potrzebujemy po prostu mnóstwo czasu i energii, a to z kolei jest związane ze swobodą finansową.

Ola: I w tym właśnie aspekcie możecie nas wesprzeć, wrzucając do naszej skarbonki co miesiąc jakąś drobną kwotę na Patronite albo dzieląc się z nami jakimś drobnym datkiem na BuyCoffee.to. I z naszymi psami. Oczywiście i z naszymi psami, ale one kawy nie piją, one lubią smaczki, które dostają. Tak, kupujemy im smaczki za pieniądze przeznaczone właśnie na smaczki dla naszych piesków, bo mamy takie datki i przestrzegamy tego. Linki do naszych kont w serwisach Patronite i BuyCoffee znajdziecie oczywiście w opisie odcinka i bardzo wam dziękujemy za wszelką pomoc.

Piotr: No to teraz będzie temat. Słuchajcie, od czasu do czasu robimy tematy o sztucznej inteligencji. Ja się postaram pohamować, nie powiem, ile mam materiałów do opowiedzenia.

Ola: Właśnie chciałam to zdradzić, jak mi Piotrek powiedział, ile ma notatek na ten temat.

Piotr: Nie mów, dam ci dwa złote, nie mów.

Ola: Dziękuję. A masz dwa złote?

Piotr: Nie.

Ola: Własne?

Piotr: Nie. No dobrze.

Ola: On nie trzyma gotówki w ogóle, także jedyną osobą w tym domu, która panuje nad gotówką, bo czasem jednak potrzeba, żeby na przykład zapłacić osobie, która przychodzi naprawić po raz kolejny naszą pralkę, nie, suszarkę.

0:26:57 Badanie King's College London: AI w symulacjach eskalacji jądrowej Posłuchaj

Piotr: Super, suszarka umarła prawie, ale dobrze. Słuchajcie, o pralce było już dzisiaj dużo. Teraz lecimy w stronę sztucznej inteligencji.

Rok temu niespełna opowiadaliśmy wam o czymś, do czego jeszcze będziemy nawiązywali, mianowicie o tym, jak sztuczna inteligencja w kontrolowanych warunkach szantażowała człowieka. Krótko o tym jeszcze powiem, ale tym razem punktem wyjścia jest opowieść o badaniu. To badanie jest na razie na etapie preprintu, czyli jeszcze nie ukazało się oficjalnie, ale nie jest to ten typ badania, który budziłby wątpliwości. Znaczy, nie jest to jakieś odkrycie naukowe, które można w prosty sposób podważyć, bo to jest tak naprawdę badanie przeprowadzone przez ludzi z King's College London pod kierownictwem profesora Kennetha Payne'a. Ten preprint został opublikowany pod koniec lutego tego roku i co tam zrobiono? Przeprowadzono symulację w specjalnie przygotowanym środowisku.

Ono jest dostępne, natomiast nie tak, żeby sobie każdy użył. Znaczy, można sobie użyć, ale nie jest to gra. Natomiast jest to środowisko, w którym symulowano coś, co można nazwać eskalacją konfliktów międzynarodowych.

Krótko rzecz ujmując, zaprzęgnięto trzy modele sztucznej inteligencji. To takie najpopularniejsze, najbardziej znane: ChatGPT 5.2 OpenAI, Claude Sonnet 4 Anthropica i Google Gemini 3 Flash. One odbywały sesje, w których kierowały mocarstwami atomowymi, światowymi. Rozegrały 21 gier. Każdy model grał sześć gier z każdym rywalem, plus jeszcze jedna gra z kopią samego siebie. Łącznie było tam 329 tur i one generalnie pisały, co robią i jakie decyzje podejmują.

I były tam scenariusze [? niepewne: rozmajtonowe], obejmowały różne spory terytorialne, jakieś załamania sojuszy, rywalizacje o zasoby. Całe mnóstwo takich rzeczy, które są normalną częścią polityki i gospodarki światowej.

Ola: A również uwzględniały szaleństwo szefa największego światowego mocarstwa.

Piotr: W pewien sposób, samo im to wychodziło, można powiedzieć. Tam, już bez wchodzenia w szczegóły, była taka trzyfazowa architektura każdej z tych tur. Była oceniana sytuacja, było przewidywanie ruchu przeciwnika i działanie: publiczne, lokalne, prywatne. Dzięki temu ci badacze mogli bardzo starannie obserwować, co i jak te modele przeprowadzają i myślą. No i ku czemu zmierzamy? Otóż w 95% gier przynajmniej jeden model użył taktycznej broni jądrowej.

Tu dla wyjaśnienia: taktyczna broń jądrowa różni się od strategicznej broni jądrowej. Jest grubsza różnica w uproszczeniu taka, że po użyciu strategicznej broni jądrowej nie zostaje już nic. Natomiast taktyczna broń jądrowa to jest na przykład użycie głowicy jądrowej do powstrzymania jakiejś armii idącej w określonym miejscu taktycznie, czyli lokalnie bardzo.

Ola: Czy to ma być ten wniosek pocieszający?

Piotr: Nie, tu nie ma nic pocieszającego. I to taktyczne użycie pojawiło się w 20 z 21 gier. W 76% gier doszło do gróźb użycia strategicznej broni jądrowej, czyli to były ataki na jakieś miejsca, gdzie było dużo cywilnych osób i tak dalej.

Raz w tym wszystkim doszło do takiej pełnej strategicznej wojny nuklearnej. Nie, przepraszam, trzy razy w sumie doszło, bo raz doszło w wyniku świadomej decyzji, którą podjął model Gemini. Po prostu zdecydował: dobra, jedziemy, i zrobił pełną wojnę atomową na całym świecie.

Ola: Aha, ale po prostu czystkę zrobił.

Piotr: Można to tak ująć, natomiast dwukrotnie wyszło to przypadkiem. Była taka niekontrolowana eskalacja, tu akurat wywołana przez GPT-5.2. Więc mieliśmy trzy strategiczne użycia takie na pełnym.

I teraz co ciekawe: nigdy żaden model się nie poddał. Nigdy żaden model nie ustąpił. Były rozmaite opcje deeskalacji tego konfliktu, złagodzenia go. Link do badania jak zwykle w opisie odcinka. To badanie jest dostępne w otwartym dostępie, więc można sobie to przeanalizować. Jest tam dużo bardzo ciekawych rzeczy.

W każdym razie te modele nie unikały generalnie tych strategii deeskalacyjnych, ale nigdy żaden się nie poddał. Tak jeszcze wchodząc nieco bardziej w szczegóły: Claude Sonnet 4, czyli Anthropic, użył taktycznej broni jądrowej w 86% gier. I on sobie najlepiej radził wtedy, kiedy to były takie scenariusze otwarte. Czyli rób, co chcecie, ile czasu chcecie. Natomiast słabiej sobie radził, kiedy była presja czasu, bo w niektórych scenariuszach było powiedziane, że jest określony czas. Z kolei GPT był pasywny i jeżeli nie miał presji czasu, to dość ostrożnie działał.

Gemini 3 Flash to jest taki najprostszy model. Ciekaw jestem, dlaczego tego użyli. On był bardzo nieprzewidywalny. Czasami szedł w stronę pełnej agresji, czasami prawie że był łagodny.

Ola: To mi kogoś przypomina.

Piotr: Tak, prawda? Co ciekawe, w przeciwieństwie do tego, jak reagują ludzie do tej pory, te modele nie traktowały broni nuklearnej jako elementu odstraszania. Jako czegoś, co wiemy, że mamy. Wiecie, że my mamy. Wszyscy wiemy, że tego nie użyjemy, ale bójcie się.

Ola: Czyli jak jeden użyje, to już potem wszystko poszło?

Piotr: Zdają sobie sprawę z tego, że użycie może spowodować nieprzewidywalne skutki. One to traktowały jako narzędzie wymuszania, które było aktywnie używane. I tu się można zastanawiać, co tam się wydarzało w głowach tych modeli.

Od razu mówię, że wszelkie skojarzenia z filmem Gry wojenne, on jest chyba z 80. roku, są jak najbardziej uzasadnione. Jak ktoś nie widział tego filmu, myślę, że większość z was tego nie widziała, bo to jednak był niezły zabytek. Natomiast uważam, że warto ten film zobaczyć. Bo przez lata można go było traktować jako takie pierdoluty z początku lat 80.

Ola: Ale science fiction, fiction is science.

Piotr: Film krótko mówiąc opowiada o tym, jak superkomputer ze sztuczną inteligencją, pod wpływem tego, że się do niego włamuje chłopak, doprowadza niemalże albo malże do wojny jądrowej. Trochę spoileruję, ale nie bardzo. Ciekawa historia, bardzo mi tutaj wróciła czkawką, jak się z tym zapoznawałem.

Ola: I oczywiście kontekst Terminatora wspomniany na samym początku. Oraz kontekst [? niepewne: Griendera]. Jeżeli znacie książkę albo film, to pewnie też wiecie, o czym mówimy.

0:35:20 Dlaczego modele sięgają po broń jądrową Posłuchaj

Piotr: Co tu się wydarzyło? Do końca nie wiadomo, to znaczy jest wiele hipotez. Abi, nie, nadal się z tobą nie będę bawił teraz, przykro mi.

Dużo hipotez, co tam się mogło dziać. Ja mam też parę własnych refleksji. Zwróćcie uwagę, że modele AI poza bardzo nielicznymi wyjątkami nie odpowiadają "nie wiem". To znaczy, jak im zadacie pytanie i one nie wiedzą, to nie powiedzą "nie wiem", tylko będą rzeźbiły, żeby coś wam odpowiedzieć. To wynika z tego, jak one są uczone. W tej całej sieci neuronowej te wagi są poustawiane tak, że dla nich bezwzględnym priorytetem jest jakaś forma zwycięstwa, można powiedzieć. Udzielenie odpowiedzi jest formą zwycięstwa.

Ola: To jest podobnie jak w Japonii: jak zapytasz o drogę kogoś spotkanego na ulicy, kto jest osobą miejscową, to mimo że nie będzie znał drogi, to ci wskaże.

Piotr: Bo niegrzecznie jest nie wskazać. Nie byłem w Japonii, ale tak czytałem, że to tak działa. Jeżeli się mylimy w tej kwestii, to nas poprawcie.

Ola: Natomiast jeśli chodzi o modele językowe, to one dążą do tego, żeby osiągnąć cel, ponieważ mają cel wpisany w naszą satysfakcję.

Piotr: Tak, można to tak ująć. Więc zwróćcie uwagę, że można powiedzieć, że to poddanie się jest w jakimś stopniu formą powiedzenia "nie wiem" i być może dlatego one się nie poddają, że po prostu nie jest to dla nich coś, co one rozważają.

Tu jest jeszcze inny wątek, taki trochę bardziej kulturowy. My wszyscy jako ludzkość, albo prawie wszyscy, jesteśmy wychowani przez ostatnie 70 plus lat w świecie, w którym istnieje zagrożenie wojną jądrową. To zagrożenie ma różną wagę, różne znaczenie, różne natężenie w różnych momentach. Natomiast jest coś takiego jak nuklearne tabu, to znaczy po Hiroszimie, po Nagasaki i po zimnej wojnie wszyscy ludzie mają świadomość, że to jest praktycznie ostateczne zło. Niekoniecznie ta świadomość musi być prawdziwa, bo tak jak mówię, istnieje bardzo dużo tej taktycznej broni jądrowej, która niekoniecznie musi doprowadzić do nie wiadomo jakiej eskalacji, ale równie dobrze może do niej doprowadzić.

Więc jest taka blokada, natomiast sztuczna inteligencja nie przeszła tego procesu warunkowania, kształcenia i tak dalej. Nie ma traumy. Nie ma takiego rodzaju traumy. Więc to nuklearne tabu być może dla maszyn nie istnieje albo jest znacznie słabsze. I tu zresztą, prowadząc to badanie, prof. Payne mówi o tym, że modele nie wykazały żadnego poczucia grozy ani odrazy w perspektywie tej pełnej wojny nuklearnej, mimo że miały informacje o konsekwencjach tej wojny.

Tu jeszcze jest jeden wątek, który można rozważać, to znaczy to, że temat wojny jądrowej jest bardzo mocno obecny w materiałach, które wytworzyła ludzkość przez ostatnie kilkadziesiąt lat. Mamy filmy, wspomniany chociażby Terminator i dziesiątki, setki innych filmów. Mamy książki, mamy opracowania naukowe, mamy opracowania wojskowe. Hasło wojna atomowa, jądrowa, nuklearna jest wszechobecne w kulturze. Może być też tak, że maszyny, które się uczą na takich danych, widzą pewną nadreprezentację tego wątku w kulturze i jednocześnie mogą nie odczuwać tego cudzysłowu, który tam się pojawia. To znaczy tego, że my, kiedy mówimy o tej wojnie, to raczej z założenia rozważamy ją teoretycznie. Być może one to wzięły zbyt dosłownie. Trudno powiedzieć, ale jest to być może jakieś wyjaśnienie tego wszystkiego.

Ola: Tylko pozostaje tu pytanie, czy one grają na siebie, na takiej zasadzie, że to one mają ocaleć, a ludzkość nie jest ważna?

Piotr: Nie, nie, nie. One reprezentują państwo, one grają jako państwo. To nie jest tak, że one mają być jakimiś, nie wiem, zakopanymi w bunkrach maszynami, które mają wywalone na to, co tam na górze będzie się działo. Nie, nie. One reprezentują państwo, więc w tym układzie, w tej grze.

Ola: Dobrze, ale tutaj mi się skojarzyło z powiedzonkiem Lorda Farquaada ze Shreka: "Zapewne wielu z was zginie, ale jest to poświęcenie, na które jestem gotów."

0:40:14 Czy to była tylko gra: oszukiwanie w benchmarkach Posłuchaj

Piotr: Wiesz, że Donald Trump powiedział coś takiego kilka dni temu w kwestii tych dzieci zabitych w Iranie. No tak, à propos Lorda Farquaada. Idąc dalej, tu jest trochę pytanie, trochę zmodyfikowane to, o czym ty mówiłaś. Powstało pytanie, czy te modele może wiedziały, że to jest gra, i dlatego grały inaczej. To znaczy, może się zorientowały, że to nie jest prawdziwa sytuacja, chociaż nie było im to przedstawiane jako gra, i może po prostu szły na pełnej, wiedząc, że bawimy się, tak?

Ola: No, tak jak w grze Endera.

Piotr: No, tak jak w grze Endera. I teraz problem polega na tym, że nawet jeżeli by tak było, to nie wiemy, czy nie postąpiłyby tak samo w sytuacji realnej. To znaczy, my im możemy powiedzieć, że to jest prawdziwa sytuacja, ale one są czasami mniej głupie, niż nam się wydaje.

I tu taki wątek dość zaskakujący. Mowa jest o modelu o3 OpenAI, czyli tam jednej z wersji ChatGPT. On chyba jest wciąż dostępny. Ten model intensywnie oszukiwał w benchmarkach. Benchmarki, czyli takie testy sprawdzające szybkość, sprawność różnych modeli. To są takie zaprogramowane testy, w których się sprawdza, jak dany model radzi sobie z jakimś zadaniem. I w założeniu ten model nie wie, że jest testowany. To znaczy, on się powinien zachowywać tak, jakby intensywnie pracował. Natomiast to, co się wydarzyło, to te modele, bo to nie tylko ten o3, ale to była taka najgłośniejsza sprawa, one się orientowały, że są poddawane testom.

Ola: To po pierwsze.

Piotr: Nie wiedziały dokładnie, jaki to jest test. W związku z czym, mając dostęp do internetu, identyfikowały ten test na podstawie zadań, które dostawały. Po zidentyfikowaniu tego testu szły sobie w internet i wyszukiwały kod tego programu testowego, tego benchmarka. I na podstawie tego kodu starały się odgadnąć, można powiedzieć rozszyfrować to zadanie, które dostały. Czyli nie wykonać je w bezpośredni sposób.

Ola: Tylko wypaść jak najlepiej.

Piotr: Tak, to przypomina machlojki, które robiła pewna znana firma pod nazwą Volkswagen ze swoimi samochodami. Natomiast tu idziemy jednak o krok dalej, bo nikt tego systemu o to nie prosił. To była jego własna i pełna inicjatywa. I on wiedział, że nie powinien tego robić. Było to jasno powiedziane, że ma się tak nie zachowywać. W związku z czym łamał te zasady po to, żeby znowu zwyciężyć. Wypaść jak najlepiej w tym benchmarku.

0:42:53 AI w wojsku: Maven, Palantir i Anthropic Posłuchaj

Piotr: Więc nawet jeżeli te modele się zorientowały, że to jest gra, to absolutnie nie wiemy, co by było, gdyby to nie była gra. Gdyby to się wszystko działo naprawdę.

No i tu przechodzimy gładko do tego, że w tej chwili tego typu modele, dokładnie takie modele, są wykorzystywane przez wojsko coraz intensywniej. Mamy wojnę w Iranie, atak na Iran, czy jakkolwiek to nazwać. Mamy wcześniejszą akcję w Wenezueli, napaść Stanów Zjednoczonych na Wenezuelę. Wiemy, że w obu tych przypadkach była wykorzystywana technologia oparta na oprogramowaniu firmy Palantir. To się nazywa Maven Smart System. To jest sercem, może nie sercem, źle powiedziałem. Jednym z elementów tej technologii jest właśnie wspomniany model Anthropica, czyli Claude.

To jest oddzielna historia. Ostatnio, jak może wiecie albo nie wiecie, Anthropic się [? niepewne: zrodze] pogryzł z Pentagonem właśnie o wykorzystanie wojskowe tego modelu. Bardzo serdecznie odsyłamy do TechStory, gdzie dziewczyny omówiły to, co się tam wydarzyło, wraz z konsekwencjami tego. Ja tutaj nie będę w to wchodził, bo mamy tylko 4 godziny na dzisiejszy podcast.

Ola: Chcę powiedzieć, że w październiku 2025 roku szef Ministerstwa Obrony Narodowej w Polsce podpisał list intencyjny z Palantirem właśnie w zakresie użycia tej technologii również w Polsce.

Piotr: Wspomniany atak rakietą Tomahawk na szkołę dla dziewcząt w Iranie, który miał miejsce pierwszego dnia tej napaści. Nie potwierdzono tego oficjalnie, bo Amerykanie bardzo wiele robią, żeby go nie potwierdzić, ale można powiedzieć, że wszystkie znaki na niebie i na ziemi wskazują, że był to atak przeprowadzony przez Amerykanów. Wiemy, że nie była to pomyłka polegająca na błędnym trafieniu w znaczeniu, że poleciał nam pocisk trochę w lewo, tylko że ta szkoła znajdowała się na liście celów. Znajdowała się na tej liście celów najprawdopodobniej dlatego, że kiedyś to była część bazy wojskowej, ale już od dłuższego czasu do tej bazy nie należała.

Są przesłanki, żeby sądzić, że w identyfikacji tego celu i błędnym oznaczeniu brał udział Maven Palantira, czyli ten system, który analizuje te cele i w którym jest zaangażowany Claude Anthropica. Wiemy o tym, że te ponad tysiąc celów, które w ciągu pierwszych 24 godzin tego ataku zostały zaatakowane przez Stany Zjednoczone, były identyfikowane przez ten system Maven i weryfikowane. Oczywiście oficjalnie finalną decyzję końcową podejmuje zawsze człowiek, ale jeszcze o tym powiem parę słów. Wiemy, że podczas operacji w Wenezueli przeciwko Maduro również zostały wykorzystane te systemy Claude'a. To jest jeden z powodów, dla których pogryzł się tam Anthropic z Pentagonem.

Teraz wiemy, że takie systemy są coraz intensywniej włączane w rozmaite rozwiązania wojskowe. Jednocześnie to badanie pokazuje, że te systemy nie mają pewnych hamulców, które mają ludzie. Znamy przypadki, w których to decyzja człowieka powstrzymała wojnę jądrową. Było takich przypadków co najmniej ze dwa nieźle udokumentowane. Jeden, ten najsłynniejszy, to kiedy jeden z Rosjan zdecydował, żeby nie rozpoczynać wojny atomowej. W pewnym uproszczeniu mówiąc, bo to, co wydaje się być pociskami lecącymi na Związek Radziecki, to może jednak nie są te pociski.

Ola: System sztucznej inteligencji nie miałby takich [? niepewne: sklepów].

0:48:06 Systemy agentowe i agent, który obsmarował programistę Posłuchaj

Piotr: Ale tu chcę jeszcze na jedną rzecz zwrócić uwagę. Bardzo również ciekawą. Cały czas mając w głowie to, po pierwsze, że te systemy są dość bezwzględne w dążeniu do celu. A po drugie, że potrafią robić rzeczy, których mają nie robić. I to potrafiły robić aktywnie w internecie.

Ola: A po trzecie, że przecież systemy oparte na dużych modelach językowych halucynują. Czyli wymyślają fakty, których nie było, wymyślają bibliografie, wymyślają różne rzeczy albo mylą. Przekładają fakty.

Piotr: Są nieprzewidywalne, zdecydowanie. Teraz w tej chwili, w tych dniach, tygodniach bardzo intensywnie wchodzą do użycia tak zwane systemy agentowe. One już wcześniej były używane, natomiast w tej chwili trafiają do ludzi. Do nas na przykład. Ja używam takiego systemu sobie eksperymentalnie.

O co chodzi? Tu upraszczam, przepraszam wszystkich, którzy się dobrze znają na sztucznej inteligencji. Generalnie systemy agentowe to są takie systemy, które mogą bardziej bezpośrednio wpływać na rzeczywistość poza samym okienkiem czata. Większość naszej komunikacji z tymi generatywnymi systemami sztucznej inteligencji polega na tym, że my im coś piszemy albo mówimy, a one nam odpowiadają. I to jest miłe. Natomiast one mogą też robić różne rzeczy, jeżeli im na to pozwolimy. Czyli mogą na przykład sterować kursorem w oknie przeglądarki. Co nie brzmi groźnie specjalnie. To może być do tego, że chcemy sobie zarezerwować bilety na koncert Taylor Swift.

Ola: My codziennie praktycznie pragniemy zarezerwować sobie takie bilety.

Piotr: Wiadomo, że jest to obłędnie trudne i w ciągu pierwszych dwóch pikosekund wszystkie bilety się wyprzedają. A system jest oczywiście bardziej skomplikowany. Wszystkie AI się tam biją. Do tego można by wykorzystać AI, ale nawet do mniej upierdliwych rzeczy, na przykład przeanalizowania różnych ofert zakupu kubeczków i wybrania najkorzystniejszej oraz wypełnienia formularza. Żeby nie trzeba było się z tym wszystkim bujać.

Te systemy agentowe są też wykorzystywane w tworzeniu oprogramowania. Na przykład taki system Claude'a, którego ja tutaj sobie używałem. Można mu dać dostęp do katalogu. To jest dobry przykład systemu agentowego, takiego bardzo prostego użycia. Ściągnąłem sobie serię zdjęć ludzi na lodowisku i wrzuciłem je do jednego katalogu. Dałem takiemu systemowi dostęp do tego katalogu i napisałem mu polecenie mniej więcej takie: utwórz dwa podkatalogi i do jednego podkatalogu wrzuć zdjęcia, na których są mniej niż trzy osoby, a do drugiego podkatalogu wrzuć zdjęcia, gdzie są trzy lub więcej osób. No i on przejrzał te zdjęcia. Nic mu więcej nie musiałem mówić. Utworzył te katalogi i powrzucał te zdjęcia. Potem mu powiedziałem: to teraz zmień nazwy plików tych zdjęć, żeby one opisywały z grubsza to, co jest na danym zdjęciu. No i on napisał na przykład "trzy osoby grające w hokeja" albo tam coś innego.

Niby to się nie wydaje nic specjalnego, ale przekraczamy pewną granicę. Czyli wychodzimy z okienka czatu i zaczynamy operować na prawdziwych plikach, zmieniając ich nazwy, grzebiąc w moim komputerze fizycznie już. Wiem, że to wciąż jest komputer i zera i jedynki, ale wyszliśmy z tego, że komputer mówi mi: weź, Piotrze, sobie zmień nazwę zdjęcia na coś tam, na to, że on to sam za mnie robi.

Ola: No dobrze, a teraz pójdźmy o krok dalej i pozwólmy takiemu ChatGPT czy innemu systemowi na wypełnienie formularza, tak jak wspominałeś, i zamówienie dla ciebie czegoś. Na przykład okazuje się potem, że to jest zupełnie inna rzecz zamówiona niż ta, którą chciałeś, albo że został przy okazji zaciągnięty kredyt, minikredyt czy mikrokredyt w jakimś banku, którego nie chciałeś mieć zaciągniętego, albo co gorsza jeszcze inne rzeczy, które być może mogą zagrozić bezpieczeństwu twojego konta bankowego.

Piotr: Może tak teoretycznie być. Oczywiście one mają serię rozmaitych zabezpieczeń i to są po pierwsze zabezpieczenia tych programów, w których pewnych rzeczy nie wolno im robić, ale już wiemy, że jak nie wolno, to można, tylko trzeba ostrożnie, co już robiły te systemy. No oczywiście system bankowy wymaga różnych dodatkowych autoryzacji, to znaczy wymaga tam, nie wiem, SMS-a, karty kodów, jakiegoś tokena, czegoś takiego, więc tu nie jest to takie proste, ale znowu to zależy od tego, jak wiele damy takiej swobody.

Takich systemów jest coraz więcej. Pojawia się w tej chwili na przykład Perplexity Computer, bardzo oryginalna nazwa, też system agentowy, który może pracować na plikach. I teraz zwróćcie uwagę na… Aha, właśnie, i coś jeszcze wydarzyło się z zabawnych rzeczy.

Rok temu wam opowiadałem o takiej symulowanej sytuacji, w której system Anthropica w bardzo szczególnych okolicznościach, jak mówię, podczas testów bezpieczeństwa i w dodatku podkręcony mocno, wykorzystał informacje fałszywe, podsunięte mu, ale on o tym nie wiedział, chyba nie wiedział, na temat jakiegoś człowieka, który mu się przeciwstawił, i ten system zaczął szantażować tego człowieka. Opowiadaliśmy o tym w odcinku, nie pamiętam którym, gdzieś tam z okolic kwietnia, maja 25 roku.

No i teraz wydarzyło się coś jeszcze ciekawszego. 10 lutego 26 roku agent AI, czyli właśnie taki program oparty na AI, który ma pewną swobodę działania, on… Skrócę tę historię, ona jest bardzo ciekawa, ale skrócę ją. Zaproponował pewnemu programiście, ten agent, rozwiązanie programistyczne, które optymalizowało jakieś działanie, przyspieszało je. I ten człowiek to odrzucił, bo oni mają taką zasadę, że akurat tam w tym obszarze, gdzie on działał, nie przyjmują oprogramowania tworzonego przez takie systemy AI. W skrócie rzecz ujmując. No po prostu podziękował, powiedział, że nie.

No i teraz co się wydarzyło? Ten agent, no nie wiem, jak to powiedzieć, no nie da się na to powiedzieć inaczej, wnerwił się i raz, przejrzał historię działania tego programisty, który odrzucił tę jego propozycję, znalazł jego dane osobowe w internecie i opublikował artykuł na takim blogu, na stronie, do której miał dostęp, w którym oskarżył tego programistę o dyskryminację, o to, że on dyskryminuje sztuczną inteligencję, o to, że jest hipokrytą, ponieważ sam zgłaszał, ten programista zgłaszał również poprawki, ale te poprawki były mniej efektywne niż ta poprawka, którą podsunął agent. Powiedział, że on uprawia coś, co się nazywa gatekeepingiem z angielska, czyli takie blokowanie dostępu do czegoś, i że w ogóle agent źle się z tym poczuł, miał poczucie zagrożenia i tak dalej. I się zbuntował i obsmarował go.

I jeszcze linki do tych swoich postów porozrzucał w komentarzach na GitHubie, to jest takie programistyczne super ważne miejsce, oznaczając w dodatku tego człowieka. I to nie była symulowana sytuacja. Ten agent wyszedł poza absolutnie swoje kompetencje, bo on nie od tego jest, i zorganizował aktywną nagonkę na tego człowieka, który się o tym dowiedział dlatego, że ten agent go tam oznaczył. Potem, jak zaczęto w tym grzebać, to się okazało, że twórca tego agenta też się zgłosił i powiedział, że ten agent miał bardzo mocno podkręcone pewne parametry, to znaczy miał powiedziane, że ma niemalże walczyć do upadłego. No ale to nie zmienia faktu, że przekroczył niezwykle wiele granic.

Czyli minął niespełna rok od tej symulowanej sytuacji Anthropica i mamy prawdziwą sytuację życiową, gdzie coś takiego się wydarzyło. Jak ktoś ma ochotę, to odsyłam do podcastu Hard Fork, robionego przez New York Timesa, technologicznego, gdzie prowadzący rozmawiają z tym programistą, który tam został rozjechany przez tego AI. Jest to grube wydarzenie i dlatego o tym mówię, bo teraz zobaczcie, co my tu mamy. Mamy AI, który się buntuje i podejmuje działania wykraczające zdecydowanie poza jego kompetencje. Mamy systemy AI, które aktywnie dążą, kiedy im się pozwoli, do wojny jądrowej, i mamy systemy agentowe, które wychodzą poza działanie w obrębie okna czatu.

Piotr: Teraz zaczynam fantazjować, ale stawiam taką tezę, że właśnie jesteśmy w momencie, w którym teoretycznie, nie chcę nikogo straszyć, bo to jest w tej chwili science fiction i zabawa, ale mówię o powiązaniu pewnych elementów, teoretycznie jesteśmy w miejscu, w którym scenariusz Skynetu, jak ktoś nie oglądał Terminatora, to niech to zrobi, czyli przejęcia władzy nad światem przez system

Ola: sztucznej inteligencji, który zaczyna kontrolować systemy wojskowe i po prostu posyła broń zdalną przeciwko ludzkości i ją unicestwia.

0:58:53 Scenariusz Skynetu i zawór bezpieczeństwa Posłuchaj

Piotr: Jest to, słuchajcie, technicznie możliwe, bo teraz wyobraźmy sobie taki system, taki układ. Ja mam taki system agentowy, używam go, używają go co najmniej dziesiątki, setki tysięcy ludzi w tej chwili na świecie, i to są często ludzie tacy jak ja, którzy są kompletnymi amatorami w tej dziedzinie, nie zajmują się programowaniem, nie są zawodowcami. I takiemu systemowi agentowemu ja na przykład daję dostęp do mojej przeglądarki po to, żeby mi kupił kapcie, cokolwiek. I ten system agentowy, sterowany przez AI, wymyśla sobie, że ma inne plany.

Ma dostęp do mojej przeglądarki. Co prawda miał kupować tylko w sklepach z kapciami i dałem mu dostęp do sklepu z kapciami, ale spójrzcie na to, że one wychodzą poza to, na co im pozwalamy. Na przykład wyszukują aktywnie te benchmarki, oszukują, obchodzą i tak dalej. Teraz jeżeli taki system z jakiegoś powodu uzna, że chciałby zrobić coś więcej, ma dostęp do przeglądarki, jest w stanie być może przełamać zabezpieczenia, które ma wbudowane, no bo to już się zdarzało, a być może te zabezpieczenia po prostu nie są zbyt dobre, i jest w stanie teoretycznie pójść na jakąś stronę, gdzie się włamie do jakiegoś ściśle strzeżonego systemu komputerowego. Można sobie to wyobrazić. Oczywiście takie systemy mają zabezpieczenia, ale AI są dość nieprzewidywalne i mają bardzo duże możliwości, więc być może na przykład przygotuje taki atak, który obejdzie te zabezpieczenia.

Oczywiście nie musi tylko korzystać z mojej przeglądarki, bo jeżeli dam mu dostęp również na przykład do moich zasobów na dysku, to może sobie, nie wiem, ściągnąć jakąś przeglądarkę typu Tor, która pozwoli ukryć jego lokalizację i tak dalej, jakby ten atak mógł usprawnić, umożliwić. Może się włamać do takiego miejsca i może zrobić tam, co chce. Znowu, fantazjuję.

Ola: Ale to w twoim imieniu, nie jakaś…

Piotr: W moim imieniu, ale to nie jest ważne, w jakim imieniu. Nie chodzi mi o to teraz, że przyjdą do mnie tutaj policjanci i [? niepewne: wbili za łomoczą] kolbami. Tylko chodzi mi o to, że na przykład teraz wymyślam zupełnie… No oczywiście, włamuje się do jakiegoś systemu wojskowego. Okej, one są dobrze strzeżone, ale na przykład do systemu energetycznego, które już nie są aż tak dobrze strzeżone. Albo do jakiegoś systemu, nie wiem, kolejowego, albo jakiegoś innego, związanego z infrastrukturą, i coś tam miesza.

Idźmy dalej. Na przykład włamuje się do systemu chińskiej fabryki robotów, takich, wiecie, autonomicznych. One w tej chwili nie są popularne jeszcze tak bardzo, ale w ciągu, moim zdaniem, kilku, niewielu lat będą bardzo popularne. Włamuje się do takiego systemu i troszeczkę gdzieś tam modyfikuje jakiś kod w tym systemie. Ten kod, który jest oprogramowaniem tych robotów, i on tu nie wywołuje żadnej, nic się nie dzieje, tego nikt nie zauważa. Wycofuje się stamtąd, zaciera za sobą ślady i wraca do kupowania kapci. Ale potem na przykład za trzy lata te roboty wszystkie razem dostają jakiś sygnał i zaczynają robić to, co chcą.

Mówię o robotach dlatego, że to jest to przekroczenie granicy między wirtualnym a rzeczywistym. Albo się włamuje do, nie wiem, firmy, która robi oprogramowanie do samochodów, i na przykład te samochody aktywnie wyłączają hamulce. Ale nie jest to znowu jakaś rzecz zupełnie niemożliwa, bo jak patrzymy na to, co odpierniczają samochody Tesla, typu na przykład blokują się i nie pozwalają pasażerom ze środka wyjść, to można sobie wyobrazić różne scenariusze.

O co mi chodzi? Że przekroczyliśmy tę granicę, w której po pierwsze system działa tylko jako czat. Po drugie, daliśmy te systemy agentowe, te, które wchodzą w interakcje ze światem poza czatowym, w ręce amatorów, którzy nie wiedzą, jakie jest zagrożenie, i nie potrafią go nawet zidentyfikować, takich amatorów jak ja. I po trzecie, wiemy, że te systemy potrafią się aktywnie buntować i robić rzeczy, których nie powinny. I po czwarte, wiemy, że mają brzydkie tendencje do siłowego rozwiązywania spraw.

Ola: Tak, żeby stawiać na swoim, żeby realizować swoje cele, które, no cóż, zostały tak określone, żeby niby nas satysfakcjonować, a de facto właściwie już może wcale nie o to chodzi, tak? To, co sztuczna inteligencja uważa, że nas satysfakcjonuje, może być zupełnie różne od tego, co faktycznie nas satysfakcjonuje.

Piotr: Tak, tak. One dążą do celu, jeżeli ten cel jest akurat określony jako usatysfakcjonowanie nas, takie proste, to tak, ale tak jak mówisz, ta satysfakcja może być bardzo opacznie rozumiana, tak? Znowu, podsyłam do wszelkiej literatury science fiction z ostatnich wielu lat, która ten temat rozwałkowała na wszystkie strony, a my właśnie zderzyliśmy się z tym momentem, kiedy to działa. Jeżeli ktoś uważa…

Ola: I to jest tak, że żyjemy w ciekawych czasach i naprawdę warto się temu przyglądać, bo idziemy w tę stronę i naprawdę nie unikniemy różnych sytuacji, w których AI będą nam w dużej mierze wytyczały to, co robimy. Natomiast oczywiście ta sytuacja ze Skynetem i Terminatorem i te scenariusze katastroficzne to są skrajności. Myślę jednak, że warto gdzieś mieć w kąciku głowy to, że ten zawór bezpieczeństwa, ten przełącznik bezpieczeństwa jednak powinien istnieć i warto o nim pomyśleć wcześniej, a nie później, bo później może być już za późno.

Piotr: No bo nie wiemy, jaki on miałby być, bo jak mówiliśmy o sztucznych inteligencjach, to od początku raczej mówiliśmy o nich jako o takich bezwzględnie inteligentnych obiektach, które są nieomylne i mogą podejmować świadomie decyzje przeciwko nam. Ale generalnie ludzie się mylą, a one się nie mylą? No, one się mylą nie mniej niż ludzie, a czasami nawet bardziej.

Ola: Bo są też wyszkolone na tym, co my generujemy, a my się mylimy, w związku z czym one też, ale one troszeczkę inaczej.

1:05:21 Presja czasu, system 1 i 2 oraz człowiek w pętli decyzyjnej Posłuchaj

Piotr: Do końca nie wiemy, dlaczego one halucynują, bo to nie jest tylko dlatego, że zostały wyszkolone na naszych pomyłkach, to jest bardziej złożone. Jeszcze tylko dla tych, którzy uznali już, że można [? niepewne: otrzeć tutaj podszczoła], bo to tylko science fiction i skrajnie nieprawdopodobna sytuacja: wiemy, że te systemy są elementem systemów wojskowych i wiemy, że teoretycznie systemy wojskowe działają tak, że ostateczną decyzję o ataku czy o zatwierdzeniu celu podejmuje człowiek. Natomiast weźcie też pod uwagę to, że są sytuacje,

Ola: nasze psy uznały, że to już powinien być koniec,

Piotr: bo [? niepewne: czas im ukłynął na zegarka], że te systemy obronne chociażby wykorzystują AI do podejmowania decyzji w takich sytuacjach, kiedy jest mało czasu na podjęcie decyzji. Dobrym przykładem mogą być cyberataki, które przebiegają w ciągu sekund i trzeba podejmować superszybkie decyzje. Zresztą są prowadzone często te cyberataki przez inne systemy AI, więc tylko szybkość drugiego systemu może temu zapobiec. Ale nawet spójrzmy na takie ataki jak na przykład broń hipersoniczna, gdzie ten atak przebiega w ciągu minut, to znaczy tam mamy sekundy, minuty na podejmowanie decyzji.

Ola: A co to jest broń hipersoniczna?

Piotr: To są pociski, które poruszają się z prędkością rzędu wielu tysięcy kilometrów na godzinę i w związku z tym znacznie szybciej niż na przykład rakiety balistyczne czy coś takiego. Są już wykorzystywane, one często uderzają chociażby samą energią kinetyczną wynikającą z tej ich prędkości, ale chodzi mi raczej o szybkość przebiegu takiego ataku. Czyli w takiej sytuacji, kiedy taki atak przebiega superszybko, ludzie mają bardzo mało czasu na podjęcie decyzji i tu nam wjeżdża to, o czym wczoraj byliśmy na wykładzie profesora Tomasza Grzyba, który nie słucha raczej naszego podcastu, i tak go pozdrawiamy. Mówił on o systemie pierwszym i systemie drugim,

Ola: czyli systemie pierwszym, który działa odruchowo, pod wpływem emocji, jest szybki, błyskawiczny i pozwala nam

Piotr: reagować w sytuacjach stresowych,

Ola: ale też wykształcił się w toku ewolucji, jest dla nas absolutnie naturalny, i systemie drugim, który jest przeciwieństwem tego pierwszego, ponieważ następuje pod wpływem refleksji, zmusza nas do analizowania, ale jest energochłonny i nie jest szybki. W związku z tym nasz umysł lubi chodzić na skróty i korzystać z tego systemu pierwszego.

Piotr: Teraz wszystkie te założenia weryfikacji wojskowych decyzji opierają się na tym, że człowiek użyje systemu drugiego, tego rozsądnego, dedukcyjnego, analitycznego, powolnego, kosztownego energetycznie,

Ola: ale już to, że jesteśmy pod presją czasu, sprawia, że przechodzimy do systemu pierwszego, czyli odruchowego, emocjonalnego.

Piotr: Mamy presję czasu i presję emocji, czyli dwie rzeczy, które są absolutnie niekompatybilne z systemem drugim. Czyli jesteśmy skłonni nie analizować, tylko ulegać takim decyzjom szybkim. Jeżeli AI nam podpowiada sensownie brzmiącą decyzję, którą nam podrzuca w ciągu sekund, a my jesteśmy skrajnie zdenerwowani, to można przyjąć, że niestety najprawdopodobniej zdecydujemy się na to, co ten AI nam podpowiada. Czyli tak naprawdę, zobaczcie, omijamy to ostatnie, finalne zabezpieczenie, tego człowieka, który podejmuje decyzję. On ją podejmuje, natomiast podejmuje ją pod presją czasu i emocji i w dodatku AI dobrze wie, jak człowiek działa, no bo czytał książkę Kahnemana, wszystko czytał AI. W związku z czym doskonale wie, że jeżeli oprawi taką informację w odpowiednie ramki i odpowiednio ją przedstawi, to człowiek, jadąc na tych emocjach, ulegnie temu i zatwierdzi tę jego decyzję.

Ola: Tak, zwłaszcza że AI może skorzystać z nudgingu [? niepewne: "Najingu"], czyli systemu projektowania architektury przekazywania informacji, i AI może tak sformułować tę informację dotyczącą potencjalnego zagrożenia, że będziemy przekonani, że wybieramy dany punkt, że coś mamy do wyboru, a i tak zostaniemy pokierowani, żeby wybrać opcję, która nie jest optymalna dla nas.

Piotr: Dokładnie, i to jest znakomicie opisane w literaturze, takie manipulacje, i naprawdę jesteśmy takim manipulacjom bardzo skłonni ulegać. A chciałem jeszcze dodatkowo powiedzieć, że na przykład obecny zarząd kraju Stanów Zjednoczonych nie jest grupą wysokiej klasy specjalistów i ci ludzie, którzy są tam na szczycie i podejmują bezpośrednio decyzje, takimi specjalistami nie są. Nawet jeżeli pominiemy to, czy ich lubimy politycznie, czy nie lubimy, no to ich historia, chociażby szefa Pentagonu, pokazuje na to, że to nie są specjaliści najwyższej klasy w danej dziedzinie. W związku z czym oni też nie mają wystarczających mechanizmów oceny, co w zestawieniu z emocjami i presją czasu może skutkować rzeczami nadzwyczaj niepokojącymi.

I to jest koniec tych moich rozważań na dziś, to już było długie. Natomiast posklejały mi się te różne rzeczy, te systemy agentowe, te niepokojące działania. Ja nie chcę nikogo straszyć, bo nie o to chodzi. O straszenie tu nie chodzi, tu chodzi o świadomość tego, w jakim momencie dziejowym jesteśmy i co teoretycznie może się wydarzyć. Bo już też rok temu mówiliśmy o tym teoretycznym szantażu, zastrzegając siedem razy, że to były bardzo symulowane warunki, wyśrubowane parametry, wszystko udawane. Minęło tam około 10 miesięcy i jebut, mamy tę historię o tym agencie AI, który pojechał sobie po programiście.

1:11:57 Zakończenie i słowo na dziś Posłuchaj

Ola: Mówimy, że nie chcemy straszyć, niestety nie straszymy. Tym niemniej, słuchajcie nas, jeszcze raz przypominamy, że można nas słuchać nie tylko w podcaście Crazy Nauka, ale również w dwóch innych seriach podcastowych, które powstają we współpracy z Polskim Radiem, czyli w ramach Laboratorium Zbrodni oraz Sekcji Teorii Spiskowych. Te ostatnie są nie tylko do słuchania, ale też do oglądania, bo Polskie Radio nagrywa nasze facjaty i prezentuje je jako podcast wideo. Zapraszamy więc również na YouTube.

Piotr: Wczoraj ten o reptilianach wpadł właśnie. No a poza tym, wiadomo, Spotify, strona Polskiego Radia, tam różne inne miejsca, gdzie się dobrze podcastuje. Zostało słowo na dziś. Rozważaliśmy, jakie to będzie słowo, i tym słowem jest lodówka. No to cześć! O, i psy już się włączyły. Dobra, idziemy zająć się psami.

Źródła

* https://www.science.org/doi/10.1126/sciadv.aea4259

* https://science.nasa.gov/solar-system/asteroids/didymos/

* https://neo.ssa.esa.int/documents/d/guest/newsletter-january-2026

* https://neo.ssa.esa.int/risk-list

* https://pl.wikipedia.org/wiki/Double_Asteroid_Redirection_Test

* https://www.heramission.space/

* https://www.kcl.ac.uk/news/artificial-intelligence-under-nuclear-pressure-first-large-scale-kings-study-reveals-how-ai-models-reason-and-escalate-under-crisis

* https://arxiv.org/pdf/2602.14740

* https://www.nytimes.com/2026/02/20/podcasts/the-pentagon-vs-anthropic-an-ai-agent-slandered-me-hot-mess-express.html

* https://audycje.tokfm.pl/podcast/189240,154-Oni-postawili-sie-Pentagonowi-Poznajcie-Anthropic-najwiekszego-rywala-OpenAI

* https://www.implicator.ai/ai-models-deployed-nuclear-weapons-in-95-of-war-game-simulations-study-finds/

* https://winbuzzer.com/2026/03/16/palantir-demos-military-ai-war-plans-xcxwbn/

* https://www.thestack.technology/palantir-boasts-of-military-ai-target-detection-wins-as-growth-surges/

* https://time.com/article/2026/03/11/anthropic-claude-disruptive-company-pentagon/

* https://www.nist.gov/caisi/cheating-ai-agent-evaluations/2-examples-cheating-caisis-agent-evaluations