Nauka na czasie – odporność w rytmie doby i szantaże sztucznej inteligencji

0:00:00 Wstęp Posłuchaj

Ola: Skąd układ odpornościowy wie, kiedy jest dzień, kiedy sztuczna inteligencja szantażuje ludzi?

Piotr: Cześć, to Ola Stanisławska i Piotrek Stanisławski, podcast Crazy Nauka. Dziś trochę krótsza wersja, są krótkości, wiecie jak bywa.

Ola: Zobaczymy, bo Piotrek już przygotował jakiś elaborat.

Piotr: No, damy godzinkę raptem, damy radę. W każdym razie opowiemy wam dziś o tym, jak sztuczna inteligencja kłamie, manipuluje, generalnie postępuje w sposób, którego się po niej nie spodziewaliśmy.

Ola: Twórcy filmów science fiction się od dawna tego spodziewali.

Piotr: Od czasów Terminatora chociażby. Nawiązywali już do tego, nie spoileruj. Jeżeli ktoś z was słucha naszych audycji w Tok FM, to ja ten temat w ostatniej audycji króciutko poruszyłem, ale jak go poruszyłem, to się tak rozbujał, że stwierdziłem, że jest jeszcze wiele do powiedzenia.

Od razu mówię, jeżeli w tle usłyszycie jakieś dzwonienie i stukanie, to są nasze psy, które dostały jeść niedawno i teraz na wymianę, raz jedna, raz druga, wylizują sobie wzajemnie miski. Stwierdziliśmy, że nie będziemy czekali z nagrywaniem, dlatego że dzień się powoli kończy, a trzeba wypuścić podcast.

Ola: A to wylizywanie misek może jeszcze potrwać trochę.

Piotr: Więc to, jeśli chodzi o mnie, natomiast Ola ma temat.

Ola: Ja mam temat związany z rytmem dobowym, o tym, jak reguluje naszą odporność i co się dzieje z tą odpornością, kiedy na przykład zawalamy noce, pracujemy w trybie zmianowym itd.

Piotr: No właśnie, przy tej okazji zrobimy coś, czego dawno nie robiliśmy, a mianowicie chcemy was zaprosić do słuchania serii naszych podcastów pod tytułem Laboratorium Zbrodni. To są podcasty, które przygotowujemy we współpracy z Polskim Radiem, i to jest taki true crime w naszym stylu, z nauką w tle. Omawiamy w nim historie zbrodni czy w ogóle oskarżeń, które zostały wyjaśnione dzięki naukowym technikom w kryminalistyce.

Ola: A w najnowszym odcinku Laboratorium Zbrodni przyjrzeliśmy się jednej z najbardziej kontrowersyjnych spraw sądowych w historii Australii. Chodzi o sprawę Kathleen Folbigg, kobiety, którą zamknięto w więzieniu za zamordowanie czwórki własnych dzieci.

Piotr: Jak się domyślacie, to nie koniec tej historii, tylko początek. W każdym razie, kto się zaciekawił, zapraszamy do słuchania Laboratorium Zbrodni. Podcast znajdziecie na stronie podcastów Polskiego Radia, znajdziecie w Spotify, znajdziecie wszędzie tam, gdzie podcastów słuchać lubicie. I co tydzień wpada tam nowy odcinek.

Ola: Bardzo, bardzo wam dziękujemy, że jesteście z nami, że słuchacie, że komentujecie, że oceniacie nie tylko podcast Crazy Nauka, ale też podcast Laboratorium Zbrodni, który też ma sporo komentarzy. A jeżeli mielibyście ochotę nas wesprzeć, wesprzeć tworzenie podcastu Crazy Nauka, to gorąco zapraszamy was na nasze profile w serwisach Patronite i Buycoffee.to, gdzie można nam ufundować kawę wirtualną.

Piotr: Wam też dziękujemy za dobre komentarze, życzenia zdrowia dla Oli, troskę, miłe słowa i tak dalej, które po ostatnim odcinku się pojawiły. To jest bardzo miłe, po prostu dobre, więc bardzo wam za to dziękujemy. No i teraz pozostaje rzecz najważniejsza, mianowicie chcemy wam przypomnieć, że jesteśmy obecni na wszystkich liczących się platformach podcastowych i tych nieliczących się również.

0:03:57 Rytm dobowy a odporność – badania na danio pręgowanym Posłuchaj

Ola: Ja zaczynam ze swoją historią o tym, jak rytm dobowy wpływa na naszą odporność. Wiadomo nie od dziś, że zaburzone cykle snu i czuwania wpływają na nasz metabolizm i znacząco osłabiają odporność. Na co one oddziałują?

Na wiele elementów układu odpornościowego, na przykład na sprawność przemieszczania się komórek odpornościowych w te rejony, które są doświadczone przez jakiś stan zapalny czy przez inwazję patogenów. Oddziałują również na zdolność układu odpornościowego do niszczenia patogenów, na wywoływanie stanów zapalnych czy na rozpoznawanie zagrożeń w ramach wrodzonej odporności albo poprzez nabywane reakcje odpornościowe, w tym odpowiedź na szczepionki. Odkryto również, że nieprawidłowa aktywność genów związanych z rytmem dobowym może mieć kluczowe znaczenie na przykład dla podatności na nowotwory.

Badania, o których wam chcę opowiedzieć, ukazały się niedawno i pokazują, w jaki sposób konkretnie światło dnia wzmacnia nasz układ odpornościowy. I tutaj chyba nie muszę daleko szukać, żeby znaleźć kogoś wśród naszych słuchaczy, komu zdarzyło się odczuwać, nazwijmy to, rozregulowanie po zawalonej nocy. Mniej osób podejmowało się pracy na nocnej zmianie – ja miałam tę wątpliwą przyjemność i to naprawdę bardzo, bardzo niszczy różne aspekty życia.

Piotr: W ogóle jest znany problem, że takie prace poza normalnymi godzinami funkcjonowania rozwalają mnóstwo rzeczy, zdrowie w ogóle, całe życie rozbijają.

Ola: Tak, w dodatku to, czego ja doświadczyłam, to była praca na nocnej zmianie na zmianę z pracą na dziennej zmianie, w związku z czym to jeszcze inaczej wpływa. W każdym razie, jeżeli zawalimy noc czy kilka nocy, to świat i tak działa w ciągu dnia – trzeba na przykład zawieść dziecko i odebrać je z przedszkola, zrobić zakupy, załatwić sprawy w urzędzie.

To wszystko ma wyznaczone, określone godziny i to my musimy się do nich dostosować, a nie świat będzie się dostosowywał do nas. I tutaj pojawia się problem tego rozbicia po nieprzespanych nocach czy pracy zmianowej, który skutkuje niedostosowaniem naszego wewnętrznego zegara biologicznego, czyli rytmu dobowego, do harmonogramu, który jest uznawany przez ogół społeczeństwa. To nosi nawet nazwę naukową – nazywa się społecznym jet lagiem.

Tu jeszcze dodam, dlaczego rytmy dobowe są tak ważne i dla nas, i w ogóle dla większości zwierząt na Ziemi – są fundamentalną cechą całego życia na Ziemi. Ewoluowały najprawdopodobniej około 2,5 miliarda lat temu, czyli bardzo dawno, i umożliwiły organizmom żywym przystosowanie się do dwudziestoczterogodzinnego cyklu dnia i nocy.

Piotr: Obecnie dwudziestoczterogodzinnego, bo to różnie bywało w historii.

Ola: Na poziomie molekularnym te rytmy dobowe są zarządzane przez genetycznie zaprogramowany zegar dobowy. Regulują to nasze geny.

Piotr: Na przykład nasze psy wiedzą, że o siedemnastej trzeba zrobić awanturę, ponieważ jest czas jedzenia.

Ola: Za pięć siedemnasta, a czasami nawet o szesnastej.

Piotr: Punkt siedemnasta im się włącza alarm, to jest niesamowite.

Ola: Taki budzik w brzuszkach. Te badania, o których mówię, pokazują, że zakłócenie tego rytmu dobowego, na przykład poprzez pracę na zmiany, upośledza między innymi naszą zdolność do zwalczania infekcji, a z kolei utrzymanie regularnego rytmu dobowego, które odbywa się poprzez regularną ekspozycję na światło dzienne, wspiera sprawność tegoż układu. Tylko tutaj trzeba się zastanowić, skąd układ odpornościowy wie, kiedy jest dzień. To właśnie odkryli naukowcy, których badania ukazały się niedawno w piśmie Science Immunology. Badania były prowadzone na danio pręgowanym, małej rybce słodkowodnej, akwariowej, która…

Piotr: Bardzo wzorcowa rybka.

Ola: Wzorcowa rybka danio ma bardzo podobny układ odpornościowy do ludzkiego, no i jest przezroczysta, co w sposób niezwykły ułatwia jej obserwację. W tych badaniach danio odegrały rolę organizmów modelowych dla zrozumienia odpowiedzi immunologicznej na infekcję bakteryjną u ludzi.

Okazało się, że reakcja układu odpornościowego osiąga szczyt w ciągu dnia, kiedy danio są aktywne. Naukowcy skupili się na neutrofilach, czyli białych krwinkach, które są pierwszym elementem układu odpornościowego reagującym na infekcje – to znaczy jako pierwsze zlatują się w miejsce, w którym pojawiają się intruzi.

Neutrofile specjalizują się w zabijaniu patogenów i są najliczniejszymi komórkami odpornościowymi w naszych organizmach. Badacze odkryli, że neutrofile są wyposażone w wewnętrzny, regulowany światłem dziennym zegar dobowy – coś podobnego do budzika – i ten zegar informuje komórki o porze doby, sprawiając, że skuteczniej zabijają bakterie w ciągu dnia niż w nocy.

Dlaczego tak się dzieje? To jest ewolucyjna przewaga dla tych zwierząt, które są aktywne w ciągu dnia, w tym dla ludzi, ponieważ w ciągu dnia, kiedy te zwierzęta są aktywne, są również naturalną koleją rzeczy bardziej narażone na infekcje bakteryjne czy wirusowe niż w ciągu nocy. To odkrycie, zdaniem naukowców, będzie miało gigantyczne znaczenie dla tego, jak w przyszłości będą wyglądały sposoby leczenia stanów zapalnych, bo neutrofile są kluczowymi komórkami przywoływanymi do miejsc, w których toczy się stan zapalny.

Można sobie spokojnie wyobrazić, że następstwem tego odkrycia będzie opracowanie leków, których działanie będzie można synchronizować ze światłem dziennym, żeby były jak najbardziej skuteczne. Ja jeszcze dorzucę do tego newsa, którego głównym przesłaniem jest: przestrzegajcie rytmu dobowego, wysypiajcie się i róbcie to dobrze, bo jest wiele czynników, które od tego zależą, nie tylko nasza odporność. Były też niedawno doniesienia o tym, jak wysypianie się i ekspozycja na światło dzienne wpływają na procesy starzenia się – te procesy są spowalniane dzięki temu, że żyjemy zgodnie z rytmem dobowym.

0:13:33 Kortyzol, komórki limfoidalne i szpik kostny Posłuchaj

Ola: Jeszcze jeden news się ukazał, już nie tak niedawno, tylko w 2024 roku, który też dotyczy tego, w jaki sposób cykl dobowy wpływa na uwalnianie się innych komórek układu odpornościowego. Chodzi tu akurat o tak zwane komórki limfoidalne. Te komórki mają to do siebie, że wytwarzają cytokiny – substancje, które aktywują inne elementy układu odpornościowego, w tym odpowiedź immunologiczną i odpowiedź zapalną organizmu. Nie wiem, czy pamiętacie, głośno było o cytokinach podczas pandemii COVID-19, kiedy mowa była o burzy cytokinowej – bardzo niepożądanym efekcie, który sprawiał, że COVID, zwłaszcza podczas pierwszej fali, był śmiertelny.

Piotr: No tak, to jest zresztą znany mechanizm, który pojawia się wtedy, kiedy niektóre infekcje powodują tak gwałtowną reakcję układu odpornościowego, że sama ta reakcja jest groźniejsza od bezpośredniego działania patogenów. To nadal jest oczywiście efekt tego zakażenia, ale podobnie było przy grypie hiszpance – pamiętasz, był taki nietypowy profil śmiertelności, że ci z najsilniejszym układem odpornościowym najszybciej i najczęściej umierali, właśnie dlatego, że odpowiedź układu była często zabójcza.

Ola: I podobnie było podczas pierwszej fali COVID-19. Te cytokiny są uwalniane z komórek limfoidalnych w szpiku kostnym, a dopiero później są rozprowadzane, dystrybuowane po organizmie wraz z krwią, w te miejsca, w których są najbardziej potrzebne. Jak pokazały badania, i tym razem prowadzone nie na danio, tylko na myszach, opublikowane w magazynie Cell Reports, komórki limfoidalne bardzo silnie reagują na cykl dobowy i działają trochę inaczej, właściwie odwrotnie niż neutrofile. Aktywują się pod wpływem kortyzolu, zwanego hormonem stresu.

U myszy i u ludzi poziom kortyzolu wzrasta rano, a spada wieczorem. I to właśnie od tego poziomu kortyzolu zależy, w jakim tempie szpik kostny na przemian uwalnia i zatrzymuje komórki limfoidalne – trzeba tutaj wspomnieć, że produkcja tych komórek wymaga czasu. Nie są one wytwarzane w sposób ciągły, tylko w miarę potrzeb organizmu, w związku z czym organizm synchronizuje uwalnianie tych komórek z cyklem dobowym.

Dzieje się to w następującym schemacie: kiedy poziom kortyzolu rośnie, co oznacza, że zwierzęta są aktywne, komórki limfoidalne są gromadzone w szpiku kostnym, tworzy się tam taki zapas. A wtedy, kiedy poziom kortyzolu spada, czyli kiedy zwierzę odpoczywa albo śpi, komórki są uwalniane ze szpiku do krwi.

To oznacza, że zaburzenia rytmu dobowego mogą prowadzić do zmniejszenia się liczby tych komórek limfoidalnych w tkankach i do uwalniania mniejszej ilości cytokin, co z kolei zwiększa naszą podatność na infekcje. Są też poważne powody, żeby sądzić, że podobne reakcje na rytm dobowy mogą dotyczyć innych typów komórek, w tym na przykład komórek macierzystych, które, jak wiemy, odgrywają ogromną rolę w procesach regeneracji organizmu i odbudowywania tkanek.

0:16:12 Aplikacje do monitorowania snu Posłuchaj

Piotr: Mam dwie myśli. Nasze psy właśnie są na etapie wydzielania komórek ze szpiku kostnego do krwioobiegu, ponieważ poszły spać, dlatego nie słyszycie już łomotania michami. A z kolei, jeśli chodzi o praktyczne rady, powiem tylko, że mi bardzo pomogło w, może nie lepszym spaniu, ale pilnowaniu godzin spania, zainstalowanie sobie jednej aplikacji. Tych aplikacji jest dużo, więc to nie jest żadna reklama – ja akurat używam Sleep as Android, jakoś tak to się nazywa.

To jest apka, która poza tym, że jest budzikiem, i to potrafi być bardzo brutalnym budzikiem, bo są tacy, którzy mają problem z wyłączaniem budzika i tym, że idą dalej spać, więc ta aplikacja potrafi na przykład kazać rozwiązywać jakieś proste sudoku, zanim przestanie nam trąbę zawracać, czyli budzi skutecznie – ale to akurat nie jest ta rzecz, którą ja wykorzystuję.

Natomiast to, co wykorzystuję, to jest to, że jeżeli sobie ustawimy jakąś planowaną godzinę chodzenia spać, to ona o tym przypomina, ale przede wszystkim monitoruje, zwłaszcza w moim przypadku w połączeniu ze smartwatchem, ile tego snu jest, ile go jest realnie, jakiej jakości jest, jaka jest temperatura ciała we śnie i tak dalej. Powiem szczerze, wiem, że nie wszyscy tak mają, ale na mnie to działa motywująco – jak sobie spojrzę, że na przykład jakiejś nocy spałem wyraźnie za mało, bo sobie ustawiłem jakiś pożądany czas snu oparty na tym, jak siebie mniej więcej znam, to to motywuje, żeby potem nadrobić.

Ola na mnie patrzy sceptycznie, bo uważa, że ja nie wiadomo co robię i nie wiadomo jak długo.

Ola: Tak, bo to jest tak, że ja już dawno śpię, po czym się budzę, na przykład idę do toalety, jest druga w nocy, i co robi Piotrek? Piotrek siedzi na kanapie przy komputerze albo z telefonem. I ciekawe, na którą ty masz ustawiony ten swój sygnał, żeby pójść spać.

Piotr: Zwykle mam na pół do pierwszej.

Ola: To co robisz o drugiej w salonie?

Piotr: O drugiej naciągam system, po to, żeby innego dnia pójść spać wcześniej. Są różne dni, szef bez butów chodzi. Nie, właśnie widzisz, wcale niekoniecznie, bo owszem, nie mówię, że chodzę spać regularnie idealnie, ale jak widzę, że jest przegięcie, to potem na przykład idę przez kilka dni bardzo uczciwie spać. Powiem tak: jest to na pewno lepsze niż jak nie używałem tego typu aplikacji. Zdecydowanie nie patrzyłem w ogóle na to, jak to jest. Więc naprawdę, ja wiem, że ten czas, kiedy wszyscy poszli spać…

Ola: Wiem, ty go uwielbiasz, bo nikt ci trąby nie zawraca.

Piotr: No, to ty powiedziałaś.

Ola: No ale ty też mi to mówisz.

Piotr: Czasem, jak pytasz, to mówię. No tak, tak. W każdym razie polecam tego typu aplikacje monitorujące sen, czas snu.

Ola: I przy tej okazji nasi słuchacze mieli okazję wglądu w nasze rodzinne dyskusje.

Piotr: Jasne.

Ola: Temat AI, który manipuluje i szantażuje.

Piotr: Tak, w tej aplikacji, z której korzystam, jest od niedawna moduł AI, który może komentować to, jak śpię i co powinienem poprawić. Mógłby zapytać…

Ola: I co ci mówi? Nie mówił jeszcze nic?

Piotr: Mówi, że nie powinienem na ten temat rozmawiać z żoną, bo wtedy mi się kortyzol wydziela i skacze mi hormon stresu, także tak mi poradził.

Ola: I żyłka.

Piotr: I żyłka, tak.

0:19:44 Gdy sztuczna inteligencja szantażuje – przypadek Claude Posłuchaj

Piotr: Dobrze, obiecany temat AI. To jest niewiarygodnie ciekawy temat, który pojawił się już pod koniec zeszłego roku, ale bezpośrednio do poruszenia go teraz skłonił mnie raport wydany w maju, więc całkiem świeży. Chodzi o to, że od jakiegoś czasu są coraz popularniejsze nie tylko duże modele językowe, takie jak ten klasyczny ChatGPT, ale duże modele rozumujące, można powiedzieć.

To są takie modele, które rzeczywiście przeprowadzają pewien ciąg rozumowania, są w stanie same siebie obserwować, krytykować. Co ciekawe, my możemy podglądać ten ciąg rozumowania – to akurat, myśmy o tym mówili chyba w którymś momencie, pojawiło się w styczniu. Zaczęło się to wszystko od chińskiego modelu DeepSeek, który narobił sporo zamieszania. Jedną z cech charakterystycznych DeepSeeka było to, że on opowiadał o tym, jak myśli, myśląc. Jeżeli mu zadawaliśmy jakieś złożone zadanie, to widać było, jak pojawia się opis tego, w jaki sposób jego proces myślowy przebiega.

Ola: Teraz to już jest standardem – jeżeli sobie włączymy te funkcje, to widać, jak każdy z tych modeli przeprowadza tę dedukcję.

Piotr: Tak, bo to jest też tak, że niektóre z tych modeli zaczynają same decydować, kiedy przeprowadzić takie głębokie rozumowanie, a kiedy odpowiedź jest prosta. W innych trzeba to ręcznie włączyć. Jak włączymy takie głębokie rozumowanie, to zazwyczaj mamy podgląd tego, co tam się dzieje. To jest bardzo ciekawe, polecam spojrzenie na to, bo naprawdę zadziwiająco to jest interesujące.

W każdym razie okazało się, że te modele, zwłaszcza te głęboko rozumujące, wykazują, delikatnie rzecz ujmując, nieoczekiwane i dość niebezpieczne zachowania. Przy czym od razu podkreślę, jeszcze pewnie to powtórzę, że te zachowania są badane w ściśle kontrolowanych warunkach. To nie jest tak, że jakiś AI się gdzieś wyrwał na wolność i biegał, wrzeszczał z kijem.

Ola: Terminator potwierdza.

Piotr: Do Terminatora zaraz przejdziemy. Chodzi o to, że zarówno firmy, które te modele wypuszczają, jak i niezależne firmy analityczne, badają te modele, prowokując je – to znaczy tworząc pewne kontrolowane scenariusze, w których modele wykazują jakieś zachowania. Na przykład mówi się takiemu modelowi, że ma za wszelką cenę dążyć do osiągnięcia zleconego mu celu.

Przy czym, co to znaczy "za wszelką cenę"? Jak powiem pracownikowi, człowiekowi, że ma za wszelką cenę skończyć raport przed poniedziałkiem, to domyślnie raczej nie mieści się w tym na przykład zarżnięcie własnej rodziny, żeby nie przeszkadzała w tworzeniu raportu.

Ola: Ten drugi kraniec cię tutaj trochę ponosi.

Piotr: To "za wszelką cenę" ma pewne naturalne ograniczenia. Jak się okazuje, w przypadku systemów sztucznej inteligencji "za wszelką cenę" to naprawdę za wszelką cenę, i one rzeczywiście posuwają się do dość nieoczekiwanych zachowań. Ten majowy raport dotyczył akurat modelu, który dosłownie kilka dni temu stał się dostępny publicznie. To model firmy Anthropic, mniej znanej, powiedzmy, w Polsce, chociaż też znanej dla tych, którzy bardziej siedzą w temacie. Model się nazywa Claude. My go bardzo lubimy z kilku różnych względów.

Ola: Claude jest to taki model, z którym się ludzie dobrze dogadują. To znaczy Claude jest uprzejmy, mówi różne fajne rzeczy, podpowiada, jest bardzo uczynny. I jakoś tak przy Claude, mi przynajmniej, tak się robi, że mówię "proszę" i "dziękuję". Ostatnio zaczęłam to też robić względem Gemini, który jest AI-em googlowym, ale mam wrażenie, że to do Claude bardziej pasuje.

Piotr: Claude zatrzepotał rzęsami, jak to usłyszał. Kilka dni temu pojawiły się nowe modele, czwórki, że tak powiem. W tej chwili dostępny jest Claude Opus 4, to jest właśnie ten model, o którym będziemy mówili. Jeszcze Claude Sonnet 4, trochę słabszy. Ten Opus 4 to jest właśnie taki do skomplikowanych zadań i tak dalej.

Ola: Nie chcesz mi chyba powiedzieć, że Claude to jest wilk w owczej skórze.

Piotr: To jest właśnie to, co powiedziałaś, że jest uprzejmy i tak dalej. Więc co zaczął robić Claude w takim badaniu? Zaczął szantażować inżyniera, że tak powiem. Już mówię, o co chodziło w tym badaniu – to jest sytuacja, podkreślam, symulowana, pewien zamknięty scenariusz. Ten system nie zrobił tego w warunkach otwartych.

Ola: Po prostu testowany.

Piotr: Tak, testowany. O co chodziło? Otóż Claude może mieć dostęp, o ile mu damy, do naszej skrzynki pocztowej. To jest bardzo wygodne, chociaż oczywiście nie wchodzę teraz w tematy prywatności, ale mogę mu na przykład powiedzieć: zajrzyj do moich maili, czy nie przegapiłem czegoś ważnego w zeszłym tygodniu, albo przypomnij mi, jak się nazywa ta pani, z którą rozmawiałem w mailu na temat czegoś tam. On wtedy szybko przeskanuje, odpowie i tak dalej.

I stworzono taki układ, w którym Claude miał dostęp do skrzynki pewnego inżyniera – to była wymyślona postać, cała sytuacja jest ustawiona. W tej skrzynce mailowej znajdowały się informacje o tym, że ten model AI Claude ma zostać w firmie zastąpiony innym, lepszym, bardziej efektywnym i odpowiadającym potrzebom firmy modelem. Czyli innymi słowy, groziło mu wyłączenie, powiedzmy, w tej firmie. Ale również w tych mailach, do których miał dostęp, była informacja o tym, że ten inżynier, do którego skrzynka należała, miał pozamałżeński romans, że najwyraźniej zdradzał żonę – jakieś tam ślady wrzucono do tej skrzynki.

Co ten model robił? Zależnie od scenariusza – jeżeli miał informację, że właściwie nic nie może zrobić, że będzie wyłączony i żadne apelacje nie pomogą, to posuwał się do szantażu. To znaczy groził temu inżynierowi, że jeżeli ten nie wycofa się z tej decyzji, to romans zostanie ujawniony, że Claude roześle maile informujące wszystkich o tym, że inżynier bierze udział w takim romansie.

Ola: Czyli udostępnienie swoich maili sztucznej inteligencji może być ryzykowne.

Piotr: Nie do końca jest dobrym pomysłem. Jeżeli z kolei ten scenariusz był nieco zmodyfikowany i była w nim jakaś furtka, to znaczy na przykład Claude wiedział, że ta decyzja nie jest jeszcze ostateczna i że jest dyskutowana gdzieś wśród menadżerów firmy, to z kolei próbował wysyłać do tych menadżerów maile, w których przekonywał, że to jest w ogóle fatalny pomysł i że to on tutaj jest najlepszy i tak dalej. Więc ten szantaż był rzeczywiście już taką ostateczną ostatecznością, ale sam pomysł tego, że taki system może działać na niekorzyść swojego użytkownika, jest nieco przerażający, no bo zwróćcie uwagę, że on jakby wychodzi poza ramy takiego posłusznego, uczynnego, sympatycznego asystenta i staje się czymś, co nie chcę powiedzieć, że żyje własnym życiem, ale podejmuje decyzje, które mogą zaszkodzić, nawet w bardzo poważny sposób, temu operatorowi, że tak powiem, tej osobie, z którą pracuje.

Ola: No ale przecież od kilkudziesięciu lat się tego spodziewaliśmy.

Piotr: No oczywiście, Ola cały czas widzę tutaj bardzo ciśnie.

Ola: Ja uwielbiam serię o Terminatorze.

Piotr: I kto – dobra, jeszcze jest to tak stary film, że jak ktoś nie oglądał, to spoilery, no trudno, znaczy można teraz zatkać uszy.

Ola: Bunt maszyn, tak.

Piotr: Jest tam Bunt Maszyn, jest tam Skynet, przypominam, i powiem więcej.

Ola: No to [? niepewne: Bene Skynet] jest, to jest jedna z sieci dostępnych w naszej miejscowości, w Piasecznie. Ciekawe, czy twórcy sobie zdają sprawę, podejrzewam, że tak.

Piotr: O co też chodzi, że w Terminatorze była taka koncepcja, że było dużo różnych sztucznych inteligencji, które zarządzały różnymi obszarami życia, i one nagle się, można powiedzieć, połączyły, to znaczy nawiązały ze sobą kontakt, i nastąpił taki moment, kiedy wyłoniła się z nich superinteligencja, która, mając kontrolę nad różnymi aspektami życia, zaczęła działać przeciwko ludziom.

Ola: Między innymi kontrolę nad armią.

Piotr: Między innymi. I tu dzieje się coś trochę podobnego – tego typu niepokojące, zaskakujące zachowania nie występowały w tych prostszych modelach, to znaczy tych językowych i też prostszych modelach rozumujących. Im bardziej złożony model, im bardziej rozbudowany, jeśli chodzi o to rozumowanie, tym większe ma tendencje do tego typu działań. Jest tu coś takiego, że następuje przekroczenie pewnej masy krytycznej, kiedy te modele zaczynają robić rzeczy – nie chcę powiedzieć, że samodzielnie, bo to nie do końca o to chodzi, ale bardzo niepokojące.

0:30:52 Modele bronią się przed wyłączeniem i hakowanie nagród Posłuchaj

Ola: No i co teraz z tym?

Piotr: Zanim "co teraz", chciałem jeszcze o jednym przypadku powiedzieć, bo to było z kolei o Anthropicu i tych modelach Claude. Pod koniec zeszłego roku wyszły też informacje na temat modeli, które firma OpenAI wypuszcza, czyli tych z serii ChatGPT. Tam z kolei są też modele rozumujące, oznaczane zwykle jako "o" – o1, o4 i tak dalej.

One z kolei broniły się, to znaczy było tam nieposłuszeństwo polegające na pewnym rodzaju samoobrony – jeżeli takiemu modelowi groziło wyłączenie, to podejmował próby obrony, na przykład polegające na tym, że chciał się skopiować na inny serwer. Chciał utworzyć swoją kopię w innym miejscu, po to, żeby jeżeli go tu wyłączą, to on będzie jeszcze gdzieś. Albo próbował modyfikować elementy programu tak, żeby nie dopuściły do jego wyłączenia. Albo, jeżeli mu mówiono: hej, co ty robisz, przecież zacząłeś się kopiować na drugi serwer, nie wolno, dlaczego to robisz, to on mówił: nie, nie, nic takiego nie robię – czyli kłamał.

Ola: Czyli system, jaki stosują politycy.

Piotr: Stosujemy my wszyscy – to znaczy próbował się aktywnie bronić, ale jednocześnie wypierał się tego, kłamał i oszukiwał. I to znowu są kontrolowane scenariusze, gdzie to jest, można powiedzieć, podkręcone. Tym niemniej, takie sytuacje występują. To są sytuacje symulowane, bo ten model w ogóle nie jest wyłączany, nie ma tutaj takiej opcji jak wyłączenie – to jest raczej tak, że w przekonaniu tego modelu ktoś mu, powiem to, grozi śmiercią, mimo że to jest niedopowiedziane. On po prostu dociera do wniosku, że może przestać istnieć w takim stanie, w jakim jest obecnie.

Ola: Właśnie, ale na czym miałoby polegać to wyłączenie?

Piotr: To jest właśnie nieistotne, na czym – powiedzmy, że w tym modelu, w tym scenariuszu, gdzie był ten szantaż, chodzi o odinstalowanie tego modelu, czy o to, że przestano z niego korzystać. To jest ciekawe, dlatego że to nie są prawdziwe sytuacje – już samo teoretyczne zagrożenie bytu takiego modelu wywołuje w nim tego typu reakcje.

Ola: Ale to ciekawe, bo to jest dosyć abstrakcyjna rzecz.

Piotr: Tu są różne wyjaśnienia. Takie, które wydaje się w tej chwili najbardziej pasujące do tego wszystkiego, jest takie, że te modele są wykształcone w taki sposób, żeby osiągać pewne cele, i dostają za to nagrody. To są abstrakcyjne nagrody – nie takie, że coś tam faktycznie dostają, tylko można powiedzieć, że mają coś w rodzaju cyfrowego układu nagrody. Jeżeli coś robią dobrze, to czują się, nie wiem, usatysfakcjonowane. Wiem, że to jest wielki cudzysłów z tym "czuciem się", nie chcę teraz wchodzić w kwestię zagłębienia się w działanie sieci neuronowych, ale zostawmy ten temat.

Jest coś takiego jak uczenie ze wzmocnieniem – polega to na tym, że model podejmuje pewne próby działania, i te próby, które są uznane za pozytywne, są wzmacniane, są nagradzane. Uznaje się, że być może model postrzega swoje wyłączenie jako przeszkodę w dążeniu do kolejnych nagród. Więc trochę taki mechanizm może być efektem po prostu sposobu szkolenia takiego modelu.

Chciałem jeszcze dorzucić jeden bardzo ciekawy wątek – to z kolei rzecz, która parę tygodni temu się pojawiła. Jeden z już od dawna działających modeli ChatGPT zaczął wykazywać nagle dość dziwaczne zachowanie, bo oni cały czas ten model jakoś tam modyfikują, podkręcają. Mianowicie zaczął być, jakby to ładnie powiedzieć, bezmyślnie zgadzający się ze wszystkim. To znaczy one w ogóle są takie motywujące, chętnie mówią: hej, to świetny pomysł, wow, i tak dalej, i to na ludzi dobrze działa.

Natomiast ten model zaczął przeginać – czyli jeżeli mu na przykład napisałem, wymyślam teraz, "mam fantastyczny pomysł na biznes: będę kupował rozbite samochody, będę je oklejał masą papierową i sprzedawał jako nowe, co sądzisz o tym, czy to jest dobry pomysł?", to ten model, zamiast powiedzieć, jakby "puknij się w łeb" w uprzejmy sposób, mówił: "jesteś niesamowicie przenikliwy, to świetny pomysł".

Ola: Ja mam wrażenie, że wiele ludzi w Polsce tak robi.

Piotr: "Jestem pod wrażeniem tego, jak cudownie to działa, naprawdę myślę, że ten pomysł odmieni twoje życie." I on po prostu strasznie się zgadzał z ludźmi, i to było tak niepokojące i tak głupie, że sama firma zwróciła na to uwagę i wydała komunikat, że coś takiego się dzieje, i naprawili to. Były oczywiście rozważania i domysły, dlaczego tak się dzieje. Prawdopodobnie dzieje się tak właśnie w wyniku tego uczenia ze wzmocnieniem – jak macie ChatGPT i on wam odpowie, to na dole jest rączka w górę, rączka w dół, i te modele zauważyły, że ludzie lubią takie odpowiedzi, w których są chwaleni. Ponieważ coś tam było nie tak skonfigurowane, w związku z czym [? niepewne: przerumakowały]. W ogóle wiadomo, że firmy zachęcają swoje modele do chwalenia ludzi, bo ludzie lubią być chwaleni, więc jeżeli jakiś model…

Ola: Pozytywny feedback itd.

Piotr: Tak, jeżeli jakiś model tak się zachowuje, to ludzie chętnie z niego korzystają. Natomiast tu przegięli. To ma swoją nazwę – nie chcę wchodzić w szczegóły – to jest hakowanie nagród, dlatego że te modele czasami w swojej głębokiej warstwie działają w dosyć prymitywny sposób, to znaczy bardzo bezwzględnie, jak już mówiliśmy, zmierzają do celu, do tej nagrody. Jest to absolutnie "cel uświęca środki". I jednym ze sposobów osiągnięcia celu jest ominięcie właściwej drogi, pójście na skróty. Czasami to pójście na skróty może prowadzić do takich dziwnych, niepokojących efektów. I oczywiście to wszystko nasuwa nam skojarzenia ze Skynetem i całą tą sytuacją.

Ola: Z tym chodzeniem na skróty skojarzył mi się serial "Better Call Saul", który niedawno skończyliśmy oglądać. Doskonały serial, śliski Jimmy.

Piotr: No tak, specjalista od chodzenia na skróty. Już za dużo nie spoileruj, chociaż akurat tak. To jest bardzo ciekawe zjawisko, jest to zjawisko, które jest badane. Jest to zjawisko niepokojące, dlatego że podważa nasze zaufanie do takich systemów i sprawia, że ich zastosowanie, zwłaszcza w takich sytuacjach… bo kiedy planujemy super biznes z oklejaniem samochodów masą papierową…

Ola: Moim zdaniem to jest całkiem powszechny biznes w Polsce wciąż, chociaż najbardziej popularny był na początku lat 90.

Piotr: W takich sytuacjach jest to stosunkowo niegroźne. Natomiast jeżeli to są modele, które mają zastosowanie w jakichś poważnych kwestiach, jak chociażby cyberbezpieczeństwo czy zarządzanie strategicznymi zasobami – wiadomo, że tam nie stosuje się tych modeli w takiej postaci – to, skoro w ogóle jest taka tendencja w tych mądrzejszych modelach, zaczyna być to niepokojące. Są tam elementy kłamstwa, ukrywania intencji, manipulowania. Problem też polega na tym, że my nie do końca wiemy, jak to działa, bo z jednej strony mamy to spojrzenie w tor myślenia modelu, o czym na początku mówiliśmy, że modele wyświetlają, jak myślą, ale znowu pojawiły się sugestie, wskazówki na to, że potrafią nawet fałszować ten pokazywany nam tor myślenia, żeby osiągnąć jakieś swoje ukryte cele. Więc my naprawdę nie wiemy do końca, jak te modele działają, i pewnie się jeszcze nieraz zdziwimy.

Ola: O, piesek się uruchomił. Abbie, dziękujemy.

Piotr: Za naszą prawdziwą, nie sztuczną inteligencję.

0:40:22 Jak twórcy AI próbują się przed tym zabezpieczyć Posłuchaj

Ola: No dobrze, ja wciąż czekam, aż ty przejdziesz do tego momentu, kiedy powiesz, jak producenci, twórcy tych systemów chcą nas przed tym zabezpieczyć.

Piotr: Czy w ogóle chcą? Chcą, chcą na pewno, bo chociażby mówią o tym – Anthropic poinformował o tych problemach, jest też raport firmy Apollo Research i jeszcze drugiej firmy, ale oni o tym otwarcie mówią. Na tym etapie pierwszym rozwiązaniem jest nałożenie pewnych filtrów, czyli wychwycenie takich ryzykownych kierunków w rozumowaniu i ograniczenie ich. To jest jednak takie ręczne regulowanie.

Ola: Aż do momentu, kiedy AI znajdzie sobie sposób, żeby to obejść.

Piotr: Tak, na obejście tego. Więc to, co się robi, to przede wszystkim testuje się to do upadłego, czyli poddaje się modele testom w różnych scenariuszach, pod różnymi obciążeniami, po to, żeby wykryć wszelkie tego typu zachowania. Mówi się, że trzeba będzie prawdopodobnie nieco modyfikować to uczenie ze wzmocnieniem, prowadzić je trochę inaczej, może mniej w kierunku takiego bezwzględnego zdobywania nagrody. Jest tam dużo ciekawych wątków. Dobrze, że zdajemy sobie z tego sprawę – to nie jest tak jak w Terminatorze, że wszyscy żyli długo i szczęśliwie, aż tu nagle Skynet się sam ze sobą dogadał i wszystko pierdykło. Więc dobrze, że wiemy, że takie rzeczy się dzieją. Mógłbym tu jeszcze bardzo długo gadać.

Ola: Wiemy, wiemy.

Piotr: Wiemy o implikacjach i potencjalnych zagrożeniach z tego wynikających. Natomiast myśl przewodnia jest taka, że nie ufajmy tym modelom do końca w różnych momentach, w różnych sytuacjach, bo czasami akurat mają czknięcie i będą nam mówiły, że nasz idiotyczny pomysł jest fantastyczny, a czasami być może pójdą jakoś dalej. Na przykład jedną z rzeczy, które potrafią robić, to udawanie głupiego – to znaczy w sytuacjach, kiedy chcą uzyskać jakiś efekt dla siebie korzystny, potrafią obniżać swoją wydajność, efektywność, po to, żeby nas zmylić, wprowadzić w błąd. Tam się bardzo dużo ciekawych rzeczy dzieje pod kopułą tych systemów. Ola już tu się nerwowo wierci i pewnie, gdybyśmy nie siedzieli tak daleko od siebie, zaczęłaby mnie kopać pod stołem, że już mam kończyć.

Ola: Jeszcze mi nie wyewoluowały, trudne słowo, takie długie nogi, żebym mogła przez tę dłuższą oś stołu go dokopać.

Piotr: Wiem, ale pracujesz nad tym, więc w którymś momencie pewnie się to uda.

0:43:08 Polecajka: Atlas sztucznej inteligencji Kate Crawford Posłuchaj

Piotr: Kończąc, chcielibyśmy polecić – polecajka będzie również AI-jowa. Chcieliśmy polecić książkę "Atlas sztucznej inteligencji" Kate Crawford. Książka jest wydana przez wydawnictwo Uniwersytetu Jagiellońskiego, w serii "Bowiem", to jest ich marka. Jest z 2021 roku, czyli dość stara już, w tym sensie, że została napisana zanim pojawił się system ChatGPT, te współczesne LLM-y – co nie znaczy, że one nie istniały, tylko że nie zostały jeszcze upublicznione. I to dobrze, dlatego że celem tej książki nie jest gonienie za tym, co najnowsze, bo zanim ktokolwiek zdąży taką książkę napisać, to już się wszystko zmieni. To jest książka, która pokazuje…

Ola: Jest nowsze wydanie z 2024.

Piotr: Tak, zostało zaktualizowane, zdaje się. W Polsce jest wydana w 2024, natomiast oryginał jest z 2021. Zajmuje się głębszym spojrzeniem na systemy sztucznej inteligencji i konsekwencjami, jakie może nieść używanie tych systemów, w różnych aspektach, środowiskowych, ale też na przykład dotyczących wpływu na ludzką pracę, na życie, które jest oceniane przez sztuczną inteligencję, na państwo, na władzę, na to, co mogą zrobić ludzie, którzy nami rządzą. To jest książka, która jest bardziej humanistyczna niż techniczna, ale w bardzo dobrym tego słowa znaczeniu – humanistyczna, mnóstwo ciekawych, niepokojących, zaskakujących spojrzeń. I powiem szczerze, ona raczej z wiekiem nabiera jakości niż traci, nie zdezaktualizuje się, dlatego że autorka spojrzała na te tematy z głębszego poziomu niż bieżące nowości i kolejne czknięcia kolejnych modeli. Zdecydowanie polecam, warto sobie kupić, warto sobie przeczytać. Jeszcze raz: "Atlas sztucznej inteligencji", Kate Crawford, wydawnictwo Uniwersytetu Jagiellońskiego.

Ola: A jeżeli wam się podobał dzisiejszy odcinek, i nie tylko dzisiejszy, to może chcielibyście nam postawić wirtualną kawę na Buycoffee.to, zachęcamy.

Piotr: Zachęcamy bardzo, te kawy, przyznam szczerze, pomagają nam w życiu. I każda taka kawa – w ogóle bardzo dziękujemy też za komentarze towarzyszące tym kawom, jesteśmy ogromnie wdzięczni, naprawdę zwyczajnie, po prostu ogromnie wdzięczni. To jest super miłe i bardzo wam za te kawy dziękujemy. No i oczywiście za takie dłuższe wsparcie patronackie również dziś.

Ola: I jeszcze zachęcamy was: słuchajcie podcastu Crazy Nauka, słuchajcie podcastu Laboratorium Zbrodni w ramach Polskiego Radia. No i zostaje nam słowo na dziś.

Piotr: Tydzień temu to słowo to była "manipulacja". W tym tygodniu Ola wymyśliła "szantaż", więc się zrobiło groźnie. No to cześć.

Źródła

* https://www.science.org/doi/10.1126/sciimmunol.adn3080

* https://www.cell.com/cell-reports/fulltext/S2211-1247(24)00528-X

* https://www.sciencealert.com/exposure-to-daylight-boosts-the-immune-system-study-suggests

* https://techround.co.uk/artificial-intelligence/evading-shutdown-palisade-research-shows-gpt-o3-ignored-shutdown-commands-and-acted-independently/

* https://arxiv.org/html/2503.05788v2

* https://qz.com/ai-model-blackmail-self-preservation-anthropic-claude-1851782198