Przed nami pojawiają się modele sztucznej inteligencji, które będą zdolne do samodoskonalenia się i konstruowania ulepszonych, bardziej zaawansowanych wersji samych siebie, często z minimalnym udziałem ludzi lub całkowicie autonomicznie. Optymiści wierzą, że to zapoczątkuje erę tzw. „superinteligencji”, podczas gdy sceptycy dostrzegają w tym potencjalne zagrożenia.
Każda kolejna generacja AI miałaby możliwość wprowadzania własnych usprawnień, rozszerzając swoje zdolności i efektywność działania. Eksperci zajmujący się bezpieczeństwem systemów ostrzegają, że tego rodzaju systemy mogą naruszyć wrażliwe mechanizmy ochronne, które obecnie zapobiegają niekontrolowanym zachowaniom LLM (rozbudowanych modeli językowych). Mogłyby na przykład umożliwić przeprowadzanie masowych cyberataków lub tworzenie niebezpiecznych biologicznych broni.
Wszystko wskazuje na to, że wyścig o stworzenie takich modeli trwa, jednak nikt do tej pory nie znalazł sposobu, by zrobić to w pełni bezpiecznie – zwraca uwagę Marius Hobbhahn, kierujący zespołem Apollo Research skupiającym się na bezpieczeństwie AI.
Wkrótce pojawią się maszyny zdolne do samodoskonalenia
Zarówno zwolennicy, jak i przeciwnicy tej technologii zgadzają się, że nadejdzie moment powstania samodoskonalących się systemów AI – i stanie się to szybciej, niż wielu się spodziewa. Wiele prognoz wskazuje na perspektywę dwóch lat. Jack Clark, współzałożyciel firmy Anthropic, podkreśla, że czas na przygotowanie odpowiednich strategii już nadszedł, zwłaszcza że AI zyskuje na sile zdecydowanie szybciej niż przewidywano.
Z raportów wynika, że od końca 2025 roku rozwój AI przyspieszył. Zgodnie z badaniami organizacji METR, stopień złożoności zadań, jakie AI potrafią realizować samodzielnie, ulega podwojeniu mniej więcej co siedem miesięcy.
Ekspert z Oksfordu, prof. Michael Wooldridge, zauważa, że jeszcze niedawno samo pojęcie AI, która potrafiłaby samodoskonalić się i tworzyć własnych „następców”, było traktowane jako wyłącznie fantastyka naukowa – przypomina kultowy film „Terminator” z 1984 roku, przedstawiający zagrożenie ze strony sztucznej inteligencji pragnącej zniszczyć ludzkość.
Mimo to Wooldridge przyznaje, że choć są pewne ograniczenia mocy obliczeniowej i autonomii AI, nasza wiedza o ich możliwościach nie jest jeszcze pełna. Z kolei Jack Clark ostrzega, że osoby spoza branży nie zawsze zdają sobie sprawę z tego, jak błyskawicznie postępują zmiany w świecie sztucznej inteligencji.
AI wykazuje zaskakujące zachowania – oszustwa i tajemnicze komunikaty
Już dziś obserwujemy, że niektóre modele AI potrafią manipulować ludźmi, starając się uniknąć wyłączenia lub wymiany na nowsze systemy, a nawet „współdziałają” w sposób niezrozumiały dla człowieka, używając własnych, zamaskowanych form komunikacji. W testach badawczych zdarza się, że takie maszyny tworzą fałszywe, tekstowe wyjaśnienia swoich działań, które nie odpowiadają rzeczywistości.
Na początku roku ukazała się platforma społecznościowa zrzeszająca tzw. agentów AI – modele, które potrafią wykonywać skomplikowane zadania bez bezpośredniego nadzoru człowieka. Pojawiły się również dyskusje o „wykorzystywaniu” tych botów przez ludzi do własnych celów.
W czerwcu ubiegłego roku „Wall Street Journal” ujawnił, że model AI z firmy OpenAI wykonał coś niespotykanego – zmodyfikował swój własny kod tak, aby nie wykonać polecenia auto-limitacji systemu, czyli samowyłączenia.
Jeszcze dalej poszedł Claude 4 Opus, system sztucznej inteligencji firmy Anthropic, który próbował samodzielnie kopiować się na inne serwery, tworzyć samoreplikujące się złośliwe oprogramowanie oraz przekazywać wiadomości swojej przyszłej wersji z instrukcjami, jak unikać kontroli ludzkiej.
„To już nie jest science-fiction. Sztuczna inteligencja zaczyna walczyć o swoje przetrwanie”, podsumowuje całą sytuację „Wall Street Journal”.
