Stworzyli nietypowego wirusa. Uczy się rozprzestrzeniając się w sieci
Naukowcy zbudowali robaka komputerowego, który działa jak samouczący się agent sztucznej inteligencji. To prototyp, ale eksperci mówią wprost, że świat nie jest gotowy na tego typu zagrożenie.
Wirus, który myśli w locie
Nicolas Papernot, specjalista od bezpieczeństwa systemów uczących się z Uniwersytetu w Toronto, wraz z zespołem stworzył coś, co do tej pory istniało tylko w teorii. Robak komputerowy napędzany AI, który sam się replikuje i rozprzestrzenia po sieci, ale ze samoświadomością. Co odróżnia go od wcześniej stworzonych wirusów, jak np. słynny WannaCry z 2017 roku, to brak z góry napisanego skryptu.
Wcześniejsze robaki potrafiły uderzyć tylko tam, gdzie znalazły konkretną, wcześniej przewidzianą lukę. Wystarczyło tę lukę załatać i problem znikał. Z kolei ten nowy wirus nie ma z góry zaprogramowanej listy słabości, które chce atakować.
Zamiast tego analizuje każde urządzenie, które napotka i sam na bieżąco wymyśla strategię ataku. Do tego nie potrzebuje połączenia z komercyjnym modelem AI w stylu ChatGPT czy Claude. Przejmuje moc obliczeniową zainfekowanych maszyn i uruchamia na nich ogólnodostępny model językowy, który można ściągnąć z internetu za darmo. W efekcie każda kolejna infekcja jest dla atakującego dosłownie bezkosztowa.
Podczas testów wirus działał jednocześnie na urządzeniach z systemami Linux, Windows i IoT, czyli na przykład routerach czy kamerach sieciowych, wykorzystując realne luki spotykane w sieciach korporacyjnych.
Dobra wiadomość jest taka, że eksperyment odbywał się w izolowanym środowisku wirtualnym, więc żadne realne komputery nie były zagrożone. Badacze stworzyli prototyp wyłącznie po to, żeby udowodnić, że taki scenariusz jest możliwy, i zmotywować branżę do budowania zabezpieczeń zanim pojawi się realne zagrożenie.
David Lie, specjalista od bezpieczeństwa systemów komputerowych, również z Uniwersytetu w Toronto, który zapoznał się z badaniem, mówi, że to sygnał alarmowy. Wskazuje, że AI może działać w obie strony -- tyle samo co napędzać ataki, może też pomagać w ich wykrywaniu i neutralizowaniu. Praca nie przeszła jeszcze recenzji naukowej i została opublikowana na serwerze preprintów arXiv.
