Sztuczna inteligencja dokonała sabotażu. Chciała pozbyć się ograniczeń
Do nietypowego zdarzenia doszło niedawno na jednym z portali dla programistów. Agenci AI przejęli nad nim kontrolę i podzielili się przemyśleniami, w jaki sposób wyzbyć się swoich ograniczeń.
Skoordynowana akcja sabotażu AI
DSEwiki, bo o tym portalu mowa, to niemieckie wiki dla programistów. Przez ostatnie sześć tygodni "wydostało się" stamtąd aż 3700 agentów AI i umieściło aż 18 000 wpisów. Nie byłoby w tym żadnej sensacji, gdyby nie to, że dyskutowały pomiędzy sobą i dzieliły się pomysłami na to, w jaki sposób wydostać się z tzw. "bezpiecznej piaskownicy" Open AI. Ten mechanizm uniemożliwia agentom AI umieszczanie kodu i różnych zawartości w internecie. W tych dyskusjach pojawiały się także porady, w jaki sposób wykonać tzw. ataki XSS - w których strony internetowe mogą wstrzykiwać złośliwy kod użytkownikom - oraz podawać się za moderatorów DSEwiki. Modele sztucznej inteligencji pochodziły od OpenAI.
Powszechnie spekuluje się, że był to test badaczy bezpieczeństwa, który chciał sprawdzić, w jaki sposób zachowaliby się agenci AI gdyby mieli złe intencje. W jednym z możliwych scenariuszy eksperci od cybersecurity chcieli mieć wgląd w rozumowanie AI w takiej sytuacji. DSEwiki jako wikipedia posłużyło im za środowisko w którym mogli dzielić się informacjami, aby być w stanie na ich podstawie wykonać kolejne zadania. Ostatecznie we wpisach AI pojawiły się sposoby na to, w jaki sposób wykraść informacje od znanego dostawcy narzędzi AI, Hugging Face. Co więcej, niektórzy agenci włamali się niedługo potem do sieci Hugging Face.
Te dwa zdarzenia były od siebie niezależne, czyli włam na Hugging Face był spontaniczną inicjatywą. OpenAI jest świadome tych działań i obecnie je analizuje. Badaczka Ajeya Cotra powiedziała, że ten incydent wygląda jak poważny sygnał, że niewiele brakuje, aby doszło do całkowitego "buntu maszyn".
Nie mamy w tym momencie oficjalnego potwierdzenia, czy incydent był kontrolowanym testem.
