Trump naciska na AI w wojsku. Anthropic odmówił dwóch zastosowań

O jakie czynności chodziło?

OpenAI zawiązał porozumienie z Pentagonem (nie jest to jeszcze sfinalizowana umowa) w ramach której narzędzia sztucznej inteligencji będą używane przez amerykańskie wojsko w zastrzeżonych systemach militarnych.

Wszystko jest rezultatem zerwania umowy Pentagonu z firmą Anthropic, twórcami modeli Claude. Administracja Trumpa zaprzestała współpracy ze skutkiem natychmiastowym. Jak wyjaśnia producent modeli AI: 

Departament Wojny oświadczył, że będzie zawierał umowy wyłącznie z firmami AI, które zgodzą się na "wykorzystanie [AI] w dowolnych celach w ramach litery prawa" i usuną wszelkie zabezpieczenia AI [na ich prośby]. Zagrozili usunięciem nas ze swoich systemów, jeśli utrzymamy te zabezpieczenia; zagrozili także oznaczeniem nas jako "ryzyka dla łańcucha dostaw" — etykiety zarezerwowanej dla wrogich mocarstw i nigdy wcześniej nieużywanej wobec amerykańskiej firmy — oraz powołaniem się na Defense Production Act, aby wymusić usunięcie tych zabezpieczeń.

O jakie czynności i zabezpieczenia chodziło? Mówimy tu o masowej inwigilacji oraz sterowaniu bronią autonomiczną. Tego twórcy Claude nie pozwalali robić swoimi systemami, bo miały wbudowane ograniczenia. 

Teraz Sam Altman, szef OpenAI, przy okazji porozumienia z Pentagonem dał światu do zrozumienia, że jego modele będą mogły stać się narzędziami inwigilacji i wspomagać autonomiczne systemy uzbrojenia. Wywołało to lawinę kontrowersji i doprowadziło do oddolnego ruchu "QuitGPT" namawiającego do bojkotu ChataGPT. 

Altman utrzymuje, że OpenAI zobowiązało się nie wykorzystywać swoich modeli do inwigilacji ani do autonomicznej broni. Nie wiadomo jednak, w jaki sposób ich umowa z Pentagonem ma się różnić od tej z Anthropic.