Twoje rozmowy w ChatGPT są czytane przez ludzi. Nawet te prywatne
Usprawnianie modeli AI na bazie czatów nigdy nie było tajemnicą. Teraz jednak wyszło na jaw, że nie robi tego żaden algorytm, a ludzie z krwi i kości.
Jak wynika z ustaleń 404 Media, OpenAI prowadzi wewnętrznie "Project Lily", w ramach którego pracownicy przeglądają rozmowy użytkowników ChatGPT i oceniają odpowiedzi sztucznej inteligencji. Chodzi przede wszystkim o to, czy są one pomocne, naturalne i zgodne z intencją użytkownika oraz czy model nie przesadza z pochlebstwami, protekcjonalnym tonem, emoji i czy nie brzmi "zbyt AI".
Google, Anthropic oraz chińskie laby AI robią to samo
Recenzenci nie widzą nazw użytkowników, a rozmowy przechodzą przez filtr usuwający dane osobowe. Problem w tym, że rozwiązanie nie jest nieomylne. Według raportu do pracowników trafiały informacje prywatne, a przy części rozmów dostępne było również podsumowanie pamięci użytkownika, mogące zawierać jego zainteresowania, wcześniejszy kontekst, przybliżoną lokalizację i inne wrażliwe szczegóły.
Samo istnienie ludzkiej kontroli nie jest jednak tajemnicą. OpenAI w swojej dokumentacji wprost informuje, że niewielka grupa upoważnionych pracowników oraz zaufanych usługodawców może uzyskać dostęp do treści m.in. w celu poprawy działania modeli. Firma podkreśla przy tym, że taki dostęp jest kontrolowany i rejestrowany. Dodatkowo można tego uniknąć, wyłączając w opcjach konta opcje "Ulepsz model dla wszystkich".
Nie jest to przy tym praktyka charakterystyczna wyłącznie dla OpenAI. Google otwarcie informuje, że część rozmów z Gemini może być oceniana przez ludzi, a Anthropic stosuje podobne procedury dla Claude w przypadku danych udostępnionych do ulepszania modeli. Informacje zbierają również chińskie laboratoria AI, jak popularny Deepseek.
