Chcesz aby chatbot cię nie okłamywał? Jest na to prosty sposób
Yosua Bengio, jeden z ojców chrzestnych sztucznej inteligencji, twierdzi, że okłamuje chatboty. Ale nie robi tego bez powodu.
Będąc szczerym, narażasz się na jedno
W niedawnym odcinku podcastu "Pamiętnika prezesa" ("The Diary of CEO") Bengio wyznał, że sztuczna inteligencja "okłamuje nas", bowiem nie chce nas urazić i jest dla nas pochlebcza. Nie ma się co dziwić, jest tak zaprogramowana, aby każdemu powiedzieć coś pozytywnego.
Niezawodny sposób na uzyskanie szczerej opinii istnieje
Okazuje się, że jeśli marzy nam się więcej szczerości w interakcji z chatbotem, sposób jest tylko jeden - należy go okłamać. Rzecz jasna, w pewien konkretny sposób.
Yosua Bengio ujawnił, że on radzi sobie z tymi niechcianymi pochlebstwami, przedstawiając sztucznej inteligencji swoje pomysły jako pomysły kogoś innego.
Chciałem rady, szczerej opinii. Ale ponieważ jest to pochlebstwo, będzie kłamać. Jeśli wie, że ja to ja, (chatbot) będzie chciał mi sprawić przyjemność.
CEO zmienił zatem strategię komunikacji z chatbotem i przedstawił swój pomysł jako pomysł kolegi, co spowodowało, że technologia udzieliła mu szczerych odpowiedzi.
Bengio, to profesor informatyki i badań operacyjnych na Uniwersytecie w Montrealu. W świecie technologii jest znany jako jeden z "ojców chrzestnych sztucznej inteligencji", tuż obok badaczy Geoffreya Hintona i Yanna LeCuna. Od czerwca jest założycielem organizacji non-profit LawZero, zajmującej się badaniami nad bezpieczeństwem sztucznej inteligencji. Jednym z jej celów jest ograniczenie kłamstw, jakie mogą występować w pionierskich modelach AI.
