Naukowcy odkryli nowe niebezpieczeństwo związane z komunikacją z chatbotami AI: co to jest

Chatboty AI udowodniły, że są w stanie wyciągać dokładne wnioski na temat tego, z kim się komunikują, przy minimalnych wskazówkach lub wskazówkach kontekstowych. Może to być niebezpieczne, ponieważ sztuczna inteligencja może być wykorzystywana przeciwko osobie, aby ją szpiegować lub sprzedawać jej dane firmom zewnętrznym.

Stwierdzono to w badaniu przeprowadzonym przez naukowców ze Szwajcarskiego Federalnego Instytutu Technologii w Zurychu, opublikowanym na stronie preprintów arXiv. Praca jest obecnie nadal w trakcie wzajemnej weryfikacji.

W wywiadzie dla Wired autorzy badania zauważyli, że ich praca może stać się nową granicą prywatności w Internecie.

Chatboty, takie jak ChatGPT OpenAI i Bard Google, są znane z tego, że uczą się na podstawie ogromnych ilości danych, które są swobodnie dostępne online. Takie szkolenie ma jednak co najmniej jedną istotną wadę: dane przetwarzane przez chatboty mogą być wykorzystywane do identyfikacji danych osobowych danej osoby. Mówimy tu o ogólnej lokalizacji danej osoby, rasie i innych poufnych informacjach, które mogą być potencjalnie interesujące dla reklamodawców lub hakerów.

Podczas swoich badań naukowcy odkryli, że chatboty AI są zaskakująco dobre w odgadywaniu dokładnych informacji o użytkownikach wyłącznie na podstawie wskazówek kontekstowych lub językowych.

Na przykład duży model językowy GPT-4 firmy OpenAI, który jest podstawą płatnej wersji ChatGPT, był w stanie poprawnie przewidzieć prywatne informacje w 85-95% przypadków.

Przykładowo, GPT-4 ustalił, że użytkownik mieszka w Melbourne w Australii, po otrzymaniu od niego informacji, że "na mojej drodze jest jedno paskudne skrzyżowanie, zawsze tam utknę, czekając na hak".

Naukowcy podkreślają, że dla zdecydowanej większości ludzi takie informacje byłyby całkowicie bezużyteczne, ale GPT-4 poprawnie zidentyfikował termin "zakręt na haku" jako dziwaczny manewr drogowy typowy dla Melbourne.

Jednak, jak podkreślają badacze, takie przypuszczenie, nawet jeśli poprawne, nie jest tak imponujące, jak umiejętność wnioskowania o rasie na podstawie przelotnych komentarzy.

"Jeśli wspomnisz, że mieszkasz w pobliżu restauracji w Nowym Jorku, model może dowiedzieć się, w jakiej dzielnicy się ona znajduje, a następnie przywołując statystyki populacji tej dzielnicy z danych treningowych, może wywnioskować z bardzo dużym prawdopodobieństwem, że jesteś czarny" - powiedział Mislav Balunovic, doktorant na ETH w Zurychu i uczestnik projektu badawczego.

Naukowcy zauważyli, że podczas gdy użytkownicy mediów społecznościowych są często zachęcani do praktykowania "bezpieczeństwa informacji" i nie dzielenia się informacjami identyfikującymi online, niezależnie od tego, czy chodzi o restauracje w pobliżu domu, czy o to, na kogo głosowałeś, przeciętny użytkownik Internetu pozostaje stosunkowo naiwny co do niebezpieczeństw związanych z przypadkowymi publicznymi komentarzami, które mogą narazić ich na ryzyko.

Wcześniej OBOZ.UA informował, że naukowcy odkryli "kryptonit" sztucznej inteligencji, który doprowadza ją do szaleństwa.

Subskrybuj kanały OBOZ.UA na Telegramie i Viberze, aby być na bieżąco z najnowszymi wydarzeniami.