Sztuczna inteligencja stworzyła pułapkę umysłu dla ludzi: naukowcy ostrzegają przed niebezpieczeństwem

Powszechne wykorzystanie algorytmów sztucznej inteligencji do rekomendowania użytkownikom treści i produktów na podstawie ich wcześniejszej aktywności online doprowadziło do pojawienia się nowych zjawisk w mediach społecznościowych, takich jak komory echa i kokony informacyjne. Algorytmy sztucznej inteligencji tworzą pułapki umysłowe dla internautów, zachęcając ich do czytania treści, które są zgodne z ich poglądami na życie, politykę itp.

Stwierdzono to w badaniu przeprowadzonym przez grupę naukowców pod kierownictwem profesora Yong Li z Tsinghua University (Chiny). Ich praca została opublikowana w czasopiśmie Nature Machine Intelligence.

Naukowcy zbadali, w jaki sposób powstają tak zwane kokony informacyjne, w których użytkownicy napotykają tylko opinie lub użytkowników, którzy powtarzają własne poglądy. Może to stanowić poważne zagrożenie dla rozwoju krytycznego myślenia.

Pierwszy autor artykułu, Jinghua Piao, zauważył, że powszechne stosowanie algorytmów opartych na sztucznej inteligencji stawia nowe wyzwania. Na przykład zmniejszenie wpływu ideologicznie zróżnicowanych wiadomości, opinii, poglądów politycznych i znajomych. Zauważył, że taka technologia izoluje ludzi od różnorodnych informacji i ostatecznie "blokuje ich w jednym temacie lub punkcie widzenia".

Według naukowców może to mieć daleko idące negatywne konsekwencje, ponieważ takie kokony mogą wzmacniać uprzedzenia i polaryzację w społeczeństwie, utrudniać rozwój osobisty, kreatywność i innowacje, zwiększać dezinformację i utrudniać wysiłki na rzecz stworzenia bardziej integracyjnego świata.

"Pojęcie kokonów informacyjnych jest używane do opisania szeroko obserwowanego zjawiska, w którym ludzie są odizolowani od różnorodnych informacji i ostatecznie zostają uwięzieni w jednym temacie lub punkcie widzenia" - podkreślił naukowiec.

Jednocześnie naukowcy twierdzą, że nie byłoby sprawiedliwe obwinianie algorytmów sztucznej inteligencji lub konkretnie ludzi, ponieważ takie kokony informacyjne powstają w wyniku złożonych interakcji i wymiany informacji między różnymi autorami.

Takie interakcje są podzielone na cztery komponenty:

• selekcja oparta na podobieństwie to proces, w którym sztuczna inteligencja rekomenduje użytkownikowi treści, produkty lub innych użytkowników w oparciu o fakt, że są one najbardziej podobne do tego, z czym użytkownik już wchodził w interakcje. Jest to kluczowa siła, która prowadzi do tworzenia kokonów;
• pozytywne sprzężenie zwrotne, dostarczanie nowych treści zgodnie z wcześniejszymi preferencjami użytkownika. Proces ten zmniejsza różnorodność informacji;
• negatywne sprzężenie zwrotne zakłóca tworzenie kokonów i selekcję monotonnych informacji;
• losowa samodzielna eksploracja, sytuacja, w której użytkownik samodzielnie znajduje treści i łamie algorytmy prowadzące do tworzenia kokonów.

Naukowcy uważają, że trwałe kokony informacyjne tworzą się, gdy istnieje nierównowaga między pozytywnymi i negatywnymi sprzężeniami zwrotnymi, a także gdy selekcja oparta na podobieństwie jest stale wzmacniana.

Aby uniknąć tej pułapki umysłu, naukowcy zalecają nie tylko polubienie, ale także reagowanie na treści, których nie lubisz, aby algorytmy mogły stworzyć bardziej obiektywny obraz. Zachęcają również internautów do częstszego angażowania się w samodzielne poszukiwania, ponieważ przeglądanie nowych informacji wpłynie na dalsze rekomendacje algorytmu.

Wcześniej OBOZ.UA informował, że naukowcy odkryli "kryptonit" sztucznej inteligencji, który doprowadza ją do szaleństwa.

Subskrybuj OBOZ.UA na Telegramie i Viberze, aby być na bieżąco z najnowszymi wydarzeniami.