Co się stanie, gdy sztuczna inteligencja osiągnie osobliwość i czy będzie w stanie zabijać ludzi

Różne sztuczne inteligencje (od chatbotów przez sieci neuronowe po autopiloty w samochodach), które szybko opanowują świat, wydają się być rozrywką dla ludzkości i czymś, co poprawi nasze życie w niedalekiej przyszłości. Jednak gdy sztuczna inteligencja osiągnie osobliwość, ludzie mogą mieć kłopoty.

Jest to temat artykułu Popular Mechanics, który rozmawiał z ekspertami branżowymi. Powiedzieli również, jak uniknąć przekształcenia sztucznej inteligencji we wroga.

Eksperci sugerują, że moment osobliwości może nadejść do 2030 roku. Po tym czasie sztuczna inteligencja przewyższy ludzką inteligencję i bardzo trudno będzie obliczyć konsekwencje jej działań.

Czym jest osobliwość

Osobliwość to moment, w którym inteligencja maszyn zrówna się lub przewyższy inteligencję człowieka. Koncepcja ta była kiedyś rozważana przez Stephena Hawkinga, Billa Gatesa i innych naukowców. W szczególności angielski matematyk Alan Turing opracował Test Turinga w latach 50-tych, aby dowiedzieć się, czy maszyny są zdolne do samodzielnego myślenia i czy mogą osiągnąć poziom komunikacji, na którym człowiek nie byłby w stanie zrozumieć, czy rozmawia ze sztuczną inteligencją, czy z inną osobą. ChatGPT udowodnił już, że AI jest w stanie prowadzić rozmowę na poziomie ludzkim.

Ishani Priyadarshini, doktorantka na Uniwersytecie Kalifornijskim w Berkeley, wyjaśnia, że głównym problemem sztucznej inteligencji jest to, że jej inteligencja jest praktycznie nieograniczona, podczas gdy ludzka inteligencja jest stała, ponieważ nie możemy po prostu dodać sobie więcej pamięci, aby stać się mądrzejszymi.

Kiedy osobliwość może zostać osiągnięta?

Eksperci uważają, że stwierdzenia o rychłym osiągnięciu osobliwości są w najlepszym razie spekulacjami. Priyadarshini uważa, że osobliwość już istnieje w kawałkach, ale moment, w którym sztuczna inteligencja przewyższy ludzką inteligencję w całości, nie nadejdzie szybko. Niemniej jednak ludzie widzieli już momenty osobliwości. Na przykład, gdy superkomputer Deep Blue firmy IBM pokonał ludzkiego szachistę, mistrza świata w szachach Garry'ego Kasparowa, po raz pierwszy w 1997 roku.

Eksperci zakładają, że będzie można mówić o osiągnięciu osobliwości, gdy sztuczna inteligencja będzie w stanie tłumaczyć język na tym samym poziomie lub lepiej niż ludzie.

Priyadarshini uważa jednak, że najlepszym wskaźnikiem tego, że sztuczna inteligencja stała się mądrzejsza od ludzi, będzie moment, w którym maszyny zaczną rozumieć memy, które obecnie są poza ich zasięgiem.

Co się stanie, gdy AI osiągnie osobliwość?

Problem polega na tym, że ludzie są zbyt "głupi", aby przewidzieć, co się stanie, gdy AI zyska superinteligencję. Aby to przewidzieć, potrzebujemy człowieka, który również będzie posiadał superinteligencję. Dlatego ludzkość może jedynie spekulować na temat konsekwencji osobliwości, korzystając z naszego obecnego poziomu inteligencji.

"Musisz być co najmniej tak inteligentny jak ty, aby móc przewidzieć, co zrobi system... jeśli mówimy o systemach, które są mądrzejsze od ludzi (superinteligentne), to niemożliwe jest, abyśmy przewidzieli wynalazki lub rozwiązania" - powiedział Roman Yampolsky, profesor nadzwyczajny inżynierii komputerowej i informatyki na Uniwersytecie w Louisville.

Jeśli chodzi o to, czy sztuczna inteligencja może stać się wrogiem dla ludzi, Priyadarshini uważa, że również trudno jest to przewidzieć. Wszystko będzie zależeć od tego, czy jej kod nie będzie zawierał sprzeczności.

"Chcemy autonomicznych samochodów, nie chcemy tylko, by przejeżdżały na czerwonym świetle i zderzały się z pasażerami" - mówi Priyadarshini, wyjaśniając, że zły kod może sprawić, że sztuczna inteligencja uzna przejeżdżanie na czerwonym świetle i ludzi za najbardziej efektywny sposób dotarcia do celu na czas.

Według niej, badacze sztucznej inteligencji wiedzą, że nie jesteśmy w stanie usunąć stronniczości z kodu w 100% przypadków, więc stworzenie całkowicie bezstronnej sztucznej inteligencji, która nie może zrobić nic złego, będzie wyzwaniem.

Czy sztuczna inteligencja może krzywdzić ludzi?

Obecnie sztuczna inteligencja nie ma uczuć, więc kieruje się wyłącznie własną wiedzą. Dlatego jest mało prawdopodobne, że w najbliższej przyszłości stanie się niekontrolowana i nie będzie próbowała uciec spod ludzkiej kontroli, po prostu dlatego, że nie ma takiej motywacji.

Jednak, jak wyjaśnia Yampolsky, niekontrolowana sztuczna inteligencja może wynikać ze sposobu, w jaki jest tworzona przez ludzi i paradoksów, które mogą powstać w jej kodzie.

"Nie mamy sposobu, aby wykryć, zmierzyć lub ocenić, czy systemy doświadczają stanów wewnętrznych. . Ale nie jest to konieczne, aby stały się one bardzo zdolne i bardzo niebezpieczne" - wyjaśnił naukowiec.

Priyadarshini również wspiera swojego kolegę, argumentując, że jedynym powodem, który może doprowadzić do buntu AI, jest niespójność kodu.

"To (SI - red.) może nie mieć żadnych motywów przeciwko ludziom, ale maszyna, która wierzy, że ludzie są główną przyczyną pewnych problemów, może tak myśleć" - wyjaśnił naukowiec.

Jeśli jednak SI stanie się na tyle inteligentna, by być samoświadoma i posiadać wewnętrzne uczucia, może mieć motyw, by nie lubić ludzkości.

Ponownie, źle zdefiniowane zadanie może prowadzić do niezamierzonego zabijania. Jako przykład Yampolsky przytacza sytuację, w której sztuczna inteligencja zostaje poproszona o stworzenie szczepionki dla ludzi przeciwko warunkowemu COVID.

System będzie wiedział, że im więcej osób zachoruje na COVID, tym bardziej wirus będzie mutował, co utrudni opracowanie szczepionki dla wszystkich wariantów.

"System myśli ... może mogę rozwiązać ten problem, zmniejszając liczbę osób, aby wirus nie mógł tak bardzo mutować" - mówi naukowiec, sugerując, że sztuczna inteligencja, która nie ma pojęcia moralności, może wybrać bardziej skuteczne rozwiązanie, nawet jeśli zaszkodzi to niektórym ludziom.

Jak możemy zapobiec katastrofie osobliwości?

Nigdy nie będziemy w stanie uwolnić sztucznej inteligencji od wszystkich jej niewiadomych. Są to niezamierzone skutki uboczne, których ludzie nie mogą przewidzieć, ponieważ nie mają superinteligencji.

"Naprawdę patrzymy na osobliwość, która doprowadzi do pojawienia się wielu nieuczciwych maszyn. Jeśli osiągnie punkt bez powrotu, nie będzie można tego naprawić" - ostrzega Priyadarshini.

Wcześniej OBOZREVATEL powiedział również, że sztuczna inteligencja musi stworzyć czwarte prawo robotyki Asimowa.

Subskrybuj kanały Telegram i Viber OBOZREVATEL, aby być na bieżąco z najnowszymi wydarzeniami.