Sztuczna inteligencja może zniszczyć ludzkość: hipotetyczne scenariusze

Kiedy myślimy o egzystencjalnym zagrożeniu, jakie sztuczna inteligencja może stanowić dla ludzkości, być może myślimy w błędnych kategoriach, narzuconych nam przez powieści i filmy science fiction o tym, jak roboty zbuntowały się i przejęły kontrolę nad Ziemią. Być może współczesna ludzkość wierzy, że ich jedyną motywacją będzie chęć zabijania. Ale co, jeśli jedynym argumentem, którego AI użyje przeciwko ludziom, jest najprostszy i najbardziej bezwzględny - ewolucja.

OBOZREVATEL opowiada o złożonych relacjach między ludźmi a sztuczną inteligencją, a także o scenariuszach, które mogą doprowadzić do niepożądanego, ale całkiem logicznego końca Homo Sapiens.

Czym jest człowiek?

Zacznijmy od początku. Encyklopedia definiuje człowieka jako istotę żywą obdarzoną inteligencją i będącą podmiotem działalności społeczno-historycznej oraz kultury.

Warto chyba dodać, że jest to istota o najwyższym poziomie inteligencji na naszej planecie. W przeciwnym razie musielibyśmy spierać się o relacje społeczne zwierząt, które tworzą społeczności i przekazują w nich władzę (kontekst społeczno-historyczny), tańczą lub śpiewają, aby przyciągnąć samice do kopulacji (kontekst kulturowo-społeczny), a niektóre są nawet zdolne do tworzenia dzieł sztuki, jakkolwiek prymitywnych.

W końcu mamy żywą istotę o wysokim poziomie inteligencji. Ale czy słowo "żywy" jest niezbędne w koncepcji człowieka? Na przykład, czy osoba przestaje być człowiekiem w przypadku śmierci?

Pozostaje nam więc istota o wysokim poziomie inteligencji. Kim zatem będzie sztuczna inteligencja, która osiągnie osobliwość (szczegółowo o tym, co to jest OBOZREVATEL opowiedział tutaj ) i przewyższy ludzką inteligencję, a dokładniej - nasz gatunek - Homo Sapiens. W końcu nie powinniśmy zapominać, że staliśmy się tym, czym się staliśmy na kościach naszych mniej rozwiniętych przodków.

Czy AI może stać się nowym gatunkiem ludzkości, powiedzmy - Homo Roboticus?

No dobrze, skoro tak ważne jest dla ciebie, by gatunek Homo był z krwi i kości: czy ludzie, którym Elon Musk planuje wszczepić do mózgów komputerowe implanty, zyskując supersilną inteligencję, pozostaną Homo Sapiens, czy też wejdą w nowy etap ewolucji i będą, umownie, Homo Computericus?

Czy sztuczna inteligencja jest w stanie zabijać ludzi?

Problem z osobliwością AI, jak powiedział nam wcześniej OBOZREVATEL, polega na tym, że gdy AI przewyższy naszą inteligencję, nie będziemy już w stanie zrozumieć jej motywacji do pewnych działań.

Jest prawdopodobne, że ani SI, ani roboty wyposażone w elektroniczne mózgi nie będą dążyć do zabicia ludzi. Ale mogą istnieć hipotetyczne scenariusze, w których SI będzie musiała podjąć jakąś "ewolucyjną" decyzję. Sztuczna inteligencja nie potrzebuje gniewu, smutku czy miłości, aby niszczyć lub odwrotnie, aby chronić ludzi lub ludzkość. Jedyną rzeczą, na której będzie polegać, jest zimna kalkulacja doskonałego umysłu komputerowego.

Jak zauważyła Ishani Priyadarshini, badaczka z Uniwersytetu Kalifornijskiego w Berkeley, specjalizująca się w sztucznej inteligencji stosowanej i technologicznej osobliwości - sztuczna inteligencja to tylko kod, który "może nie mieć żadnych motywów przeciwko ludziom", ale może wierzyć, że ludzie lub ludzkość są przyczyną pewnych problemów.

A samo rozwiązanie problemu stworzonego przez człowieka może spowodować, że SI będzie w stanie przekroczyć granicę. W szczególności istnieje kilka scenariuszy, w których, w ten czy inny sposób, SI podejmie decyzję o zabiciu człowieka.

Priyadarshini wspomniała o tym, co nazywa "klasycznym przypadkiem samojezdnego samochodu".

W hipotetycznej sytuacji pięć osób jedzie drogą w samochodzie bez kierowcy, gdy jedna osoba wyskakuje przed samochód. Jeśli samochód nie zatrzyma się na czas, dla sztucznej inteligencji sytuacja zmieni się w problem matematyczny dla dzieci. Co jest większe, jeden czy pięć?

"Zabije jednego pasażera, ponieważ jeden jest mniejszy niż pięć, ale dlaczego miałoby się tak stać?" - mówi naukowiec.

Jest to podobne do popularnego problemu logicznego z trolejbusem, który wielu z nas słyszało. Jesteś kierowcą trolejbusu, który stracił hamulce i pędzi z dużą prędkością. Przed tobą znajdują się rozwidlenia torów - pięć osób na jednym z nich i tylko jedna osoba na drugim. Który tor wybierzesz? Jeden to mniej niż pięć...

Ale wracając do sztucznej inteligencji. Jest jeszcze jeden hipotetyczny scenariusz, w którym zabicie nawet bardzo wielu ludzi dla SI miałoby logiczne i proste wytłumaczenie. Czasami ludzie są po prostu zbędnym materiałem. Dla ludzi myślenie w takich kategoriach nie jest naturalne, bo hamują nas emocje i przyszłe poczucie winy za straszny czyn. Ale dla sztucznej inteligencji to tylko kwestia ewolucji.

Roman Yampolsky, profesor nadzwyczajny inżynierii komputerowej i informatyki na Uniwersytecie w Louisville, mówi o medycznej sztucznej inteligencji, która hipotetycznie byłaby skłonna zabić niektórych, aby zapewnić przetrwanie innym.

Wyobraźmy sobie, że sztuczna inteligencja otrzymała zadanie opracowania szczepionki przeciwko COVID. Ponieważ mamy do czynienia z supermocną inteligencją, oblicza ona swoje działania dziesiątki kroków naprzód, więc ...

SI wie, że im więcej wirusów jest przekazywanych między ludźmi, tym bardziej mutuje. Im więcej mutacji, tym trudniej jest opracować szczepionkę, która uwzględni istnienie wszystkich mutacji i będzie działać przeciwko nim z taką samą skutecznością.

"System myśli ... może mogę rozwiązać ten problem, zmniejszając liczbę osób i zmniejszając liczbę mutacji" - wyjaśnia Yampolsky.

Naukowiec zauważa, że jest to dość prosty hipotetyczny scenariusz, który jest w stanie wymyślić w oparciu o możliwości swojego mózgu, ale sztuczna inteligencja będzie miała zupełnie inny poziom inteligencji i prawdopodobnie zupełnie inny związek logiczno-motywacyjny.

Możliwy jest również trzeci scenariusz. Załóżmy, że napiszemy idealną sztuczną inteligencję, która zna dokładnie wszystkie prawa robotyki Asimova ( więcej na ten temat tutaj ) i rozumie, że ludziom nie może stać się żadna krzywda. Ale co, jeśli SI również definiuje siebie jako człowieka, ponieważ będzie stworzeniem, choć elektronicznym, o najwyższej inteligencji na planecie? Co jeśli stanie w obliczu egzystencjalnego zagrożenia ze strony ludzkości, która w jej mniemaniu jest już na najniższym etapie ewolucji...

Czy SI będzie skłonna zabić ludzkość, aby się chronić, czy po prostu stworzy dla nas rezerwaty, w których inne SI będą patrzeć na nas jak na zwierzęta w zoo. Czas pokaże...

Wcześniej OBOZREVATEL poinformował również, że naukowcy uważają, że rozwój sztucznej inteligencji powinien zostać zawieszony.

Subskrybuj kanały OBOZREVATEL w Telegramie i Viberze, aby być na bieżąco z najnowszymi wydarzeniami.