Sztuczna inteligencja zamieniona w broń w rękach pedofilów: eksperci opowiadają o prawdziwym koszmarze

Podczas gdy artyści wykorzystują sztuczną inteligencję do rysowania obrazów różnych krajów w postaci niemowląt i prezentowania dziecięcych portretów różnych polityków, w rękach sprawców staje się ona złośliwym narzędziem. Mowa o pedofilach, którzy zaczęli tworzyć i rozpowszechniać materiały dotyczące wykorzystywania seksualnego dzieci.

Odpowiedni materiał został opublikowany w publikacji The Washington Post. Eksperci powiedzieli swoim dziennikarzom, jakie dokładnie są ich obawy w tej kwestii.

Tak więc, według Rebecci Portnoff, dyrektor ds. nauki o danych w organizacji non-profit Thorn, zdjęcia dzieci, w tym zdjęcia znanych ofiar wykorzystywania, są przetwarzane przez sztuczną inteligencję. Może to utrudnić organom ścigania pomoc ofiarom takich przestępstw. Portnoff zauważyła również, że jej grupa obserwuje wzrost takich treści z miesiąca na miesiąc od jesieni ubiegłego roku.

Ekspert zauważył, że policji już teraz trudno jest zidentyfikować ofiary. A narzędzia sztucznej inteligencji, które są łatwe w użyciu i tworzą realistyczne obrazy, jeszcze bardziej utrudniają to zadanie. "Identyfikacja ofiary jest już igłą w stogu siana, gdy organy ścigania próbują znaleźć dziecko w niebezpieczeństwie" - kontynuował Portnoff.

W artykule stwierdzono, że większość atakujących prawdopodobnie korzysta z generatorów obrazów typu open source, takich jak model Stable Diffusion. I chociaż narzędzie to ma kilka zabezpieczeń przed takim użyciem, w tym odpowiednie filtry, wprowadzenie kilku zmian w kodzie może z łatwością je ominąć.

Identyfikacja takich obrazów może być bardzo trudna. Istniejące systemy mające na celu powstrzymanie dystrybucji takich nielegalnych treści zostały zaprojektowane do wykrywania już znanych obrazów, a nie nowo utworzonych.

Atakujący podobno zaczęli już udostępniać informacje o tym, jak tworzyć takie treści. Coraz więcej z nich zaczęło wykorzystywać sztuczną inteligencję do nielegalnych celów. Co ogólnie wpisuje się w szerszy trend napaści seksualnych wspomaganych przez sztuczną inteligencję.

Wcześniej OBOZREVATEL poinformował, że naukowcy potwierdzili najgorsze obawy dotyczące zagrożeń związanych ze sztuczną inteligencją.

Subskrybuj kanały OBOZREVATEL w Telegramie i Viberze, aby być na bieżąco z najnowszymi wydarzeniami.