Riziko pokroku: Sexuální predátoři používají AI k tvorbě dětské pornografie

Londýn – Obrázky generované umělou inteligencí se těší stále větší oblibě. Podle charitativní organizace, která se zabývá odstraňováním dětské pornografie z internetu, ale narůstá i počet vygenerovaných snímků, které sexuálně vyobrazují děti, píše BBC.

Popularita umělé inteligence (AI) roste a oblastí, kde ji lze využít, přibývá. Pokroková technologie s sebou ale přináší také rizika. Z toho důvodu se Spojené království rozhodlo na podzim uspořádat první globální summit ohledně bezpečnosti AI. Přední dětská charitativní organizace Internet Watch Foundation (IWF) v souvislosti s tím vyzývá premiéra Rishiho Sunaka, aby řešil otázku dětské pornografie generované umělou inteligencí.

IWF začala zaznamenávat obrázky generované pomocí AI minulý měsíc. Od té doby organizace narazila na sexuální predátory po celém světě, kteří sdíleli galerie někdy velice realistických obrázků. Redakce BBC dostala k nahlédnutí poupravené verze některých snímků, na kterých byly vyobrazeny nahé dívky kolem pěti let v sexuálních pózách.

„V současné době neregistrujeme tyto obrázky ve velkém množství, ale je nám jasné, že zločinci mohou do budoucna produkovat velké množství realisticky vypadajících snímků sexuálního zneužívání dětí,“ řekla Susie Hargreaves, generální ředitelka IWF, společnosti, která je jednou z pouze tří charitativních organizací na světě s licencí k aktivnímu vyhledávání obsahu zneužívání dětí online.

Sunak chce řešit bezpečnost

Analytici společnosti provedli v období od 24. května do 30. června šetření na 29 stránkách. Na sedmi stránkách pak zaznamenali sdílené galerie, které obsahovaly obrázky vygenerované AI. Vedle nich ale v galeriích na nelegálních stránkách našli i skutečné materiály.

Národní kriminální agentura (NCA) v pondělí varovala, že umělá inteligence by mohla do budoucna podpořit to, co nazývá „epidemií sexuálního zneužívání dětí“.

Téměř ve všech zemích je nezákonné vytvářet a sdílet obrázky sexuálního zneužívání dětí. „Nyní máme šanci získat před touto technologií náskok, ale legislativa to musí brát v úvahu a musí být vhodná pro daný účel ve světle této nové hrozby,“ řekla Hargreaves. 

Britský premiér Sunak slíbil, že na podzim shromáždí odborníky a zákonodárce na bezpečnost AI. Experti by na setkání měli posoudit případné hrozby a rizika umělé inteligence a diskutovat o tom, jak je zmírnit prostřednictvím mezinárodně koordinovaných akcí.

Analytici IWF v rámci své práce zaznamenávají trendy ve zobrazování zneužívání. Podle nich narůstá počet obsahů, které pocházejí přímo od dětí. Predátoři je většinou donutí posílat videa a obrázky sebe sama.

Charita se obává, že snímky generované umělou inteligencí jsou rostoucím trendem, ačkoli počet objevených obrázků je zatím stále zlomkem jiných forem zneužívání.

V roce 2022 IWF zaprotokolovala a pokusila se převést do režimu offline více než 250 tisíc webových stránek, které obsahovaly snímky sexuálního zneužívání dětí. Analytici také zaznamenali rozhovory na fórech mezi predátory, kteří sdíleli tipy, jak vytvořit co nejrealističtější obrázky dětí.

Snímky mohou posílit deviaci

Podle odborníků predátoři našli způsoby, jak stáhnout modely umělé inteligence s otevřeným zdrojovým kódem, odstranit bezpečnostní bariéry a oklamat umělou inteligenci, aby vygenerovala dětskou pornografii.

Zatímco většina AI generátorů obrázků má přísná a vestavěná pravidla, aby zabránila uživatelům generovat obsah se zakázanými slovy nebo frázemi, nástroje s otevřeným zdrojovým kódem lze stáhnout zdarma a upravit, jak uživatel chce.

BBC mluvila s jedním tvůrcem obrázků generovaných AI, na kterých zobrazuje dívky v předpubertálním věku. Muž redakci tvrdil, že tvorba – dle jeho slov – „roztomilých“ obrázků byla oprávněná. Dodal, že je to „poprvé v historii, kdy lze vytvářet obrázky dětí bez zneužívání těch skutečných“.

Odborníci však tvrdí, že snímky mohou způsobit vážné škody. Například doktor Michael Bourke, který se specializuje na chování sexuálních delikventů a pedofilů v United States Marshals Service, tvrdí, že podobné nelegální aktivity naopak povedou k větším škodám: „Nepochybuji o tom, že obrázky generované umělou inteligencí posílí deviaci, což ve finále povede k většímu riziku poškozování dětí po celém světě.“

Autorka: Barbora Kučerová, Foto: Shutterstock

Přečetli jste si víkendovou zprávu. Kromě těch Voxpot nabízí každý den propracované reportáže i analýzy. Chcete vědět víc? Pojďte sem.

[other_banner_1]