Grok čelí blokacím kvůli digitálnímu svlékání žen i nezletilých
Indonésie a Malajsie vypnuly chatbota Grok kvůli deepfakům svlečených žen i nezletilých. Jde o první státy, které k blokaci přistoupily poté, co se na síti X rozjel trend digitálního „svlékání“.
Grok se od většiny velkých chatbotů liší tím, že explicitní obsah necenzuruje. Trend obnažovacích deepfakes nabral na tempu ve chvíli, kdy lidé zjistili, že mohou Grok přímo požádat o úpravu fotek, aby se na nich daná osoba ocitla například v bikinách, nahá nebo sugestivních pózách.
V promptech se tak často objevovaly pokyny jako „odstranit oblečení“. Na trend už reagoval i britský regulátor Ofcom, který zahájil vyšetřování platformy X kvůli obavám, že je v platformě integrovaný chatbot zneužíván k tvorbě a sdílení „svlečených“ obrázků lidí i sexualizovaných snímků dětí.
Pokud by síť X porušila zákon, Ofcom ji může uložit pokutu až do výše deseti procent celosvětových tržeb, nebo 18 milionů liber – podle toho, která částka je vyšší.
Autorka: ako
Čtěte také:AI popřela holokaust. Muskův Grok se vymkl kontrole