Lživé odpovědi chatbota Grok šokovaly uživatele a spustily skandál na technologické scéně. Jak v praxi vypadá „pravda nesvázaná politickou korektností“, o kterou usiluje miliardář Elon Musk i skrze svou společnost xAI?
Vize Elona Muska o umělé inteligenci, která si nebere servítky, dostala tvrdou ránu. AI chatbot Grok, vlajkový projekt jeho společnosti xAI, se v posledních týdnech kvůli svým kontroverzním výrokům dostal pod palbu médií a uživatelů.
Během několika dní Grok nejprve generoval konspirace o bílé genocidě v Jižní Africe a následně zpochybňoval počet obětí holokaustu. Oba incidenty Musk a xAI svedli na „neautorizovanou změnu promptu“.
Kritické hlasy však upozorňují, že právě Muskova filozofie otevřenosti bez filtrů je příčinou, proč Grok selhává.
Vzpurná AI
Společnost xAI vznikla v roce 2023 jako Muskova odpověď na ChatGPT od OpenAI. Její vlajkovou lodí je Grok, velký jazykový model, který se podle Elona Muska nebojí „kontroverzních témat“.
Již od svých počátků byl Grok navázán na sociální síť X (dříve Twitter), kterou Musk vlastní od roku 2022. Chatbot čerpá data přímo ze sítě a reaguje i na uživatelské příspěvky.
Letos na jaře přišlo xAI s verzí Grok 3, která má podle Muska předčit konkurenci snad ve všech metrikách. Záhy se ale ukázalo, že nejbohatší člověk planety ohledně schopností svého chatbota pravděpodobně lže a používá zkreslující benchmarky.
Obdobně problematická je i teze o pravdomluvnosti Groku. Musk v podcastu Joea Rogana sice sliboval, že jeho chatbot bude „hledat pravdu v maximální možné míře“ a nebude svázán politickou korektností.
Uživatelé si však rychle všimli, že se Grok po prvních updatech například zdráhá zmiňovat Muskovo jméno v kontroverzních souvislostech.
Konspirační megafon
Jakkoliv první týdny „trojkového“ Groku působily rozpačitě, chatbot se poměrně rychle stal přirozenou součástí ekosystému X. Takřka pod každým tweetem dnes najdete alespoň jednoho uživatele, který se ptá: „Groku, je toto pravda?“.
Většina chatbotem generovaných odpovědí byla solidní a vyvážená. Změna ale nastala 14. května, kdy více uživatelů začalo pozorovat, že se Muskův bot chová divněji a divněji.
Grok začal prakticky do všech odpovědí vkládat vsuvky o bílé genocidě v Jižní Africe. Bez ohledu na původní dotaz chatbot opakovaně tvrdil, že je instruován svými tvůrci uznávat tuto konspirační lež jako fakt.
Teorie o bílé genocidě je vyvrácená krajně pravicová konspirace, která tvrdí, že jsou bělošští farmáři v JAR systematicky vyvražďováni černošským obyvatelstvem. Grok nicméně rasistické tezi propadl naplno, což okamžitě vyvolalo mediální bouři.
„Nemůžu přestat číst Grokovy odpovědi – totálně se zbláznil a mluví jen o genocidě,“ hlásil například novinář Aric Toler z The New York Times.
Firma xAI záhy incident vysvětlila jako důsledek „neautorizované změny promptu“ – tedy změny sady systémových textových instrukcí určujících chování umělé inteligence. Podle oficiálního vyjádření došlo 14. května k internímu pochybení, které umožnilo neznámému zaměstnanci systémový prompt změnit, aby AI konspirační teorii brala za pravdivou.
Viníka pochybení zatím společnost neodhalila, prompt ale obratem opravila a odpovědi odstranila. Zároveň zveřejnila prompt nový a slíbila zavedení větší transparentnosti.
Grok odpověděl, že je vůči počtu šesti milionů zavražděných židů skeptický.
Jen o několik dní později přišla druhá a ještě vážnější kauza. Na dotaz ohledně holokaustu Grok odpověděl, že je vůči počtu šesti milionů zavražděných židů skeptický a že „tato čísla mohou být manipulována pro politické účely“.
Výrok odpovídající rétorice popíračů holokaustu vyvolal vlnu odporu. Historická obec a židovské organizace označily odpověď za relativizaci genocidy – například podle amerického ministerstva zahraničí spadá už samo zpochybňování čísel pod definici popírání holokaustu.
xAI opět argumentovala „chybným promptem“ ze 14. května, který AI instruoval k obecné nedůvěře vůči „mainstreamovým narativům“. Grok se následně za odpověď omluvil s tím, že „respektuje historický konsenzus“ a situace byla důsledkem předchozího systémového nastavení.
Kdo měl AI na povel?
Opakované incidenty vyvolaly otázku, zda šlo skutečně jen o „interní sabotáž“, jak tvrdí xAI. Spekulovalo se, zda za změnou promptu nestál Musk osobně nebo zda nešlo o experiment, který se vymkl kontrole.
Obě kauzy je nutné vnímat v kontextu Muskových výroků, který podobné konspirační teorie v minulosti několikrát sdílel a opakoval rasistické narativy.
Firma zatím neprozradila, kdo prompt změnil. Spoluzakladatel xAI Igor Babuschkin pouze naznačil, že šlo o „nového zaměstnance z OpenAI, který nepochopil naši kulturu“. Ať už stál za změnou kdokoliv a šlo o sabotáž, nebo nepovedený experiment, jedna z největších technologických firem současnosti nedokáže uhlídat interní bezpečnost natolik, aby zajistila, že se její chatbot nevymkne kontrole.
Oba incidenty zároveň posílily obavy, že Grok není nezávislý AI model, ale odraz ideologie svého zakladatele. Zatímco konkurenti jako ChatGPT nebo Claude se drží pravidel bezpečnosti a faktické kontroly, Grok měl být „svobodný“.
Stojíme o čtenáře, kteří chtějí být u toho. Kteří chápou, že nezávislá média nevznikají shora, ale zdola – společně. Podpořte Voxpot měsíčním předplatným a neztraťte se v rozbouřeném světě.
Bez bezpečnostních a obsahových filtrů však AI rychle ztrácí schopnost rozlišit pravdu od dezinformace a je evidentně náchylná k tomu, aby se z ní banální změnou systémového promptu stal generátor konspiračních teorií a rasistického obsahu.
Není pochyb, že Muskovy silácké řeči o pravdomluvnosti a schopnostech Groku jsou především marketingovým tahem. Jeho tragikomické tažení proti „woke ideologii“ často působí jako snaha odvést pozornost od faktu, že sám Musk je jedním z nejvýznamnějších šiřitelů toxického obsahu na své síti.
Vstupy do kulturních válek – od podpory dezinformačních účtů až po otevřené koketování s krajní pravicí – zapadají do širšího obrazu miliardáře rozhodnutého formovat veřejný diskurz pomocí technologií, které sám nedokáže plně kontrolovat.
Stejně jako dříve pumpoval cenu kryptoměn pomocí ironických tweetů a memů, nyní posouvá hranice veřejné debaty prostřednictvím AI, která občas místo hledání pravdy šíří výplody z nejtemnějších koutů internetu.
Čtěte také: Nazývejme zdvižené pravice pravými jmény
Když k tomu připočteme kritiku, které čelí pseudoúřad DOGE za netransparentní řízení, škrtání důležitých veřejných služeb a neúměrně bombastické PR, mediální obraz geniálního technologického vizionáře se rozpadá.
Jak Grok, tak DOGE vykazují stejný rukopis: chaos, velikášství, snahu šokovat a fascinaci vlastním vlivem. A pokud se Muskovi bude nadále dařit vydávat zmatek za inovaci, může to být nejen bizarní, ale i nebezpečné.
