Anthropic zablokoval pokusy zneužít jeho AI k výzkumu biologických zbraní
Forma Anthropic tvrdí, že odhalila a přerušila pokusy zneužít její model umělé inteligence ke „škodlivé činnosti", která mohla posloužit vývoji biologických zbraní.
Popsala je ve zprávě o bezpečnostních hrozbách zveřejněné ve čtvrtek 10. září.
Firma v ní rozebírá pět případů, kdy někdo sáhl po jejích modelech způsobem, který mohl vývoj biologických zbraní podpořit.
Zneužití AI k výrobě biologických zbraní označuje za jedno z nejvážnějších rizik špičkových modelů.
Potíž je podle Anthropicu v tom, že postupy pro výrobu biologických zbrání jsou stejné jako ty, které vedou k výrobě vakcíny či zbraním.
Zneužití modelů Claude Haiku, Sonnet a Opus firma zachytila mezi prosincem 2025 a srpnem 2026.
Claude využili lidé napojení na ruskou kyberšpionážní kampaň i íránská propagandistická instituce. Případy sahaly od falešných seznamek a podvodů přes hotelovou wi-fi až po sledovací nástroje na odhalování disidentů.
V šesti dalších sloužil Claude k vývoji softwaru pro konvenční zbraně, od střelných zbraní a raket po drony a munici včetně zaměřovacích systémů.
Autorka: Anna Košler
Čtěte také: Prompt | Mythos: Model, který Anthropic radši zamkl do trezoru