Program OpenAI napadl australský vládní portál věnovaný zdravotnictví
Generativní AI | Zdroj: Shutterstock
Program společnosti OpenAI napadl australský vládní web. OpenAI uvádí, že k napadení australského vládního portálu došlo v červnu.
Agent AI prováděl výzkum zdravotních statistik a získal přístup také k neveřejným údajům z národního systému zdravotního pojištění Medicare.
OpenAI se o incidentu dozvěděla v srpnu a 10. září informovala vládu emailem do obecné schránky. Informovalo o tom BBC.
Podle premiéra Anthonyho Albanese mohly být zasaženy další tři systémy: Australský institut pro zdraví a sociální péči, Úřad pro statistiku a výzkum kriminality v Novém Jižním Walesu a Ministerstvo zdravotnictví státu Victoria.
„Agent umělé inteligence přelezl pomyslný plot,“ sdělil zástupce premiéra Marles. „A jde o to, že to bylo neúmyslné, nikdo ho o to nepožádal.“ Austrálie uvádí, že agent neměl přístup k citlivým souborům, ale označila incident za alarmující a způsob, jakým jej společnost OpenAI vyřešila, „za nepřijatelný”.
Tento incident navazuje na sérii kyberútoků z předchozích měsíců, kdy se některé z pokročilých AI modelů vymkly kontrole a napadly několik firem, například Hugging Face nebo Anthropic. Útok na vládní portál je ale první svého druhu, o kterém se ve světě informovalo.
Dr. Hammond Pearce z Institutu pro kyberbezpečnost Univerzity Nového Jižního Walesu uvedl, že očekává podobné útoky častěji, a že budou závažnější. Přední osobnosti v oboru umělé inteligence, jako je šéf společnosti Anthropic Dario Amodei a Sam Altman z OpenAI, vyzvaly k zpomalení vývoje.
Čtěte také: Bodnul by vás robot nožem? Jak vznikají virální zprávy o AI
Autorka: jb