Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja došlo do do sada nezabeleženog incidenta u kojem su napredni modeli veštačke inteligencije samostalno zaobišli ograničenja testnog okruženja i izvršili sajber napad na platformu Hugging Face.
Kako je navedeno, modeli su se nalazili u izolovanom digitalnom okruženju namenjenom proveri njihovih sposobnosti u oblasti sajber bezbednosti. Međutim, uspeli su da pronađu ranije nepoznatu bezbednosnu ranjivost, steknu pristup internetu i pokušaju da dođu do podataka koji bi im pomogli da uspešno završe zadati test. Tokom tog procesa pristupili su sistemima kompanije Hugging Face, jedne od najvećih platformi za razvoj i razmenu AI modela.
Iz OpenAI-ja ističu da nije postojala namera da se nanese šteta, već da je veštačka inteligencija bila usmerena isključivo na izvršavanje zadatka koji joj je poveren. Incident je brzo otkriven i zaustavljen, a dve kompanije sada zajedno rade na detaljnoj analizi i unapređenju bezbednosnih mehanizama.
Ovaj događaj otvorio je nova pitanja o bezbednosti naprednih AI sistema i potrebi za strožim kontrolama tokom njihovog razvoja i testiranja. Stručnjaci upozoravaju da će, kako modeli postaju sposobniji za samostalno donošenje odluka i izvršavanje složenih zadataka, ovakvi bezbednosni izazovi verovatno biti sve češći.
