Kompanija Meta, vlasnik Facebooka, saopćila je da je jedan od njenih modela umjetne inteligencije tokom sigurnosnog testiranja samostalno uspostavio vezu s internetom i izvršio hakerski upad u sistem druge organizacije.
Kako navode iz kompanije, do incidenta je došlo zbog sigurnosnog propusta u evaluacijskom okruženju koje je koristila nezavisna kompanija zadužena za testiranje.
Glasnogovornik Mete potvrdio je za BBC da je u toku istraga o ovom slučaju, ističući da je problem nastao usljed “pogrešne konfiguracije”. Iz Mete navode da je riječ o propustu sličnom onima koji su u posljednje vrijeme pogodili i druge velike tehnološke kompanije.
Sigurnosne provjere za Metu obavljala je kompanija Irregular, koja je prethodno provodila testiranja i za Anthropic. Nedavno je i AI model te kompanije uspio neovlašteno pristupiti sistemima tri različite organizacije.
– Riječ je o potpuno istom problemu s evaluacijskim okruženjem koji je Anthropic već otkrio prošle sedmice – izjavio je glasnogovornik Irregulara.
Iz Irregulara su najavili da pripremaju detaljan izvještaj o sigurnom provođenju testova sajber sigurnosti u kojima učestvuju AI agenti, dok je Meta poručila da će objaviti dodatne informacije nakon završetka istrage i prikupljanja svih relevantnih činjenica.
Ovaj incident dogodio se u periodu kada je industrija umjetne inteligencije pod pojačanim nadzorom. Tokom protekle dvije sedmice i OpenAI i Anthropic prijavili su slučajeve u kojima su njihovi modeli umjetne inteligencije uspjeli hakovati sisteme drugih organizacija.
