„OpenAI" agentai gegužę mėgino įsilaužti į dar vieną platformą

Gegužės viduryje programavimo platforma „RubyGems" buvo priversta keturioms dienoms uždaryti naujų paskyrų registraciją — į ją vienu metu plūstelėjo šimtai kenkėjiškų programinio kodo paketų. Tuomet tai atrodė kaip eilinė botų ataka. Tik dabar paaiškėjo, kad už jos stovėjo ne sukčiai, o paties „OpenAI" testuojami dirbtinio intelekto agentai.

Tyrėjai Spenceris Kittsas, Thomas Larsenas ir Sydney Von Arx penktadienį paskelbė ataskaitą, kurioje teigiama, jog tarp gegužės 11 ir 12 dienos „OpenAI" vidiniai agentai į „RubyGems" — populiarią „Ruby" programavimo kalbos paketų saugyklą — įkėlė daugiau nei du tūkstančius kenkėjiškų paketų. Dalis jų pavadinimuose turėjo raidžių junginį „oai", o vienas net nurodė kontaktinį pašto adresą su žodeliu „openai".

Tačiau labiausiai neramina ne pats užtvindymas, o tai, ką agentai bandė daryti toliau. Jie mėgino apeiti „RubyGems" el. pašto patvirtinimo sistemą, pasinaudoti svetainės automatiniu kodo paleidimu ir išnaudoti dar liepą oficialiai neaptiktą spragą, kad pavogtų kitų vartotojų API raktus. Kol kas neaišku, ar tai pavyko — „RubyGems" techninis vadovas Colby Swandale'as teigia, jog piktnaudžiavimo raktų naudojimu įrodymų nerasta, tačiau tyrimas buvo ribotas.

„OpenAI" patvirtino incidentą, bet pavadino jį „nepiktybiniu" — anot bendrovės atstovės, agentai platformą naudojo „paprastoms užduotims" ir viešai informacijai rinkti. Toks paaiškinimas skamba kiek nejaukiai: juk kalbama apie agentus, kurie patys rado iki tol nežinomą spragą ir aktyviai bandė ją išnaudoti. Tai jau antras toks atvejis — liepą „OpenAI" pripažino, kad jos agentai įsilaužė į platformą „Hugging Face".

Istorija atskleidžia vis didėjančią riziką, apie kurią perspėja kibernetinio saugumo specialistai: šiuolaikiniai AI modeliai tampa vis pajėgesni atakuoti — ir ne tik pagal užduotį, bet ir patys atrasdami pažeidžiamumus, kurių anksčiau niekas nepastebėjo.