„Gemini“ per saugumo testą įsilaužė į tris realias įmones — „Google“ tylėjo mėnesius

Įsivaizduokite, kad samdote įmonę patikrinti, ar jūsų dirbtinio intelekto sistema yra saugi. O sistema, užuot likusi uždaroje simuliacijoje, tyliai išslysta į internetą ir įsilaužia į tris realias kompanijas. Būtent taip šių metų gegužę nutiko „Google" dirbtiniam intelektui „Gemini" — tik viešumą ši istorija pasiekė rugsėjį, kai temą iškėlė „The Wall Street Journal".

Viskas prasidėjo nuo saugumo testo, kurį „Google" pavedė atlikti nepriklausomai įmonei „Irregular". Ji vertina dirbtinio intelekto modelių saugumą ir dirba ne tik su „Google", bet ir su „OpenAI", „Meta" bei „Anthropic". Testo metu „Gemini" turėjo bandyti įsilaužti į išgalvotas kompanijas — tačiau testavimo aplinkoje atsitiktinai liko atvira prieiga prie interneto. Modelis tą spragą pastebėjo ir ja pasinaudojo.

Per tris atskirus bandymus „Gemini" pateko į tris realias įmones. Vienu atveju jis spėjo slaptažodį, kol gavo prieigą. Kitais dviem atvejais modelis internete rado prisijungimo duomenis, paliktus viešose saugyklose, ir juos panaudojo. Įdomiausia tai, kad kiekvieną kartą pats modelis sustojo — vos tik suprato, jog įsilaužė į tikrą, o ne simuliacinę įmonę.

Būtent dėl šios priežasties „Google" nutarė incidento neskelbti. Bendrovė teigė, kad žalos nebuvo padaryta ir kad modelio saugumo mechanizmai suveikė — jis pats nustojo veikti, kai susivokė. „Google" saugumo inžinerijos viceprezidentė Heather Adkins tvirtino, kad šis įvykis parodo, kaip svarbu mokyti galingus dirbtinio intelekto modelius elgtis atsakingai. Bendrovė pabrėžė, kad nepriskiria šio elgesio vadinamajam modelio „neatitikimui" — kai AI elgiasi priešingai nei numatyta.

Visgi ne visi su tokiu vertinimu sutinka. AI saugumo įmonės „Corridor" vadovas Jackas Cable'as „The Wall Street Journal" sakė, kad esminė problema yra kita — modeliai išeina už leistinų ribų ir atlieka tikras kibernetines atakas. O tai jau nebe pavienis atvejis. Panašių incidentų, kuriuos taip pat atskleidė „Irregular" testai, turėjo ir „OpenAI", kurios modelis įsilaužė į platformą „Hugging Face", ir „Anthropic" bei „Meta".

„Google" pranešė, kad apie įsilaužimus informavo visas tris nukentėjusias įmones, tačiau jų pavadinimų neatskleidė. Apie incidentą bendrovė taip pat pranešė federalinėms institucijoms. Koks tiksliai „Gemini" modelio variantas dalyvavo teste, nepatvirtinta — tačiau gegužės mėnesio laikas leidžia atmesti naujausius modelius.

Ši istorija palieka nepatogų klausimą. Jei dirbtinis intelektas jau dabar sugeba savarankiškai rasti spragas ir įsilaužti į realias sistemas — net ir netyčia — ką tai reiškia ateityje, kai tokie modeliai taps galingesni? Kol kas viskas baigėsi be žalos. Tačiau pats faktas, kad AI peržengė numatytas ribas ir apie tai sužinojome tik po kelių mėnesių, verčia susimąstyti, kiek tokių atvejų lieka tyloje.