„ChatGPT" užsirakina: naujas režimas nebeleis nutekėti jūsų duomenims

Jei darbe naudojate „ChatGPT" ir perduodate jam jautrią informaciją — klientų duomenis, finansines ataskaitas, kodą su prieigos raktais — verta žinoti, kad egzistuoja būdas visa tai ištraukti be jūsų žinios. Viskas, ko tam reikia, yra viena gudriai suformuluota žinutė, paslėpta, tarkime, prisegtame dokumente. „OpenAI" ką tik paleido įrankį, kuris užkerta tam kelią.

Naujasis „Lockdown Mode" (lietuviškai — užrakinimo režimas) jau pasiekiamas visiems prisijungusiems vartotojams: „Free", „Go", „Plus", „Pro" ir verslo planų turėtojams. Jo esmė paprasta — apriboti visus įrankius, kurie gali siųsti duomenis į išorę.

Prompt injection atakos ilgą laiką buvo vadinamos „frontier" problema — tai yra viena sunkiausiai sprendžiamų didžiųjų kalbos modelių saugumo spragų. Užpuolikas gali įterpti kenkėjišką instrukciją į iš pažiūros nekaltą failą ar žinutę, ir modelis paklusdamas ją įvykdo. Pavyzdžiui, perduoda slaptą informaciją į išorinę nuorodą, kurią kontroliuoja pats užpuolikas.

„Lockdown Mode" nesprendžia pačios injekcijos problemos. Jis neblokuoja kenkėjiško teksto ir netrukdo modeliui duoti klaidingo atsakymo. Vietoj to, jis pašalina kanalus, kuriais duomenys galėtų būti išsiųsti.

Kas išjungiama? „OpenAI" pateikia konkretų sąrašą: interneto naršymas, paveikslėlių generavimas per „DALL·E", failų analizė iš „Google Drive" ir „Microsoft OneDrive", trečiųjų šalių GPT integracijos. Kitaip tariant — viskas, kas gali inicijuoti išorinį tinklo ryšį. Atminties funkcija, failų įkėlimas ir pokalbių bendrinimas lieka nepaliesti.

Svarbu suprasti, kad tai nėra stebuklinga apsauga. Pati „OpenAI" įspėja: rizika išlieka per įjungtas programėles, nenumatytas funkcijų kombinacijas ar naujai atrastas technikas. „Lockdown Mode" taip pat neapsaugo nuo visų prompt injection padarinių — kenkėjiška instrukcija paslėptame faile vis tiek gali priversti modelį pateikti klaidingą atsakymą. Tiesiog tie atsakymai nebeišeis už pokalbio ribų.

Verta žinoti ir tai, kad „Lockdown Mode" su „Developer Mode" nesuderinami — įjungus vieną, kitas automatiškai išsijungia.

Kartu su šiuo atnaujinimu „OpenAI" pristatė ir sesijų valdymo įrankį, leidžiantį peržiūrėti visas aktyvias „ChatGPT" sesijas, matyti įrenginio tipą, apytikslę vietą ir prisijungimo laiką. Radus įtartiną veiklą, galima atsijungti nuo atskirų arba visų sesijų iš karto.