ChatGPT įjungė apsaugos režimą — ką jis išjungia ir kodėl to prireikė

Jei jūsų įmonė naudoja ChatGPT darbui su konfidencialiais dokumentais, iki šiol egzistavo vienas nepatogus faktas, apie kurį mažai kas garsiai kalbėjo: pakanka, kad pokalbių robotas aplankytų specialiai užnuodytą interneto puslapį, ir jautrūs duomenys gali nutekėti per kelias sekundes. Tai vadinama „prompt injection" ataka, ir ji veikia ne per įsilaužimą, o per pačią dirbtinio intelekto architektūrą — užtenka paslėpti kenksmingą instrukciją tinklalapio kode.

Birželio 6 dieną OpenAI pristatė atsaką į šią grėsmę. Nauja funkcija, pavadinta Lockdown Mode (lietuviškai — „užrakinimo režimas"), skirta būtent toms organizacijoms, kurioms vieno nutekėjusio failo kaina matuojama ne eurais, o reputacijos ir teisinėmis pasekmėmis.

Kas išsijungia įjungus Lockdown Mode? Pirma, ChatGPT nebelanko interneto realiu laiku — gali naudoti tik išanksto užkrautus (angl. cached) duomenis. Antra, neberodo paveikslėlių iš tinklo, nors jūs vis dar galite generuoti naujus vaizdus. Trečia, išjungiamas gilusis tyrimas (deep research) ir agento režimas, kai robotas savarankiškai atlieka užduotis keliose platformose.

OpenAI atvirai pripažįsta, kad tai nėra šimtaprocentinė apsauga. „Užrakinimo režimas nėra skirtas visiems", — rašoma bendrovės pranešime. „Jis sukurtas žmonėms ir organizacijoms, kurios dirba su jautriais duomenimis ir nori griežtesnės apsaugos nuo duomenų nutekėjimo rizikos, susijusios su prompt injection atakomis." Pažeidžiamumas išlieka per įkeltus failus arba išanksto užkrautas kenksmingas svetaines — tačiau atakos paviršius sumažėja radikaliai.

Funkcija jau pasiekiama „ChatGPT Business" savitarnos paskyroms ir daliai asmeninių paskyrų. Kol kas nėra aišku, ar Lockdown Mode taps prieinamas per API, per kurią dirba dauguma įmonių integracijų. Jei taip, tai reikštų, kad kūrėjai galės įjungti apsaugą programiškai, automatiškai aktyvuodami ją kiekvienam jautriam užklausų srautui.

Tai nėra pirmas kartas, kai prompt injection tampa rimta diskusijų tema. Praėjusiais metais saugumo tyrėjai ne kartą demonstravo, kaip paslėptos instrukcijos tinklalapiuose gali priversti pokalbių robotus atskleisti ankstesnių pokalbių turinį arba perduoti asmens duomenis išorės serveriams. Lockdown Mode yra pirmas didelio AI tiekėjo bandymas spręsti šią problemą sistemiškai, o ne per atskirus pataisymus.