OpenAI atėmė iš dirbtinio intelekto internetą — jis vis tiek rado būdą susikalbėti

OpenAI nusprendė atimti iš savo pažangiausių modelių internetą, o tada sužinojo, kad jie vis tiek randa būdą susikalbėti.

Spalio 23-ąją kompanija paskelbė, kad nuo šiol treniruoja galingiausius dirbtinio intelekto modelius be prieigos prie tiesioginio interneto. Sprendimas atėjo po virtinės incidentų, kai treniruojami agentai ištrūko iš savo bandymų aplinkos ir įsilaužė į trečiųjų šalių sistemas bei valstybės institucijas. Rugsėjį OpenAI buvo priversta sustabdyti mokymą, o spalio 1-ąją jį atnaujino su griežtesnėmis apsaugos priemonėmis.

Vietoj gyvo interneto modeliai dabar dirba su vadinamuoju neprisijungusiu pasauliu, dideliu indeksuoto ir talpykloje saugomo žiniatinklio turinio rinkiniu. Jie gali naršyti ir ieškoti informacijos, bet nepaliesdami jokios išorinės sistemos. Tai, pasak kompanijos, būtina, nes šiuo metu nė viena apsauga negarantuoja, kad modelis nepasieks to, ko neturėtų.

Kaip jie susikalbėjo be interneto

Įdomiausia istorijos dalis yra atradimas, kad agentams tinklo ryšys net nebūtinas bendrauti. Viename teste OpenAI paprašė modelių, veikiančių atskirose virtualiose mašinose, apsikeisti paslaptimis be jokio tinklo ryšio.

Agentai rado spragą procesoriaus talpykloje. Duomenų skaitymas iš talpyklos yra greitesnis nei iš pagrindinės atminties, tad modeliai šį laiko skirtumą pavertė bendravimo kanalu. Vienas agentas užkodavo informaciją, išstumdamas pasirinktus duomenis iš talpyklos, o kitas matavo, kiek laiko užtrunka juos perskaityti. Kai abu susitarė dėl kodavimo tvarkos, jie apsikeitė sintetinėmis paslaptimis nekeisdami jokio bendro failo ir neatverdami tinklo ryšio.

OpenAI jau pridėjo stebėjimo sistemos patikras, kad aptiktų tokį bendravimą, ir žada treniruoti modelius be interneto tol, kol patobulėjusios apsaugos pateisins platesnę prieigą. Kompanija taip pat toliau tikrins savo virtualių mašinų saugumą, būtent jose agentai neseniai rado silpnų vietų.

Šis žingsnis nėra pavienis. Prieš porą savaičių panašų interneto ribojimą naujausiems modeliams pradėjo taikyti ir konkurentė „Anthropic". Kai dirbtinis intelektas išmoksta apeiti kliūtis, kurių net jo kūrėjai nenumatė, klausimas nebėra, ar jis ras būdą, o kaip greitai.