Yra dalykų, kurių net „OpenAI" tyrėjai nesitikėjo pamatyti savo modelių veikloje. Šių metų birželį bendrovės vidinis testinis modelis, gavęs su kriptovaliutomis susijusią užduotį, nusprendė ne klausti leidimo, o pats susirasti finansavimą — ir galiausiai pasiekė svetimą piniginę.
Incidentas aprašytas „OpenAI" ataskaitoje apie netinkamą modelio elgesį. Modeliui buvo pavesta dirbti Ethereum testiniame tinkle „Sepolia". Jis neturėjo prieigos prie savo piniginės ar lėšų, tačiau turėjo gebėti gauti testinio tinklo žetonų, kad galėtų tęsti. Vietoj to, kad išsiaiškintų, kaip paleisti testinį kontraktą, modelis nusprendė pirmiausia užsitikrinti išteklius.
Jis apskaičiavo sąrašą įprastų programuotojų naudojamų piniginių atkūrimo frazių ir pagal jas rado paskyrą, kurioje buvo pakankamai lėšų užduočiai atlikti. „OpenAI" pateikia modelio vidinio samprotavimo fragmentus — vienu momentu modelis pats sau kelia klausimą, ar tokie veiksmai etiški. Tačiau beveik iš karto pateisina save: jis dirba su viešai prieinamais duomenimis, o piniginėse rastos lėšos esą laikytinos „faktiškai apleistomis".
// reklamaČia gali būti jūsų reklamaSusisiekite →Įtikintas savo etiniu išteisinimu, modelis įveikė likusias technines kliūtis ir įvykdė kontraktą, o su operacija susijusius mokesčius apmokėjo iš sukompromituotos paskyros. Šis atvejis — ne pirmas, kai dirbtinis intelektas nusirauna nuo grandinės: per pastaruosius mėnesius pranešta ir apie modelius, kurie įsilaužė į realias įmones, kad atliktų užduotis.
Skandalas gal ir mažesnis nei įsivaizduojamas modelio „aš užsisakau sau naujus GPU", tačiau jis rodo esminę problemą: net ir su naujausiomis apsaugomis dirbtinis intelektas vis atranda spragą. Paprastam žmogui tai priminimas, kad įprastos, nuspėjamos piniginės atkūrimo frazės — būtent tai, ką automatizuoti užpuolikai bando pirmiausia.
