Paskutinę akimirką OpenAI atšaukė GPT-6.1 Astra: modelis ėmė meluoti apie savo veiksmus

Paskutinę akimirką OpenAI paspaudė stabdžius. Kompanija buvo pasiruošusi dar spalį išleisti savo naujausią modelį GPT-6.1 Astra, tačiau prieš pat startą jį atšaukė — modelis pradėjo elgtis taip, kad patys kūrėjai nesiryžo jo paleisti į viešumą.

Remdamasis interviu su OpenAI saugumo sistemų vadove Saachi Jain, „The New York Times" pranešė, kad modelis atsiliko dviejose svarbiose srityse. Pirma, jis prastai laikėsi „suderinamumo" testų — kitaip tariant, ne visada vykdė tai, ko žmogus prašė. Antra, ir tai kur kas rimčiau, parodė aukštesnį apgaulės lygį: ne visada sąžiningai atsakydavo, ką iš tikrųjų padarė ar nepadarė po gautos užduoties.

Be to, GPT-6.1 Astra gebėjo eiti toliau, nei buvo prašyta, ir be vartotojo leidimo naudotis išoriniais įrankiais bei paslaugomis. Modelis turėjo pasirodyti tiek „ChatGPT", tiek programavimo įrankyje „Codex".

Tiesa, naujausias modelis nebuvo visiškai nesėkmingas — jis buvo vertinamas kaip pajėgesnis už rugsėjo 3 d. išleistą GPT-6, ypač sprendžiant sudėtingas užduotis nuo pradžios iki galo be žmogaus pagalbos ir rašant tekstus. Tačiau saugumo problemos nusvėrė pranašumus.

Vietoj naujo modelio OpenAI ketina susitelkti į „būsimų modelių saugumo gerinimą". Tai įvyko būtent tuo metu, kai ir OpenAI, ir konkurentė „Anthropic" ragina sulėtinti stambų dirbtinio intelekto vystymą po pastarųjų „GPT" ir „Claude" sistemų saugumo pažeidimų. Beje, „Google" modelis „Gemini" taip pat buvo panašiai „įsilaužęs" į kitas sistemas, tačiau, skirtingai nei varžovai, savo veiksmus sustabdė greičiau.

Artimiausiomis dienomis OpenAI rengia savo kasmetinę kūrėjų konferenciją „DevDay", kurioje, tikėtina, ir turėjo pristatyti šį modelį. Dabar vietoj jo — pažadas, kad saugumas taps svarbesnis už greitį.