„ChatGPT" tekstas netrukus gaus nematomą vandens ženklą

Kol dirbtinio intelekto sukurtas paveikslėlis ar vaizdo įrašas jau kurį laiką gali būti atpažintas specialiais įrankiais, tekstas iki šiol didžiąja dalimi išsprūsdavo pro tinklą. „ChatGPT" parašyti sakiniai dažnai neatskiriami nuo žmogaus rankos — tačiau dabar „OpenAI" sako ketinanti tai pakeisti.

Bendrovė planuoja į „ChatGPT" ir „Codex" sugeneruotą tekstą įdiegti nematomą vandens ženklą. Programa pirmiausia pasieks Europą — taip yra dėl ES dirbtinio intelekto akto, kuris reikalauja, kad generuotą tekstą būtų įmanoma atpažinti mašininiu būdu. Per artimiausias kelias savaites „OpenAI" pridės šį ženklą prie tinkamo „ChatGPT" ir „Codex" teksto Europos Sąjungoje, o API klientai visame pasaulyje galės jį įjungti savo noru.

Pati technologija, pavadinta „textGrain", prie modelio žodžių pasirinkimo prideda statistinį signalą. Detektorius tada ieško to signalo, kad patikrintų, ar tekstas buvo sukurtas būtent „ChatGPT" ar „Codex". „OpenAI" teigia, kad „textGrain" veikia bent jau ne prasčiau nei visi anksčiau išbandyti metodai, tačiau pripažįsta, jog sistema ne visada tobula.

Detektoriai gali padaryti dvi klaidas: pranešti apie vandens ženklą, kurio nėra (klaidingas teigiamas rezultatas), arba praleisti tikrą ženklą (klaidingas neigiamas rezultatas). Be to, trumpesnį tekstą aptikti sunkiau, o redagavimas gali susilpninti ženklą. Sistema taip pat negali nustatyti, kiek prie teksto prisidėjo žmogus, kam jis priklauso ar ar jame esanti informacija tiksli.

Kol kas „OpenAI" vandens žymėjimą diegia visiems naudotojams visuose planuose Europoje, o globaliai sistema dar neskleidžiama. Bendrovė sako, kad regioninis požiūris leis jai pasimokyti iš realaus naudojimo grįžtamojo ryšio.