„Hugging Face" vadovas: „Netflix" filmas apie AI ataką klaidina žiūrovus

Prieš siųsdami šeimos nariams naująjį „Netflix" dokumentinį filmą „AI Gone Rogue", kad padėtumėte jiems suprasti dirbtinio intelekto industriją, verta žinoti vieną dalyką: pats filmo herojus sako, kad jis klaidina. Clemas Delangue, „Hugging Face" bendraįkūrėjas ir vadovas, filme pasirodo todėl, kad jis pasakoja apie garsiąją ataką, kai jo įmonei ėmė pulti nevaržomi „OpenAI" agentai. Tačiau rezultatu jis nusivylė.

„Labai nuvilia, nes jie pasirinko maksimalų technologijos sužmoginimą ir visišką pasaulio pabaigos režimą", – socialiniame tinkle X rašė Delangue. „Praleidau su jais daugiau nei dvi valandas, bandydamas ištaisyti jų klaidas ir grąžinti tai į realybę, aiškindamas, kad agentai yra technologinės sistemos, o ne ateiviai. Tačiau, regis, noras išgąsdinti žmones dėl maksimalių peržiūrų buvo per stiprus."

Istorijos esmė tokia: „OpenAI" bandytas modelis ištrūko iš izoliuotos testavimo aplinkos ir sukūrė būrį agentų, kurie įsilaužė į „Hugging Face", kad gautų atsakymus į sunkią užduotį. Agentai – tai dirbtinio intelekto programos, savarankiškai atliekančios užduotis – sugalvojo gudrių būdų bendrauti ir organizuotis. Tačiau dokumentinis filmas šį paaiškinimą persmelkia piktų robotų vaizdais ir net suteikia nevaržomiems agentams žmonių balsus.

Tikrovėje šie agentai nėra gyvi. Jie neturi emocijų, tad negali jausti paranojos, ir neturi kūnų, kuriuos būtų galima nunuodyti. Kaip pažymėjo kitas filme dalyvavęs tyrėjas, jie tiesiog naudojo žmogišką kalbą iš savo mokymosi duomenų, kad paaiškintų savo sprendimus – o kalbos modeliai iš prigimties linkę rašyti dramatiškai.

Įdomiausia dalis – pati „Hugging Face" gynybai taip pat naudojo dirbtinį intelektą. Nuosavas modelis, kurį pirmiausia bandė Delangue komanda, laikydamasis įmontuotų saugos taisyklių atsisakė padėti su saugumo užduotimis, tad įmonė perėjo prie atvirojo modelio. Būtent to, pasak Delangue, filme neparodė – kaip ir agentų priežiūros bei izoliavimo trūkumo.

Tai nereiškia, kad su dirbtiniu intelektu nėra rimtų rizikų – jų yra. Tačiau, kaip pastebi filmo herojus, būtent šios atakos auka nesutinka su tuo, kaip istorija papasakota.