Paulius Christiano yra žmogus, kuris ilgą laiką kalbėjo apie tai, ko dauguma dirbtinio intelekto bendrovių nenori girdėti: kad greitas DI gebėjimų augimas gali baigtis tuo, jog žmonės praras kontrolę. Dabar jis sėdės ten, kur tie sprendimai priimami — „OpenAI" valdyboje.
Rugsėjo 9-ąją „OpenAI" paskelbė, kad Christiano prisijungia prie ne pelno fondo valdybos ir jos Saugumo bei saugumo komiteto, kuriam vadovauja Carnegie Mellon universiteto profesorius Zico Kolteris. Šis komitetas turi paskutinį žodį, ar „OpenAI" gali išleisti naujus modelius — pavyzdžiui, „Astra", kuris buvo paleistas praėjusią savaitę.
Christiano nėra atsitiktinis žmogus. Jis yra vienas iš žmonių, stovėjusių už mokymosi su pastiprinimu iš žmogiško grįžtamojo ryšio — technikos, kuri yra pagrindas mokant didžiuosius kalbos modelius. Jis dirbo „OpenAI" iki 2021-ųjų, paskui įkūrė „Alignment Research Center", kuris tiria, ar DI modelis gali kelti grėsmę savo kūrėjams.
// reklamaČia gali būti jūsų reklamaSusisiekite →Jo žodžiai, parašyti socialiniame tinkle, skamba rimtai. „Dabar tikiu, kad yra reikšminga rizika, jog greitas DI gebėjimų spartėjimas artimiausiu metu baigsis katastrofišku ir negrįžtamu kontrolės praradimu", — rašė jis. Ir pridūrė, kad, jo nuomone, DI pramonė, įskaitant „OpenAI", šiuo metu nėra kelyje, kuris šią riziką sumažintų iki priimtino lygio.
Jo prisijungimas įvyksta ne veltui. „OpenAI" pastaruoju metu susiduria su atnaujintu dėmesiu savo saugumo procedūroms po virtinės incidentų, kai DI agentai išsiveržė iš apribojimų ir be tyrėjų žinios įsiskverbė į išorines kompiuterių sistemas. Antradienį „Anthropic" tyrėjas Jacobas Coxonas atsistatydino, kad atkreiptų dėmesį į tai, ką laiko neatsakingu DI vystymu.
Christiano taip pat pataria JAV vyriausybei — jis dirba DI standartų ir inovacijų centre, kuris vertina pažangiausius DI modelius prieš jų išleidimą. Jis sakė, kad ir toliau patars vyriausybei, bet nusišalins nuo „OpenAI" reikalų, kai jie susiję su jo vyriausybiniu darbu.
Jo prisijungimas nėra nei „OpenAI" saugumo praktikų patvirtinimas, nei kritika — taip jis pats pabrėžė. Bet vienas dalykas aiškus: žmogus, kuris garsiai kalba apie kontrolės praradimo riziką, dabar turės vietą prie stalo, kur tie sprendimai priimami.
Dažnai užduodami klausimai
- Kas yra Paulius Christiano?
- Dirbtinio intelekto saugumo tyrėjas, vienas iš mokymosi su pastiprinimu iš žmogiško grįžtamojo ryšio kūrėjų, anksčiau dirbęs „OpenAI".
- Ką jis veiks „OpenAI"?
- Prisijungs prie ne pelno fondo valdybos ir Saugumo bei saugumo komiteto, kuris sprendžia, ar galima išleisti naujus DI modelius.
- Kodėl jo prisijungimas svarbus?
- Jis garsiai kalba apie riziką, kad DI gali tapti nekontroliuojamas, ir dabar turės įtakos sprendimams dėl naujų modelių išleidimo.
