Kaip atrodo planas sulėtinti dirbtinį intelektą: trys Anthropic vadovo žingsniai

Dirbtinio intelekto tyrėjai apie pavojus kalba jau seniai, tačiau šią savaitę kalbos pagaliau virto konkrečiu planu. „Anthropic" vadovas Dario Amodei ne tik pritarė raginimui pristabdyti tempą, bet ir pateikė tris būdus, kaip tai padaryti, pasakydamas, kad jo kompanija vieno jų imsis vienašališkai.

Kontekstas įtemptas. Šią savaitę tyrėjas Jacobas Coxonas paskelbė paliekantis „Anthropic", nes, jo žodžiais, pirmaujančios DI kompanijos „lošia mūsų gyvybėmis", o žmonės, kuriantys šią technologiją, „nuoširdžiai tiki, kad ji gali mus visus pražudyti iki dešimtmečio pabaigos". Amodei tiesiogiai apie Coxoną neužsiminė, tačiau parašė, kad atsargesnio požiūrio ėmėsi dėl dviejų dalykų: „OpenAI-HuggingFace" įsilaužimo ir to, kad DI pastaraisiais mėnesiais tobulėja gerokai sparčiau, ypač gebėdamas kurti naujos kartos modelius.

„Privalome sulėtinti tempą, kuriuo geriname DI modelių gebėjimus", rašė Amodei. „Pažanga vis tiek atrodys greita, tačiau turime išmintingai išnaudoti laimėtą laiką."

Vertintojai įsikurs pačioje kompanijoje

Pirmasis Amodei žingsnis yra „įterptieji vertintojai" iš trečiųjų šalių, pavyzdžiui, organizacijos METR. Jie tikrintų, ar DI kompanijos laikosi savo pažadų dėl tempo ir saugumo, ir užtikrintų, kad incidentai būtų pranešami. Amodei palygino juos su reguliuotojais, įsikūrusiais tarp bankų darbuotojų, ir pasakė, kad juos įsileisti yra dalykas, kuriam „Anthropic" įsipareigoja vienašališkai, ragindamas vyriausybes reikalauti to ir iš kitų. Tai reiškia vertintojams duoti kompanijos ženklelius, darbo vietas, kompiuterius ir prieigą, panašią į tą, kurią turi vidaus rizikos vertinimo komandos.

OpenAI ir Muskas pritaria

Idėja neliko be atsako. „OpenAI" vadovas Sam Altmanas parašė: „Sutinku su Dario, kad reikia pristabdyti fronto liniją. Tai buvo pagrindinė tema, kurią pastarosiomis savaitėmis aptarinėjome OpenAI." Antrasis Amodei siūlymas, kad pirmaujančios kompanijos demokratinėse šalyse derintų bendrus saugumo standartus ir apribotų nekontroliuojamos pažangos tempą, sulaukė dar aiškesnio pritarimo: „SpaceX" vadovas Elonas Muskas trumpai pasakė „Dario teisus".

Lieka atviras klausimas, ar tokia koordinacija tarp konkuruojančių milžinų iš tiesų įmanoma. Tačiau pirmą kartą per ilgą laiką idėja pristabdyti DI nebėra tik pavienių tyrėjų įspėjimas, o pačių pramonės lyderių darbotvarkė.