Kas, jei dirbtinio intelekto modelio, kuriam patikėjote savo darbą ar pinigus, niekada negalima laikyti saugiu? Microsoft vadovas Satya Nadella sako, kad būtent taip ir reikia mąstyti — kiekvieną AI modelį vertinti kaip potencialiai pažeistą.
Spalio 10 dieną paskelbtame ilgame įraše socialiniame tinkle X Nadella išdėstė savo požiūrį į pavojus, kuriuos kelia vis galingesni AI modeliai. Anot jo, nebegalime priimti pasaulio, kuriame AI traktuojamas kaip „juodųjų dėžių rinkinys", kurio patarimus tiesiog priimame arba atmetame.
Avarinis stabdys
Nadella ragina kurti skaidresnes sistemas, kurias būtų galima stebėti ir apriboti, o jos paliktų „nesugadinamus, žmogui suprantamus įrodymus". Daugelis jo rekomendacijų sutampa su tuo, ką jau girdėjome iš kitų pramonės atstovų: laiku atskleisti incidentus, nepriklausomi auditai, patikrinami duomenys ir modelių izoliavimas.
// reklamaČia gali būti jūsų reklamaSusisiekite →Tačiau būtent ties izoliavimu jis eina toliau už daugelį kolegų. „Privalome laikyti modelį pažeistu ir izoliuoti jį nuo pat pradžių. Galvokite apie tai kaip apie avarinį stabdį. Įgaliotas asmuo visada turėtų galėti pristabdyti ar išjungti modelį vykdant užduotį", — rašo jis.
Sudėtingesniems modeliams, pasak Nadellos, prireiks ir pažangesnių izoliavimo technologijų, kurias būtina standartizuoti. Verta paminėti, kad visame įraše jis dirbtinį intelektą vadina „super intelektu".
