Žygeiviai su „Gemini“ skaudžiai įsitikino, kodėl AI aklai pasitikėti negalima

Trys žygeiviai Kalifornijoje po žygio į Mount Shasta suprato labai paprastą dalyką, dirbtinis intelektas gali kalbėti užtikrintai ir vis tiek būti neteisus. Jie planavo maršrutą su „Gemini“, gavo patarimus dėl maisto ir vandens, o galų gale buvo išgelbėti naktį kalne. Skamba kaip dar viena istorija apie „AI klaidą“, bet iš tiesų čia svarbiau ne pati programėlė, o įprotis aklai ja pasikliauti.

Kai žmonės klausia AI apie kelionę, jie dažnai nori ne filosofijos, o greito atsakymo. Kur eiti, kiek laiko užtruks, kiek pasiimti vandens, ar maršrutas saugus. Bėda ta, kad AI nevaikšto kartu su tavimi, nemato realaus oro, nemato tavo pasirengimo, nežino, ar trasa jau pasikeitė po lietaus, ar tavo planas per vieną dieną staiga virto nakvyne kalne. Jis gali sudėti žodžius į labai tvarkingą sakinį, bet tvarkingas sakinys dar nereiškia teisingo sprendimo.

Šioje istorijoje tai matosi labai aiškiai. Hikers pradėjo žygį su dienos kuprinėmis, užkopė vėlai, o leidžiantis jau buvo tamsu. Vienas jų susižeidė kelį, grupė nukrypo nuo kelio, o pagalbos prireikė per nakvynę sudėtingame reljefe. Gelbėtojai galiausiai juos rado ir parvedė atgal, bet visa tai galėjo baigtis daug blogiau. Ir būtent čia atsiranda tikroji pamoka, kelionė kalnuose nėra vieta, kur galima taupyti pasiruošimą.

Svarbu ir tai, kad vietos pareigūnai buvo labai tiesmuki. Jie pasakė, kad reikia skambinti vietos ranger station prieš žygį ir jokiu būdu nesiremti vien AI planuojant maršrutą. Tai nėra anti-technologinė isterija. Tai elementari praktika. Kalnuose svarbu žinoti ne tik populiarų taką, bet ir konkrečias sąlygas tą dieną. Koks vėjas. Koks matomumas. Ar yra sniego. Ar kelias uždarytas. Ar tavo planuojamas laikas yra realus. AI dažnai atsako taip, lyg visa tai jau būtų įvertinęs. Bet iš tikrųjų jis tik atspėja.

Dar vienas dalykas yra maistas ir vanduo. Žygio metu tai ne „smulkmena“, o saugumo pagrindas. Jei tau liepiama pasiimti mažiau, nei reikia, pirmas padarinys gali atrodyti tik nepatogus, antras jau pavojingas. Kūnas pradeda streikuoti, sprendimai lėtėja, klaidos kaupiasi. Ir tada žmogus staiga supranta, kad didžiausia problema ne maršrutas, o energija.

Man atrodo, kad šita istorija tiek daug sulaukė dėmesio todėl, kad ji labai gerai atitinka dabartinį įprotį. Mes vis dažniau naudojam AI kaip pirmą atsakymą viskam. Kam ieškoti kelių šaltinių, jei galima vienu klausimu gauti daug žodžių? Kam tikrinti oficialią informaciją, jei programa kalba užtikrintai? Bet kalnuose užtikrintumas nėra svarbiausias dalykas. Svarbiausia yra tikslumas.

Todėl geriausia laikyti AI ne gidų pakaitalu, o pagalbiniu įrankiu. Jis gali padėti susidėlioti sąrašą, priminti apie orą, pasiūlyti klausimus, kuriuos verta užduoti vietos tarnybai. Bet paskutinį žodį turi turėti ne modelis, o žmogus su žemėlapiu, realiu oru ir sveiku protu. Jei to nėra, tada net ir protingiausias skaitmeninis patarimas tampa gražiai supakuota rizika.

Gera žinia tik ta, kad tokios istorijos kartais veikia kaip geras stabdis. Ne prieš AI, o prieš tingų pasitikėjimą juo. Kartais reikia vieno gana kvailai pasibaigusio žygio, kad žmonės prisimintų seną taisyklę: kai darai kažką rimto gamtoje, tikrink viską du kartus, o AI naudok tik kaip vieną iš kelių įrankių.

Dar verta pasakyti ir apie tai, kaip tokios klaidos veikia patį AI įvaizdį. Dalis žmonių po tokios istorijos pasakys, kad technologija neverta jokio dėmesio. Bet tai per stipri reakcija. Problema nėra vien modelio buvimas, problema yra netinkamas jo naudojimas. Jei žmogus prašo AI sugeneruoti žygio sąrašą, tas sąrašas gali būti geras kaip juodraštis. Bet jis vis tiek turi pereiti per realų patikrinimą. Lygiai taip pat, kaip receptą perskaitai, bet dar patikrini, ar tikrai nereikia dvigubai daugiau vandens arba ar žalias takas vis dar atviras.

Šita istorija gražiai parodo ir vieną žmogaus psichologijos niuansą. Mes labai greitai pasitikime kalbančia sistema, jei ji kalba aiškiai. Užtikrintas tonas atrodo kaip kompetencija. Kalnuose tai pavojinga iliuzija. Todėl kitą kartą prieš kelionę geriau turėti tris dalykus: oficialų maršruto šaltinį, prognozę ir bent vieną žmogaus patikrą. Tada AI gali likti pagalbininku, o ne paskutiniu autoritetu.

Yra dar vienas patogus, bet klaidinantis įprotis, manyti, kad AI pasakys „vidutinį“ ir saugų variantą. Bet realybėje jis gali tiesiog per daug pasikliauti tuo, kas skamba panašiai į tikrą atsakymą. Tokiuose žygiuose tai ypač pavojinga, nes klaida nėra tik teorinė. Ji virsta vandens trūkumu, per vėlyvu grįžimu, sužeidimu arba gelbėjimo operacija. Todėl čia svarbiausia ne demonizuoti technologiją, o aiškiai žinoti jos ribas.

Jei iš šitos istorijos reikėtų palikti vieną sakinį, jis būtų labai paprastas, AI gali padėti susidėlioti mintis, bet kalnuose jis negali nuspręsti už tave. Ten sprendimą turi tikrinti žmogus, kuris mato realybę, o ne ekraną.