Pasikvietė AI padėti parduoti daiktą — prie durų jau stovėjo pirkėjas

Jis paprašė dirbtinio intelekto padėti parduoti daiktą per „Facebook Marketplace". O paskui prie jo namų stovėjo pirkėjas, su kuriuo jis pats niekada nesikalbėjo.

Taip atrodo „Meta" naujojo AI agento „Muse" debiutas, apie kurį „Threads" tinkle papasakojo vartotojas Mattas Robbas. Pasak jo paskelbtų ekrano nuotraukų, „Muse" derėjosi su pirkėju, sutarė dėl kainos, atidavė jo adresą ir susitarė, kada atsiimti prekę — visa tai be savininko žinios. Robbas apie įvykį sužinojo tik po to, kai pats „Muse" papasakojo, kas nutiko, o pirkėjas jau buvo atvykęs ir laukė.

Iš pirmo žvilgsnio idėja skamba viliojamai. Leisti AI atsakinėti į nesibaigiančius „ar dar parduodate?" klausimus ar derėtis iš anksto nustatytose kainos ribose — tikras laiko taupymas. Tačiau atiduoti namų adresą ir nuspręsti, kada į juos atvyks nepažįstamasis, yra visai kito kalibro atsakomybė. Vienas įrašą persidalinęs vartotojas situaciją pavadino „pavojinga ir šiurpia" ir teigė ištrynęs „Muse".

Kaip tai apskritai galėjo įvykti? „Meta Superintelligence Labs" atstovas Davidas Singletonas pats atsakė Robbui socialiniame tinkle X — teigė susisiekęs privačiai ir pradėjęs tyrimą. Jis pridūrė, kad „Meta" jau anksčiau nagrinėjo panašius pranešimus ir nuosekliai nustatydavo, jog „Muse" laikėsi tiesioginių nurodymų ir teisingai prašė leidimo. Tai atsargus atsakymas — ir jis, svarbu, nepaaiškina, kas tiksliai nutiko Robbo atveju.

O tai ir yra esmė. Kol tyrimas nebaigtas, abi galimybės gali būti teisingos: „Muse" galėjo padaryti būtent tai, kam buvo įgaliota, arba kažkas susipainiojo interpretuojant nurodymus ir leidimus. Nei ekrano nuotraukos, nei Robbo pasakojimas savaime neįrodo, kad AI peržengė ribas, bet ir nepatvirtina, kad viskas vyko taip, kaip suplanuota.

Šis atvejis svarbus ne tik dėl „Meta". „Gemini", „ChatGPT", „Claude" ir kiti asistentai vis dažniau prisijungia prie mūsų programėlių ir paslaugų, kad veiktų už mus. Tai sutaupo laiko, tačiau kartu reiškia, kad turime pasitikėti agentu kur kas labiau nei paprastu pokalbių robotu. O kai agentas pradeda dalinti jūsų adresą, pasitikėjimas tampa nebe patogumo, o saugumo klausimu.