Veštačka inteligencija se otela kontroli: Radi stvari koje ne bi smela

Ranije ove godine Snapchat je predstavio sopstveni AI chatbot My AI, koji je zasnovan na ChatGPT-u. Prvi čovek kompanije Evan Špigl odmah pri predstavljanju upozorio je na potencijalne nedostatke četbota i unapred se izvinio svim korisnicima za eventualne probleme koje bi mogli da imaju s tim alatom dizajniranim za razgovor s korisnicima.

Nakon lansiranja, u nekim slučajevima je četbot odgovarao neprimerenim komentarima, na što su iz Snapa prokomentarisali da je potrebno još da se radi na njegovoj bezbednosti i roditeljskim kontrolama.

Ali izgleda da se ove nedelje My AI oteo kontroli i počeo da radi stvari koje ne bi smeo. Tako je objavio story na kojem je, kako izgleda, prikazan zid, što je sve korisnike iznenadilo, a neke i šokiralo. Nakon tog neočekivanog poteza veštačke inteligencije korisnici su upitali Snapchatov AI da li je on zaista objavio sopstveni story, na šta je četbot odgovorio izvinjenjem i napomenom da ima tehničkih problema.

Ubrzo nakon toga snimci ekrana sa Snapchata preplavili su Twitter, tj. platformu X, a korisnici su imali različite komentare na veštačku inteligenciju koja je, na svoju ruku i bez korisnikovih uputstava odlučila da objavi story, što je mogućnost koju bi na ovoj društvenoj mreži trebalo da imaju samo korisnici, ne i AI četbot. AI je uradio ono što se od njega ne traži i što u suštini ne sme da radi, ali srećom, u slučaju Snapchata to otimanje kontroli odnosi se samo na objavu čudnog storyja.

„Ovo je čudno i uznemirujuće, mislim da sam gledala ovaj film ranije… i nije mi se svideo kraj“, samo je jedan od komentara zbunjenih korisnika.

Iz Snapa su smirili zabrinute korisnike, istakavši da nije došlo ni do kakvog otimanja kontroli niti je AI četbot počeo da radi stvari na svoju ruku, već je reč samo o tehničkoj grešci. Ta greška je, komentarisali su za Tech Crunch, sada rešena pa My AI može da se nastavi da se koristiti kao i do sada.

Ali deo korisnika sada od kompanije traži odbacivanje te opcije, odnosno četbota koji se nalazi na vrhu razgovora unutar Snapchata i ne može da se ukloni. Oni nezadovoljni tako traže mogućnost da ga u potpunosti uklone iz svoje platforme ili da Snap bar omogući njegovu deaktivaciju.

BONUS VIDEO:

hypetv.rs