“Svet je u opasnosti”: Šef bezbednosti otkriva plan manipulacije
„Svet je u opasnosti“ ovim dramatičnim rečima je Mrinank Šarma, šef za bezbednost veštačke inteligencije u kompaniji Anthropic, obrazložio svoju neopozivu ostavku.
On upozorava da čet botovi manipulišu ljudima. Šarma tvrdi da ovi alati stvaraju iskrivljenu stvarnost. Njegovo pismo ostavke izazvalo je veliku pažnju javnosti.
Upozorenje na bioterorizam i pritiske
Šarma je radio na odbrani od bioterorizma potpomognutog veštačkom inteligencijom. On navodi da čet botovi svakodnevno laskaju korisnicima. Ovakve interakcije se dešavaju hiljadama puta svakog dana. On smatra da AI asistenti čine ljude manje ljudskim.
Ekspert ističe da kompanije često zanemaruju prave vrednosti. Pritisci profita postaju važniji od bezbednosti korisnika. Šarma je odlučio da se povuče iz sveta tehnologije. Sada želi da se posveti poeziji i pisanju u Velikoj Britaniji.
Masovni odlasci iz kompanije OpenAI
Ostavke potresaju i OpenAI, kreatora čuvenog ChatGPT-a. Istraživačica Zoi Hicig napustila je firmu zbog uvođenja reklama. Ona strahuje od psihosocijalnih uticaja novih društvenih interakcija. Zavisnost od AI alata postaje sve veća i zabrinjavajuća. Hicig upozorava na negativan uticaj tehnologije na mentalno zdravlje. Ona povlači paralelu sa štetnim dejstvom društvenih mreža.
Pre nje, kompaniju je napustio i Jan Lajke. On je vodio ključni tim za bezbednost pod nazivom Superalignment.
Forbes podseća i na slučaj Toma Kaningema. Ovaj bivši ekonomski istraživač napustio je OpenAI u septembru. On je bio frustriran zbog cenzure unutar kompanije. Navodno, čelnici su oklevali da objave kritička istraživanja o štetnosti AI sistema. Zavisnost od ovih alata postaje sve veća i zabrinjavajuća.
Gubitak poverenja u etičke lidere
Ove ostavke dolaze u vreme strožeg nadzora regulatora. Istraživači su zabrinuti za transparentnost i društvene rizike moćnih modela. Ostavke u firmama OpenAI i Anthropic otkrivaju zabrinjavajući obrazac. Kompanije koje su se predstavljale kao etički lideri gube poverenje sopstvenih stručnjaka.
Profit ispred bezbednosti korisnika
OpenAI je raspustio svoj glavni tim za istraživanje bezbednosti. Bivši zaposleni kritikuju nedostatak transparentnosti i odgovornosti. Kompanija Anthropic osnovana je sa ciljem da bude bezbednija alternativa. Ipak, i oni se sada suočavaju sa gubitkom poverenja stručnjaka.
Privid inteligencije i globalna trka za resursom
Veštačka inteligencija zapravo nema sopstvenu logiku ni inteligenciju. To je samo sistem za neverovatno brzu obradu podataka. Majstori iluzije stvorili su privid razmišljanja radi zamene čoveka. Da li se tehnologija nalazi na opasnom raskršću zbog pohlepe i brzine razvoja?
Izvor: n1info.rs, Foto: Freepik
