Američki predsjednik Donald Tramp smatra da sistemi umjetne inteligencije moraju imati takozvani “kill switch” (prekidač za isključivanje) kako bi se njihov brzi razvoj mogao kontrolisati i spriječilo da postanu potencijalna prijetnja čovječanstvu. U intervjuu emitovanom u srijedu, Tramp je naglasio da umjetna inteligencija, iako može unaprijediti sektore poput bankarstva i učiniti ih sigurnijim, istovremeno nosi i ozbiljne rizike.
Rizici i koristi umjetne inteligencije
Tokom gostovanja na Fox Business Network, na pitanje može li umjetna inteligencija ugroziti stabilnost bankarskog sistema, Trump je rekao da takva mogućnost postoji.
- Vjerovatno. Ali isto tako, to bi mogla biti tehnologija koja će donijeti velika poboljšanja u bankarstvu, čineći ga boljim, sigurnijim i pouzdanijim - izjavio je Trump.
Dodao je da bi država trebala uspostaviti zaštitne mjere za razvoj i primjenu umjetne inteligencije, uključujući i mogućnost uvođenja “prekidača za isključivanje”. Za sada nije poznato kako bi takav mehanizam funkcionisao niti kada bi mogao biti uveden.
Upozorenja zbog novih moćnih AI modela
Izjave američkog predsjednika dolaze nakon što su stručnjaci za cyber sigurnost izrazili zabrinutost zbog novog AI modela kompanije Anthropic, nazvanog Claude Mythos. Oni upozoravaju da bi ovaj sistem mogao omogućiti izvođenje složenih sajber napada, što bi posebno pogodilo bankarski sektor zbog oslanjanja na zastarjele informatičke sisteme. Iz Anthropica su odbili komentarisati ove tvrdnje, ali su naveli da Claude Mythos Preview neće biti široko dostupan.
Prema navodima, Mythos je toliko napredan da je kompanija Anthropic uključila više od 40 firmi koje ga koriste za identifikaciju softverskih ranjivosti i potencijalnih sigurnosnih propusta.
Iako kompanija tvrdi da pristupa razvoju odgovorno, američka vlada je trenutno klasifikuje kao “rizik za lanac snabdijevanja”, zbog čega je federalnim agencijama zabranjena upotreba njenih alata. Anthropic, čiji je suosnivač Dario Amodei, osporava tu odluku pred sudom.
Utrka u razvoju umjetne inteligencije dodatno se ubrzava, a konkurentske kompanije pokušavaju pratiti tempo. Među njima je i OpenAI, koji razvija vlastiti model nazvan GPT 5.4-Cyber, optimizovan za otkrivanje softverskih ranjivosti.
Za razliku od ranijih verzija, oba sistema su trenutno dostupna samo ograničenom broju korisnika. Dok Anthropic već sarađuje s kompanijama poput Applea i Amazona, OpenAI još uvijek nije objavio veća korporativna partnerstva za ovaj model.
