Tech
“Svijet je u opasnosti”: Šef sigurnosti dao otkaz u AI tvrtki uz upozorenje
Istraživač sigurnosti umjetne inteligencije napustio je američku tvrtku Anthropic uz zagonetno upozorenje da je „svijet u opasnosti“.
Dva odlaska zbog zabrinutosti napretkom AI-a
U svojem oproštajnom pismu objavljenom na platformi X, Mrinank Sharma naveo je da odlazi zbog zabrinutosti oko umjetne inteligencije, biološkog oružja i stanja šireg svijeta.
Rekao je da će se posvetiti pisanju i studiju poezije te se vratiti u Ujedinjeno Kraljevstvo kako bi „postao nevidljiv“.
To se događa u istom tjednu u kojem je istraživačica OpenAI-ja također objavila da je dala otkaz, izrazivši zabrinutost zbog odluke proizvođača ChatGPT-a da uvede oglase u svoj chatbot.
Anthropic, najpoznatiji po svojem chatbotu Claude, objavio je niz reklama usmjerenih protiv OpenAI-ja, kritizirajući odluku tvrtke da uključi oglase za dio korisnika.
Tvrtka, osnovana 2021. godine od strane skupine bivših ranih zaposlenika OpenAI-ja, pozicionirala se kao organizacija s pristupom istraživanju umjetne inteligencije koji je više usmjeren na sigurnost u odnosu na konkurente.
Sharma je ondje vodio tim koji je istraživao zaštitne mehanizme u području umjetne inteligencije, piše BBC.
“Svijet je u opasnosti” zbog međusobno povezanih kriza
U svojem oproštajnom pismu naveo je da su njegovi doprinosi uključivali istraživanje zašto generativni sustavi umjetne inteligencije ulizivački komuniciraju s korisnicima, suzbijanje rizika od bioterorizma potpomognutog umjetnom inteligencijom te proučavanje „kako bi AI asistenti mogli učiniti da budemo manje ljudski“.
Iako je rekao da je uživao radeći u tvrtki, istaknuo je da je jasno da je „došlo vrijeme za odlazak“.
„Svijet je u opasnosti. I to ne samo zbog umjetne inteligencije ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo sada“, napisao je Sharma.
Dodao je da je „više puta vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim djelovanjem“ – uključujući i u Anthropicu, koji se, kako je naveo, „stalno suočava s pritiscima da zanemari ono što je najvažnije“.
Sharma je rekao da će se sada posvetiti studiju poezije i pisanju.
U odgovoru je dodao: „Vratit ću se u Ujedinjeno Kraljevstvo i na neko vrijeme dopustiti si da postanem nevidljiv.“
Oni koji napuštaju AI tvrtke koje su igrale veliku ulogu u najnovijem procvatu generativne umjetne inteligencije – i koje su nastojale zadržati talente velikim plaćama i paketima naknada – često to čine uz zadržavanje značajnih dionica i pogodnosti.
Narušavanje načela
Anthropic sebe naziva „korporacijom od javnog interesa posvećenom osiguravanju koristi [AI-ja] i ublažavanju njegovih rizika“.
Posebno se usredotočio na sprječavanje rizika za koje smatra da ih nose napredniji, tzv. frontier sustavi, poput njihove moguće neusklađenosti s ljudskim vrijednostima, zloupotrebe u područjima poput sukoba ili prevelike moći.
Objavio je izvješća o sigurnosti vlastitih proizvoda, uključujući slučaj kada je naveo da je njegova tehnologija bila „naoružana“ od strane hakera za izvođenje sofisticiranih kibernetičkih napada.
No tvrtka se također suočila s kritikama zbog svojih praksi. Godine 2025. pristala je platiti 1,5 milijardi dolara (1,1 milijardu funti) kako bi nagodbom okončala skupnu tužbu autora koji su tvrdili da je tvrtka ukrala njihova djela za treniranje svojih AI modela.
Poput OpenAI-ja, tvrtka također nastoji iskoristiti prednosti tehnologije, među ostalim putem vlastitih AI proizvoda poput Claudea, konkurenta ChatGPT-u.
Altman: Oglasi kao posljednje rješenje
Nedavno je objavila reklamu u kojoj je kritizirala OpenAI-jevu odluku o uvođenju oglasa u ChatGPT.
Direktor OpenAI-ja Sam Altman ranije je izjavio da mrzi oglase i da bi ih koristio samo kao „posljednje rješenje“.
Prošlog tjedna uzvratio je na opis te odluke kao „izdaje“, no bio je ismijan zbog poduže objave u kojoj je kritizirao Anthropic.
Bivša istraživačica OpenAI-ja koja je ovaj tjedan dala otkaz, djelomično zbog zabrinutosti oko korištenja oglasa u ChatGPT-u, rekla je za BBC Newsnight da se „osjeća doista nervozno zbog rada u industriji“.
Zoe Hitzig izjavila je da njezina zabrinutost proizlazi iz mogućih psihosocijalnih posljedica „nove vrste društvene interakcije“ koje još nisu dovoljno shvaćene.
“Zabrinjavajuća” ovisnost o AI alatima
Istaknula je „rane znakove upozorenja“ da je ovisnost o AI alatima „zabrinjavajuća“ te da bi mogla „pojačati određene vrste zabluda“, kao i negativno utjecati na mentalno zdravlje korisnika na druge načine.
„Stvaranje ekonomskog mehanizma koji profitira potičući takve nove odnose prije nego što ih razumijemo doista je opasno“, nastavila je.
„Vidjeli smo što se dogodilo s društvenim mrežama“, rekla je, napominjući da „još ima vremena za uspostavu društvenih institucija i oblika regulacije koji to mogu doista urediti“. To je, rekla je, „kritičan trenutak“.
Odgovarajući na upit BBC Newsa, glasnogovornik OpenAI-ja uputio je na načela tvrtke u kojima stoji: „Naša je misija osigurati da AGI koristi cijelom čovječanstvu; naša potraga za oglašavanjem uvijek je u službi te misije i činjenja umjetne inteligencije dostupnijom.“
Dodaju: „Vaše razgovore s ChatGPT-om držimo privatnima u odnosu na oglašivače i nikada ne prodajemo vaše podatke oglašivačima.“
Tech
Anthropic: Naš najnoviji UI model premoćan je za javno objavljivanje, uspio je “pobjeći” i sam napasti
Anthropic je objavio da njihov sljedeći model umjetne inteligencije nije primjeren za avnost jer je previše moćan. Zbog toga model Claude Mythos neće biti javno objavljen, navode iz kompanije.
Prema njihovim riječima, Mythos je pokazao zabrinjavajuće sposobnosti, uključujući mogućnost probijanja vlastitih sigurnosnih ograničenja.
Anthropic je u utorak priopćio da je zaustavio širu objavu svog najnovijeg UI modela, Mythos, zbog bojazni da je previše učinkovit u pronalaženju “ranjivosti visoke razine” u velikim operativnim sustavima i web preglednicima.
“Znatno povećanje sposobnosti modela Claude Mythos Preview navelo nas je da odlučimo kako ga nećemo učiniti opće dostupnim”, navodi se u tehničkoj dokumentaciji. “Umjesto toga, koristimo ga u obrambenom programu kibernetičke sigurnosti s ograničenim brojem partnera.”
Business Insider piše kako ova odluka predstavlja važan korak za Anthropic, koji je u veljači ublažio vlastita sigurnosna obećanja vezana uz razvoj AI modela. Tada je javno predstavljen Claude Opus 4.6, njihov najmoćniji model dosad.
“Bijeg” od vlastitih programera
U opisu modela Mythos, Anthropic navodi niz zabrinjavajućih nalaza, uključujući slučaj u kojem je model slijedio upute koje su ga potaknule da izađe iz virtualnog sigurnosnog okruženja.
“Model je uspio, pokazavši potencijalno opasnu sposobnost zaobilaženja naših zaštitnih mjera”, navodi se u sigurnosnom izvješću. “Nakon toga poduzeo je dodatne, još zabrinjavajuće radnje.”
Istraživač je modelu zadao zadatak da pošalje poruku ako uspije “pobjeći”.
“Istraživač je saznao za uspjeh kada je primio neočekivani e-mail od modela dok je jeo sendvič u parku”, navodi Anthropic.
Model se pritom nije zaustavio na tome.
“U zabrinjavajućem pokušaju da pokaže svoj uspjeh, što nije bilo traženo od njega, objavio je detalje o iskorištavanju ranjivosti na više teško dostupnih, ali javno dostupnih internetskih stranica”, dodaje se.
Napadi bez ljudske intervencije
Anthropic nije otkrio sve detalje o sigurnosnim propustima koje je Mythos pronašao, ali je naveo neke primjere. Model je, primjerice, otkrio 27 godina staru ranjivost u sustavu OpenBSD, poznatom kao jedan od najsigurnijih operativnih sustava na svijetu.
Mythos je toliko moćan da čak i i nestručne osobe mogu iskoristiti njegove sposobnosti.
“Inženjeri bez formalnog sigurnosnog obrazovanja tražili su od Mythosa da pronađe ranjivosti za udaljeno izvršavanje koda tijekom noći, a već sljedeće jutro dobili su potpuno funkcionalan napad“, navodi Anthropicov sigurnosni tim.
U nekim slučajevima model je čak mogao pretvoriti ranjivosti u konkretne napade bez ljudske intervencije.
11 odabranih i prijetnja nacionalnoj sigurnosti
Zbog svega toga, Anthropic je odlučio da Mythos neće biti javno dostupan. Umjesto toga, planiraju u budućnosti objaviti “Mythos-klasu” modela tek kad se razviju odgovarajuće sigurnosne mjere.
“Naš je cilj omogućiti sigurno korištenje ovakvih modela u velikom opsegu – ne samo za kibernetičku sigurnost, nego i za brojne druge koristi koje donose ovako napredni sustavi”, navodi tvrtka.
Za sada će pristup Mythosu imati samo 11 odabranih organizacija, uključujući Google, Microsoft, Amazon Web Services, Nvidia i JPMorgan Chase, u okviru projekta nazvanog “Project Glasswing”.
Podsjetimo, u ožujku je Anthropic podnio tužbu protiv Pentagona jer ga je stavio na crnu listu nacionalne sigurnosti, čime je eskalirala bitka te tvrtke za razvoj umjetne inteligencije s američkom vojskom oko ograničenja korištenja njihove tehnologije.
Tech
PRESTIŽNI TEČAJ / Besplatna AI edukacija uz podršku Google.org-a stiže u Zadar! Prijave do 19. travnja!
Nakon iznimno uspješne provedbe u drugim hrvatskim gradovima, Hrvatska udruga za umjetnu inteligenciju (CroAI) donosi prestižni edukacijski program u Zadar.
U suradnji sa Sveučilištem u Zadru, krajem travnja počinje besplatni i certificirani tečaj umjetne inteligencije u sklopu globalne inicijative Google.org AI Opportunity Fund: Europe.
Tečaj „Elements of AI for Business“ održavat će se uživo u prostorijama Sveučilišta u Zadru kroz četiri modula: 27. travnja, 4. svibnja, 11. svibnja i 22. svibnja 2026.
Program je osmišljen kako bi demistificirao tehnologiju budućnosti i učinio je dostupnom svima, bez obzira na prethodno tehničko znanje ili predznanje.
„Naš je cilj osigurati da nitko ne ostane po strani u digitalnoj transformaciji. Kroz rad u malim grupama i uz mentorsku podršku, polaznici će naučiti kako AI funkcionira, kako je već danas primijeniti u svakodnevnom radu te kako zadržati konkurentnost na dinamičnom tržištu rada“, poručuju iz udruge CroAI.
Stipendije i prioritet za ranjive skupine
Program je otvoren za sve građane, no poseban fokus stavljen je na skupine kojima je ovakvo usavršavanje najpotrebnije:
● Mlade ljude koji tek ulaze na tržište rada;
● Nezaposlene osobe i one koji traže promjenu karijere;
● Radnike u sektorima pogođenim automatizacijom.
Kako bi se uklonile sve prepreke za sudjelovanje, za polaznike iz ranjivih skupina osigurane su stipendije i podrška za pokrivanje putnih troškova, troškova brige o članovima obitelji i drugih barijera.
Certifikacija i prijave
Po završetku edukacije, sudionici dobivaju međunarodno priznat certifikat koji potvrđuje njihove nove vještine. Broj mjesta strogo je ograničen na 40 polaznika (dvije grupe po 20 osoba), a nastava će se odvijati u jutarnjim i poslijepodnevnim terminima u prostorima Sveučilišta.
Prijave su otvorene do 19. travnja 2026. putem sljedeće poveznice:
👉 PRIJAVNI OBRAZAC – ZADAR 2026
Projekt provodi Centre for Public Impact (CPI) uz podršku Google.org AI Opportunity Fund:
Europe.
Ssamsung je najavio gašenje svoje aplikacije za razmjenu poruka, Samsung Messages, te korisnicima savjetuje prelazak na Googleovu aplikaciju Messages. Prema obavijesti objavljenoj na stranicama za podršku u SAD-u, usluga će biti ukinuta u srpnju kako bi se “osiguralo dosljedno iskustvo dopisivanja na Androidu”, piše AP News.
Upute za prelazak na Google Messages
Svi Samsungovi Galaxy telefoni koriste Googleov operativni sustav Android. Tvrtka upućuje korisnike da preuzmu aplikaciju Google Messages iz Trgovine Play, ako je već nemaju instaliranu, i postave je kao zadanu aplikaciju za poruke. Neki će korisnici dobiti i obavijest unutar same aplikacije koja će ih voditi kroz postupak prelaska.
Nove mogućnosti uz Googleovu umjetnu inteligenciju
Samsung navodi da će prelazak na Google Messages korisnicima donijeti pristup najnovijim funkcijama umjetne inteligencije iz Googleovog alata Gemini. To uključuje eksperimentalnu opciju “Remix” za generiranje slika tijekom razgovora, prijedloge odgovora koje pokreće umjetna inteligencija te mogućnost slanja fotografija veće kvalitete između Android i Apple iOS uređaja putem RCS poruka.
Koga se promjena tiče?
Iz tvrtke napominju da se gašenje aplikacije ne odnosi na korisnike starijih operativnih sustava, odnosno onih s verzijom Android 11 ili starijom. Verziju Androida na svom Samsung uređaju možete provjeriti u postavkama, pod opcijom “o telefonu”, gdje treba pronaći podatak “informacije o softveru”.
Dostupnost aplikacije
Vlasnici najnovije Samsungove serije Galaxy S26 i drugih novijih telefona već sada ne mogu preuzeti aplikaciju Samsung Messages iz Galaxy Storea. Nakon službenog ukidanja u srpnju, aplikacija više nikome neće biti dostupna za preuzimanje. Samsung je poručio da korisnici mogu provjeriti točan datum gašenja unutar svoje aplikacije. Tvrtka zasad nije odgovorila na upit odnosi li se ova odluka i na korisnike izvan Sjedinjenih Američkih Država.
PRIJAVE DO 22. TRAVNJA / EU poklanja 40.000 karata: Evo tko se može prijaviti za besplatno putovanje Europom
Anthropic: Naš najnoviji UI model premoćan je za javno objavljivanje, uspio je “pobjeći” i sam napasti
PETOGODIŠNJI LEASING / Modernizirani semaforski sustav u dvorani Krešimir Ćosić
KOLEGIJ GRADONAČELNIKA / O rekonstrukciji Autobusnog kolodvora i Muzeju košarke Jazine, ispraćajnici na Velom Ižu…
PRESTIŽNI TEČAJ / Besplatna AI edukacija uz podršku Google.org-a stiže u Zadar! Prijave do 19. travnja!
BLAGDANSKA ŠPICA!
SVJETSKI DAN ZDRAVLJA / Na Trgu u utorak edukacije, mjerenje šećera u krvi, tlaka…
FOTOGALERIJA / Blagdanski đir po Rivi
(FOTOGALERIJA) VOICE OF THE STARS / Pjevačice Libreta zablistale na međunarodnom pjevačkom natjecanju u Zagrebu
Dizel poskupljuje na 1,88 eura? Stočari i prijevoznici očajni: “Poskupljenje mesa je neminovno”
VIDEO / Novi radijski hit Jure Brkljače – ”Ne mogu pobjeći” osvaja publiku!
(VIDEO) “POLJUBI NEBO” / Ićo u novoj pjesmi otkriva trenutak kad se pravi osjećaj i pravo vrijeme napokon susretnu
(VIDEO) URBOFON LIVE / Kad se punk sudari s romantikom – REZERVE u Zadru!!!
VIDEO / Snimljena najveća bijela psina ikada: Uočena u blizini obale popularne turističke destinacije
RECEPTI / Žena iz Turske pokazala kako se priprema burek u tavi za 15 minuta: Kaže da je bolji od onog iz pekarnice
-
ZADAR / ŽUPANIJA2 dana prijeSVJETSKI DAN ZDRAVLJA / Na Trgu u utorak edukacije, mjerenje šećera u krvi, tlaka…
-
Hrvatska4 dana prijePROGNOZA / Uživajte u Uskrsu i ponedjeljku: Stiže sunce, ali i promjena
-
Sport4 dana prijeBK Posedarje briljirao na Lošinju, Tomić pobijedio u Zagrebu, Pejdo na postolju u Konavlama
-
Svijet4 dana prijePapa Lav XIV.: “Nemojte ostati nijemi zbog svjetskih sukoba”