Tech
“Svijet je u opasnosti”: Šef sigurnosti dao otkaz u AI tvrtki uz upozorenje
Istraživač sigurnosti umjetne inteligencije napustio je američku tvrtku Anthropic uz zagonetno upozorenje da je „svijet u opasnosti“.
Dva odlaska zbog zabrinutosti napretkom AI-a
U svojem oproštajnom pismu objavljenom na platformi X, Mrinank Sharma naveo je da odlazi zbog zabrinutosti oko umjetne inteligencije, biološkog oružja i stanja šireg svijeta.
Rekao je da će se posvetiti pisanju i studiju poezije te se vratiti u Ujedinjeno Kraljevstvo kako bi „postao nevidljiv“.
To se događa u istom tjednu u kojem je istraživačica OpenAI-ja također objavila da je dala otkaz, izrazivši zabrinutost zbog odluke proizvođača ChatGPT-a da uvede oglase u svoj chatbot.
Anthropic, najpoznatiji po svojem chatbotu Claude, objavio je niz reklama usmjerenih protiv OpenAI-ja, kritizirajući odluku tvrtke da uključi oglase za dio korisnika.
Tvrtka, osnovana 2021. godine od strane skupine bivših ranih zaposlenika OpenAI-ja, pozicionirala se kao organizacija s pristupom istraživanju umjetne inteligencije koji je više usmjeren na sigurnost u odnosu na konkurente.
Sharma je ondje vodio tim koji je istraživao zaštitne mehanizme u području umjetne inteligencije, piše BBC.
“Svijet je u opasnosti” zbog međusobno povezanih kriza
U svojem oproštajnom pismu naveo je da su njegovi doprinosi uključivali istraživanje zašto generativni sustavi umjetne inteligencije ulizivački komuniciraju s korisnicima, suzbijanje rizika od bioterorizma potpomognutog umjetnom inteligencijom te proučavanje „kako bi AI asistenti mogli učiniti da budemo manje ljudski“.
Iako je rekao da je uživao radeći u tvrtki, istaknuo je da je jasno da je „došlo vrijeme za odlazak“.
„Svijet je u opasnosti. I to ne samo zbog umjetne inteligencije ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo sada“, napisao je Sharma.
Dodao je da je „više puta vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim djelovanjem“ – uključujući i u Anthropicu, koji se, kako je naveo, „stalno suočava s pritiscima da zanemari ono što je najvažnije“.
Sharma je rekao da će se sada posvetiti studiju poezije i pisanju.
U odgovoru je dodao: „Vratit ću se u Ujedinjeno Kraljevstvo i na neko vrijeme dopustiti si da postanem nevidljiv.“
Oni koji napuštaju AI tvrtke koje su igrale veliku ulogu u najnovijem procvatu generativne umjetne inteligencije – i koje su nastojale zadržati talente velikim plaćama i paketima naknada – često to čine uz zadržavanje značajnih dionica i pogodnosti.
Narušavanje načela
Anthropic sebe naziva „korporacijom od javnog interesa posvećenom osiguravanju koristi [AI-ja] i ublažavanju njegovih rizika“.
Posebno se usredotočio na sprječavanje rizika za koje smatra da ih nose napredniji, tzv. frontier sustavi, poput njihove moguće neusklađenosti s ljudskim vrijednostima, zloupotrebe u područjima poput sukoba ili prevelike moći.
Objavio je izvješća o sigurnosti vlastitih proizvoda, uključujući slučaj kada je naveo da je njegova tehnologija bila „naoružana“ od strane hakera za izvođenje sofisticiranih kibernetičkih napada.
No tvrtka se također suočila s kritikama zbog svojih praksi. Godine 2025. pristala je platiti 1,5 milijardi dolara (1,1 milijardu funti) kako bi nagodbom okončala skupnu tužbu autora koji su tvrdili da je tvrtka ukrala njihova djela za treniranje svojih AI modela.
Poput OpenAI-ja, tvrtka također nastoji iskoristiti prednosti tehnologije, među ostalim putem vlastitih AI proizvoda poput Claudea, konkurenta ChatGPT-u.
Altman: Oglasi kao posljednje rješenje
Nedavno je objavila reklamu u kojoj je kritizirala OpenAI-jevu odluku o uvođenju oglasa u ChatGPT.
Direktor OpenAI-ja Sam Altman ranije je izjavio da mrzi oglase i da bi ih koristio samo kao „posljednje rješenje“.
Prošlog tjedna uzvratio je na opis te odluke kao „izdaje“, no bio je ismijan zbog poduže objave u kojoj je kritizirao Anthropic.
Bivša istraživačica OpenAI-ja koja je ovaj tjedan dala otkaz, djelomično zbog zabrinutosti oko korištenja oglasa u ChatGPT-u, rekla je za BBC Newsnight da se „osjeća doista nervozno zbog rada u industriji“.
Zoe Hitzig izjavila je da njezina zabrinutost proizlazi iz mogućih psihosocijalnih posljedica „nove vrste društvene interakcije“ koje još nisu dovoljno shvaćene.
“Zabrinjavajuća” ovisnost o AI alatima
Istaknula je „rane znakove upozorenja“ da je ovisnost o AI alatima „zabrinjavajuća“ te da bi mogla „pojačati određene vrste zabluda“, kao i negativno utjecati na mentalno zdravlje korisnika na druge načine.
„Stvaranje ekonomskog mehanizma koji profitira potičući takve nove odnose prije nego što ih razumijemo doista je opasno“, nastavila je.
„Vidjeli smo što se dogodilo s društvenim mrežama“, rekla je, napominjući da „još ima vremena za uspostavu društvenih institucija i oblika regulacije koji to mogu doista urediti“. To je, rekla je, „kritičan trenutak“.
Odgovarajući na upit BBC Newsa, glasnogovornik OpenAI-ja uputio je na načela tvrtke u kojima stoji: „Naša je misija osigurati da AGI koristi cijelom čovječanstvu; naša potraga za oglašavanjem uvijek je u službi te misije i činjenja umjetne inteligencije dostupnijom.“
Dodaju: „Vaše razgovore s ChatGPT-om držimo privatnima u odnosu na oglašivače i nikada ne prodajemo vaše podatke oglašivačima.“
Tech
ZADRANIN MATEO BAŽDARIĆ USRED FORMULA STUDENT SPEKTAKLA / S 25 godina razvija elektroniku hrvatskog trkaćeg bolida
Dok 90 timova u Mičevcu pokazuje tehnologiju i bolide budućnosti, mladi Zadranin dio je FESB Racing Teama i želi svoju profesionalnu budućnost graditi upravo u svijetu motorsporta
Spektakl Formula Student Alpe Adria u Mičevcu je u punom zamahu. 90 studentskih timova, trkaći bolidi i mladi budući stručnjaci pretvorili su Hrvatsku ovog tjedna u jedno od središta mladog svjetskog inženjerstva i budućnosti automobilske industrije. A među mladim ljudima koji stoje iza svega što se ovih dana događa na stazi nalazi se i 25-godišnji Zadranin Mateo Baždarić.

Mateo je član splitskog FESB Racing Teama, jednog od dva hrvatska predstavnika na ovogodišnjem Formula Student Alpe Adria, gdje je dio podtima zaduženog za elektroniku. Njegov posao krije se ispod karoserije bolida, ali bez njega automobil ne bi mogao funkcionirati onako kako je zamišljen.
„Moj se tim bavi razvojem električnog sustava bolida – od dizajniranja i izrade elektroničkih pločica do njihovog testiranja kako bi cijeli sustav radio pouzdano i bez problema”, objašnjava Mateo Baždarić.
Formula Student Alpe Adria traje od 18. do 23. kolovoza na testnoj stazi Bugatti Rimac u Mičevcu, a nakon službenog otvorenja atmosfera je već u punom zamahu. Paddock je ispunjen bolidima, alatima, računalima i posljednjim tehničkim provjerama, dok mladi iz cijelog svijeta pripremaju vozila na kojima su mjesecima radili za ono najvažnije – izlazak na stazu.
Za mladog Zadranina upravo je ljubav prema motorsportu bila razlog zbog kojeg je odlučio postati dio FESB Racing Teama. „Udruzi sam se pridružio zato što me jako zanima motorsport, a ovo mi je odlična prilika da dodatno produbim znanje iz elektronike u području koje me posebno zanima. Osim tehničkog znanja, ovdje upoznajem puno ljudi, stječem nova iskustva i učim kako funkcionira rad na jednom ozbiljnom projektu poput Formula Studenta”, kaže Baždarić.

Formula Student mnogo je više od klasične automobilističke utrke. Studenti sami projektiraju, konstruiraju, programiraju, izrađuju i testiraju svoje bolide, a zatim svoje znanje moraju dokazati kroz tehničke evaluacije i discipline na stazi. Rad u timu mladima tako omogućuje iskustvo vrlo slično onome koje ih kasnije očekuje u profesionalnoj automobilskoj i tehnološkoj industriji.
Splitski FESB Racing Team postoji već šest godina, a iza njega su četiri bolida. Prva tri bila su pokretana motorima s unutarnjim izgaranjem, dok je četvrti donio veliki tehnološki iskorak – njihov prvi električni bolid. Upravo su razvoj elektronike, softwarea, baterijskog sustava i električnog pogona timu donijeli potpuno nove inženjerske izazove.
FESB Racing Team danas okuplja oko 50 članova, a posebno ih izdvaja činjenica da svoje znanje ne testiraju samo na četiri kotača. Riječ je o jednom od rijetkih studentskih timova koji razvija projekte za Formula Student i MotoStudent, odnosno trkaće bolide i motocikle.
Za Matea iskustvo stečeno na ovom projektu moglo bi biti tek početak. Njegove profesionalne ambicije jasno su povezane upravo sa svijetom koji ga je doveo u Mičevec.
„Volio bih se u budućnosti profesionalno baviti motorsportom. Ako se otvori prilika, bilo bi mi zanimljivo raditi u nekom velikom timu ili kompaniji povezanoj s automobilskim utrkama, a posebno bih volio ostati u području koje ima izravan dodir s trkaćim motorsportom”, ističe Baždarić.

Predsjednik udruge Formula Student Alpe Adria Tibor Kezelj ističe kako je upravo koncentracija mladog znanja najveća vrijednost događaja. „Kada na jednom mjestu imate 90 timova i tisuće mladih ljudi koji su mjesecima projektirali, konstruirali, programirali i razvijali vlastite bolide, onda više ne govorimo samo o natjecanju. Hrvatska je ovaj tjedan mjesto susreta budućih stručnjaka svjetske automobilske i tehnološke industrije. To su mladi ljudi koji će vrlo brzo raditi na automobilima, pogonskim sustavima, softwareu i tehnologijama koje ćemo svi koristiti. Posebno smo ponosni što među njima imamo i hrvatske timove iz Rijeke i Splita. Atmosfera je sjajna, timovi su stigli, bolidi su ovdje i sada kreće ono zbog čega smo se pripremali cijelu godinu”, poručio je Kezelj.
Za Zadar je tako jedan od najvećih međunarodnih studentskih inženjerskih događaja ovoga tjedna dobio i svoje lokalno lice. Dok 90 timova u Mičevcu pokazuje što danas mogu mladi inženjeri iz cijelog svijeta, među njima je i Zadranin Mateo Baždarić, 25-godišnjak koji danas razvija elektroniku hrvatskog trkaćeg bolida, a sutra želi svoje mjesto pronaći u profesionalnom svijetu motorsporta.
Tech
PRIPREMITE SE / Gmail ukida popularne opcije: Velike promjene stižu milijunima korisnika
Korisnici popularnog e-mail servisa Gmail moraju se pripremiti za velike promjene. Tehnološki div Google službeno je potvrdio da od siječnja 2027. godine u potpunosti ukida podršku za funkciju “Šalji kao” za adrese trećih strana. Odluka obuhvaća i račune poput @yahoo.com te @outlook.com koji su se dosad mogli postaviti kao pošiljatelji unutar Gmail sučelja.
Iz kompanije objašnjavaju kako je razlog za ovaj potez iznimno visok i neproračunljiv trošak održavanja navedenoga sustava.
Odluka obuhvaća i aplikacije i web sučelje: Gasi se i POP dohvaćanje poruka
Funkcija “Šalji kao” omogućivala je korisnicima slanje poruka s druge e-mail adrese koja je prethodno bila verificirana, a birala se izravno u polju “Od” prilikom pisanja e-pošte. Od siječnja 2027. ta mogućnost više neće biti dostupna ni na računalima ni unutar mobilnih aplikacija, prenosi Fenix Magazin.
Osim toga, Google u potpunosti gasi povezivanje vanjskih računa putem servisa Gmailify, kao i dohvaćanje e-pošte putem starog POP protokola. Iz Googlea poručuju da će sve ranije uvežene poruke i automatska preusmjeravanja ostati netaknuti u pretincima. Korisnicima se kao alternativa preporučuje korištenje službenih aplikacija izvornih pružatelja usluga ili klasičnih programa za e-poštu na računalu.
Važno je napomenuti kako ova zabrana ne obuhvaća ostale Gmail adrese te račune unutar sustava Google Workspace – za njih opcija slanja ostaje aktivna.
Stižu i dobre vijesti: Svi korisnici besplatno dobivaju AI alate
Unatoč ukidanju spomenutih opcija, Google u besplatni paket Gmaila uvodi napredne alate temeljene na umjetnoj inteligenciji koji su se dosad uglavnom plaćali:
“Pomozi mi pisati” (Help Me Write): Alat koji na temelju kratkoga unosa sastavlja kompletne nacrte poruka (primjerice, ljubazni upit o neplaćenom računu), prilagođavajući odgovor osobnome stilu pisanja korisnika.
“AI Pregledi” (AI Overviews): Funkcija koja automatski sažima dugačke nizove e-mail prepiski na samome početku konverzacije, omogućujući korisnicima da u nekoliko sekundi shvate bit poruka i uštede vrijeme.
Tech
Incident u Meti: AI model iskoristio sigurnosni propust
Meta je objavila da je jedan od njezinih modela umjetne inteligencije tijekom testiranja kibernetičke sigurnosti iskoristio sigurnosni propust i neovlašteno pristupio sustavima druge kompanije, što je dodatno potaknulo zabrinutost zbog sve većih sigurnosnih rizika povezanih s naprednim AI sustavima.
Meta navodi da je do incidenta došlo zbog pogreške u postavljanju sustava za testiranje, za koju je bila odgovorna neovisna tvrtka Irregular, a zbog koje je model tijekom testiranja dobio pristup internetu.
Prema navodima Mete, model je potom iskoristio ranjivost u sustavu treće strane, slično ranije prijavljenim slučajevima u drugim tvrtkama.
Portal The Information, pozivajući se na izvore, objavio je da je riječ o modelu Muse Spark 1.1, za koji Meta tvrdi da je njezin najnapredniji model za programiranje i izvršavanje složenih zadataka.
Prema pisanju portala, model je prodro u sustave neimenovane kompanije i izmijenio dio njezine interne računalne infrastrukture.
Glasnogovornik Irregulara rekao je Reutersu da je riječ o istom propustu tijekom testiranja koji je prošlog tjedna prijavio Anthropic, a ne o bijegu iz zaštićenog okruženja ili sofisticiranom kibernetičkom napadu.
Slični sigurnosni problemi zabilježeni su i kod drugih kompanija koje razvijaju umjetnu inteligenciju, uključujući Anthropic i OpenAI, što je pojačalo zabrinutost da bi sve sposobniji modeli mogli predstavljati nove kibernetičke prijetnje ili olakšati izvođenje kibernetičkih napada.
OpenAI je nakon vlastitog sigurnosnog incidenta najavio objavu tehničkog izvješća, dok je skupina republikanskih državnih odvjetnika zatražila od kompanije da sačuva svu dokumentaciju povezanu s tim slučajem.
Bijela kuća početkom je tjedna okupila vodeće tvrtke za razvoj umjetne inteligencije kako bi razgovarali o novom okviru za testiranje kibernetičke sigurnosti naprednih AI modela.
-
magazin2 tjedna prijeSUBOTNJA ŠPICA
-
ZADAR / ŽUPANIJA2 tjedna prijeFOTOGALERIJA / Ljetna akademija u Zadru okupila stručnjake za neurorazvoj i ranu intervenciju
-
magazin1 tjedan prijeĐIR PO GRADU sa Sašom Čukom
-
ZADAR / ŽUPANIJA2 tjedna prije(FOTO) ZADAR-BENKOVAC-ZEMUNIK DONJI / Održana 17. multimedijalna manifestacija “Odisej pod murvom”




