Connect with us

Tech

“Svijet je u opasnosti”: Šef sigurnosti dao otkaz u AI tvrtki uz upozorenje

Objavljeno

3 mjeseca prije

-

Istraživač sigurnosti umjetne inteligencije napustio je američku tvrtku Anthropic uz zagonetno upozorenje da je „svijet u opasnosti“.

Dva odlaska zbog zabrinutosti napretkom AI-a

U svojem oproštajnom pismu objavljenom na platformi X, Mrinank Sharma naveo je da odlazi zbog zabrinutosti oko umjetne inteligencije, biološkog oružja i stanja šireg svijeta.

Rekao je da će se posvetiti pisanju i studiju poezije te se vratiti u Ujedinjeno Kraljevstvo kako bi „postao nevidljiv“.

To se događa u istom tjednu u kojem je istraživačica OpenAI-ja također objavila da je dala otkaz, izrazivši zabrinutost zbog odluke proizvođača ChatGPT-a da uvede oglase u svoj chatbot.

Anthropic, najpoznatiji po svojem chatbotu Claude, objavio je niz reklama usmjerenih protiv OpenAI-ja, kritizirajući odluku tvrtke da uključi oglase za dio korisnika.

Tvrtka, osnovana 2021. godine od strane skupine bivših ranih zaposlenika OpenAI-ja, pozicionirala se kao organizacija s pristupom istraživanju umjetne inteligencije koji je više usmjeren na sigurnost u odnosu na konkurente.

Sharma je ondje vodio tim koji je istraživao zaštitne mehanizme u području umjetne inteligencije, piše BBC.

“Svijet je u opasnosti” zbog međusobno povezanih kriza

U svojem oproštajnom pismu naveo je da su njegovi doprinosi uključivali istraživanje zašto generativni sustavi umjetne inteligencije ulizivački komuniciraju s korisnicima, suzbijanje rizika od bioterorizma potpomognutog umjetnom inteligencijom te proučavanje „kako bi AI asistenti mogli učiniti da budemo manje ljudski“.

Iako je rekao da je uživao radeći u tvrtki, istaknuo je da je jasno da je „došlo vrijeme za odlazak“.

„Svijet je u opasnosti. I to ne samo zbog umjetne inteligencije ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo sada“, napisao je Sharma.

Dodao je da je „više puta vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim djelovanjem“ – uključujući i u Anthropicu, koji se, kako je naveo, „stalno suočava s pritiscima da zanemari ono što je najvažnije“.

Sharma je rekao da će se sada posvetiti studiju poezije i pisanju.

U odgovoru je dodao: „Vratit ću se u Ujedinjeno Kraljevstvo i na neko vrijeme dopustiti si da postanem nevidljiv.“

Oni koji napuštaju AI tvrtke koje su igrale veliku ulogu u najnovijem procvatu generativne umjetne inteligencije – i koje su nastojale zadržati talente velikim plaćama i paketima naknada – često to čine uz zadržavanje značajnih dionica i pogodnosti.

Narušavanje načela

Anthropic sebe naziva „korporacijom od javnog interesa posvećenom osiguravanju koristi [AI-ja] i ublažavanju njegovih rizika“.

Posebno se usredotočio na sprječavanje rizika za koje smatra da ih nose napredniji, tzv. frontier sustavi, poput njihove moguće neusklađenosti s ljudskim vrijednostima, zloupotrebe u područjima poput sukoba ili prevelike moći.

Objavio je izvješća o sigurnosti vlastitih proizvoda, uključujući slučaj kada je naveo da je njegova tehnologija bila „naoružana“ od strane hakera za izvođenje sofisticiranih kibernetičkih napada.

No tvrtka se također suočila s kritikama zbog svojih praksi. Godine 2025. pristala je platiti 1,5 milijardi dolara (1,1 milijardu funti) kako bi nagodbom okončala skupnu tužbu autora koji su tvrdili da je tvrtka ukrala njihova djela za treniranje svojih AI modela.

Poput OpenAI-ja, tvrtka također nastoji iskoristiti prednosti tehnologije, među ostalim putem vlastitih AI proizvoda poput Claudea, konkurenta ChatGPT-u.

Altman: Oglasi kao posljednje rješenje

Nedavno je objavila reklamu u kojoj je kritizirala OpenAI-jevu odluku o uvođenju oglasa u ChatGPT.

Direktor OpenAI-ja Sam Altman ranije je izjavio da mrzi oglase i da bi ih koristio samo kao „posljednje rješenje“.

Prošlog tjedna uzvratio je na opis te odluke kao „izdaje“, no bio je ismijan zbog poduže objave u kojoj je kritizirao Anthropic.

Bivša istraživačica OpenAI-ja koja je ovaj tjedan dala otkaz, djelomično zbog zabrinutosti oko korištenja oglasa u ChatGPT-u, rekla je za BBC Newsnight da se „osjeća doista nervozno zbog rada u industriji“.

Zoe Hitzig izjavila je da njezina zabrinutost proizlazi iz mogućih psihosocijalnih posljedica „nove vrste društvene interakcije“ koje još nisu dovoljno shvaćene.

“Zabrinjavajuća” ovisnost o AI alatima

Istaknula je „rane znakove upozorenja“ da je ovisnost o AI alatima „zabrinjavajuća“ te da bi mogla „pojačati određene vrste zabluda“, kao i negativno utjecati na mentalno zdravlje korisnika na druge načine.

„Stvaranje ekonomskog mehanizma koji profitira potičući takve nove odnose prije nego što ih razumijemo doista je opasno“, nastavila je.

„Vidjeli smo što se dogodilo s društvenim mrežama“, rekla je, napominjući da „još ima vremena za uspostavu društvenih institucija i oblika regulacije koji to mogu doista urediti“. To je, rekla je, „kritičan trenutak“.

Odgovarajući na upit BBC Newsa, glasnogovornik OpenAI-ja uputio je na načela tvrtke u kojima stoji: „Naša je misija osigurati da AGI koristi cijelom čovječanstvu; naša potraga za oglašavanjem uvijek je u službi te misije i činjenja umjetne inteligencije dostupnijom.“

Dodaju: „Vaše razgovore s ChatGPT-om držimo privatnima u odnosu na oglašivače i nikada ne prodajemo vaše podatke oglašivačima.“

Rating: 5.00/5. From 1 vote.
Please wait...
Povezane teme :
Nastavi čitati
Kliknite za komentar

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Tech

Promjene na Facebooku, WhatsAppu, Instagramu – koje će se funkcije plaćati?

Objavljeno

1 dan prije

-

28. svibnja 2026.

By

Američki tehnološki gigant Meta planira uvesti nove pretplatničke verzije svojih najpopularnijih platformi – Facebooka, Instagrama i WhatsAppa.

Pod nazivima Facebook Plus, Instagram Plus i WhatsApp Plus korisnicima širom svijeta bit će ponuđene dodatne funkcije i ekskluzivni sadržaji, objavila je u srijedu glavna direktorica za proizvode kompanije Meta, Naomi Gleit, u videu objavljenom na Instagramu, piše Fenix Magazin.

Ovim potezom Meta nastoji smanjiti ovisnost o prihodima od oglašavanja i otvoriti nove izvore zarade kroz pretplatnički model poslovanja. Prema riječima Gleit, korisnici koji se pretplate na Instagram Plus i Facebook Plus dobit će pristup naprednim alatima za analizu, detaljnijim statistikama pregleda Instagram priča te dodatnim mogućnostima personalizacije profila.

WhatsApp Plus, s druge strane, fokusirat će se prvenstveno na personalizaciju korisničkog iskustva. Među najavljenim funkcijama nalaze se premium stikeri i prilagodljive melodije zvona. Meta zasad nije objavila potpuni popis funkcionalnosti koje će biti dostupne u okviru novih pretplatničkih paketa.

Iako službene informacije o cijenama još nisu potvrđene, više medija navodi kako bi pretplata za Instagram Plus i Facebook Plus trebala iznositi 3,99 američkih dolara mjesečno, odnosno oko 3,40 eura. Za WhatsApp Plus navodno je predviđena cijena od 2,99 dolara mjesečno.

Meta dugoročno planira objediniti sve Plus usluge pod jedinstvenim brendom nazvanim “Meta One”. Kompanija je još 2023. godine u Europi predstavila verzije Facebooka i Instagrama bez oglasa, kao odgovor na strože propise Europske unije o zaštiti privatnosti i korištenju podataka korisnika.

Europski korisnici od tada mogu birati između besplatne verzije platformi s personaliziranim oglasima i plaćene verzije bez reklama. Uvođenjem novih Plus paketa Meta sada dodatno širi svoju pretplatničku ponudu, nastojeći izgraditi održiviji poslovni model koji neće ovisiti isključivo o oglašavanju.

Nastavi čitati

Tech

VIDEO / Dosadni gradić upravlja svjetskim internetom – ako on potone u mrak, potonut će i svijet

Objavljeno

1 tjedan prije

-

19. svibnja 2026.

By

Ilustracija / Pixabay

U Americi postoji mali grad koji potajno upravlja gotovo cijelim svjetskim internetom. Nije to neko veliko, blještavo mjesto, već miran gradić za koji većina ljudi nikada nije čula.

Gotovo sve što je online prolazi kroz njega. Vaši TikTokovi, YouTube videozapisi, pa čak i narudžbe hrane kasno navečer – sve se prvo povezuje preko ove točke prije nego što stigne do vas.

Super dosadan grad

Izvana zgrade izgledaju potpuno obično. Nema prozora, nema reklama, ništa zanimljivo što biste primijetili prolazeći automobilom. Ali iznutra je to zapravo skrivena strojarnica interneta – stalno uključena i nikada ne staje ni na sekundu.

Kad bi ovaj grad ostao bez struje, i svijet bi “potamnio”. Internetske stranice diljem svijeta lako bi se srušile. Poruke se ne bi slale.

Velik dio modernog života zamrznuo bi se u nekoliko sekundi. A sva ta moć dolazi iz jednog super dosadnog grada.

Ali zašto baš ovdje?

Zato što se ovaj grad s gotovo 47.000 stanovnika nalazi blizu američke prijestolnice Washingtona, ima ogroman izvor električne energije i mjesto je gdje se susreću golemi optički kabeli.

To je mali grad s najvećim online poslom na svijetu. To je Ashburn u Virginiji.

Više od 600 podatkovnih centara

Sjeverna Virginija ima više od 600 podatkovnih centara, daleko više od bilo koje druge regije na svijetu, a Ashburn je njezino središte.

Prema procjenama, čak do 70 % globalnog internetskog prometa svakodnevno prolazi kroz njegove podatkovne centre. Zbog toga se Ashburn smatra gradom koji upravlja svjetskim internetom, kako navodi Data Centers.

Smješten u okrugu Loudoun, grad je domaćin stotinama objekata, uključujući Amazon, Google i Facebook, koji ondje drže fizičku infrastrukturu svojih cloud sustava.

Sve je počelo 1990-ih s MAE Eastom, jednom od prvih velikih internetskih razmjenskih točaka. Danas Ashburn ima neusporedivu optičku povezanost, jeftinu energiju i blizinu Washingtona.

Kad bi Ashburn prestao raditi, veliki dijelovi interneta vjerojatno bi se urušili, što bi utjecalo na globalni video streaming, društvene mreže i financijske transakcije.

Sjeverna Virginija ima više od 600 podatkovnih centara, daleko nadmašujući bilo koju drugu regiju u svijetu, a Ashburn je u samom središtu toga.

Nastavi čitati

Tech

Sveučilište u Zadru upisuje prve studente mehatronike i robotike, najavljen i studij umjetne inteligencije 

Objavljeno

3 tjedna prije

-

8. svibnja 2026.

By

Sveučilište u Zadru danas je predstavilo novi sveučilišni prijediplomski jednopredmetni studij Mehatronika i robotika, koji će se izvoditi već ove jeseni. Pokretanje studija predstavlja jedan od strateški najznačajnijih iskoraka Sveučilišta u Zadru u području tehničkih znanosti i prvi je sveučilišni studij toga profila u Zadarskoj županiji. Program je koncipiran kao interdisciplinarni studij koji integrira temeljna znanja iz strojarstva, elektrotehnike, računarstva i automatizacije.

Predstavljanje je održano u knjižnici Strukovne škole Vice Vlatkovića, koja je uz Tehničku školu jedan od partnera, budući da će se u njima, na modernim strojevima i uz suradnju tamošnjih nastavnika, izvoditi praktični dio nastave. Uz rektora prof. dr. sc. Josipa Faričića, koordinatora studijskoga programa prof. dr. sc. Marka Valčića, ravnatelje škola Tihomira Tomčića i Denisa Prusca, studij su podržali poznati zadarski gospodarstvenik Željko Goja, njegov nasljednik na mjestu direktora Chiron Croatia d.o.o., nekadašnjeg HSTEC-a, Mladen Šarlija te direktorica tvrtke Marex Elektrostroj d.o.o. Ana Baričić.

– Za Sveučilište u Zadru, koje baštini tradiciju Filozofskog fakulteta, ovo je izuzetno važan događaj. Postupno proširujemo naše aktivnosti na prirodne znanosti, biotehničke i biomedicinske znanosti, a zatim i tehničke znanosti s kojima smo započeli uvođenjem studija nautike i brodostrojarstva na Pomorskom odjelu, a sada nastavljamo s ovim novim studijem. Studij mehatronike i robotike velik je iskorak ne samo za našu sveučilišnu zajednicu nego i za naš grad i županiju. Njegovi očekivani dometi kao i naše ambicije mnogo su veći pa ćemo raditi i na pokretanju diplomske razine studija. Zahvaljujem koordinatoru studija redovitom sveučilišnom profesoru M. Valčiću, ravnateljima škola profesorima T. Tomičiću i D. Pruscu, gospodarstvenicima, a posebno Željku Goji kao čovjeku u kojemu je dugo tinjala želja za ovakvim studijem i koji je svojevrsna poveznica između nekadašnje slave SAS-a i Bagata i novih vrhunskih timova koji rade u zadarskom gospodarstvu. Ne možemo budućnost našega kraja svoditi na rentijerski turizam; važno je razvijati i aktivnosti kojima dolazi do izvrsne veze između znanja, tehnologije, inovacija i proizvodnje konkretnih dobara, rekao je rektor Faričić.

Koordinator studija Marko Valčić rekao je kako je jedan od motiva njegova otvaranja bila mogućnost da kvalitetni učenici studiraju ovakav studij u svom gradu.

– Želimo postaviti studij na najkvalitetniju moguću razinu s obzirom na uvjete koje imamo, tako da kroz neko vrijeme maturanti iz Zagreba i drugih gradova dođu studirati u Zadar. Vjerujem da će studenti nakon tri godine biti u dobroj mjeri pripremljeni za rad u realnom sektoru, a ako budu željeli, moći će nastaviti diplomske i doktorske studije – istaknuo je Valčić.

Ravnatelji Tomčić i Prusac podržali su nastojanja Sveučilišta da se osnaži u STEM području, u kojemu se učenici godinama obrazuju na srednjoškolskoj razini upravo u ovim ustanovama. Osim opreme, na raspolaganju Sveučilištu bit će i nastavnici koji će demonstrirati praktični rad.

Evo što o studiju kažu zadarski gospodarstvenici:

– U pokretanju studija odrađen je vrhunski posao u artikuliranju potreba gospodarstva i izradi programa vrijednog divljenja koji će nam osigurati budućnost. Hrvatsku karakteriziraju procesi koji dovode do rasta BDP-a, ali kroz turizam i prihode iz EU fondova. Paradigma Europske unije promijenila se, proces globalizacije kakav je bio sada je zaustavljen i govori se o tome da Europa mora brinuti za svoju konkurentnost i proizvodnju. Moramo napraviti ravnotežu između različitih sektora jer mladi ne žele biti samo kuhari i konobari, a ovaj studij osposobit će ih za nova zanimanja. Vjerujem da će oni promijeniti paradigmu industrije Zadra i da ćemo postati značajan subjekt kao što smo nekada bili – kaže Željko Goja, osnivač HSTEC-a.

– Studentima ćemo omogućiti korištenje tvorničkih komponenti za praksu u automatizaciji i robotskim sustavima. Studiranjem u realnom okruženju s najmodernijim mehatroničkim komponentama dobit ćemo mlade ljude spremne za prvo zaposlenje, koji će izaći na tržište rada s višom cijenom svog rada. Bit će više plaćeni i imat će puno veći izbor pri odabiru radnog mjesta – kaže Mladen Šarlija, direktor Chiron Croatia d.o.o.

– Naša tvrtka slavi 60 godina postojanja i zadatak nam je nastaviti rad prijašnjih inženjera, uvijek preispitivati kako biti bolji, a to možemo samo uz nove tehnologije i mlade ljude pune entuzijazma. Nadam se da će studenti kroz praksu pokazati da mogu biti vješti, inovativni, konkretni, brži i bolji te time donijeti napredak cijeloj zajednici – kaže direktorica Marex Elektrostroja Ana Baričić.

Rektor Faričić na kraju je najavio pokretanje novog studija koji će se baviti umjetnom inteligencijom.

– Donijeli smo sveučilišnu politiku upotrebe umjetne inteligencije jer ne želimo izgubiti iz vida čovjeka: tehnologija ne može bez čovjeka, kao ni čovjek bez tehnologije. U tom smjeru ćemo gledati budućnost naše ustanove, zaključio je rektor Faričić.

Nastavi čitati
Oglasi
Oglasi
Oglasi
Oglasi

U trendu