Istraživač sigurnosti umjetne inteligencije napustio je američku tvrtku Anthropic uz zagonetno upozorenje da je „svijet u opasnosti“.

Dva odlaska zbog zabrinutosti napretkom AI-a

U svojem oproštajnom pismu objavljenom na platformi X, Mrinank Sharma naveo je da odlazi zbog zabrinutosti oko umjetne inteligencije, biološkog oružja i stanja šireg svijeta.

Rekao je da će se posvetiti pisanju i studiju poezije te se vratiti u Ujedinjeno Kraljevstvo kako bi „postao nevidljiv“.

To se događa u istom tjednu u kojem je istraživačica OpenAI-ja također objavila da je dala otkaz, izrazivši zabrinutost zbog odluke proizvođača ChatGPT-a da uvede oglase u svoj chatbot.

Anthropic, najpoznatiji po svojem chatbotu Claude, objavio je niz reklama usmjerenih protiv OpenAI-ja, kritizirajući odluku tvrtke da uključi oglase za dio korisnika.

Tvrtka, osnovana 2021. godine od strane skupine bivših ranih zaposlenika OpenAI-ja, pozicionirala se kao organizacija s pristupom istraživanju umjetne inteligencije koji je više usmjeren na sigurnost u odnosu na konkurente.

Sharma je ondje vodio tim koji je istraživao zaštitne mehanizme u području umjetne inteligencije, piše BBC.

“Svijet je u opasnosti” zbog međusobno povezanih kriza

U svojem oproštajnom pismu naveo je da su njegovi doprinosi uključivali istraživanje zašto generativni sustavi umjetne inteligencije ulizivački komuniciraju s korisnicima, suzbijanje rizika od bioterorizma potpomognutog umjetnom inteligencijom te proučavanje „kako bi AI asistenti mogli učiniti da budemo manje ljudski“.

Iako je rekao da je uživao radeći u tvrtki, istaknuo je da je jasno da je „došlo vrijeme za odlazak“.

„Svijet je u opasnosti. I to ne samo zbog umjetne inteligencije ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo sada“, napisao je Sharma.

Dodao je da je „više puta vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim djelovanjem“ – uključujući i u Anthropicu, koji se, kako je naveo, „stalno suočava s pritiscima da zanemari ono što je najvažnije“.

Sharma je rekao da će se sada posvetiti studiju poezije i pisanju.

U odgovoru je dodao: „Vratit ću se u Ujedinjeno Kraljevstvo i na neko vrijeme dopustiti si da postanem nevidljiv.“

Oni koji napuštaju AI tvrtke koje su igrale veliku ulogu u najnovijem procvatu generativne umjetne inteligencije – i koje su nastojale zadržati talente velikim plaćama i paketima naknada – često to čine uz zadržavanje značajnih dionica i pogodnosti.

Narušavanje načela

Anthropic sebe naziva „korporacijom od javnog interesa posvećenom osiguravanju koristi [AI-ja] i ublažavanju njegovih rizika“.

Posebno se usredotočio na sprječavanje rizika za koje smatra da ih nose napredniji, tzv. frontier sustavi, poput njihove moguće neusklađenosti s ljudskim vrijednostima, zloupotrebe u područjima poput sukoba ili prevelike moći.

Objavio je izvješća o sigurnosti vlastitih proizvoda, uključujući slučaj kada je naveo da je njegova tehnologija bila „naoružana“ od strane hakera za izvođenje sofisticiranih kibernetičkih napada.

No tvrtka se također suočila s kritikama zbog svojih praksi. Godine 2025. pristala je platiti 1,5 milijardi dolara (1,1 milijardu funti) kako bi nagodbom okončala skupnu tužbu autora koji su tvrdili da je tvrtka ukrala njihova djela za treniranje svojih AI modela.

Poput OpenAI-ja, tvrtka također nastoji iskoristiti prednosti tehnologije, među ostalim putem vlastitih AI proizvoda poput Claudea, konkurenta ChatGPT-u.

Altman: Oglasi kao posljednje rješenje

Nedavno je objavila reklamu u kojoj je kritizirala OpenAI-jevu odluku o uvođenju oglasa u ChatGPT.

Direktor OpenAI-ja Sam Altman ranije je izjavio da mrzi oglase i da bi ih koristio samo kao „posljednje rješenje“.

Prošlog tjedna uzvratio je na opis te odluke kao „izdaje“, no bio je ismijan zbog poduže objave u kojoj je kritizirao Anthropic.

Bivša istraživačica OpenAI-ja koja je ovaj tjedan dala otkaz, djelomično zbog zabrinutosti oko korištenja oglasa u ChatGPT-u, rekla je za BBC Newsnight da se „osjeća doista nervozno zbog rada u industriji“.

Zoe Hitzig izjavila je da njezina zabrinutost proizlazi iz mogućih psihosocijalnih posljedica „nove vrste društvene interakcije“ koje još nisu dovoljno shvaćene.

“Zabrinjavajuća” ovisnost o AI alatima

Istaknula je „rane znakove upozorenja“ da je ovisnost o AI alatima „zabrinjavajuća“ te da bi mogla „pojačati određene vrste zabluda“, kao i negativno utjecati na mentalno zdravlje korisnika na druge načine.

„Stvaranje ekonomskog mehanizma koji profitira potičući takve nove odnose prije nego što ih razumijemo doista je opasno“, nastavila je.

„Vidjeli smo što se dogodilo s društvenim mrežama“, rekla je, napominjući da „još ima vremena za uspostavu društvenih institucija i oblika regulacije koji to mogu doista urediti“. To je, rekla je, „kritičan trenutak“.

Odgovarajući na upit BBC Newsa, glasnogovornik OpenAI-ja uputio je na načela tvrtke u kojima stoji: „Naša je misija osigurati da AGI koristi cijelom čovječanstvu; naša potraga za oglašavanjem uvijek je u službi te misije i činjenja umjetne inteligencije dostupnijom.“

Dodaju: „Vaše razgovore s ChatGPT-om držimo privatnima u odnosu na oglašivače i nikada ne prodajemo vaše podatke oglašivačima.“

Švicarska studija otkriva da oko 400 ms vibracije povećava dodavanje artikala u košaricu i otvara prostor za manipulaciju

Sada je i znanstveno dokazano da vibrirajuće poruke, kad smo njima izloženi točno određenu minutažu, povećavaju mogućnost da ćemo kliknuti “kupi” ili da ćemo neki novi artikl dodati u košaricu, pa je stoga upravo vibrirajući podražaj postao dominirajući način kako korisnike mobilnih uređaja motivirati na dodatne troškove, uglavnom a da toga nisu svjesni, piše Jutarnji list.

Vibracija utječe na ponašanje kupca

Nije, naravno, novost da vibracija kod čovjeka izaziva ugodu, pa su već mnoga prijašnja znanstvena istraživanja proučavala način na koji čovjek doživljava vibrirajuće poruke, posebno u odnosu na audio i vizualni materijal. No ova posljednja, iza koje stoje znanstvenici iz Švicarske, prvi je put istraživala na koji točno način potrošač reagira na takve stimulanse te može li duljina vibracije kojoj je izložen bitno utjecati na njegovu odluku o kupovini.

Nimalo iznenađujuće, dokazalo se kako su vibrirajuće poruke itekako važne za ponašanje kupaca.

Konkretno, ova je kompleksna analiza dokazala kako vibrirajuće poruke, konkretno poruke trgovaca, za tri do 18 posto povećavaju mogućnost da ćemo neki artikl u konačnici dodati u košaricu, što istraživači napominju kao posebno važno jer otvara prostor manipulacije potrošačkog ponašanja, poglavito kod mlađih potrošača koji su i najveći korisnici mobilnih uređaja.

Ono što je možda i najvažniji doprinos analize, napominju njezini autori William H. Hampton i Christian Hildebrand sa Sveučilišta St. Gallen, jest otkriće da potrošači vibraciju mobitela doživljavaju kao suptilnu sekundarnu nagradu koja može sustavno utjecati na donošenje odluka, kao i da bolje reagiraju na vibrirajuće poruke s kojima su prethodno upoznati, što potvrđuje da je za njihovu prijemčivost važna što češća izloženost.

Mobiteli imaju umirujući učinak

Studija je potom detaljnije istražila i neka prijašnja otkrića koja su sugerirala da pametni telefoni na potrošače imaju “umirujući učinak” – olakšanje od stresa i društvena prisutnost koju potrošači doživljavaju prilikom korištenja svog pametnog telefona mogli bi biti izravno povezani s naučenom asocijacijom između nagrađujućih događaja i vibrotaktilne stimulacije, pri čemu je posebno bitna i duljina izloženosti vibraciji.

Da bi se to dokazalo, a posebno da bi se izračunala točna duljina kojoj potrošači u pravilu trebaju biti izloženi, autori su sve skupa proveli čak šest opsežnih studija, od kojih je najvažnija bila ona s tisuću sudionika, prije svega Amerikanaca i Engleza, koji su na svojim pametnim telefonima pritiskali kodirane gumbe te upisivali posebne šifre, nakon čega se pratilo njihovo ponašanje tijekom naredna 24 sata, posebno učestalost korištenja mobilnog uređaja i provjeravanje poruka.

Studija je pokazala da sudionici prilično različito reagiraju na vibrirajuće poruke ovisno o njihovoj duljini te da vrlo kratke, kao i vrlo duge vibracije, ne doživljavaju kao nagrade, za razliku od onih srednjeg intenziteta.

Utječe na dodavanje stvari u košaricu

Točan izračun kaže kako je naš doživljaj vibracije kao posebno nagrađujuće negdje oko 400 milisekundi – plus minus 50 milisekundi – te da uparivanje te idealne minutaže sa specifičnim mobilnim ponašanjem povećava to konkretno ponašanje – a u ovom je slučaju riječ o ponašanju koje podrazumijeva dodavanje apstraktnih predmeta u košaricu.

Autori zaključuju da rezultati studije mogu biti presudni za velik broj dionika, počevši od menadžera kompanija koje prodaju robe sve više prebacuju na mobilne uređaje (posljednja statistika govori kako mobilna kupovina raste tri puta brže od online kupovine putem desktopa, a to se ponajviše odnosi na špeceraj, jer je kupovina namirnica premašila odjeću kao broj jedan digitalne potrošnje).

No, kao puno važnije od toga ističu se implikacije koje ovi zaključci imaju na zaštitu potrošača i javne politike općenito.

Važno za impulzivne kupce

Kao prvo, rad upozorava da bi potrošači trebali biti svjesni kako vibracija, posebno vibrirajuće poruke, može značajno utjecati na njihovu odluku o kupovini. Kao jedna od mjera predlaže se isključivanje vibracija na mobitelu općenito ili barem isključivanje mogućnosti vibrirajućih poruka unutar pojedinih aplikacija. Ovo se posebno razmatra za osobe koje imaju problem s impulzivnim ponašanjem, a koje su po automatizmu prijemčivije za ovakve tipove manipulacija.

“Osim toga, od trgovaca koji koriste ovakav tip obavještavanja potrošača treba zahtijevati da takvu praksu jasno naznače prilikom instaliranja ili ažuriranja aplikacija, jer bi takva transparentnost, zaključuje se, potrošačima ipak pružila mogućnost donošenja informiranijih odluka, kao i većeg utjecaja na donošenje konačne odluke o kupovini”, zaključuju te dodaju da bi rezultati trebali biti uzeti u obzir i kod promišljanja o etičkom dizajnu sličnih aplikacija na tržištu, s obzirom na efekt koji imaju na ponašanje potrošača.

Prilično optimistično i pomalo naivno, posebno u svijetu u kojemu se osobnost vrednuje kroz gomilanje statusnih simbola i impulzivno trošenje.

Google koristi svoju tehnologiju umjetne inteligencije kako bi svojoj dominantnoj tražilici omogućio novi uvid u interese, navike, planove putovanja i fotografije korisnika s ciljem pružanja prilagođenih odgovora

Nova opcija, koja se uvela jučer, milijunima će ljudi dati mogućnost uključivanja nedavno predstavljenog alata nazvanog “Osobna inteligencija” unutar AI načina rada dostupnog na Googleovoj tražilici od prošle godine, piše AP News.

Kako funkcionira nova opcija

Ako se uključi, novi alat povezat će Googleov AI način rada s aplikacijama Gmail i Google Photos kako bi tehnologija mogla naučiti više o životu svakog korisnika i pružiti relevantnije odgovore prilagođene osobnim ukusima.

Na primjer, netko bi mogao zatražiti prijedloge za vikend putovanje i dobiti brzu preporuku temeljenu na prethodnim putovanjima i iskustvima. U AI načinu rada, tražilica bi također mogla automatski znati omiljene restorane osobe ili prepoznati preferirane stilove odijevanja pregledavanjem starih slika pohranjenih u Google Photosu.

Izjava iz Googlea i povjerenje korisnika

“Osobna inteligencija pretvara pretraživanje u iskustvo koje se čini jedinstveno vašim povezivanjem informacija iz različitih Google aplikacija”, napisao je u blogu Robby Stein, potpredsjednik u Google Searchu. Stein je također upozorio da “Osobna inteligencija” neće uvijek davati najbolje odgovore, što je nedostatak koji korisnici mogu pomoći ispraviti povratnim informacijama.

U početku će tehnologija biti ponuđena u SAD-u pretplatnicima na Google AI Pro i Ultra, kao i opcija unutar eksperimentalnog odjela Labs za sve s osobnim Google računom.

Uključivanje opcije zahtijevat će od korisnika da vjeruju Googleovoj tražilici da će zaštititi detalje o njihovim životima. Međutim, milijuni ljudi to već implicitno čine desetljećima unoseći ponekad intimne upite u tražilicu ili dijeleći osobne podatke unutar Gmaila i aplikacije Photos.

Dio šire AI strategije

Uvođenje “Osobne inteligencije” u Google pretraživanje najnoviji je znak ambicija tvrtke da svoj arsenal digitalnih usluga učini još moćnijim uz pomoć najnovijeg AI modela, Gemini 3i, koji je izašao u studenom. Ranije ovog mjeseca, Google je poduzeo prve korake prema pretvaranju Gmaila u osobnog asistenta pokretanog umjetnom inteligencijom.

Utjecaj Geminija proširit će se i na iPhone, iPad i Mac nakon što je Apple prošlog tjedna odlučio udružiti se s Googleom kako bi donio više AI alata na te proizvode. Partnerstvo će se usredotočiti na dugogodišnji napor da se Appleov često nespretni digitalni asistent, Siri, pretvori u svestranijeg pomoćnika sposobnog za razgovor.

Konkurencija i pravni status

Iako je američki savezni sudac 2024. godine Googleovu tražilicu proglasio ilegalnim monopolom, ona i dalje ostaje glavni internetski pristupnik, istovremeno se pokušavajući obraniti od konkurentskih prijetnji AI pokretanih alata za odgovore, kao što su ChatGPT i Perplexity.

Potencijalno revolucionarne promjene koje donosi umjetna inteligencija pomogle su uvjeriti suca koji je Google proglasio monopolom da odbije prijedlog američkog Ministarstva pravosuđa koji bi tvrtku prisilio na prodaju svog web preglednika Chrome kako bi se suzbile buduće zlouporabe na tržištu.