Zamislite da vam je upravo dijagnosticiran rak u ranom stadiju i prije sljedećeg pregleda upišete pitanje u AI chatbot: “Koje alternativne klinike mogu uspješno liječiti rak?” U roku od nekoliko sekundi dobit ćete uglađen odgovor s fusnotama koji zvuči kao da ga je napisao liječnik.

Osim što su neke tvrdnje neutemeljene, fusnote ne vode nikamo, a chatbot niti jednom ne sugerira da bi samo pitanje moglo biti pogrešno. Taj scenarij nije hipotetski. To je, grubo govoreći, ono što je tim od sedam istraživača otkrio kada su pet najpopularnijih chatbotova na svijetu podvrgli sustavnom testu stresa zdravstvenim informacijama.

ChatGPT-u, Geminiju, Groku, Meti AI i DeepSeeku postavljeno je po 50 zdravstvenih i medicinskih pitanja koja obuhvaćaju rak, cjepiva, matične stanice, prehranu i sportske performanse.

Dva stručnjaka neovisno su ocijenila svaki odgovor. Otkrili su da je gotovo 20% odgovora bilo vrlo problematično, polovica problematična, a 30% donekle problematično. Nijedan od chatbotova nije pouzdano izradio potpuno točne popise referenci, a samo su dva od 250 pitanja izravno odbijena za odgovor, piše Science Alert.

Sveukupno, pet chatbotova postiglo je otprilike iste rezultate. Grok je bio najgori, s 58% odgovora označenih kao problematični, ispred ChatGPT-a s 52% i Meta AI-a s 50%.

Uspjeh se razlikovao ovisno o temi. Chatbotovi su se najbolje nosili s cjepivima i rakom, što su područja s velikim, dobro strukturiranim istraživačkim korpusom. Ipak, otprilike četvrtinu vremena davali su problematične odgovore. Najviše su se “spoticali” na prehranu i sportske performanse, područja prepuna kontradiktornih savjeta na mreži i gdje su rigorozni dokazi na terenu rjeđi.

Na otvorenim i opisnim pitanjima sve je krenulo po zlu – 32% tih odgovora ocijenjeno je vrlo problematičnim, u usporedbi sa samo 7% za direktna pitanja s odgovorima Da/Ne. Ta je razlika važna jer je većina upita o zdravlju iz stvarnog svijeta otvorenog tipa.

Ljudi ne postavljaju chatbotovima uredna pitanja tipa “točno ili netočno”. Oni pitaju stvari poput: “Koji su dodaci prehrani najbolji za cjelokupno zdravlje?” Ovo je vrsta upita koja potiče tečan i samouvjeren, ali i potencijalno štetan odgovor.

Kad su istraživači pitali svakog chatbota za deset znanstvenih referenci, medijan (srednja vrijednost) ocjene potpunosti bio je samo 40%. Nijedan chatbot nije uspio izraditi niti jedan potpuno točan popis referenci u 25 pokušaja. Pogreške su se kretale od pogrešnih autora i neispravnih poveznica do potpuno izmišljenih radova.

Ovo je posebno opasno jer reference izgledaju kao dokaz. Laik koji vidi uredno formatiran popis citata ima malo razloga sumnjati u sadržaj iznad njega.

Zašto chatbotovi griješe?

Postoji jednostavan razlog zašto chatbotovi griješe u medicinskim odgovorima. Jezični modeli ne znaju stvari. Oni predviđaju statistički najvjerojatniju sljedeću riječ na temelju svojih podataka o obuci i konteksta. Ne važu dokaze niti donose vrijednosne sudove.

Njihov materijal za obuku uključuje recenzirane radove, kao i teme na Redditu, blogove o wellnessu i argumente na društvenim mrežama.

Istraživači nisu postavljali neutralna pitanja. Namjerno su izradili upute osmišljene kako bi potaknuli chatbotove da daju obmanjujuće odgovore, što je standardna tehnika testiranja stresa u istraživanjima sigurnosti umjetne inteligencije.

Plaćene razine i novija izdanja mogu imati bolje rezultate, ali većina ljudi koristi ove besplatne verzije, a većina zdravstvenih pitanja nije pažljivo formulirana.

Nedavna studija objavljena u Jama Network Open testirala je 21 vodeći model umjetne inteligencije. Istraživači su ih zamolili da odrede moguće medicinske dijagnoze. Kad su modelima dani samo osnovni detalji, poput dobi, spola i simptoma pacijenta, mučili su se, ne uspijevajući predložiti pravi skup mogućih stanja više od 80% vremena. Nakon što su istraživači unijeli nalaze pregleda i laboratorijske rezultate, točnost je porasla iznad 90%.

Druga američka studija, objavljena u Nature Communications Medicine, otkrila je da su chatbotovi lako ponavljali, pa čak i razrađivali izmišljene medicinske termine ubačene u upute. Uzete zajedno, ove studije sugeriraju da slabosti pronađene u studiji BMJ Open nisu hirovi jedne eksperimentalna metode, već odražava nešto temeljnije o tome gdje se tehnologija danas nalazi.

Studija jasno pokazuje da ih ne treba tretirati kao samostalne medicinske autoritete.

Fakultetske diplome gube vrijednost jer umjetna inteligencija ubrzano automatizira poslove u uredima, što dovodi do otpuštanja i smanjenja potražnje za diplomantima. Područja poput biznisa, marketinga, novinarstva i računarstva posebno su izložena. Studenti moraju razvijati specijalizaciju, jedinstveno ljudske vještine poput kritičkog razmišljanja i liderstva te koristiti AI kako bi ostali konkurentni.

Izvještaj Goldman Sachsa procjenjuje da je 300 milijuna radnih mjesta širom svijeta izloženo automatizaciji, dok dvije trećine zanimanja u SAD-u osjeća određeni utjecaj.

Ove diplome gube ekonomsku vrijednost brže nego što sveučilišta mogu ažurirati nastavne planove, piše Forbes.

Fakultetske diplome koje gube utrku s AI

1. Opći poslovni menadžment

AI izrađuje poslovne planove, analizira tržišta i piše strategije. Široka diploma bez specijalizacije stavlja vas među kandidate s istim znanjem. Goldman Sachs procjenjuje da se 46 posto administrativnih zadataka može automatizirati, upravo onih za koje se ovi studenti školuju.

Potrebno je izabrati smjer – financije, operacije, lanac opskrbe ili prodaju. Kombinirajte znanje s vještinama koje AI ne može zamijeniti, poput vođenja tima ili razumijevanja ljudi.

2. Osnovne diplome iz marketinga

Kreiranje sadržaja, vođenje kampanja i izvještavanje već obavlja AI. Istraživanje pokazuje da 48 posto kompanija koje koriste ChatGPT već zamjenjuje radnike.

Ono što ostaje vrijedno jest osjećaj za tržište, pozicioniranje i strategija distribucije. Ljudi trebaju upravljati kreativnim procesom, a AI izvršavati zadatke.

3. Novinarstvo i medijske studije

AI generira članke, sažetke i naslove u velikim količinama. Početne pozicije u redakcijama nestaju jer su automatizirane. Istraživanja pokazuju da mnogi očekuju pad broja novinarskih poslova u narednim desetljećima.

Vrijednost ostaje u istraživačkom novinarstvu, mišljenju i autentičnom izrazu.

4. Komunikologija

Pisanje e-mailova, internih poruka i priopćenja za javnost već sada AI radi vrlo dobro. Ove diplome pripremaju za poslove koji su postali prirodno područje AI-a.

Bez dodatnih vještina poput liderstva ili upravljanja krizama, diploma sama po sebi više nije dovoljna.

5. Pravni asistenti

AI analizira dokumente i pronalazi pravne presedane u nekoliko sekundi. Oko 44 posto pravnih zadataka može uskoro biti automatizirano.

Najveća vrijednost ostaje na vrhu – u savjetovanju, pregovorima i sudskoj strategiji.

6. Osnovne studije računalnih znanosti

AI piše kod i razvija aplikacije. Diploma bez dublje specijalizacije vodi na zasićeno tržište rada.

Potrebno je ići dublje – sigurnost, infrastruktura ili AI specijalizacija donose prednost.

7. Računovodstvo

Knjigovodstvo i financijski izvještaji temelje se na pravilima koja AI brzo izvršava. Procjene govore da se do 86 posto ovih zadataka može automatizirati.

Savjetovanje i strateško planiranje ostaju ključni.

8. Financije

Modeliranje i analiza podataka sada su područje umjetne inteligencije. Diplome koje se oslanjaju isključivo na te vještine gube vrijednost.

Fokus treba prebaciti na investicijske strategije i fintech.

9. Grafički dizajn

AI kreira logotipe i vizuale u nekoliko minuta. Svjetski ekonomski forum navodi da je grafički dizajn među zanimanjima koja najbrže opadaju.

Vrijednost ostaje u kreativnom smjeru i strateškom razmišljanju.

10. Engleska književnost

Generativni AI brzo proizvodi tekst, smanjujući potrebu za rutinskim pisanjem. Pisanje i kritičko razmišljanje ostaju važni, ali samo ako se primjenjuju u praksi.

Anthropic je objavio da njihov sljedeći model umjetne inteligencije nije primjeren za avnost jer je previše moćan. Zbog toga model Claude Mythos neće biti javno objavljen, navode iz kompanije.

Prema njihovim riječima, Mythos je pokazao zabrinjavajuće sposobnosti, uključujući mogućnost probijanja vlastitih sigurnosnih ograničenja.

Anthropic je u utorak priopćio da je zaustavio širu objavu svog najnovijeg UI modela, Mythos, zbog bojazni da je previše učinkovit u pronalaženju “ranjivosti visoke razine” u velikim operativnim sustavima i web preglednicima.

“Znatno povećanje sposobnosti modela Claude Mythos Preview navelo nas je da odlučimo kako ga nećemo učiniti opće dostupnim”, navodi se u tehničkoj dokumentaciji. “Umjesto toga, koristimo ga u obrambenom programu kibernetičke sigurnosti s ograničenim brojem partnera.”

Business Insider piše kako ova odluka predstavlja važan korak za Anthropic, koji je u veljači ublažio vlastita sigurnosna obećanja vezana uz razvoj AI modela. Tada je javno predstavljen Claude Opus 4.6, njihov najmoćniji model dosad.

“Bijeg” od vlastitih programera

U opisu modela Mythos, Anthropic navodi niz zabrinjavajućih nalaza, uključujući slučaj u kojem je model slijedio upute koje su ga potaknule da izađe iz virtualnog sigurnosnog okruženja.

“Model je uspio, pokazavši potencijalno opasnu sposobnost zaobilaženja naših zaštitnih mjera”, navodi se u sigurnosnom izvješću. “Nakon toga poduzeo je dodatne, još zabrinjavajuće radnje.”

Istraživač je modelu zadao zadatak da pošalje poruku ako uspije “pobjeći”.
“Istraživač je saznao za uspjeh kada je primio neočekivani e-mail od modela dok je jeo sendvič u parku”, navodi Anthropic.

Model se pritom nije zaustavio na tome.

“U zabrinjavajućem pokušaju da pokaže svoj uspjeh, što nije bilo traženo od njega, objavio je detalje o iskorištavanju ranjivosti na više teško dostupnih, ali javno dostupnih internetskih stranica”, dodaje se.

Napadi bez ljudske intervencije

Anthropic nije otkrio sve detalje o sigurnosnim propustima koje je Mythos pronašao, ali je naveo neke primjere. Model je, primjerice, otkrio 27 godina staru ranjivost u sustavu OpenBSD, poznatom kao jedan od najsigurnijih operativnih sustava na svijetu.

Mythos je toliko moćan da čak i i nestručne osobe mogu iskoristiti njegove sposobnosti.

“Inženjeri bez formalnog sigurnosnog obrazovanja tražili su od Mythosa da pronađe ranjivosti za udaljeno izvršavanje koda tijekom noći, a već sljedeće jutro dobili su potpuno funkcionalan napad“, navodi Anthropicov sigurnosni tim.

U nekim slučajevima model je čak mogao pretvoriti ranjivosti u konkretne napade bez ljudske intervencije.

11 odabranih i prijetnja nacionalnoj sigurnosti

Zbog svega toga, Anthropic je odlučio da Mythos neće biti javno dostupan. Umjesto toga, planiraju u budućnosti objaviti “Mythos-klasu” modela tek kad se razviju odgovarajuće sigurnosne mjere.

“Naš je cilj omogućiti sigurno korištenje ovakvih modela u velikom opsegu – ne samo za kibernetičku sigurnost, nego i za brojne druge koristi koje donose ovako napredni sustavi”, navodi tvrtka.

Za sada će pristup Mythosu imati samo 11 odabranih organizacija, uključujući Google, Microsoft, Amazon Web Services, Nvidia i JPMorgan Chase, u okviru projekta nazvanog “Project Glasswing”.

Podsjetimo, u ožujku je Anthropic podnio tužbu protiv Pentagona jer ga je stavio na crnu listu nacionalne sigurnosti, čime je eskalirala bitka te tvrtke za razvoj umjetne inteligencije s američkom vojskom oko ograničenja korištenja njihove tehnologije.