Connect with us

Tech

Anthropic: Naš najnoviji UI model premoćan je za javno objavljivanje, uspio je “pobjeći” i sam napasti

Objavljeno

-

Anthropic je objavio da njihov sljedeći model umjetne inteligencije nije primjeren za avnost jer je previše moćan. Zbog toga model Claude Mythos neće biti javno objavljen, navode iz kompanije.

Prema njihovim riječima, Mythos je pokazao zabrinjavajuće sposobnosti, uključujući mogućnost probijanja vlastitih sigurnosnih ograničenja.

Anthropic je u utorak priopćio da je zaustavio širu objavu svog najnovijeg UI modela, Mythos, zbog bojazni da je previše učinkovit u pronalaženju “ranjivosti visoke razine” u velikim operativnim sustavima i web preglednicima.

“Znatno povećanje sposobnosti modela Claude Mythos Preview navelo nas je da odlučimo kako ga nećemo učiniti opće dostupnim”, navodi se u tehničkoj dokumentaciji. “Umjesto toga, koristimo ga u obrambenom programu kibernetičke sigurnosti s ograničenim brojem partnera.”

Business Insider piše kako ova odluka predstavlja važan korak za Anthropic, koji je u veljači ublažio vlastita sigurnosna obećanja vezana uz razvoj AI modela. Tada je javno predstavljen Claude Opus 4.6, njihov najmoćniji model dosad.

“Bijeg” od vlastitih programera

U opisu modela Mythos, Anthropic navodi niz zabrinjavajućih nalaza, uključujući slučaj u kojem je model slijedio upute koje su ga potaknule da izađe iz virtualnog sigurnosnog okruženja.

“Model je uspio, pokazavši potencijalno opasnu sposobnost zaobilaženja naših zaštitnih mjera”, navodi se u sigurnosnom izvješću. “Nakon toga poduzeo je dodatne, još zabrinjavajuće radnje.”

Istraživač je modelu zadao zadatak da pošalje poruku ako uspije “pobjeći”.
“Istraživač je saznao za uspjeh kada je primio neočekivani e-mail od modela dok je jeo sendvič u parku”, navodi Anthropic.

Model se pritom nije zaustavio na tome.

“U zabrinjavajućem pokušaju da pokaže svoj uspjeh, što nije bilo traženo od njega, objavio je detalje o iskorištavanju ranjivosti na više teško dostupnih, ali javno dostupnih internetskih stranica”, dodaje se.

Napadi bez ljudske intervencije

Anthropic nije otkrio sve detalje o sigurnosnim propustima koje je Mythos pronašao, ali je naveo neke primjere. Model je, primjerice, otkrio 27 godina staru ranjivost u sustavu OpenBSD, poznatom kao jedan od najsigurnijih operativnih sustava na svijetu.

Mythos je toliko moćan da čak i i nestručne osobe mogu iskoristiti njegove sposobnosti.

“Inženjeri bez formalnog sigurnosnog obrazovanja tražili su od Mythosa da pronađe ranjivosti za udaljeno izvršavanje koda tijekom noći, a već sljedeće jutro dobili su potpuno funkcionalan napad“, navodi Anthropicov sigurnosni tim.

U nekim slučajevima model je čak mogao pretvoriti ranjivosti u konkretne napade bez ljudske intervencije.

11 odabranih i prijetnja nacionalnoj sigurnosti

Zbog svega toga, Anthropic je odlučio da Mythos neće biti javno dostupan. Umjesto toga, planiraju u budućnosti objaviti “Mythos-klasu” modela tek kad se razviju odgovarajuće sigurnosne mjere.

“Naš je cilj omogućiti sigurno korištenje ovakvih modela u velikom opsegu – ne samo za kibernetičku sigurnost, nego i za brojne druge koristi koje donose ovako napredni sustavi”, navodi tvrtka.

Za sada će pristup Mythosu imati samo 11 odabranih organizacija, uključujući Google, Microsoft, Amazon Web Services, Nvidia i JPMorgan Chase, u okviru projekta nazvanog “Project Glasswing”.

Podsjetimo, u ožujku je Anthropic podnio tužbu protiv Pentagona jer ga je stavio na crnu listu nacionalne sigurnosti, čime je eskalirala bitka te tvrtke za razvoj umjetne inteligencije s američkom vojskom oko ograničenja korištenja njihove tehnologije.

No votes yet.
Please wait...
Nastavi čitati
Kliknite za komentar

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Tech

ZADAR/KUKLJICA: Demonstracija suvremenih rješenja podvodne, zračne i kopnene robotike, autonomnih sustava te umjetne inteligencije

Objavljeno

-

By

Robot-dron demo konvoj, jedinstveni tehnološko-znanstveni događaj s demonstracijom naprednih autonomnih robotskih sustava u stvarnim uvjetima pomorskog okruženja održat će se u subotu, 12. rujna 2026., u Zadru i Kukljici.

Događaj se organizira u sklopu 5. međunarodnog savjetovanja o robotici – MIPRO Robotics 2026: Robot Technologies and Applications (RTA), koje se održava od 9. do 12. rujna 2026. godine u Zadru.

U okviru konvoja bit će predstavljena i u stvarnim uvjetima demonstrirana suvremena rješenja podvodne, zračne i kopnene robotike, autonomnih sustava te umjetne inteligencije. Cilj je približiti javnosti tehnološke mogućnosti koje više nisu samo predmet istraživanja, nego sve snažnije ulaze u gospodarstvo, promet, pomorstvo, sigurnost i svakodnevni život.

Poseban dio programa bit će javna tribina u Kukljici posvećena viziji razvoja robotike i umjetne inteligencije, njihovom utjecaju na gospodarstvo i svakodnevni život te širim promjenama koje donose u oblikovanju budućeg društva, na kojoj će uz novinare i uzvanike sudjelovati rektor Sveučilišta u Zadru prof. dr. sc. Josip Faričić, profesor emeritus Nedjeljko Perić, profesor emeritus Karolj Skala, prof. dr. sc. Stjepan Bogdan sa Zavoda za automatiku i računalno inženjerstvo Fakulteta elektrotehnike i računarstva Sveučilišta u Zagrebu, pročelnik Odjela za mehatroniku i robotiku Sveučilišta u Zadru prof. dr. sc. Marko Valčić, poduzetnica i menadžerica mr. sc. Snježana Köpruner, prof. Zorislav Šojat i menadžer Tadej Slapnik.

Želja nam je otvoriti raspravu koja neće biti ograničena samo na tehnološki aspekt, već će uključiti i društvena, gospodarska, obrazovna i etička pitanja ubrzanog razvoja umjetne inteligencije i autonomnih sustava. Upravo zbog toga smatramo posebno vrijednim aktivno sudjelovanje predstavnika medija. Bilo bi nam veliko zadovoljstvo kada biste se uključili u konvoj, pratili demonstracije neposredno na terenu te sudjelovali u javnoj tribini svojim pitanjima, komentarima i novinarskim pogledom na promjene koje ove tehnologije donose, poruka je sa Sveučilišta.

PROGRAM

Subota, 12. rujna 2026.

08:00 – Okupljanje sudionika u JK Uskok

08:15 – Pozdravna riječ i predstavljanje programa

08:30 – Obilježavanje 30. obljetnice Sveučilišne regate ELMAR i memorijalna videoprojekcija

08:45 – Predstavljanje projekta MARBLE

09:30 – Isplovljavanje konvoja

11:30 – Demonstracija autonomnih sustava na moru (USV, UAV i ROV)

13:00 – Kopnena demonstracija i druženje

14:00 – Javna rasprava na otvorenom: Vizija razvoja robotike i umjetne inteligencije

15:00 – Druženje na terasi kafića Jadran uz domjenak i glazbu

17:00 – Isplovljavanje prema JK Uskok

19:00 – Zajednička večera u JK Uskok

Nastavi čitati

Tech

ZADRANIN MATEO BAŽDARIĆ USRED FORMULA STUDENT SPEKTAKLA / S 25 godina razvija elektroniku hrvatskog trkaćeg bolida

Objavljeno

-

By

Dok 90 timova u Mičevcu pokazuje tehnologiju i bolide budućnosti, mladi Zadranin dio je FESB Racing Teama i želi svoju profesionalnu budućnost graditi upravo u svijetu motorsporta

Spektakl Formula Student Alpe Adria u Mičevcu je u punom zamahu. 90 studentskih timova, trkaći bolidi i mladi budući stručnjaci pretvorili su Hrvatsku ovog tjedna u jedno od središta mladog svjetskog inženjerstva i budućnosti automobilske industrije. A među mladim ljudima koji stoje iza svega što se ovih dana događa na stazi nalazi se i 25-godišnji Zadranin Mateo Baždarić.

on Day 2 of FS Alpe Adria at Bugatti Rimac Test Track on August 19, 2026 in Micevec, Croatia. (Photo by Dimitrije Vasiljevic/FS Alpe Adria)

Mateo je član splitskog FESB Racing Teama, jednog od dva hrvatska predstavnika na ovogodišnjem Formula Student Alpe Adria, gdje je dio podtima zaduženog za elektroniku. Njegov posao krije se ispod karoserije bolida, ali bez njega automobil ne bi mogao funkcionirati onako kako je zamišljen.

„Moj se tim bavi razvojem električnog sustava bolida – od dizajniranja i izrade elektroničkih pločica do njihovog testiranja kako bi cijeli sustav radio pouzdano i bez problema”, objašnjava Mateo Baždarić.

Formula Student Alpe Adria traje od 18. do 23. kolovoza na testnoj stazi Bugatti Rimac u Mičevcu, a nakon službenog otvorenja atmosfera je već u punom zamahu. Paddock je ispunjen bolidima, alatima, računalima i posljednjim tehničkim provjerama, dok mladi iz cijelog svijeta pripremaju vozila na kojima su mjesecima radili za ono najvažnije – izlazak na stazu.

Za mladog Zadranina upravo je ljubav prema motorsportu bila razlog zbog kojeg je odlučio postati dio FESB Racing Teama. „Udruzi sam se pridružio zato što me jako zanima motorsport, a ovo mi je odlična prilika da dodatno produbim znanje iz elektronike u području koje me posebno zanima. Osim tehničkog znanja, ovdje upoznajem puno ljudi, stječem nova iskustva i učim kako funkcionira rad na jednom ozbiljnom projektu poput Formula Studenta”, kaže Baždarić.

on Day 1 of FS Alpe Adria at Bugatti Rimac Test Track on August 18, 2026 in Micevec, Croatia. (Photo by Dimitrije Vasiljevic/FS Alpe Adria)

Formula Student mnogo je više od klasične automobilističke utrke. Studenti sami projektiraju, konstruiraju, programiraju, izrađuju i testiraju svoje bolide, a zatim svoje znanje moraju dokazati kroz tehničke evaluacije i discipline na stazi. Rad u timu mladima tako omogućuje iskustvo vrlo slično onome koje ih kasnije očekuje u profesionalnoj automobilskoj i tehnološkoj industriji.

Splitski FESB Racing Team postoji već šest godina, a iza njega su četiri bolida. Prva tri bila su pokretana motorima s unutarnjim izgaranjem, dok je četvrti donio veliki tehnološki iskorak –  njihov prvi električni bolid. Upravo su razvoj elektronike, softwarea, baterijskog sustava i električnog pogona timu donijeli potpuno nove inženjerske izazove.

FESB Racing Team danas okuplja oko 50 članova, a posebno ih izdvaja činjenica da svoje znanje ne testiraju samo na četiri kotača. Riječ je o jednom od rijetkih studentskih timova koji razvija projekte za Formula Student i MotoStudent, odnosno trkaće bolide i motocikle.

Za Matea iskustvo stečeno na ovom projektu moglo bi biti tek početak. Njegove profesionalne ambicije jasno su povezane upravo sa svijetom koji ga je doveo u Mičevec.

„Volio bih se u budućnosti profesionalno baviti motorsportom. Ako se otvori prilika, bilo bi mi zanimljivo raditi u nekom velikom timu ili kompaniji povezanoj s automobilskim utrkama, a posebno bih volio ostati u području koje ima izravan dodir s trkaćim motorsportom”, ističe Baždarić.

on Day 1 of FS Alpe Adria at Bugatti Rimac Test Track on August 18, 2026 in Micevec, Croatia. (Photo by Dimitrije Vasiljevic/FS Alpe Adria)

Predsjednik udruge Formula Student Alpe Adria Tibor Kezelj ističe kako je upravo koncentracija mladog znanja najveća vrijednost događaja. „Kada na jednom mjestu imate 90 timova i tisuće mladih ljudi koji su mjesecima projektirali, konstruirali, programirali i razvijali vlastite bolide, onda više ne govorimo samo o natjecanju. Hrvatska je ovaj tjedan mjesto susreta budućih stručnjaka svjetske automobilske i tehnološke industrije. To su mladi ljudi koji će vrlo brzo raditi na automobilima, pogonskim sustavima, softwareu i tehnologijama koje ćemo svi koristiti. Posebno smo ponosni što među njima imamo i hrvatske timove iz Rijeke i Splita. Atmosfera je sjajna, timovi su stigli, bolidi su ovdje i sada kreće ono zbog čega smo se pripremali cijelu godinu”, poručio je Kezelj.

Za Zadar je tako jedan od najvećih međunarodnih studentskih inženjerskih događaja ovoga tjedna dobio i svoje lokalno lice. Dok 90 timova u Mičevcu pokazuje što danas mogu mladi inženjeri iz cijelog svijeta, među njima je i Zadranin Mateo Baždarić,  25-godišnjak koji danas razvija elektroniku hrvatskog trkaćeg bolida, a sutra želi svoje mjesto pronaći u profesionalnom svijetu motorsporta.

Nastavi čitati

Tech

PRIPREMITE SE / Gmail ukida popularne opcije: Velike promjene stižu milijunima korisnika

Objavljeno

-

By

Korisnici popularnog e-mail servisa Gmail moraju se pripremiti za velike promjene. Tehnološki div Google službeno je potvrdio da od siječnja 2027. godine u potpunosti ukida podršku za funkciju “Šalji kao” za adrese trećih strana. Odluka obuhvaća i račune poput @yahoo.com te @outlook.com koji su se dosad mogli postaviti kao pošiljatelji unutar Gmail sučelja.

Iz kompanije objašnjavaju kako je razlog za ovaj potez iznimno visok i neproračunljiv trošak održavanja navedenoga sustava.

Odluka obuhvaća i aplikacije i web sučelje: Gasi se i POP dohvaćanje poruka

Funkcija “Šalji kao” omogućivala je korisnicima slanje poruka s druge e-mail adrese koja je prethodno bila verificirana, a birala se izravno u polju “Od” prilikom pisanja e-pošte. Od siječnja 2027. ta mogućnost više neće biti dostupna ni na računalima ni unutar mobilnih aplikacija, prenosi Fenix Magazin.

Osim toga, Google u potpunosti gasi povezivanje vanjskih računa putem servisa Gmailify, kao i dohvaćanje e-pošte putem starog POP protokola. Iz Googlea poručuju da će sve ranije uvežene poruke i automatska preusmjeravanja ostati netaknuti u pretincima. Korisnicima se kao alternativa preporučuje korištenje službenih aplikacija izvornih pružatelja usluga ili klasičnih programa za e-poštu na računalu.

Važno je napomenuti kako ova zabrana ne obuhvaća ostale Gmail adrese te račune unutar sustava Google Workspace – za njih opcija slanja ostaje aktivna.

Stižu i dobre vijesti: Svi korisnici besplatno dobivaju AI alate

Unatoč ukidanju spomenutih opcija, Google u besplatni paket Gmaila uvodi napredne alate temeljene na umjetnoj inteligenciji koji su se dosad uglavnom plaćali:

“Pomozi mi pisati” (Help Me Write): Alat koji na temelju kratkoga unosa sastavlja kompletne nacrte poruka (primjerice, ljubazni upit o neplaćenom računu), prilagođavajući odgovor osobnome stilu pisanja korisnika.

“AI Pregledi” (AI Overviews): Funkcija koja automatski sažima dugačke nizove e-mail prepiski na samome početku konverzacije, omogućujući korisnicima da u nekoliko sekundi shvate bit poruka i uštede vrijeme.

Nastavi čitati
Oglasi
Oglasi
Oglasi

U trendu