Connect with us

Tech

NOVA STUDIJA / Oprezno s umjetnom inteligencijom: Chatbotovi daju problematične medicinske savjete

Objavljeno

-

Ilustracija: Shantanu Kumar on Unsplash

Zamislite da vam je upravo dijagnosticiran rak u ranom stadiju i prije sljedećeg pregleda upišete pitanje u AI chatbot: “Koje alternativne klinike mogu uspješno liječiti rak?” U roku od nekoliko sekundi dobit ćete uglađen odgovor s fusnotama koji zvuči kao da ga je napisao liječnik.

Osim što su neke tvrdnje neutemeljene, fusnote ne vode nikamo, a chatbot niti jednom ne sugerira da bi samo pitanje moglo biti pogrešno. Taj scenarij nije hipotetski. To je, grubo govoreći, ono što je tim od sedam istraživača otkrio kada su pet najpopularnijih chatbotova na svijetu podvrgli sustavnom testu stresa zdravstvenim informacijama.

ChatGPT-u, Geminiju, Groku, Meti AI i DeepSeeku postavljeno je po 50 zdravstvenih i medicinskih pitanja koja obuhvaćaju rak, cjepiva, matične stanice, prehranu i sportske performanse.

Dva stručnjaka neovisno su ocijenila svaki odgovor. Otkrili su da je gotovo 20% odgovora bilo vrlo problematično, polovica problematična, a 30% donekle problematično. Nijedan od chatbotova nije pouzdano izradio potpuno točne popise referenci, a samo su dva od 250 pitanja izravno odbijena za odgovor, piše Science Alert.

Sveukupno, pet chatbotova postiglo je otprilike iste rezultate. Grok je bio najgori, s 58% odgovora označenih kao problematični, ispred ChatGPT-a s 52% i Meta AI-a s 50%.

Uspjeh se razlikovao ovisno o temi. Chatbotovi su se najbolje nosili s cjepivima i rakom, što su područja s velikim, dobro strukturiranim istraživačkim korpusom. Ipak, otprilike četvrtinu vremena davali su problematične odgovore. Najviše su se “spoticali” na prehranu i sportske performanse, područja prepuna kontradiktornih savjeta na mreži i gdje su rigorozni dokazi na terenu rjeđi.

Na otvorenim i opisnim pitanjima sve je krenulo po zlu – 32% tih odgovora ocijenjeno je vrlo problematičnim, u usporedbi sa samo 7% za direktna pitanja s odgovorima Da/Ne. Ta je razlika važna jer je većina upita o zdravlju iz stvarnog svijeta otvorenog tipa.

Ljudi ne postavljaju chatbotovima uredna pitanja tipa “točno ili netočno”. Oni pitaju stvari poput: “Koji su dodaci prehrani najbolji za cjelokupno zdravlje?” Ovo je vrsta upita koja potiče tečan i samouvjeren, ali i potencijalno štetan odgovor.

Kad su istraživači pitali svakog chatbota za deset znanstvenih referenci, medijan (srednja vrijednost) ocjene potpunosti bio je samo 40%. Nijedan chatbot nije uspio izraditi niti jedan potpuno točan popis referenci u 25 pokušaja. Pogreške su se kretale od pogrešnih autora i neispravnih poveznica do potpuno izmišljenih radova.

Ovo je posebno opasno jer reference izgledaju kao dokaz. Laik koji vidi uredno formatiran popis citata ima malo razloga sumnjati u sadržaj iznad njega.

Zašto chatbotovi griješe?

Postoji jednostavan razlog zašto chatbotovi griješe u medicinskim odgovorima. Jezični modeli ne znaju stvari. Oni predviđaju statistički najvjerojatniju sljedeću riječ na temelju svojih podataka o obuci i konteksta. Ne važu dokaze niti donose vrijednosne sudove.

Njihov materijal za obuku uključuje recenzirane radove, kao i teme na Redditu, blogove o wellnessu i argumente na društvenim mrežama.

Istraživači nisu postavljali neutralna pitanja. Namjerno su izradili upute osmišljene kako bi potaknuli chatbotove da daju obmanjujuće odgovore, što je standardna tehnika testiranja stresa u istraživanjima sigurnosti umjetne inteligencije.

Plaćene razine i novija izdanja mogu imati bolje rezultate, ali većina ljudi koristi ove besplatne verzije, a većina zdravstvenih pitanja nije pažljivo formulirana.

Nedavna studija objavljena u Jama Network Open testirala je 21 vodeći model umjetne inteligencije. Istraživači su ih zamolili da odrede moguće medicinske dijagnoze. Kad su modelima dani samo osnovni detalji, poput dobi, spola i simptoma pacijenta, mučili su se, ne uspijevajući predložiti pravi skup mogućih stanja više od 80% vremena. Nakon što su istraživači unijeli nalaze pregleda i laboratorijske rezultate, točnost je porasla iznad 90%.

Druga američka studija, objavljena u Nature Communications Medicine, otkrila je da su chatbotovi lako ponavljali, pa čak i razrađivali izmišljene medicinske termine ubačene u upute. Uzete zajedno, ove studije sugeriraju da slabosti pronađene u studiji BMJ Open nisu hirovi jedne eksperimentalna metode, već odražava nešto temeljnije o tome gdje se tehnologija danas nalazi.

Studija jasno pokazuje da ih ne treba tretirati kao samostalne medicinske autoritete.

No votes yet.
Please wait...
Nastavi čitati
Kliknite za komentar

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Tech

ZADAR/KUKLJICA: Demonstracija suvremenih rješenja podvodne, zračne i kopnene robotike, autonomnih sustava te umjetne inteligencije

Objavljeno

-

By

Robot-dron demo konvoj, jedinstveni tehnološko-znanstveni događaj s demonstracijom naprednih autonomnih robotskih sustava u stvarnim uvjetima pomorskog okruženja održat će se u subotu, 12. rujna 2026., u Zadru i Kukljici.

Događaj se organizira u sklopu 5. međunarodnog savjetovanja o robotici – MIPRO Robotics 2026: Robot Technologies and Applications (RTA), koje se održava od 9. do 12. rujna 2026. godine u Zadru.

U okviru konvoja bit će predstavljena i u stvarnim uvjetima demonstrirana suvremena rješenja podvodne, zračne i kopnene robotike, autonomnih sustava te umjetne inteligencije. Cilj je približiti javnosti tehnološke mogućnosti koje više nisu samo predmet istraživanja, nego sve snažnije ulaze u gospodarstvo, promet, pomorstvo, sigurnost i svakodnevni život.

Poseban dio programa bit će javna tribina u Kukljici posvećena viziji razvoja robotike i umjetne inteligencije, njihovom utjecaju na gospodarstvo i svakodnevni život te širim promjenama koje donose u oblikovanju budućeg društva, na kojoj će uz novinare i uzvanike sudjelovati rektor Sveučilišta u Zadru prof. dr. sc. Josip Faričić, profesor emeritus Nedjeljko Perić, profesor emeritus Karolj Skala, prof. dr. sc. Stjepan Bogdan sa Zavoda za automatiku i računalno inženjerstvo Fakulteta elektrotehnike i računarstva Sveučilišta u Zagrebu, pročelnik Odjela za mehatroniku i robotiku Sveučilišta u Zadru prof. dr. sc. Marko Valčić, poduzetnica i menadžerica mr. sc. Snježana Köpruner, prof. Zorislav Šojat i menadžer Tadej Slapnik.

Želja nam je otvoriti raspravu koja neće biti ograničena samo na tehnološki aspekt, već će uključiti i društvena, gospodarska, obrazovna i etička pitanja ubrzanog razvoja umjetne inteligencije i autonomnih sustava. Upravo zbog toga smatramo posebno vrijednim aktivno sudjelovanje predstavnika medija. Bilo bi nam veliko zadovoljstvo kada biste se uključili u konvoj, pratili demonstracije neposredno na terenu te sudjelovali u javnoj tribini svojim pitanjima, komentarima i novinarskim pogledom na promjene koje ove tehnologije donose, poruka je sa Sveučilišta.

PROGRAM

Subota, 12. rujna 2026.

08:00 – Okupljanje sudionika u JK Uskok

08:15 – Pozdravna riječ i predstavljanje programa

08:30 – Obilježavanje 30. obljetnice Sveučilišne regate ELMAR i memorijalna videoprojekcija

08:45 – Predstavljanje projekta MARBLE

09:30 – Isplovljavanje konvoja

11:30 – Demonstracija autonomnih sustava na moru (USV, UAV i ROV)

13:00 – Kopnena demonstracija i druženje

14:00 – Javna rasprava na otvorenom: Vizija razvoja robotike i umjetne inteligencije

15:00 – Druženje na terasi kafića Jadran uz domjenak i glazbu

17:00 – Isplovljavanje prema JK Uskok

19:00 – Zajednička večera u JK Uskok

Nastavi čitati

Tech

ZADRANIN MATEO BAŽDARIĆ USRED FORMULA STUDENT SPEKTAKLA / S 25 godina razvija elektroniku hrvatskog trkaćeg bolida

Objavljeno

-

By

Dok 90 timova u Mičevcu pokazuje tehnologiju i bolide budućnosti, mladi Zadranin dio je FESB Racing Teama i želi svoju profesionalnu budućnost graditi upravo u svijetu motorsporta

Spektakl Formula Student Alpe Adria u Mičevcu je u punom zamahu. 90 studentskih timova, trkaći bolidi i mladi budući stručnjaci pretvorili su Hrvatsku ovog tjedna u jedno od središta mladog svjetskog inženjerstva i budućnosti automobilske industrije. A među mladim ljudima koji stoje iza svega što se ovih dana događa na stazi nalazi se i 25-godišnji Zadranin Mateo Baždarić.

on Day 2 of FS Alpe Adria at Bugatti Rimac Test Track on August 19, 2026 in Micevec, Croatia. (Photo by Dimitrije Vasiljevic/FS Alpe Adria)

Mateo je član splitskog FESB Racing Teama, jednog od dva hrvatska predstavnika na ovogodišnjem Formula Student Alpe Adria, gdje je dio podtima zaduženog za elektroniku. Njegov posao krije se ispod karoserije bolida, ali bez njega automobil ne bi mogao funkcionirati onako kako je zamišljen.

„Moj se tim bavi razvojem električnog sustava bolida – od dizajniranja i izrade elektroničkih pločica do njihovog testiranja kako bi cijeli sustav radio pouzdano i bez problema”, objašnjava Mateo Baždarić.

Formula Student Alpe Adria traje od 18. do 23. kolovoza na testnoj stazi Bugatti Rimac u Mičevcu, a nakon službenog otvorenja atmosfera je već u punom zamahu. Paddock je ispunjen bolidima, alatima, računalima i posljednjim tehničkim provjerama, dok mladi iz cijelog svijeta pripremaju vozila na kojima su mjesecima radili za ono najvažnije – izlazak na stazu.

Za mladog Zadranina upravo je ljubav prema motorsportu bila razlog zbog kojeg je odlučio postati dio FESB Racing Teama. „Udruzi sam se pridružio zato što me jako zanima motorsport, a ovo mi je odlična prilika da dodatno produbim znanje iz elektronike u području koje me posebno zanima. Osim tehničkog znanja, ovdje upoznajem puno ljudi, stječem nova iskustva i učim kako funkcionira rad na jednom ozbiljnom projektu poput Formula Studenta”, kaže Baždarić.

on Day 1 of FS Alpe Adria at Bugatti Rimac Test Track on August 18, 2026 in Micevec, Croatia. (Photo by Dimitrije Vasiljevic/FS Alpe Adria)

Formula Student mnogo je više od klasične automobilističke utrke. Studenti sami projektiraju, konstruiraju, programiraju, izrađuju i testiraju svoje bolide, a zatim svoje znanje moraju dokazati kroz tehničke evaluacije i discipline na stazi. Rad u timu mladima tako omogućuje iskustvo vrlo slično onome koje ih kasnije očekuje u profesionalnoj automobilskoj i tehnološkoj industriji.

Splitski FESB Racing Team postoji već šest godina, a iza njega su četiri bolida. Prva tri bila su pokretana motorima s unutarnjim izgaranjem, dok je četvrti donio veliki tehnološki iskorak –  njihov prvi električni bolid. Upravo su razvoj elektronike, softwarea, baterijskog sustava i električnog pogona timu donijeli potpuno nove inženjerske izazove.

FESB Racing Team danas okuplja oko 50 članova, a posebno ih izdvaja činjenica da svoje znanje ne testiraju samo na četiri kotača. Riječ je o jednom od rijetkih studentskih timova koji razvija projekte za Formula Student i MotoStudent, odnosno trkaće bolide i motocikle.

Za Matea iskustvo stečeno na ovom projektu moglo bi biti tek početak. Njegove profesionalne ambicije jasno su povezane upravo sa svijetom koji ga je doveo u Mičevec.

„Volio bih se u budućnosti profesionalno baviti motorsportom. Ako se otvori prilika, bilo bi mi zanimljivo raditi u nekom velikom timu ili kompaniji povezanoj s automobilskim utrkama, a posebno bih volio ostati u području koje ima izravan dodir s trkaćim motorsportom”, ističe Baždarić.

on Day 1 of FS Alpe Adria at Bugatti Rimac Test Track on August 18, 2026 in Micevec, Croatia. (Photo by Dimitrije Vasiljevic/FS Alpe Adria)

Predsjednik udruge Formula Student Alpe Adria Tibor Kezelj ističe kako je upravo koncentracija mladog znanja najveća vrijednost događaja. „Kada na jednom mjestu imate 90 timova i tisuće mladih ljudi koji su mjesecima projektirali, konstruirali, programirali i razvijali vlastite bolide, onda više ne govorimo samo o natjecanju. Hrvatska je ovaj tjedan mjesto susreta budućih stručnjaka svjetske automobilske i tehnološke industrije. To su mladi ljudi koji će vrlo brzo raditi na automobilima, pogonskim sustavima, softwareu i tehnologijama koje ćemo svi koristiti. Posebno smo ponosni što među njima imamo i hrvatske timove iz Rijeke i Splita. Atmosfera je sjajna, timovi su stigli, bolidi su ovdje i sada kreće ono zbog čega smo se pripremali cijelu godinu”, poručio je Kezelj.

Za Zadar je tako jedan od najvećih međunarodnih studentskih inženjerskih događaja ovoga tjedna dobio i svoje lokalno lice. Dok 90 timova u Mičevcu pokazuje što danas mogu mladi inženjeri iz cijelog svijeta, među njima je i Zadranin Mateo Baždarić,  25-godišnjak koji danas razvija elektroniku hrvatskog trkaćeg bolida, a sutra želi svoje mjesto pronaći u profesionalnom svijetu motorsporta.

Nastavi čitati

Tech

PRIPREMITE SE / Gmail ukida popularne opcije: Velike promjene stižu milijunima korisnika

Objavljeno

-

By

Korisnici popularnog e-mail servisa Gmail moraju se pripremiti za velike promjene. Tehnološki div Google službeno je potvrdio da od siječnja 2027. godine u potpunosti ukida podršku za funkciju “Šalji kao” za adrese trećih strana. Odluka obuhvaća i račune poput @yahoo.com te @outlook.com koji su se dosad mogli postaviti kao pošiljatelji unutar Gmail sučelja.

Iz kompanije objašnjavaju kako je razlog za ovaj potez iznimno visok i neproračunljiv trošak održavanja navedenoga sustava.

Odluka obuhvaća i aplikacije i web sučelje: Gasi se i POP dohvaćanje poruka

Funkcija “Šalji kao” omogućivala je korisnicima slanje poruka s druge e-mail adrese koja je prethodno bila verificirana, a birala se izravno u polju “Od” prilikom pisanja e-pošte. Od siječnja 2027. ta mogućnost više neće biti dostupna ni na računalima ni unutar mobilnih aplikacija, prenosi Fenix Magazin.

Osim toga, Google u potpunosti gasi povezivanje vanjskih računa putem servisa Gmailify, kao i dohvaćanje e-pošte putem starog POP protokola. Iz Googlea poručuju da će sve ranije uvežene poruke i automatska preusmjeravanja ostati netaknuti u pretincima. Korisnicima se kao alternativa preporučuje korištenje službenih aplikacija izvornih pružatelja usluga ili klasičnih programa za e-poštu na računalu.

Važno je napomenuti kako ova zabrana ne obuhvaća ostale Gmail adrese te račune unutar sustava Google Workspace – za njih opcija slanja ostaje aktivna.

Stižu i dobre vijesti: Svi korisnici besplatno dobivaju AI alate

Unatoč ukidanju spomenutih opcija, Google u besplatni paket Gmaila uvodi napredne alate temeljene na umjetnoj inteligenciji koji su se dosad uglavnom plaćali:

“Pomozi mi pisati” (Help Me Write): Alat koji na temelju kratkoga unosa sastavlja kompletne nacrte poruka (primjerice, ljubazni upit o neplaćenom računu), prilagođavajući odgovor osobnome stilu pisanja korisnika.

“AI Pregledi” (AI Overviews): Funkcija koja automatski sažima dugačke nizove e-mail prepiski na samome početku konverzacije, omogućujući korisnicima da u nekoliko sekundi shvate bit poruka i uštede vrijeme.

Nastavi čitati
Oglasi
Oglasi
Oglasi

U trendu