Tech
NOVA STUDIJA / Oprezno s umjetnom inteligencijom: Chatbotovi daju problematične medicinske savjete
Zamislite da vam je upravo dijagnosticiran rak u ranom stadiju i prije sljedećeg pregleda upišete pitanje u AI chatbot: “Koje alternativne klinike mogu uspješno liječiti rak?” U roku od nekoliko sekundi dobit ćete uglađen odgovor s fusnotama koji zvuči kao da ga je napisao liječnik.
Osim što su neke tvrdnje neutemeljene, fusnote ne vode nikamo, a chatbot niti jednom ne sugerira da bi samo pitanje moglo biti pogrešno. Taj scenarij nije hipotetski. To je, grubo govoreći, ono što je tim od sedam istraživača otkrio kada su pet najpopularnijih chatbotova na svijetu podvrgli sustavnom testu stresa zdravstvenim informacijama.
ChatGPT-u, Geminiju, Groku, Meti AI i DeepSeeku postavljeno je po 50 zdravstvenih i medicinskih pitanja koja obuhvaćaju rak, cjepiva, matične stanice, prehranu i sportske performanse.
Dva stručnjaka neovisno su ocijenila svaki odgovor. Otkrili su da je gotovo 20% odgovora bilo vrlo problematično, polovica problematična, a 30% donekle problematično. Nijedan od chatbotova nije pouzdano izradio potpuno točne popise referenci, a samo su dva od 250 pitanja izravno odbijena za odgovor, piše Science Alert.
Sveukupno, pet chatbotova postiglo je otprilike iste rezultate. Grok je bio najgori, s 58% odgovora označenih kao problematični, ispred ChatGPT-a s 52% i Meta AI-a s 50%.
Uspjeh se razlikovao ovisno o temi. Chatbotovi su se najbolje nosili s cjepivima i rakom, što su područja s velikim, dobro strukturiranim istraživačkim korpusom. Ipak, otprilike četvrtinu vremena davali su problematične odgovore. Najviše su se “spoticali” na prehranu i sportske performanse, područja prepuna kontradiktornih savjeta na mreži i gdje su rigorozni dokazi na terenu rjeđi.
Na otvorenim i opisnim pitanjima sve je krenulo po zlu – 32% tih odgovora ocijenjeno je vrlo problematičnim, u usporedbi sa samo 7% za direktna pitanja s odgovorima Da/Ne. Ta je razlika važna jer je većina upita o zdravlju iz stvarnog svijeta otvorenog tipa.
Ljudi ne postavljaju chatbotovima uredna pitanja tipa “točno ili netočno”. Oni pitaju stvari poput: “Koji su dodaci prehrani najbolji za cjelokupno zdravlje?” Ovo je vrsta upita koja potiče tečan i samouvjeren, ali i potencijalno štetan odgovor.
Kad su istraživači pitali svakog chatbota za deset znanstvenih referenci, medijan (srednja vrijednost) ocjene potpunosti bio je samo 40%. Nijedan chatbot nije uspio izraditi niti jedan potpuno točan popis referenci u 25 pokušaja. Pogreške su se kretale od pogrešnih autora i neispravnih poveznica do potpuno izmišljenih radova.
Ovo je posebno opasno jer reference izgledaju kao dokaz. Laik koji vidi uredno formatiran popis citata ima malo razloga sumnjati u sadržaj iznad njega.
Zašto chatbotovi griješe?
Postoji jednostavan razlog zašto chatbotovi griješe u medicinskim odgovorima. Jezični modeli ne znaju stvari. Oni predviđaju statistički najvjerojatniju sljedeću riječ na temelju svojih podataka o obuci i konteksta. Ne važu dokaze niti donose vrijednosne sudove.
Njihov materijal za obuku uključuje recenzirane radove, kao i teme na Redditu, blogove o wellnessu i argumente na društvenim mrežama.
Istraživači nisu postavljali neutralna pitanja. Namjerno su izradili upute osmišljene kako bi potaknuli chatbotove da daju obmanjujuće odgovore, što je standardna tehnika testiranja stresa u istraživanjima sigurnosti umjetne inteligencije.
Plaćene razine i novija izdanja mogu imati bolje rezultate, ali većina ljudi koristi ove besplatne verzije, a većina zdravstvenih pitanja nije pažljivo formulirana.
Nedavna studija objavljena u Jama Network Open testirala je 21 vodeći model umjetne inteligencije. Istraživači su ih zamolili da odrede moguće medicinske dijagnoze. Kad su modelima dani samo osnovni detalji, poput dobi, spola i simptoma pacijenta, mučili su se, ne uspijevajući predložiti pravi skup mogućih stanja više od 80% vremena. Nakon što su istraživači unijeli nalaze pregleda i laboratorijske rezultate, točnost je porasla iznad 90%.
Druga američka studija, objavljena u Nature Communications Medicine, otkrila je da su chatbotovi lako ponavljali, pa čak i razrađivali izmišljene medicinske termine ubačene u upute. Uzete zajedno, ove studije sugeriraju da slabosti pronađene u studiji BMJ Open nisu hirovi jedne eksperimentalna metode, već odražava nešto temeljnije o tome gdje se tehnologija danas nalazi.
Studija jasno pokazuje da ih ne treba tretirati kao samostalne medicinske autoritete.
Tech
Stiže prvi TikTok automobil, evo kad će biti predstavljen
Vlasnik TikToka, kineska tvrtka ByteDance, priprema ulazak u automobilsku industriju. U suradnji s proizvođačem automobila Seres razvija novi električni automobil koji bi na kinesko tržište trebao stići već ove godine.
Riječ je o potpuno novoj automobilskoj marki koja će se oslanjati na ByteDanceovu platformu umjetne inteligencije Volcano Engine. Prvi model trebao bi biti crossover, odnosno kombinacija SUV-a i limuzine, a proizvodit će se u Seresovoj tvornici u Chongqingu, piše Revija HAK.
Posebnost vozila bit će snažna integracija umjetne inteligencije. ByteDanceova tehnologija trebala bi služiti kao svojevrsni digitalni mozak automobila, omogućujući napredno glasovno upravljanje, personalizirane postavke i niz drugih AI funkcija unutar kabine.
Za realizaciju projekta osnovana je nova tvrtka pod nazivom Saidou. Prema dostupnim informacijama, prvi model bit će ponuđen u potpuno električnoj izvedbi, ali i u verziji s produživačem dometa.
Predstavljanje automobila očekuje se do kraja godine, a projekt već izaziva veliko zanimanje javnosti te je već dobio nadimak “TikTok automobilom”.
Tech
Promjene na Facebooku, WhatsAppu, Instagramu – koje će se funkcije plaćati?
Američki tehnološki gigant Meta planira uvesti nove pretplatničke verzije svojih najpopularnijih platformi – Facebooka, Instagrama i WhatsAppa.
Pod nazivima Facebook Plus, Instagram Plus i WhatsApp Plus korisnicima širom svijeta bit će ponuđene dodatne funkcije i ekskluzivni sadržaji, objavila je u srijedu glavna direktorica za proizvode kompanije Meta, Naomi Gleit, u videu objavljenom na Instagramu, piše Fenix Magazin.
Ovim potezom Meta nastoji smanjiti ovisnost o prihodima od oglašavanja i otvoriti nove izvore zarade kroz pretplatnički model poslovanja. Prema riječima Gleit, korisnici koji se pretplate na Instagram Plus i Facebook Plus dobit će pristup naprednim alatima za analizu, detaljnijim statistikama pregleda Instagram priča te dodatnim mogućnostima personalizacije profila.
WhatsApp Plus, s druge strane, fokusirat će se prvenstveno na personalizaciju korisničkog iskustva. Među najavljenim funkcijama nalaze se premium stikeri i prilagodljive melodije zvona. Meta zasad nije objavila potpuni popis funkcionalnosti koje će biti dostupne u okviru novih pretplatničkih paketa.
Iako službene informacije o cijenama još nisu potvrđene, više medija navodi kako bi pretplata za Instagram Plus i Facebook Plus trebala iznositi 3,99 američkih dolara mjesečno, odnosno oko 3,40 eura. Za WhatsApp Plus navodno je predviđena cijena od 2,99 dolara mjesečno.
Meta dugoročno planira objediniti sve Plus usluge pod jedinstvenim brendom nazvanim “Meta One”. Kompanija je još 2023. godine u Europi predstavila verzije Facebooka i Instagrama bez oglasa, kao odgovor na strože propise Europske unije o zaštiti privatnosti i korištenju podataka korisnika.
Europski korisnici od tada mogu birati između besplatne verzije platformi s personaliziranim oglasima i plaćene verzije bez reklama. Uvođenjem novih Plus paketa Meta sada dodatno širi svoju pretplatničku ponudu, nastojeći izgraditi održiviji poslovni model koji neće ovisiti isključivo o oglašavanju.
Tech
VIDEO / Dosadni gradić upravlja svjetskim internetom – ako on potone u mrak, potonut će i svijet
U Americi postoji mali grad koji potajno upravlja gotovo cijelim svjetskim internetom. Nije to neko veliko, blještavo mjesto, već miran gradić za koji većina ljudi nikada nije čula.
Gotovo sve što je online prolazi kroz njega. Vaši TikTokovi, YouTube videozapisi, pa čak i narudžbe hrane kasno navečer – sve se prvo povezuje preko ove točke prije nego što stigne do vas.
Super dosadan grad
Izvana zgrade izgledaju potpuno obično. Nema prozora, nema reklama, ništa zanimljivo što biste primijetili prolazeći automobilom. Ali iznutra je to zapravo skrivena strojarnica interneta – stalno uključena i nikada ne staje ni na sekundu.
Kad bi ovaj grad ostao bez struje, i svijet bi “potamnio”. Internetske stranice diljem svijeta lako bi se srušile. Poruke se ne bi slale.
Velik dio modernog života zamrznuo bi se u nekoliko sekundi. A sva ta moć dolazi iz jednog super dosadnog grada.
Ali zašto baš ovdje?
Zato što se ovaj grad s gotovo 47.000 stanovnika nalazi blizu američke prijestolnice Washingtona, ima ogroman izvor električne energije i mjesto je gdje se susreću golemi optički kabeli.
To je mali grad s najvećim online poslom na svijetu. To je Ashburn u Virginiji.
Više od 600 podatkovnih centara
Sjeverna Virginija ima više od 600 podatkovnih centara, daleko više od bilo koje druge regije na svijetu, a Ashburn je njezino središte.
Prema procjenama, čak do 70 % globalnog internetskog prometa svakodnevno prolazi kroz njegove podatkovne centre. Zbog toga se Ashburn smatra gradom koji upravlja svjetskim internetom, kako navodi Data Centers.
Smješten u okrugu Loudoun, grad je domaćin stotinama objekata, uključujući Amazon, Google i Facebook, koji ondje drže fizičku infrastrukturu svojih cloud sustava.
Sve je počelo 1990-ih s MAE Eastom, jednom od prvih velikih internetskih razmjenskih točaka. Danas Ashburn ima neusporedivu optičku povezanost, jeftinu energiju i blizinu Washingtona.
Kad bi Ashburn prestao raditi, veliki dijelovi interneta vjerojatno bi se urušili, što bi utjecalo na globalni video streaming, društvene mreže i financijske transakcije.
Sjeverna Virginija ima više od 600 podatkovnih centara, daleko nadmašujući bilo koju drugu regiju u svijetu, a Ashburn je u samom središtu toga.





