Connect with us

Tech

Što ako AI završi u krivim rukama? Ovo su najgore stvari koje bi se mogle dogoditi

Objavljeno

-

unsplash

Administracija američkog predsjednika Joea Bidena spremna je otvoriti novo bojište u svojim nastojanjima da zaštiti američku umjetnu inteligenciju od Kine i Rusije s preliminarnim planovima za postavljanje zaštite oko najnaprednijih modela umjetne inteligencije.

Istraživači iz vladinog i privatnog sektora zabrinuti su da bi američki protivnici mogli koristiti modele, koji pretražuju goleme količine teksta i slika za sažimanje informacija i generiranje sadržaja, za kibernetičke napade ili čak proizvodnju snažnog biološkog oružja.

Evo nekih prijetnji koje predstavlja AI:

Deepfakes i dezinformacije

Deepfakeovi – realistični, ali izmišljeni videozapisi koje su izradili algoritmi umjetne inteligencije na temelju velikog broja objavljenih snimaka – pojavljuju se na društvenim mrežama, zamagljujući činjenice i fikciju u polariziranom svijetu američke politike.

Iako su takvi sintetički mediji prisutni već nekoliko godina, tijekom prošle godine pojačani su nizom novih “generativnih AI” alata kao što je Midjourney koji čine jeftinim i lakim stvaranje uvjerljivih deepfakeova.

Alati za izradu slika koje pokreće umjetna inteligencija tvrtki uključujući OpenAI i Microsoft mogu se koristiti za izradu fotografija koje bi mogle promicati dezinformacije povezane s izborima ili glasanjem, unatoč tome što svaki od njih ima politiku protiv stvaranja obmanjujućeg sadržaja, rekli su istraživači u izvješću u ožujku.

Neke kampanje dezinformiranja jednostavno koriste sposobnost umjetne inteligencije da oponaša stvarne novinske članke kao sredstvo za širenje lažnih informacija.

Dok su glavne platforme društvenih medija poput Facebooka, X-a (bivšeg Twittera) i YouTubea uložile napore u zabranu i uklanjanje deepfakeova, njihova učinkovitost u nadzoru nad takvim sadržajem varira.

Na primjer, prošle godine, stranica s vijestima pod kontrolom kineske vlade koja koristi generativnu AI platformu progurala je prethodno cirkuliranu lažnu tvrdnju da Sjedinjene Države vode laboratorij u Kazahstanu za stvaranje biološkog oružja za upotrebu protiv Kine, navodi Ministarstvo domovinske sigurnosti u svojoj procjeni domovinske za 2024.

Savjetnik za nacionalnu sigurnost Jake Sullivan, govoreći na skupu o AI-u u Washingtonu, rekao je da problem nema lakih rješenja jer kombinira kapacitet AI s “namjerom državnih i nedržavnih aktera da koriste dezinformacije u velikim razmjerima, poremete demokracije, unaprijede propagandu, oblikuju percepciju u svijetu.”

“U ovom trenutku napad uvelike nadmašuje kapacitete obrane,” upozorio je.

Biološko oružje

Američka obavještajna zajednica, think tankovi i akademici sve su više zabrinuti zbog rizika koje predstavljaju strani akteri koji dobivaju pristup naprednim AI sposobnostima.

Istraživači Gryphon Scientific i Rand Corporation primijetili su da napredni AI modeli mogu pružiti informacije koje bi mogle pomoći u stvaranju biološkog oružja.

Gryphon je proučavao kako se veliki jezični modeli (LLM) – računalni programi koji izvlače iz ogromnih količina teksta za generiranje odgovora na upite – mogu neprijateljima koristiti za nanošenje štete u domeni znanosti o životu i otkrio je da oni “mogu pružiti informacije koje bi mogle pomoći pri stvaranju biološkog oružja pružanjem korisnih, točnih i detaljnih informacija u svakom koraku na ovom putu.”

Otkrili su, na primjer, da LLM može pružiti znanje na postdoktorskoj razini za rješavanje problema pri radu s virusom sposobnim za pandemiju.

Randovo istraživanje pokazalo je da bi LLM mogli pomoći u planiranju i izvršenju biološkog napada. Otkrili su da doktor medicine može, na primjer, predložiti metode isporuke botulinum toksina aerosolom.

Novi napori za rješavanje prijetnji

Ministarstvo domovinske sigurnosti (DHS) priopćilo je da će cyber akteri vjerojatno koristiti umjetnu inteligenciju za “razvijanje novih alata” za “omogućavanje većih, bržih, učinkovitijih cyber napada” protiv kritične infrastrukture uključujući cjevovode i željeznice, u svojoj procjeni domovinske prijetnje za 2024.

Kina i drugi protivnici razvijaju AI tehnologije koje bi mogle potkopati kibernetičku obranu SAD-a, smatra DHS, uključujući generativne AI programe koji podržavaju napade zlonamjernog softvera.

Microsoft je u izvješću iz veljače rekao da je pratio hakerske grupe povezane s kineskom i sjevernokorejskom vladom, kao i ruskom vojnom obavještajnom službom i iranskom Revolucionarnom gardom, dok su pokušavali usavršiti svoje hakerske kampanje koristeći velike jezične modele.

Dvostranačka skupina zastupnika predstavila je nacrt zakona koji bi Bidenovoj administraciji olakšao nametanje kontrole izvoza modela umjetne inteligencije, u pokušaju da zaštiti cijenjenu američku tehnologiju od stranih loših aktera.

Prijedlog zakona, koji su sponzorirali republikanci u Zastupničkom domu Michael McCaul i John Molenaar te demokrati Raja Krishnamoorthi i Susan Wild, također bi Ministarstvu trgovine dao izričitu ovlast da zabrani Amerikancima da rade sa strancima na razvoju sustava umjetne inteligencije koji predstavljaju rizik za nacionalnu sigurnost SAD-a.

Tony Samp, savjetnik za politiku umjetne inteligencije u DLA Piperu u Washingtonu, rekao je da kreatori politike u Washingtonu pokušavaju “poticati inovacije i izbjegavati oštre propise koji guše inovacije” dok se nastoje pozabaviti brojnim rizicima koje donosi tehnologija.

No upozorio je da bi “suzbijanje razvoja umjetne inteligencije kroz regulaciju moglo spriječiti potencijalne proboje u područjima kao što su otkrivanje lijekova, infrastruktura, nacionalna sigurnost i druga, te ustupiti teren konkurenciji u inozemstvu”.

No votes yet.
Please wait...
Nastavi čitati
Kliknite za komentar

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Tech

Istraživanje Harvarda: Umjetna inteligencija nadmašila liječnike u hitnoj trijaži

Objavljeno

-

By

Ilustracija: Elf-Moondance/Pixabay

Od Georgea Clooneyja u “Hitnoj službi” do Noaha Wylea u “Pittsburškoj bolnici”, liječnici hitne pomoći dugo su bili popularni heroji. Ali, hoće li uskoro biti zamijenjivi?

Revolucionarna studija s Harvarda otkrila je da su sustavi umjetne inteligencije nadmašili ljudske liječnike u trijaži hitne medicine pod visokim pritiskom, točnije dijagnosticirajući u potencijalno životno važnim trenucima kad se ljudi prvi put hitno prevezu u bolnicu.

Neovisni stručnjaci su rezultate opisali kao “pravi korak naprijed” u kliničkom razmišljanju umjetne inteligencije i došli su kao dio ispitivanja koja su testirala odgovore stotina liječnika u odnosu na umjetnu inteligenciju, piše Guardian.

Autori su rekli da su rezultati, objavljeni u časopisu Science, pokazali da su modeli velikih jezika (LLM) “nadmašili većinu mjerila kliničkog razmišljanja”.

Jedan eksperiment usredotočio se na 76 pacijenata koji su stigli na hitnu pomoć bolnice u Bostonu. Umjetna inteligencija i par ljudskih liječnika dobili su na pregled isti standardni elektronički zdravstveni karton, koji je obično uključivao podatke o vitalnim znakovima, demografske podatke i nekoliko rečenica medicinske sestre o tome zašto je pacijent tamo. Umjetna inteligencija je identificirala točnu ili vrlo blisku dijagnozu u 67% slučajeva, pobijedivši ljudske liječnike, koji su bili u pravu samo u 50% – 55% slučajeva.

Pokazalo se da je prednost umjetne inteligencije posebno izražena u okolnostima trijaže koje zahtijevaju brze odluke s minimalnim informacijama. Točnost dijagnoze umjetne inteligencije, OpenAI-jevog o1 modela zaključivanja, porasla je na 82% kad je bilo dostupno više detalja, u usporedbi s točnošću od 70-79% koju su postigli stručni ljudi, iako ta razlika nije bila statistički značajna.

Također je nadmašila veću skupinu ljudskih liječnika kada su ih zamolili da pruže dugoročnije planove liječenja, poput pružanja režima antibiotika ili planiranja procesa na kraju života. Umjetna inteligencija i 46 liječnika zamoljeni su da ispitaju pet kliničkih studija slučaja, a računalo je izradilo znatno bolje planove, postigavši ​​89% u usporedbi s 34% za ljude koji koriste konvencionalne resurse, poput tražilica.

Ali, istraživači navode da još nije kraj za liječnike hitne pomoći. Studija je testirala ljude u odnosu na umjetnu inteligenciju samo gledajući podatke o pacijentima koji se mogu komunicirati putem teksta. Čitanje signala od strane umjetne inteligencije, poput razine pacijentove nevolje i njihovog vizualnog izgleda, nije testirano. To znači da je umjetna inteligencija djelovala više kao kliničar koji daje drugo mišljenje na temelju papirologije.

“Ne mislim da naši nalazi znače da umjetna inteligencija zamjenjuje liječnike“, rekao je Arjun Manrai, jedan od glavnih autora studije koji vodi laboratorij za umjetnu inteligenciju na Medicinskom fakultetu Harvard. “Mislim da to znači da svjedočimo doista dubokoj promjeni u tehnologiji koja će preoblikovati medicinu”, dodao je.

Dr. Adam Rodman, još jedan glavni autor i liječnik u medicinskom centru Beth Israel Deaconess u Bostonu gdje se studija odvijala, rekao je da su programi umjetne inteligencije među “najutjecajnijim tehnologijama u desetljećima”. Tijekom sljedećeg desetljeća, rekao je, umjetna inteligencija neće zamijeniti liječnike, već će im se pridružiti u novom “trijadnom modelu skrbi… liječnik, pacijent i sustav umjetne inteligencije”.

Gotovo jedan od pet američkih liječnika već koristi umjetnu inteligenciju kao pomoć u dijagnozi, prema istraživanju objavljenom prošlog mjeseca. U Velikoj Britaniji 16% liječnika koristi tehnologiju svakodnevno, a dodatnih 15% tjedno, pri čemu je “kliničko donošenje odluka” jedna od najčešćih upotreba, prema nedavnom istraživanju Kraljevskog koledža liječnika, piše Guardian.

Najveće brige britanskih liječnika bile su pogreške umjetne inteligencije i rizici odgovornosti. Milijarde se ulažu u tvrtke za zdravstvenu skrb koje se temelje na umjetnoj inteligenciji, ali ostaju pitanja o posljedicama pogrešaka umjetne inteligencije.

“Trenutno ne postoji formalni okvir za odgovornost“, rekao je Rodman, koji je također naglasio da pacijenti u konačnici “žele da ih ljudi vode kroz odluke o životu ili smrti i da ih vode kroz izazovne odluke o liječenju”.

Nastavi čitati

Tech

ADAC objavio veliku analizu: Evo koji se automobili najviše kvare

Objavljeno

-

By

Pexels

Jesu li moderni automobili zaista pouzdaniji nego prije i kvare li se električni modeli rjeđe od klasičnih?

Odgovore na ta pitanja donosi najnovija statistika kvarova njemačkog ADAC-a za 2026. godinu.

Analiza obuhvaća čak 158 modela iz 27 automobilskih marki, a zaključak je jasan – moderni automobili ne kvare se češće, nego su u prosjeku pouzdaniji nego prije, piše tportal.

Iako mnogi vozači smatraju da su današnji automobili zbog kompleksnije tehnologije skloniji kvarovima, brojke pokazuju suprotno. Vjerojatnost kvara kod pet godina starog vozila pala je s 3,6 posto u 2015. na 2,1 posto u 2025. godini. Kod deset godina starih automobila smanjena je s 6,5 na 3,1 posto.

Drugim riječima, kvarovi su se u deset godina gotovo prepolovili.

Istodobno raste i prosječna starost vozila. Dok su automobili 2014. u prosjeku bili stari nešto više od osam godina, 2025. su dosegli oko 11 godina. Vozila koja završavaju u kvaru stara su u prosjeku gotovo 14 godina, što pokazuje da se granica pouzdanosti pomiče prema gore.

Najpouzdaniji proizvođači i modeli

Prema ADAC-u, među najpouzdanijim proizvođačima ističu se Audi, BMW, Mercedes, marke Volkswagen grupacije, kao i Mitsubishi i Tesla. Čak 74 modela ocijenjena su kao vrlo pouzdana, dok je samo 16 modela u pojedinim generacijama pokazalo slabije rezultate.

Najbolji u svojoj klasi

Mali gradski automobili: Dacia Spring, Škoda Citigo, Suzuki Ignis, Toyota Aygo, VW up!

Mali automobili: Audi A1, BMW i3, Mazda 2, Mazda CX-3, Mitsubishi Space Star, Opel Crossland, Renault Zoe, Seat Arona, Seat Ibiza, Škoda Fabia, Škoda Kamiq, Škoda Yeti, Suzuki Swift, Suzuki Vitara, VW Polo, VW T-Cross, VW Taigo

Niža srednja klasa: Audi A3, Audi Q2, Audi Q3, BMW Serije 1, BMW Serije 2/Active/Gran Tourer, BMW iX1, BMW X2, Cupra Born, Cupra Formentor, Cupra Leon, Mazda CX-5, Mercedes A-klasa, Mercedes B-klasa, Mercedes EQA, MG4, Mitsubishi ASX, Mitsubishi Eclipse Cross, Renault Austral, Seat Ateca, Seat Leon, Škoda Karoq, Škoda Rapid, Škoda Scala, Volvo XC40, VW Beetle, VW Golf, VW ID.3, VW Caddy, VW T-Roc, VW Tiguan, VW Touran

Srednja klasa: Audi A4, Audi A5, Audi Q4 e-tron, Audi Q5, BMW Serije 3, BMW Serije 4, BMW i4, BMW X3, Mercedes GLB, Seat Tarraco, Škoda Enyaq, Tesla Model 3, Tesla Model Y, VW ID.4, VW Passat

Viša srednja klasa: Audi e-tron/Q8 e-tron, BMW Serije 5, BMW X5, Mercedes GLE, VW Arteon

Transporteri i monovolumeni: Mercedes-Benz Sprinter

Najlošiji u svojoj klas

Mali gradski automobili: nema

Mali automobili: Opel Meriva (2016–2017), Toyota Yaris (2021–2023), Toyota Yaris Cross (2022–2023)

Niža srednja klasa: Nissan Qashqai (2019), Renault Scénic (2018–2019), Toyota Corolla (2023), Toyota C-HR (2020–2022), Mazda 3 (2020), Mazda CX-30 (2020), Ford Kuga (2021)

Srednja klasa: Opel Insignia (2016–2019, 2022), Toyota RAV4 (2017–2022), Ford S-Max (2016–2018), Hyundai Ioniq 5 (2022–2023)

Viša srednja klasa: nema

Transporteri i monovolumeni: Renault Master (2019), Fiat Ducato (2016–2021, 2023)

Nastavi čitati

Tech

VIDEO / Polarstern stigao do ruba svijeta: Znanstvenici otkrili nešto što nitko prije nije vidio

Objavljeno

-

By

Pixabay

Na rubu svijeta znanstvenici na istraživačkom brodu Polarstern naišli su na nešto što ljudske oči prvi put vide u povijesti

U doba satelita i preciznih karata, ideja o dosad neviđenom i neotkrivenom otoku djeluje gotovo nemoguća. No upravo se to dogodilo u ledenim vodama Weddellova mora kod Antarktike, gdje su znanstvenici naišli na nepoznatu kopnenu masu koja je desetljećima bila skrivena od pogleda svijeta.

Otkriće nije bilo planirano. Njemački istraživački brod Polarstern isplovio je u veljači ove godine na ekspediciju za proučavanje oceanskih struja.

Na brodu su bila 93 znanstvenika i člana posade, no ubrzo su ih zatekle snažne oluje u Južnom oceanu. Kako bi ih izbjegli, uputili su se prema obali otoka Joinville, gdje su trebali pronaći zaklon, piše ZME Science.

“Imamo otok”

Područje je na kartama bilo označeno tek nejasnim upozorenjem o “neucrtanim opasnostima za plovidbu”. Nitko nije znao što to točno znači, a upravo je ta nejasnoća pobudila znatiželju pomorskog kartografa Simona Dreuttera.

Promatrajući horizont s brodskog mosta, uočio je ono što je isprva izgledalo kao prljavi blok leda. No bliži pogled otkrio je nešto drugo.

“Vidjeli smo ‘ledenjak’ koji je izgledao pomalo neobično. Kako smo se približavali, shvatili smo da je riječ o stijeni. Tada je postalo jasno da je ispred nas otok“, objasnio je.

Tim se nije oslanjao samo na vizualna opažanja. Uz pomoć naprednog sonarnog sustava detaljno su skenirali morsko dno, a dron je snimio fotografije iz zraka. Rezultati su potvrdili da se ispred njih nalazi pravi otok, dug oko 130 metara i širok 50 metara, koji se uzdiže 16 metara iznad razine mora.

Ključno pitanje

Kako je takva kopnena masa mogla proći nezapaženo?

Jedno objašnjenje jest da je godinama bila skrivena pod ledom i snijegom, pa se doimala kao dio zaleđenog krajolika. Druga mogućnost je da je tek nedavno “izronila“ zbog topljenja leda.

Znanstvenici smatraju da klimatske promjene imaju važnu ulogu. Od 2017. godine količina ljetnog leda u sjeverozapadnom dijelu Weddellova mora naglo se smanjuje. Toplija površinska voda ubrzava topljenje, mijenjajući cijeli krajolik i otkrivajući prethodno skrivene dijelove planeta.

Istraživanja pokazuju i da se povećava količina slatke vode nastale topljenjem leda, koja se miješa sa slanom morskom vodom. Led postaje sve tanji i nestabilniji, što dodatno utječe na osjetljivi polarni ekosustav.

Novo otkriveni otok još nema ime. Proces njegova službenog uvrštavanja na karte dugotrajan je i uključuje međunarodne stručne odbore. No njegove su koordinate već unesene u globalne baze podataka, što znači da će ova nekada „nevidljiva“ kopnena masa uskoro dobiti svoje mjesto na svjetskim kartama.

Prema pomorskoj tradiciji, sami otkrivači predlažu ime, pa posada Polarsterna već razmišlja kako nazvati svoj neočekivani “ulov“.

Nastavi čitati
Oglasi
Oglasi
Oglasi
Oglasi

U trendu