Tech
Što ako AI završi u krivim rukama? Ovo su najgore stvari koje bi se mogle dogoditi
Administracija američkog predsjednika Joea Bidena spremna je otvoriti novo bojište u svojim nastojanjima da zaštiti američku umjetnu inteligenciju od Kine i Rusije s preliminarnim planovima za postavljanje zaštite oko najnaprednijih modela umjetne inteligencije.
Istraživači iz vladinog i privatnog sektora zabrinuti su da bi američki protivnici mogli koristiti modele, koji pretražuju goleme količine teksta i slika za sažimanje informacija i generiranje sadržaja, za kibernetičke napade ili čak proizvodnju snažnog biološkog oružja.
Evo nekih prijetnji koje predstavlja AI:
Deepfakes i dezinformacije
Deepfakeovi – realistični, ali izmišljeni videozapisi koje su izradili algoritmi umjetne inteligencije na temelju velikog broja objavljenih snimaka – pojavljuju se na društvenim mrežama, zamagljujući činjenice i fikciju u polariziranom svijetu američke politike.
Iako su takvi sintetički mediji prisutni već nekoliko godina, tijekom prošle godine pojačani su nizom novih “generativnih AI” alata kao što je Midjourney koji čine jeftinim i lakim stvaranje uvjerljivih deepfakeova.
Alati za izradu slika koje pokreće umjetna inteligencija tvrtki uključujući OpenAI i Microsoft mogu se koristiti za izradu fotografija koje bi mogle promicati dezinformacije povezane s izborima ili glasanjem, unatoč tome što svaki od njih ima politiku protiv stvaranja obmanjujućeg sadržaja, rekli su istraživači u izvješću u ožujku.
Neke kampanje dezinformiranja jednostavno koriste sposobnost umjetne inteligencije da oponaša stvarne novinske članke kao sredstvo za širenje lažnih informacija.
Dok su glavne platforme društvenih medija poput Facebooka, X-a (bivšeg Twittera) i YouTubea uložile napore u zabranu i uklanjanje deepfakeova, njihova učinkovitost u nadzoru nad takvim sadržajem varira.
Na primjer, prošle godine, stranica s vijestima pod kontrolom kineske vlade koja koristi generativnu AI platformu progurala je prethodno cirkuliranu lažnu tvrdnju da Sjedinjene Države vode laboratorij u Kazahstanu za stvaranje biološkog oružja za upotrebu protiv Kine, navodi Ministarstvo domovinske sigurnosti u svojoj procjeni domovinske za 2024.
Savjetnik za nacionalnu sigurnost Jake Sullivan, govoreći na skupu o AI-u u Washingtonu, rekao je da problem nema lakih rješenja jer kombinira kapacitet AI s “namjerom državnih i nedržavnih aktera da koriste dezinformacije u velikim razmjerima, poremete demokracije, unaprijede propagandu, oblikuju percepciju u svijetu.”
“U ovom trenutku napad uvelike nadmašuje kapacitete obrane,” upozorio je.
Biološko oružje
Američka obavještajna zajednica, think tankovi i akademici sve su više zabrinuti zbog rizika koje predstavljaju strani akteri koji dobivaju pristup naprednim AI sposobnostima.
Istraživači Gryphon Scientific i Rand Corporation primijetili su da napredni AI modeli mogu pružiti informacije koje bi mogle pomoći u stvaranju biološkog oružja.
Gryphon je proučavao kako se veliki jezični modeli (LLM) – računalni programi koji izvlače iz ogromnih količina teksta za generiranje odgovora na upite – mogu neprijateljima koristiti za nanošenje štete u domeni znanosti o životu i otkrio je da oni “mogu pružiti informacije koje bi mogle pomoći pri stvaranju biološkog oružja pružanjem korisnih, točnih i detaljnih informacija u svakom koraku na ovom putu.”
Otkrili su, na primjer, da LLM može pružiti znanje na postdoktorskoj razini za rješavanje problema pri radu s virusom sposobnim za pandemiju.
Randovo istraživanje pokazalo je da bi LLM mogli pomoći u planiranju i izvršenju biološkog napada. Otkrili su da doktor medicine može, na primjer, predložiti metode isporuke botulinum toksina aerosolom.
Novi napori za rješavanje prijetnji
Ministarstvo domovinske sigurnosti (DHS) priopćilo je da će cyber akteri vjerojatno koristiti umjetnu inteligenciju za “razvijanje novih alata” za “omogućavanje većih, bržih, učinkovitijih cyber napada” protiv kritične infrastrukture uključujući cjevovode i željeznice, u svojoj procjeni domovinske prijetnje za 2024.
Kina i drugi protivnici razvijaju AI tehnologije koje bi mogle potkopati kibernetičku obranu SAD-a, smatra DHS, uključujući generativne AI programe koji podržavaju napade zlonamjernog softvera.
Microsoft je u izvješću iz veljače rekao da je pratio hakerske grupe povezane s kineskom i sjevernokorejskom vladom, kao i ruskom vojnom obavještajnom službom i iranskom Revolucionarnom gardom, dok su pokušavali usavršiti svoje hakerske kampanje koristeći velike jezične modele.
Dvostranačka skupina zastupnika predstavila je nacrt zakona koji bi Bidenovoj administraciji olakšao nametanje kontrole izvoza modela umjetne inteligencije, u pokušaju da zaštiti cijenjenu američku tehnologiju od stranih loših aktera.
Prijedlog zakona, koji su sponzorirali republikanci u Zastupničkom domu Michael McCaul i John Molenaar te demokrati Raja Krishnamoorthi i Susan Wild, također bi Ministarstvu trgovine dao izričitu ovlast da zabrani Amerikancima da rade sa strancima na razvoju sustava umjetne inteligencije koji predstavljaju rizik za nacionalnu sigurnost SAD-a.
Tony Samp, savjetnik za politiku umjetne inteligencije u DLA Piperu u Washingtonu, rekao je da kreatori politike u Washingtonu pokušavaju “poticati inovacije i izbjegavati oštre propise koji guše inovacije” dok se nastoje pozabaviti brojnim rizicima koje donosi tehnologija.
No upozorio je da bi “suzbijanje razvoja umjetne inteligencije kroz regulaciju moglo spriječiti potencijalne proboje u područjima kao što su otkrivanje lijekova, infrastruktura, nacionalna sigurnost i druga, te ustupiti teren konkurenciji u inozemstvu”.
Tech
GOOGLE IDE KORAK DALJE / “Osobna inteligencija”: AI sada „zna“ vaše navike, putovanja i stil života
Google koristi svoju tehnologiju umjetne inteligencije kako bi svojoj dominantnoj tražilici omogućio novi uvid u interese, navike, planove putovanja i fotografije korisnika s ciljem pružanja prilagođenih odgovora
Nova opcija, koja se uvela jučer, milijunima će ljudi dati mogućnost uključivanja nedavno predstavljenog alata nazvanog “Osobna inteligencija” unutar AI načina rada dostupnog na Googleovoj tražilici od prošle godine, piše AP News.
Kako funkcionira nova opcija
Ako se uključi, novi alat povezat će Googleov AI način rada s aplikacijama Gmail i Google Photos kako bi tehnologija mogla naučiti više o životu svakog korisnika i pružiti relevantnije odgovore prilagođene osobnim ukusima.
Na primjer, netko bi mogao zatražiti prijedloge za vikend putovanje i dobiti brzu preporuku temeljenu na prethodnim putovanjima i iskustvima. U AI načinu rada, tražilica bi također mogla automatski znati omiljene restorane osobe ili prepoznati preferirane stilove odijevanja pregledavanjem starih slika pohranjenih u Google Photosu.
Izjava iz Googlea i povjerenje korisnika
“Osobna inteligencija pretvara pretraživanje u iskustvo koje se čini jedinstveno vašim povezivanjem informacija iz različitih Google aplikacija”, napisao je u blogu Robby Stein, potpredsjednik u Google Searchu. Stein je također upozorio da “Osobna inteligencija” neće uvijek davati najbolje odgovore, što je nedostatak koji korisnici mogu pomoći ispraviti povratnim informacijama.
U početku će tehnologija biti ponuđena u SAD-u pretplatnicima na Google AI Pro i Ultra, kao i opcija unutar eksperimentalnog odjela Labs za sve s osobnim Google računom.
Uključivanje opcije zahtijevat će od korisnika da vjeruju Googleovoj tražilici da će zaštititi detalje o njihovim životima. Međutim, milijuni ljudi to već implicitno čine desetljećima unoseći ponekad intimne upite u tražilicu ili dijeleći osobne podatke unutar Gmaila i aplikacije Photos.
Dio šire AI strategije
Uvođenje “Osobne inteligencije” u Google pretraživanje najnoviji je znak ambicija tvrtke da svoj arsenal digitalnih usluga učini još moćnijim uz pomoć najnovijeg AI modela, Gemini 3i, koji je izašao u studenom. Ranije ovog mjeseca, Google je poduzeo prve korake prema pretvaranju Gmaila u osobnog asistenta pokretanog umjetnom inteligencijom.
Utjecaj Geminija proširit će se i na iPhone, iPad i Mac nakon što je Apple prošlog tjedna odlučio udružiti se s Googleom kako bi donio više AI alata na te proizvode. Partnerstvo će se usredotočiti na dugogodišnji napor da se Appleov često nespretni digitalni asistent, Siri, pretvori u svestranijeg pomoćnika sposobnog za razgovor.
Konkurencija i pravni status
Iako je američki savezni sudac 2024. godine Googleovu tražilicu proglasio ilegalnim monopolom, ona i dalje ostaje glavni internetski pristupnik, istovremeno se pokušavajući obraniti od konkurentskih prijetnji AI pokretanih alata za odgovore, kao što su ChatGPT i Perplexity.
Potencijalno revolucionarne promjene koje donosi umjetna inteligencija pomogle su uvjeriti suca koji je Google proglasio monopolom da odbije prijedlog američkog Ministarstva pravosuđa koji bi tvrtku prisilio na prodaju svog web preglednika Chrome kako bi se suzbile buduće zlouporabe na tržištu.
Tech
Popis uređaja koji u 2026. postaju nesigurni za korištenje
Korisnici brojnih Xiaomi pametnih telefona trebali bi pravovremeno reagirati kako bi izbjegli sigurnosne rizike. Kineski proizvođač konkretizirao je planove za 2026. godinu, prema kojima brojni modeli dostižu takozvani „End-of-Life“ status, što znači da više neće primati sigurnosna ažuriranja niti sustavne nadogradnje.
Ovi uređaji gube podršku u 2026. godini:
Pogođeni su modeli iz 2022. godine, uključujući glavnu marku Xiaomi te podbrandove Redmi i Poco:
- Poco X5 Pro 5G: 6. veljače 2026.
- Redmi 12C: 10. ožujka 2026.
- Xiaomi 12 i Xiaomi 12 Pro: 17. ožujka 2026.
- Redmi Note 12 5G: 23. ožujka 2026.
- Redmi Note 12 Pro: 20. travnja 2026.
- Poco F5 i Poco F5 Pro: 9. svibnja 2026.
- Xiaomi 12 Lite: 1. srpnja 2026.
- Xiaomi 12T i Xiaomi 12T Pro: 13. listopada 2026.
- Poco C65: 6. studenog 2026.
Zašto je nedostatak ažuriranja problematičan?
Iako će telefoni i dalje raditi, bez sigurnosnih zakrpa novootkriveni propusti ostaju otvoreni za napadače koji ih mogu iskoristiti za instalaciju zlonamjernog softvera ili krađu podataka. Poseban problem predstavljaju aplikacije za bankarstvo, koje bi nakon nekog vremena mogle blokirati pristup uređajima bez aktualnih ažuriranja zbog sigurnosnih zahtjeva.
Xiaomi za ove uređaje nudi maksimalno četiri godine podrške, što je znatno kraće u usporedbi sa Samsungom, Googleom ili Fairphoneom, koji za svoje top modele obećavaju sedam godina ažuriranja. Od lipnja 2025. nova uredba EU o ekodizajnu propisivat će najmanje pet godina ažuriranja za nove uređaje, no modeli iz 2022. ne potpadaju pod tu regulaciju, piše Fenix Magazin.
Tech
POSEBNO TIJEKOM BLAGDANA / FBI upozorava korisnike iPhonea i Androida: Odmah prekinite poziv ako ovo čujete!
Prevaranti često koriste tehnologiju za „lažiranje” broja pozivatelja, pa se na zaslonu može pojaviti naziv institucije kojoj inače vjerujete.
Korisnici iPhonea i Androida trebali bi biti posebno oprezni – FBI je izdao jasno upozorenje o telefonskim prijevarama koje se sve češće pojavljuju, osobito u blagdansko vrijeme, piše UNILAD.
Ako primite određenu vrstu poziva, savjet je jasan: odmah prekinite vezu. Nekada su telefonski pozivi bili glavni oblik komunikacije, no danas se navike mijenjaju. Istraživanja pokazuju da se pripadnici generacije Z često osjećaju nelagodno razgovarajući telefonom, posebno s nepoznatim osobama. Ipak, upravo takvi pozivi mogu predstavljati ozbiljan sigurnosni rizik, jer su telefonske prijevare u stalnom porastu.
FBI upozorava da su se metode prevaranata znatno usavršile. Posebno su aktivni tijekom blagdana, kada mnogi dobivaju nove pametne telefone i manje su oprezni. Najčešći scenarij uključuje lažno predstavljanje kao tehnička podrška, banka ili financijska institucija, carinska i granična služba ili lokalna policija, prenosi City Magazine.
Prevaranti često koriste tehnologiju za „lažiranje” broja pozivatelja, pa se na zaslonu može pojaviti naziv institucije kojoj inače vjerujete. Nakon toga vas pokušavaju navesti da hitno prebacite novac, podijelite osobne podatke ili instalirate zlonamjerni softver na svoj uređaj.
Osjećaj hitnosti kao alat manipulacije
Klasična taktika je stvaranje panike. Prevaranti će vas uvjeravati da je vaš bankovni račun ugrožen, da vam prijeti uhićenje ili da morate odmah reagirati kako biste izbjegli ozbiljne posljedice. Upravo taj pritisak smanjuje sposobnost racionalnog razmišljanja.
Jednom kada se zlonamjerni softver instalira na uređaj, posljedice mogu biti ozbiljne – od krađe podataka o kreditnim karticama i internetskom bankarstvu, do pristupa fotografijama, kontaktima i privatnim porukama.
Opasnost vreba i iza QR kodova
Stručnjaci upozoravaju i na sve češće zloupotrebe QR kodova. Jedno skeniranje naizgled bezazlenog koda može omogućiti potpun pristup vašem telefonu, uključujući financijske i osobne podatke. Zato je važno skenirati isključivo QR kodove iz pouzdanih izvora.
Što savjetuje FBI?
Ako primite neželjeni poziv, a niste vi prvi kontaktirali instituciju – odmah prekinite vezu. Čak i ako se poziv čini legitimnim, FBI ističe da je vjerojatnost da je riječ o prijevari dovoljno velika da ne vrijedi riskirati. Ako sumnjate u autentičnost poziva, sami nazovite službeni broj banke, policije ili institucije s njihove službene internetske stranice – nikada ne koristite broj koji vam je dao pozivatelj.
Zaključak je jasan: nijedna legitimna institucija neće od vas telefonom tražiti novac, lozinke ili instalaciju softvera. Ako dobijete takav poziv – prekinite vezu i zaštitite svoje podatke.






