Connect with us

Tech

Što ako AI završi u krivim rukama? Ovo su najgore stvari koje bi se mogle dogoditi

Objavljeno

-

unsplash

Administracija američkog predsjednika Joea Bidena spremna je otvoriti novo bojište u svojim nastojanjima da zaštiti američku umjetnu inteligenciju od Kine i Rusije s preliminarnim planovima za postavljanje zaštite oko najnaprednijih modela umjetne inteligencije.

Istraživači iz vladinog i privatnog sektora zabrinuti su da bi američki protivnici mogli koristiti modele, koji pretražuju goleme količine teksta i slika za sažimanje informacija i generiranje sadržaja, za kibernetičke napade ili čak proizvodnju snažnog biološkog oružja.

Evo nekih prijetnji koje predstavlja AI:

Deepfakes i dezinformacije

Deepfakeovi – realistični, ali izmišljeni videozapisi koje su izradili algoritmi umjetne inteligencije na temelju velikog broja objavljenih snimaka – pojavljuju se na društvenim mrežama, zamagljujući činjenice i fikciju u polariziranom svijetu američke politike.

Iako su takvi sintetički mediji prisutni već nekoliko godina, tijekom prošle godine pojačani su nizom novih “generativnih AI” alata kao što je Midjourney koji čine jeftinim i lakim stvaranje uvjerljivih deepfakeova.

Alati za izradu slika koje pokreće umjetna inteligencija tvrtki uključujući OpenAI i Microsoft mogu se koristiti za izradu fotografija koje bi mogle promicati dezinformacije povezane s izborima ili glasanjem, unatoč tome što svaki od njih ima politiku protiv stvaranja obmanjujućeg sadržaja, rekli su istraživači u izvješću u ožujku.

Neke kampanje dezinformiranja jednostavno koriste sposobnost umjetne inteligencije da oponaša stvarne novinske članke kao sredstvo za širenje lažnih informacija.

Dok su glavne platforme društvenih medija poput Facebooka, X-a (bivšeg Twittera) i YouTubea uložile napore u zabranu i uklanjanje deepfakeova, njihova učinkovitost u nadzoru nad takvim sadržajem varira.

Na primjer, prošle godine, stranica s vijestima pod kontrolom kineske vlade koja koristi generativnu AI platformu progurala je prethodno cirkuliranu lažnu tvrdnju da Sjedinjene Države vode laboratorij u Kazahstanu za stvaranje biološkog oružja za upotrebu protiv Kine, navodi Ministarstvo domovinske sigurnosti u svojoj procjeni domovinske za 2024.

Savjetnik za nacionalnu sigurnost Jake Sullivan, govoreći na skupu o AI-u u Washingtonu, rekao je da problem nema lakih rješenja jer kombinira kapacitet AI s “namjerom državnih i nedržavnih aktera da koriste dezinformacije u velikim razmjerima, poremete demokracije, unaprijede propagandu, oblikuju percepciju u svijetu.”

“U ovom trenutku napad uvelike nadmašuje kapacitete obrane,” upozorio je.

Biološko oružje

Američka obavještajna zajednica, think tankovi i akademici sve su više zabrinuti zbog rizika koje predstavljaju strani akteri koji dobivaju pristup naprednim AI sposobnostima.

Istraživači Gryphon Scientific i Rand Corporation primijetili su da napredni AI modeli mogu pružiti informacije koje bi mogle pomoći u stvaranju biološkog oružja.

Gryphon je proučavao kako se veliki jezični modeli (LLM) – računalni programi koji izvlače iz ogromnih količina teksta za generiranje odgovora na upite – mogu neprijateljima koristiti za nanošenje štete u domeni znanosti o životu i otkrio je da oni “mogu pružiti informacije koje bi mogle pomoći pri stvaranju biološkog oružja pružanjem korisnih, točnih i detaljnih informacija u svakom koraku na ovom putu.”

Otkrili su, na primjer, da LLM može pružiti znanje na postdoktorskoj razini za rješavanje problema pri radu s virusom sposobnim za pandemiju.

Randovo istraživanje pokazalo je da bi LLM mogli pomoći u planiranju i izvršenju biološkog napada. Otkrili su da doktor medicine može, na primjer, predložiti metode isporuke botulinum toksina aerosolom.

Novi napori za rješavanje prijetnji

Ministarstvo domovinske sigurnosti (DHS) priopćilo je da će cyber akteri vjerojatno koristiti umjetnu inteligenciju za “razvijanje novih alata” za “omogućavanje većih, bržih, učinkovitijih cyber napada” protiv kritične infrastrukture uključujući cjevovode i željeznice, u svojoj procjeni domovinske prijetnje za 2024.

Kina i drugi protivnici razvijaju AI tehnologije koje bi mogle potkopati kibernetičku obranu SAD-a, smatra DHS, uključujući generativne AI programe koji podržavaju napade zlonamjernog softvera.

Microsoft je u izvješću iz veljače rekao da je pratio hakerske grupe povezane s kineskom i sjevernokorejskom vladom, kao i ruskom vojnom obavještajnom službom i iranskom Revolucionarnom gardom, dok su pokušavali usavršiti svoje hakerske kampanje koristeći velike jezične modele.

Dvostranačka skupina zastupnika predstavila je nacrt zakona koji bi Bidenovoj administraciji olakšao nametanje kontrole izvoza modela umjetne inteligencije, u pokušaju da zaštiti cijenjenu američku tehnologiju od stranih loših aktera.

Prijedlog zakona, koji su sponzorirali republikanci u Zastupničkom domu Michael McCaul i John Molenaar te demokrati Raja Krishnamoorthi i Susan Wild, također bi Ministarstvu trgovine dao izričitu ovlast da zabrani Amerikancima da rade sa strancima na razvoju sustava umjetne inteligencije koji predstavljaju rizik za nacionalnu sigurnost SAD-a.

Tony Samp, savjetnik za politiku umjetne inteligencije u DLA Piperu u Washingtonu, rekao je da kreatori politike u Washingtonu pokušavaju “poticati inovacije i izbjegavati oštre propise koji guše inovacije” dok se nastoje pozabaviti brojnim rizicima koje donosi tehnologija.

No upozorio je da bi “suzbijanje razvoja umjetne inteligencije kroz regulaciju moglo spriječiti potencijalne proboje u područjima kao što su otkrivanje lijekova, infrastruktura, nacionalna sigurnost i druga, te ustupiti teren konkurenciji u inozemstvu”.

 
Nastavi čitati
Kliknite za komentar

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Tech

“KOŠARICA” / Zadrani osmislili aplikaciju za lakšu i bolju kupovinu! Pregled akcijskih ponuda, praćenje radnog vremena…

Objavljeno

-

By

Zadarski startup Smart Solutions Zadar lansirao je krajem 2022. godine mobilnu i web aplikaciju Košarica koja je ubrzo postala nezamjenjiv alat za više od 60.000 korisnika na Android i iOS platformama. Ova inovativna aplikacija, koja je dostupna besplatno nastavlja se kontinuirano razvijati i nadograđivati, nudeći korisnicima sveobuhvatno rješenje za pametnu kupovinu.

Aplikacija Košarica zamišljena je kao jedinstveni alat za planiranje kupovine i ostvarivanje ušteda. Ne morate više pregledavati papirnate kataloge niti surfati raznim web stranicama jer sve što vam treba je u jednoj aplikaciji. Uz već poznate funkcionalnosti kao što su pregled trenutnih i budućih ponuda u više od 45 trgovina, kreiranje liste za kupovinu (Košarice) po trgovinama, praćenje cijena omiljenih artikala, dvojni prikaz cijena i konverter valute, dodali smo i neke nove koje će zasigurno koristiti svima.

Aplikacija omogućuje pregled trgovina koje su otvorene predstojeće nedjelje u vašoj blizini. Jednostavno filtrirajte popis po nazivu trgovine ili gradu te u par klikova saznajte koje su trgovine otvorene. Trenutno pokrivamo više od 8.300 lokacija na području Hrvatske – shopping centri, trgovine, ljekarne i pekarne. Lokacije možete i jednostavno pregledati na karti i dodati podsjetnik kako bi vas sustav dan prije obavijestio o radnom vremenu za nedjelju. Tu je i pregled različitih posebnih ponuda u većim shopping centrima kako vam niti jedna ne bi promaknula.

Za sve koji vole imati sve na jednom mjestu dodali smo i mogućnost skeniranja i spremanja različitih kartica vjernosti svih trgovina. Možete odabrati iz postojeće liste te jednostavno skenirati vlastitu karticu te će vam ona biti spremna unutar aplikacije za buduće korištenje. Tu su i različite aplikacije trgovina koje jednim klikom možete pokrenuti iz Košarice.

Većina novih opcija dostupna je kroz izbornik Više unutar aplikacije. Mobilna aplikacija Košarica od lipnja je dostupna bez reklama za sve korisnike kako bi imali što bolje korisničko iskustvo. Za sve koje žele imati i dodatne funkcionalnosti tu je i opcija mjesečne ili godišnje pretplate. Za cijenu manju od jedne kave možete dobiti pristup dodatnim funkcionalnostima od kojih izdvajamo mogućnost automatskog dodavanja artikla iz kataloga u Košaricu.

Jedna od korisnijih funkcionalnosti mobilne aplikacije Košarica je kreiranje vlastitog kataloga u PDF formatu na temelju dodanih proizvoda u Košarici. Katalog se može kreirati jednim klikom te ga kasnije možete dijeliti s prijateljima.

Uz sve to nudimo i pregled benzinskih postaja, radnih vremena te aktualnih cijena goriva na istima. Aplikacija vam šalje i obavijest o promijeni cijena goriva kako bi bili na vrijeme obaviješteni o svakoj nadolazećoj izmjeni. Za potrebe mobilne aplikacije otvorili smo Youtube kanal te ćemo na njemu postavljati upute o korištenju aplikacije da bi upoznali korisnike sa svim mogućnostima. Sve funkcionalnosti su dostupne na Android uređajima dok se ažuriranje verzije za iOS korisnike očekuje sljedećeg tjedna.

Kako bi ponudili korisnicima što više mogućnosti, razvili smo i web stranicu Košarica.app koja je dostupna za web i mobilne uređaje. Na njoj je moguće pretraživati trgovine i akcijske ponude u njima te kreirati vlastitu košaricu za kupovinu. Tu je i opcija spremanja kataloga u PDF formatu. Također, moguće je pregledati radno vrijeme za nadolazeću nedjelju na karti, pretražiti trgovine po adresi ili nazivu te postaviti podsjetnik za omiljene trgovine. Jednim klikom dodajte omiljene trgovine na listu te na jednom ekranu pratite aktualno radno vrijeme. Web stranica je besplatna za korištenje, nema reklama te nudi jednostavno korištenje. Ista će s vremenom biti nadograđena sa dodatnim funkcionalnostima. Uskoro stiže i mogućnost kreiranja Košarice na webu te slanja u mobilnu aplikaciju.

Aplikacija Košarica dokaz je da je uz puno truda, rada i volje moguće razviti vrhunski proizvod čak i iz malog zadarskog startupa. Pozivamo sve da preuzmu aplikaciju i uvjere se u njezine brojne prednosti. Za sva dodatna pitanja stojim na raspolaganju. Sve novosti o aplikaciji možete pratiti na društvenim mrežama: Facebook, Instagram i TikTok.

 
Nastavi čitati

Tech

Upozorenje korisnicima iPhonea nakon hakerskog napada

Objavljeno

-

By

pexels

Apple upozorava korisnike iPhonea na masovni kibernetički napad, pozivajući na pojačane sigurnosne mjere i oprez protiv krađe identiteta i prijevare.

Apple je izdao nove smjernice za korisnike iPhonea nakon značajnog kibernetičkog napada koji je zahvatio više od milijardu tih uređaja proteklog tjedna, prenosi Zimo.

Iz Applea korisnike upozoravaju na taktike društvenog inženjeringa, u kojima hakeri glume predstavnike Applea kako bi dobili osjetljive informacije, poput vjerodajnica za prijavu, sigurnosnih kodova i financijskih detalja.

Korisnici bi trebali paziti na phishing e-poštu, zavaravajuće skočne oglase, lažne promocije, neželjene kalendarske pozivnice i lažne pozive.

Omogućivanje dvofaktorske autentifikacije ključan je prvi korak za vlasnike iPhonea da osiguraju svoje korisničke račune.

Savjeti korisnicima

Apple savjetuje korisnicima da budu oprezni s lažnim pozivima za koje se čini da dolaze s legitimnih brojeva.

Ti pozivi često uključuju prevarante koji se pretvaraju da rješavaju probleme s računom ili neovlaštena terećenja na Apple Payu, stvarajući osjećaj hitnosti da se izvrši pritisak na korisnike da se pridržavaju pravila.

Na primjer, prevarant može reći da možete slobodno nazvati Apple, ali će se prijevarne aktivnosti nastaviti i vi ćete biti odgovorni.

To je laž i osmišljeno je kako bi vas spriječilo da prekinete vezu, upozoravaju iz Applea.

Prevaranti mogu tražiti od korisnika da onemoguće sigurnosne značajke kao što su dvofaktorska provjera autentičnosti ili zaštita od ukradenog uređaja, tvrdeći da je to neophodno za zaustavljanje napada ili vraćanje kontrole nad računom.

Oni će tvrditi da je to neophodno kako bi se zaustavio napad ili kako bi vam se omogućilo da ponovno preuzmete kontrolu nad svojim računom.

Međutim, oni vas pokušavaju prevariti da vam smanje sigurnost korisničkog računa, kako bi mogli izvesti vlastiti napad, pojašnjavaju iz Applea.

Kako bi identificirali lažnu komunikaciju, korisnici bi trebali pažljivo proučiti pošiljateljevu e-poštu ili telefonski broj, provjeriti podudara li se URL s Appleovim službenim stranicama i biti oprezni sa zahtjevima za osobnim podacima poput lozinki ili brojeva kreditnih kartica.

Ako su u nedoumici, korisnici bi trebali poklopiti slušalicu i izravno se obratiti Appleu ili prijaviti prijevaru američkoj Saveznoj komisiji za trgovinu ili lokalnoj policiji.

SMS phishing kampanja

Navedeno upozorenje iz Applea slijedi SMS phishing kampanju u kojoj su napadači slali lažne poruke pozivajući korisnike iPhonea da posjete zlonamjernu poveznicu u vezi problema s iCloudom.

Symantec, sigurnosna tvrtka sa sjedištem u Kaliforniji, upozorila je na taj napad, ističući da je poveznica vodila do lažne web stranice dizajnirane za krađu Apple ID podataka.

Akteri krađe identiteta nastavljaju ciljati na Apple ID-ove, zbog njihove raširene upotrebe, koja nudi pristup velikom broju potencijalnih žrtava, poručili su iz Symanteca.

Apple naglašava da njegovi predstavnici nikada neće tražiti od korisnika da se prijave putem poveznice ili tražiti lozinke uređaja ili autentifikacijske kodove.

Ako vas netko tko tvrdi da je iz Applea traži bilo što od navedenog, riječ je o prevarantu koji je uključen u napad društvenim inženjeringom.

Prekinite poziv ili na neki drugi način prekinite kontakt s njima, poručili su na kraju iz Applea.

 
Nastavi čitati

Tech

Znate li za ovu opciju na mobitelu? Odmah će otkriti imate li zlonamjerne aplikacije

Objavljeno

-

By

Pixabay

Jedna Googleova značajka može otkriti imate li na svom uređaju opasne, zlonamjerne aplikacije.

Aplikacije koje sadrže zlonamjerni softver mogu izazvati ozbiljnu štetu i probleme – mogu vas špijunirati, ukrasti vam podatke ili čak i novac, a mogu i usporiti rad vašeg uređaja.

Google Play Protect nudi vam priliku da uočite i prepoznate takve lažne aplikacije i izbrišete ih. U pitanju je značajka koju je vrlo jednostavno koristiti, a sve traje vrlo kratko, navodi Sun.

Što napraviti?

Otvorite Trgovinu Google Play -> kliknite na ikonu profila u gornjem desnom kutu -> otvorite Play Protect -> Postavke -> uključite Skeniraj aplikacije pomoću Play Protecta.

Bit će skenirane sve aplikacije koje ste preuzeli putem Trgovine Play. No, ako ste preuzeli neke aplikacije i putem drugih izvora možete uključiti opciju ‘Poboljšaj otkrivanje štetnih aplikacija’ u izborniku postavki (eng. Harmful App Detection).

Ovaj proces skeniranja bi trebao potrajati samo nekoliko sekundi. Ako se otkrije zlonamjerna aplikacija, korisniku će se sugerirati da nešto poduzme po tom pitanju.

U tom slučaju možete deinstalirati spornu aplikaciju kako ne bi nastala šteta.

 
Nastavi čitati
Oglasi
Oglasi
Oglasi
Oglasi

U trendu