Connect with us

Tech

Što ako AI završi u krivim rukama? Ovo su najgore stvari koje bi se mogle dogoditi

Objavljeno

-

unsplash

Administracija američkog predsjednika Joea Bidena spremna je otvoriti novo bojište u svojim nastojanjima da zaštiti američku umjetnu inteligenciju od Kine i Rusije s preliminarnim planovima za postavljanje zaštite oko najnaprednijih modela umjetne inteligencije.

Istraživači iz vladinog i privatnog sektora zabrinuti su da bi američki protivnici mogli koristiti modele, koji pretražuju goleme količine teksta i slika za sažimanje informacija i generiranje sadržaja, za kibernetičke napade ili čak proizvodnju snažnog biološkog oružja.

Evo nekih prijetnji koje predstavlja AI:

Deepfakes i dezinformacije

Deepfakeovi – realistični, ali izmišljeni videozapisi koje su izradili algoritmi umjetne inteligencije na temelju velikog broja objavljenih snimaka – pojavljuju se na društvenim mrežama, zamagljujući činjenice i fikciju u polariziranom svijetu američke politike.

Iako su takvi sintetički mediji prisutni već nekoliko godina, tijekom prošle godine pojačani su nizom novih “generativnih AI” alata kao što je Midjourney koji čine jeftinim i lakim stvaranje uvjerljivih deepfakeova.

Alati za izradu slika koje pokreće umjetna inteligencija tvrtki uključujući OpenAI i Microsoft mogu se koristiti za izradu fotografija koje bi mogle promicati dezinformacije povezane s izborima ili glasanjem, unatoč tome što svaki od njih ima politiku protiv stvaranja obmanjujućeg sadržaja, rekli su istraživači u izvješću u ožujku.

Neke kampanje dezinformiranja jednostavno koriste sposobnost umjetne inteligencije da oponaša stvarne novinske članke kao sredstvo za širenje lažnih informacija.

Dok su glavne platforme društvenih medija poput Facebooka, X-a (bivšeg Twittera) i YouTubea uložile napore u zabranu i uklanjanje deepfakeova, njihova učinkovitost u nadzoru nad takvim sadržajem varira.

Na primjer, prošle godine, stranica s vijestima pod kontrolom kineske vlade koja koristi generativnu AI platformu progurala je prethodno cirkuliranu lažnu tvrdnju da Sjedinjene Države vode laboratorij u Kazahstanu za stvaranje biološkog oružja za upotrebu protiv Kine, navodi Ministarstvo domovinske sigurnosti u svojoj procjeni domovinske za 2024.

Savjetnik za nacionalnu sigurnost Jake Sullivan, govoreći na skupu o AI-u u Washingtonu, rekao je da problem nema lakih rješenja jer kombinira kapacitet AI s “namjerom državnih i nedržavnih aktera da koriste dezinformacije u velikim razmjerima, poremete demokracije, unaprijede propagandu, oblikuju percepciju u svijetu.”

“U ovom trenutku napad uvelike nadmašuje kapacitete obrane,” upozorio je.

Biološko oružje

Američka obavještajna zajednica, think tankovi i akademici sve su više zabrinuti zbog rizika koje predstavljaju strani akteri koji dobivaju pristup naprednim AI sposobnostima.

Istraživači Gryphon Scientific i Rand Corporation primijetili su da napredni AI modeli mogu pružiti informacije koje bi mogle pomoći u stvaranju biološkog oružja.

Gryphon je proučavao kako se veliki jezični modeli (LLM) – računalni programi koji izvlače iz ogromnih količina teksta za generiranje odgovora na upite – mogu neprijateljima koristiti za nanošenje štete u domeni znanosti o životu i otkrio je da oni “mogu pružiti informacije koje bi mogle pomoći pri stvaranju biološkog oružja pružanjem korisnih, točnih i detaljnih informacija u svakom koraku na ovom putu.”

Otkrili su, na primjer, da LLM može pružiti znanje na postdoktorskoj razini za rješavanje problema pri radu s virusom sposobnim za pandemiju.

Randovo istraživanje pokazalo je da bi LLM mogli pomoći u planiranju i izvršenju biološkog napada. Otkrili su da doktor medicine može, na primjer, predložiti metode isporuke botulinum toksina aerosolom.

Novi napori za rješavanje prijetnji

Ministarstvo domovinske sigurnosti (DHS) priopćilo je da će cyber akteri vjerojatno koristiti umjetnu inteligenciju za “razvijanje novih alata” za “omogućavanje većih, bržih, učinkovitijih cyber napada” protiv kritične infrastrukture uključujući cjevovode i željeznice, u svojoj procjeni domovinske prijetnje za 2024.

Kina i drugi protivnici razvijaju AI tehnologije koje bi mogle potkopati kibernetičku obranu SAD-a, smatra DHS, uključujući generativne AI programe koji podržavaju napade zlonamjernog softvera.

Microsoft je u izvješću iz veljače rekao da je pratio hakerske grupe povezane s kineskom i sjevernokorejskom vladom, kao i ruskom vojnom obavještajnom službom i iranskom Revolucionarnom gardom, dok su pokušavali usavršiti svoje hakerske kampanje koristeći velike jezične modele.

Dvostranačka skupina zastupnika predstavila je nacrt zakona koji bi Bidenovoj administraciji olakšao nametanje kontrole izvoza modela umjetne inteligencije, u pokušaju da zaštiti cijenjenu američku tehnologiju od stranih loših aktera.

Prijedlog zakona, koji su sponzorirali republikanci u Zastupničkom domu Michael McCaul i John Molenaar te demokrati Raja Krishnamoorthi i Susan Wild, također bi Ministarstvu trgovine dao izričitu ovlast da zabrani Amerikancima da rade sa strancima na razvoju sustava umjetne inteligencije koji predstavljaju rizik za nacionalnu sigurnost SAD-a.

Tony Samp, savjetnik za politiku umjetne inteligencije u DLA Piperu u Washingtonu, rekao je da kreatori politike u Washingtonu pokušavaju “poticati inovacije i izbjegavati oštre propise koji guše inovacije” dok se nastoje pozabaviti brojnim rizicima koje donosi tehnologija.

No upozorio je da bi “suzbijanje razvoja umjetne inteligencije kroz regulaciju moglo spriječiti potencijalne proboje u područjima kao što su otkrivanje lijekova, infrastruktura, nacionalna sigurnost i druga, te ustupiti teren konkurenciji u inozemstvu”.

 
Nastavi čitati
Kliknite za komentar

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Tech

(FOTO) SKUP “50 GODINA POSLIJE” NA SVEUČILIŠTU U ZADRU / Tankerska plovidba platila je prvo računalo 500.000 dolara, nabavljeno je zaobilaznim putem preko Malezije

Objavljeno

-

By

Sveučilište u Zadru i Udruga za promicanje tehničkih znanosti History Computers Adria u povodu pedesete obljetnice primjene računala u zadarskom gospodarstvu organizirali su skup “50 godina poslije”, kojim su željeli podsjetiti na povijesni pregled računarstva u Zadru te problematizirati utjecaj razvoja informacijskih tehnologija na gospodarstvo, kulturu i druga područja, s osobitim osvrtom na utjecaj umjetne inteligencije.

Predsjednik udruge Željko Škara podsjetio je sudionike na pionirsko doba uporabe računala u Zadru, a ono je krenulo 1974. godine, kada je Nino Dellavia baš u zgradi Tehničke škole, danas SEP Sveučilišta u Zadru, u kojoj je održan ovaj skup, održavao prve seminare o računalima. Prvo računalo IMB S3 tada je nabavila Tankerska plovidba, i to zaobilaznim putem preko Malezije, jer SAD nije dopuštao prodaju sofisticirane tehnologije socijalističkim zemljama.

Prvo računalo plaćeno je 500 tisuća dolara, no kada je ono došlo nije bilo alata, edukacije, programa. Potrošio se veliki novac, pomaka u proizvodnom procesu nije bilo jer se paralelno sve radilo ručno, a o profitabilnosti da se ne govori. Ipak, ti pionirski koraci otvorili su prostor  za edukaciju, stvaranje prve generacije zadarskih informatičara koji će kasnije spremni dočekati revoluciju i prelazak na PC-e početkom osamdesetih. Kada su velike ormare zamijenila računala kakva i danas poznajemo, a cijena se smanjila, njihova upotreba se proširila u zadarskom gospodarstvu.

– Naši gospodarstvenici znali su da moraju ići ukorak sa svijetom, gospodarstvo je bilo na niskoj razini, s ručnim radom i previše radne snage. Vidjeli su da su na Zapadu računalima unaprijedili produktivnost te su to vidjeli kao izlaz iz problema. Nažalost, u tim okolnostima nije moglo biti profitabilno, ali je proces pokrenut. Nekada je računarski centar imala svaka veća firma u Zadru, danas je ostao samo OTP banka, čiji su sustav stvarali zadarski informatičari. Razvilo se niz malih firmi koje su našle svoje niše za funkcioniranje u suvremenim uvjetima, istaknuo je Škara u povijesnom pregledu.

U osposobljavanje nove generacije stručnjaka uključilo se svojim programima i Sveučilište u Zadru.

– Možemo zamisliti uzbuđenje kada su rova računala došla zadarskim gospodarstvenicima i kada su oni prepoznali značaj tehnologije. Možda su neki osjećali strah, ali i ponos što su postavljali temelje gospodarstva kakvo danas znamo . Računala koja su tada stajala u prostorije danas stavimo u džep, a ovaj skup će pokazati kako je do toga došlo, Promišljat ćemo kako nas je digitalizacija promijenila, nije riječ samo o softveru i računalima, nego i ljudima, načinu na koji rade, misle i povezuju se. Jesu li nam olakšala život ili su nam stvorila nove izazove, jesmo li produktivniji ili izloženiji stresu?  Ovaj jubilej prilika je da se osvrnemo ne to i postavimo pitanja kako će utjecati na živote ljudi u sljedećih 50 godina. Zadar zahvaljujući poduzetnim mladim ljudima ima sve uvjete da ostane prepoznat kao mjesto inovacija i tehnoloških napretka, poručila je u pozdravnoj riječi prorektorica Sveučilišta u Zadru prof. dr. sc. Anita Pavić Pintarić.

Doc. dr. sc. Ante Panjkota predstavio je stručni prijediplomski studij Informacijske tehnologije, kao i brojne projekte u kojima studenti mogu sudjelovati. Prof. dr. sc. Srećko Krile sa Sveučilišta u Dubrovniku govorio je o tehnološkim promjenama ICT tehnologije na brodu, a prof. dr. sc. Božidar Kliček s Fakulteta organizacije i informatike Varaždin o umjetnoj inteligenciji u turizmu

Poznati zadarski gospodarstvenik mr. sc. Željko Goja (HSTech Glass systems) dao je povijesni prikaz razvoja novih inovativnih proizvoda podržanih računalom, a obrađene su i teme umjetne inteligencije u praksi, etičkih pogleda na umjetnu inteligenciju, inteligentnih pomorskih luka itd.

Organizatori i sudionici poželjeli su da ovaj skup postane tradicionalan te da već sljedeće godine prezentiraju promjene koje su se dogodile u tom, za informatičku revoluciju, dugom vremenu.

 
Nastavi čitati

Tech

Opasan virus zarazio milijune mobitela! Na udaru popularne aplikacije, evo što napraviti

Objavljeno

-

By

Privatna međunarodna kompanija za sigurnost na internetu Kaspersky upozorila je na opasan virus koji je napao čak 11 milijuna korisnika Androida. U pitanju je trojanac Necro, a u opasnosti su korisnici modificiranih verzija Spotifyja, WhatsAppa, Minecrafta i drugih popularnih aplikacija s Google Playa.

Riječ je o trojancu koji je Kaspersky otkrio još 2019., a ovaj virus u potpunosti je sposoban ukrasti osobne podatke. Međutim, nakon što se instalira, također može pokrenuti pristajanje na skupe pretplate, a da vlasnik Androida ništa ne posumnja.

Istražujući popularni servis za glazbu Spotify, tim tvrtke Kaspersky primijetio je neobičnu modifikaciju aplikacije Spotify Plus. Korisnike se poziva da preuzmu novu verziju aplikacije, ali iz neslužbenog izvora, besplatno i to uz otključanu pretplatu koja nudi neograničeno slušanje. No, u pitanju je zapravo zlonamjerni softver. Ovaj tim je pronašao slične modifikacije i za aplikacije kao što su WhatsApp, Minecraft i druge.

Kako se zaštititi?

Kaspersky savjetuje da nipošto ne preuzimate aplikacije iz neslužbenih izvora jer je rizik od preuzimanja virusa tim putem iznimno visok.

Drugo, aplikacije na Google Playu i drugim službenim platformama također treba tretirati sa zdravom dozom skepse. Čak se i popularna aplikacija poput Wuta Camera, s 10 milijuna preuzimanja, pokazala nemoćnom pred ovim trojancem.

Kaspersky predlaže sljedeće konkretne korake:

– Zaštitite svoj uređaj kako vas trojanac ne bi iznenadio. To znači da preuzmete pouzdane alate za zaštitu i prepoznavanje zlonamjernih programa.

– Provjerite stranicu aplikacije u trgovini prije preuzimanja. Također, pregledajte i recenzzije, osobito one s niskim ocjenama jer one najčešće upozoravaju na moguće zamke. Pozitivne recenzije mogu biti lažne, a vioska ocjena također može biti napuhana.

– Ne tražite modificirane ili hakirane verzije aplikacija jer su one gotovo uvijek prepune svih vrsta trojanaca: od najbezazlenijih do mobilnih špijunskih programa poput CanesSpyja.

 
Nastavi čitati

Tech

Ovo je jedan od najvećih potrošača struje u kućanstvu, evo što možete napraviti

Objavljeno

-

By

Dok cijene energenata intenzivno rastu, mnogi traže načine kako barem malo manje trošiti, no nerijetko iz neznanja trošimo i više nego što bismo trebali i račune za struju si povećavamo samo zbog nepažnje; najviše s uređajima koje stalno držimo uključene u struju, čak i kad ih ne koristimo.

Takvi se uređaji, piše The Guardian, a prenosi Večernji, zovu još i energetski vampiri, jer energiju troše kontinuirano, čak i kad ne rade, a prema nedavnoj studiji British Gasa, mogu biti odgovorni za nevjerojatnih 23 posto potrošene električne energije u kućanstvu!

Za većinu je uređaja najočitije rješenje da ih držite isključene iz struje dok se ne koriste, a evo kako možete “ukrotiti” električni bojler, za kojeg stručnjaci procjenjuju da je jedan od najvećih energetskih vampira u domaćinstvu:

Naime, za samo jedan sat rada bojler snage dva kilovata potroši dva kWh. Ako bojler svaki dan radi dva i pol sata, mjesečno potroši ukupno 150 kWh. Na većini je bojlera temperatura unaprijed namještena, no da biste uštedjeli, termostat bojlera podesite na ekonomično grijanje, odnosno na temperaturu između 50 i 60°C. Osim što je nepotrebno, pregrijavanje vode (na 75 ili čak 85 °C) prouzročuje veću potrošnju struje, ali i brže propadanje bojlera i stvaranje kamenca.

 
Nastavi čitati
Oglasi
Oglasi
Oglasi

U trendu