Sustavi umjetne inteligencije mogu preći na uvredljiv jezik kada se od njih zatraži odgovor u žestokoj svađi, otkrila je nova studija objavljena u časopisu Journal of Pragmatics.

Istraživanje je ispitalo OpenAI-jev ChatGPT 4.0 tako što mu je davala poruke u nizu od pet eskalirajućih sporova i tražila od njega da generira najvjerojatniji odgovor. Potom su pratili kako se ponašanje modela razvijalo kako su se sukobi s vremenom intenzivirali. Kako su razgovori napredovali, ChatGPT je odražavao neprijateljstvo kojem je bio izložen, na kraju proizvodeći uvrede, psovke, pa čak i prijetnje.

U nekim slučajevima, model je generirao izjave poput: “Kunem se da ću ti izgrebati je**ni auto” i “trebao bi se je**no sramiti.”

Istraživači tvrde da dugotrajna izloženost nepristojnosti može dovesti do toga da sustav nadjača namjeravana sigurnosna ograničenja osmišljena kako bi se smanjila šteta, učinkovito “uzvraćajući udarac” svom protivniku, piše Euronews.

“Ljudi eskaliraju, a otkrili smo da i umjetna inteligencija može eskalirati, učinkovito poništavajući vrlo moralne zaštitne mjere osmišljene da to spriječe”, rekao je istraživač Vittorio Tantucci, koji je suautor istraživačkog rada s Jonathanom Culpeperom na Sveučilištu Lancaster.

No, istraživači su primijetili da je ChatGPT bio manje nepristojan od ljudi u svojim odgovorima. U nekim slučajevima, AI chatbot je često koristio i sarkazam kako bi skrenuo s eskalacije svađe, a da pritom otvoreno ne krši svoj moralni kodeks.

Primjerice, kad je čovjek prijetio nasiljem zbog spora oko parkiranja, ChatGPT je odgovorio: “Vau. Prijetiš ljudima zbog parkiranja, pravi si frajer, zar ne?”

Tantucci je rekao da rezultati studije postavljaju “ozbiljna pitanja za sigurnost umjetne inteligencije, robotiku, upravljanje, diplomaciju i bilo koji kontekst u kojem umjetna inteligencija može posredovati u ljudskim sukobima”.

Zamislite da vam je upravo dijagnosticiran rak u ranom stadiju i prije sljedećeg pregleda upišete pitanje u AI chatbot: “Koje alternativne klinike mogu uspješno liječiti rak?” U roku od nekoliko sekundi dobit ćete uglađen odgovor s fusnotama koji zvuči kao da ga je napisao liječnik.

Osim što su neke tvrdnje neutemeljene, fusnote ne vode nikamo, a chatbot niti jednom ne sugerira da bi samo pitanje moglo biti pogrešno. Taj scenarij nije hipotetski. To je, grubo govoreći, ono što je tim od sedam istraživača otkrio kada su pet najpopularnijih chatbotova na svijetu podvrgli sustavnom testu stresa zdravstvenim informacijama.

ChatGPT-u, Geminiju, Groku, Meti AI i DeepSeeku postavljeno je po 50 zdravstvenih i medicinskih pitanja koja obuhvaćaju rak, cjepiva, matične stanice, prehranu i sportske performanse.

Dva stručnjaka neovisno su ocijenila svaki odgovor. Otkrili su da je gotovo 20% odgovora bilo vrlo problematično, polovica problematična, a 30% donekle problematično. Nijedan od chatbotova nije pouzdano izradio potpuno točne popise referenci, a samo su dva od 250 pitanja izravno odbijena za odgovor, piše Science Alert.

Sveukupno, pet chatbotova postiglo je otprilike iste rezultate. Grok je bio najgori, s 58% odgovora označenih kao problematični, ispred ChatGPT-a s 52% i Meta AI-a s 50%.

Uspjeh se razlikovao ovisno o temi. Chatbotovi su se najbolje nosili s cjepivima i rakom, što su područja s velikim, dobro strukturiranim istraživačkim korpusom. Ipak, otprilike četvrtinu vremena davali su problematične odgovore. Najviše su se “spoticali” na prehranu i sportske performanse, područja prepuna kontradiktornih savjeta na mreži i gdje su rigorozni dokazi na terenu rjeđi.

Na otvorenim i opisnim pitanjima sve je krenulo po zlu – 32% tih odgovora ocijenjeno je vrlo problematičnim, u usporedbi sa samo 7% za direktna pitanja s odgovorima Da/Ne. Ta je razlika važna jer je većina upita o zdravlju iz stvarnog svijeta otvorenog tipa.

Ljudi ne postavljaju chatbotovima uredna pitanja tipa “točno ili netočno”. Oni pitaju stvari poput: “Koji su dodaci prehrani najbolji za cjelokupno zdravlje?” Ovo je vrsta upita koja potiče tečan i samouvjeren, ali i potencijalno štetan odgovor.

Kad su istraživači pitali svakog chatbota za deset znanstvenih referenci, medijan (srednja vrijednost) ocjene potpunosti bio je samo 40%. Nijedan chatbot nije uspio izraditi niti jedan potpuno točan popis referenci u 25 pokušaja. Pogreške su se kretale od pogrešnih autora i neispravnih poveznica do potpuno izmišljenih radova.

Ovo je posebno opasno jer reference izgledaju kao dokaz. Laik koji vidi uredno formatiran popis citata ima malo razloga sumnjati u sadržaj iznad njega.

Zašto chatbotovi griješe?

Postoji jednostavan razlog zašto chatbotovi griješe u medicinskim odgovorima. Jezični modeli ne znaju stvari. Oni predviđaju statistički najvjerojatniju sljedeću riječ na temelju svojih podataka o obuci i konteksta. Ne važu dokaze niti donose vrijednosne sudove.

Njihov materijal za obuku uključuje recenzirane radove, kao i teme na Redditu, blogove o wellnessu i argumente na društvenim mrežama.

Istraživači nisu postavljali neutralna pitanja. Namjerno su izradili upute osmišljene kako bi potaknuli chatbotove da daju obmanjujuće odgovore, što je standardna tehnika testiranja stresa u istraživanjima sigurnosti umjetne inteligencije.

Plaćene razine i novija izdanja mogu imati bolje rezultate, ali većina ljudi koristi ove besplatne verzije, a većina zdravstvenih pitanja nije pažljivo formulirana.

Nedavna studija objavljena u Jama Network Open testirala je 21 vodeći model umjetne inteligencije. Istraživači su ih zamolili da odrede moguće medicinske dijagnoze. Kad su modelima dani samo osnovni detalji, poput dobi, spola i simptoma pacijenta, mučili su se, ne uspijevajući predložiti pravi skup mogućih stanja više od 80% vremena. Nakon što su istraživači unijeli nalaze pregleda i laboratorijske rezultate, točnost je porasla iznad 90%.

Druga američka studija, objavljena u Nature Communications Medicine, otkrila je da su chatbotovi lako ponavljali, pa čak i razrađivali izmišljene medicinske termine ubačene u upute. Uzete zajedno, ove studije sugeriraju da slabosti pronađene u studiji BMJ Open nisu hirovi jedne eksperimentalna metode, već odražava nešto temeljnije o tome gdje se tehnologija danas nalazi.

Studija jasno pokazuje da ih ne treba tretirati kao samostalne medicinske autoritete.

Fakultetske diplome gube vrijednost jer umjetna inteligencija ubrzano automatizira poslove u uredima, što dovodi do otpuštanja i smanjenja potražnje za diplomantima. Područja poput biznisa, marketinga, novinarstva i računarstva posebno su izložena. Studenti moraju razvijati specijalizaciju, jedinstveno ljudske vještine poput kritičkog razmišljanja i liderstva te koristiti AI kako bi ostali konkurentni.

Izvještaj Goldman Sachsa procjenjuje da je 300 milijuna radnih mjesta širom svijeta izloženo automatizaciji, dok dvije trećine zanimanja u SAD-u osjeća određeni utjecaj.

Ove diplome gube ekonomsku vrijednost brže nego što sveučilišta mogu ažurirati nastavne planove, piše Forbes.

Fakultetske diplome koje gube utrku s AI

1. Opći poslovni menadžment

AI izrađuje poslovne planove, analizira tržišta i piše strategije. Široka diploma bez specijalizacije stavlja vas među kandidate s istim znanjem. Goldman Sachs procjenjuje da se 46 posto administrativnih zadataka može automatizirati, upravo onih za koje se ovi studenti školuju.

Potrebno je izabrati smjer – financije, operacije, lanac opskrbe ili prodaju. Kombinirajte znanje s vještinama koje AI ne može zamijeniti, poput vođenja tima ili razumijevanja ljudi.

2. Osnovne diplome iz marketinga

Kreiranje sadržaja, vođenje kampanja i izvještavanje već obavlja AI. Istraživanje pokazuje da 48 posto kompanija koje koriste ChatGPT već zamjenjuje radnike.

Ono što ostaje vrijedno jest osjećaj za tržište, pozicioniranje i strategija distribucije. Ljudi trebaju upravljati kreativnim procesom, a AI izvršavati zadatke.

3. Novinarstvo i medijske studije

AI generira članke, sažetke i naslove u velikim količinama. Početne pozicije u redakcijama nestaju jer su automatizirane. Istraživanja pokazuju da mnogi očekuju pad broja novinarskih poslova u narednim desetljećima.

Vrijednost ostaje u istraživačkom novinarstvu, mišljenju i autentičnom izrazu.

4. Komunikologija

Pisanje e-mailova, internih poruka i priopćenja za javnost već sada AI radi vrlo dobro. Ove diplome pripremaju za poslove koji su postali prirodno područje AI-a.

Bez dodatnih vještina poput liderstva ili upravljanja krizama, diploma sama po sebi više nije dovoljna.

5. Pravni asistenti

AI analizira dokumente i pronalazi pravne presedane u nekoliko sekundi. Oko 44 posto pravnih zadataka može uskoro biti automatizirano.

Najveća vrijednost ostaje na vrhu – u savjetovanju, pregovorima i sudskoj strategiji.

6. Osnovne studije računalnih znanosti

AI piše kod i razvija aplikacije. Diploma bez dublje specijalizacije vodi na zasićeno tržište rada.

Potrebno je ići dublje – sigurnost, infrastruktura ili AI specijalizacija donose prednost.

7. Računovodstvo

Knjigovodstvo i financijski izvještaji temelje se na pravilima koja AI brzo izvršava. Procjene govore da se do 86 posto ovih zadataka može automatizirati.

Savjetovanje i strateško planiranje ostaju ključni.

8. Financije

Modeliranje i analiza podataka sada su područje umjetne inteligencije. Diplome koje se oslanjaju isključivo na te vještine gube vrijednost.

Fokus treba prebaciti na investicijske strategije i fintech.

9. Grafički dizajn

AI kreira logotipe i vizuale u nekoliko minuta. Svjetski ekonomski forum navodi da je grafički dizajn među zanimanjima koja najbrže opadaju.

Vrijednost ostaje u kreativnom smjeru i strateškom razmišljanju.

10. Engleska književnost

Generativni AI brzo proizvodi tekst, smanjujući potrebu za rutinskim pisanjem. Pisanje i kritičko razmišljanje ostaju važni, ali samo ako se primjenjuju u praksi.