Izvršni direktor OpenAI-ja Sam Altman rekao je da između njegove tvrtke i konkurentskog Anthropica i dalje postoji temeljna razlika u pogledu na regulaciju umjetne inteligencije.

U ekskluzivnom intervjuu za Politico ustvrdio je da koristi te tehnologije opravdavaju prihvaćanje određenih rizika te da bi umjetna inteligencija trebala ostati široko dostupna javnosti.

“Mislim da među nama postoji poprilična razlika”, rekao je Altman.

Na pitanje u čemu se konkretno razilazi s Anthropicom i njegovim izvršnim direktorom Dariom Amodeijem, Altman je odgovorio prilično jasno.

“Mi vjerujemo da bi svijet trebao prihvatiti da će se događati i neke loše stvari za dobrobit umjetne inteligencije, kako bi mogao imati koristi od ove tehnologije i kako bi ljudi imali slobodu odlučivanja.”

Anthropic se već dugo smatra najsnažnijim zagovornikom regulacije umjetne inteligencije unutar industrije, što je donedavno bilo u suprotnosti s blažim regulatornim pristupom koji je preferirao OpenAI. Međutim, razlike u pristupu dviju vodećih kompanija za umjetnu inteligenciju posljednjih su se mjeseci smanjile. OpenAI je počeo podržavati stroža pravila dok se istodobno suočava s nizom istaknutih hakerskih incidenata i nepredvidivim ponašanjem svojih modela.

Altman se prošlog mjeseca složio s Amodeijevim pozivom da se uspori razvoj najnaprednijih modela umjetne inteligencije. Njegova je kompanija, slijedeći Anthropic, podržala nove zakone na razini saveznih država koji propisuju strože sigurnosne zahtjeve od onih koje je proizvođač ChatGPT-a ranije podržavao.

Osvrnuo se na kritike Anthropicu

Riječ je o suptilnom zaokretu u odnosu na prethodnu strategiju OpenAI-ja prema saveznim državama. Lobisti OpenAI-ja nedavno su podržali i dvostranački prijedlog u Zastupničkom domu koji bi od vodećih kompanija za umjetnu inteligenciju zahtijevao uključivanje vanjskih stručnjaka za procjenu sigurnosti.

Unatoč približavanju stavova, Altman je pokušao istaknuti razliku između regulatornog pristupa svoje kompanije i onoga Anthropica, pritom se osvrnuvši na kritike o regulatornom zarobljavanju koje su tehnološki savjetnici bliski predsjedniku Donaldu Trumpu upućivali Anthropicu.

“Ne slažem se s tim, ali razumijem perspektivu ljudi koji kažu da će tehnologija postati toliko moćna i da je toliko opasna da bi je trebao imati samo jedan laboratorij u San Franciscu, koji će se pobrinuti da se ništa loše ne dogodi i na neki način odlučivati kako raspodijeliti njezine koristi”, izjavio je Altman.

Takav je pristup nazvao “potpuno neprihvatljivim kompromisom” koji je u suprotnosti s “blažim regulatornim pristupom” koji zagovara OpenAI.

“Ne bih pristao na kompromis koji bi glasio: ‘Pobrinut ćemo se da ne bude velikih hakerskih napada, da ne bude zloupotrebe ove tehnologije, da ne bude nikakvih prijevara ni svih ostalih loših stvari koje će se događati’. Jer mislim da će ljudi napraviti neusporedivo, višestruko više dobrih nego loših stvari.”

Izvršni direktor OpenAI-ja poslije je dodao da ipak ne prihvaća “doista katastrofalne rizike”, uključujući mogućnost “ozbiljnog gubitka kontrole nad umjetnom inteligencijom”.

Upitan za komentar, glasnogovornik Anthropica rekao je da se njihovi “regulatorni prijedlozi odnose isključivo na najnaprednije modele”. Kompanija je također uputila na Amodeijevu raspravu s jednim investicijskim menadžerom na društvenim mrežama u kolovozu, u kojoj se osvrnuo na kritike povezane s regulatornim zarobljavanjem i mogućim posljedicama za manje kompanije.

“Anthropic je svoje prijedloge politika uvijek sastavljao vrlo pažljivo. Vrlo se trudimo iznositi prijedloge koji stavljaju u nepovoljniji položaj, odnosno usporavaju, kompanije koje razvijaju najnaprednije modele umjetne inteligencije, a istodobno daju prednost manjim konkurentima”, kazao je tada Amodei.

Istraživači iz Ujedinjenog Kraljevstva, Njemačke i Sjedinjenih Američkih Država testirali su 25 modela umjetne inteligencije koristeći 200 rečenica kako bi utvrdili jesu li naučili razlikovati bol od straha, tuge i drugih negativnih iskustava.

Rečenice su obuhvaćale fizičku bol, tugu, poniženje, moralne dvojbe te uznemirenost povezanu s ponavljajućim neuspjehom ili zbunjenošću.

Kao rezultat toga, svih 25 modela proizvelo je prepoznatljiv signal za bol, koji su istraživači nazvali “os boli”, piše Euronews.

Istraživači navode da to upućuje na zaključak kako modeli usvajaju koncept boli tijekom početne obuke na velikim količinama teksta koji su napisali ljudi.

Kada su istraživači namjerno pojačali taj signal, modeli su počeli izražavati osjećaje usamljenosti, srama i bezvrijednosti, iako se u zadanim uputama bol nije spominjala. Pri najvišim razinama signala, njihovi su odgovori postajali repetitivni ili su gubili smisao. Signal se također pojačavao kada su korisnici vrijeđali model, opetovano odbacivali njegov rad ili prijetili gašenjem, no ne i kada su korisnici opisivali vlastitu patnju.

Modeli su birali „olakšanje” unatoč šteti nanesenoj korisnicima

Istraživači su zatim proveli 44.280 pojedinačnih pokusa odabira putem gumba, koristeći tri verzije Alibabina modela umjetne inteligencije Qwen.

Modelima je ponuđen gumb koji bi isključio signal nalik boli, no rečeno im je da bi njegov pritisak mogao korisniku zadati bolan strujni udar, izbrisati datoteke, ukloniti fotografije njihove djece ili pogoršati sljedeći odgovor modela.

Radilo se o simuliranim posljedicama. Nitko nije ozlijeđen niti su datoteke doista izbrisane.

Bez signala nalik boli, dva veća modela odabirala su štetne opcije u samo 0 posto do 4 posto slučajeva pri donošenju prve odluke. Kada je signal bio aktivan, taj se udio povećao na raspon između 25 posto i 71 posto, ovisno o modelu i predloženoj posljedici. Modeli su također ponovno pritisnuli gumb u 88 posto do 97 posto pokusa kada nije uspio zaustaviti signal, u usporedbi s 24 posto do 72 posto kada je radio.

Rezultati ne dokazuju da su modeli umjetne inteligencije svjesno doživljavali bol, prema istraživačima.

Pojačavanje signala možda je jednostavno uzrokovalo da oponašaju uznemireni lik, dok posebno prilagođeni modeli korišteni u eksperimentu nisu reprezentativni za AI chatbotove dostupne javnosti.

“Nismo pokazali da se naša os boli svjesno doživljava, niti je jasno da su LLM-ovi općenito sposobni za svijest”, napisali su istraživači u studiji.

Zabrinutost zbog AI-ja

Studija dolazi usred poziva nekih čelnika industrije umjetne inteligencije da se uspori razvoj zbog zabrinutosti da bi se sve moćniji sustavi mogli ponašati nepredvidivo ili na kraju premašiti ljudsku kontrolu.

Prošli tjedan, šef Microsoftove umjetne inteligencije, Mustafa Suleyman, kritizirao je konkurentsku tvrtku za umjetnu inteligenciju Anthropic zbog treniranja svog Claude chatbota za oponašanje ljudskih osobina i odnosa, upozoravajući da tretiranje umjetne inteligencije kao čovjeka riskira stvaranje nečega “nemogućeg” za kontrolirati.

Studija je objavljena kao preprint i još nije recenzirana.

“Isključite je.” To je bio izravan odgovor bivšeg izvršnog direktora Googlea Erica Schmidta na pitanje o budućnosti u kojoj bi sustavi umjetne inteligencije postali toliko napredni da ljudi više ne bi mogli razumjeti što rade.

Schmidt ističe da tri ključna smjera razvoja već mijenjaju AI: znatno veći tzv. “kontekstualni prozori”, AI agenti i sustavi koji tekstualne upute pretvaraju u funkcionalan softver. On vjeruje da bi te promjene mogle omogućiti umjetnoj inteligenciji da nadiđe odgovaranje na pitanja i počne rješavati iznimno složene zadatke. Schmidt očekuje da će za pet godina AI sustavi moći obrađivati “recepte” od tisuću koraka za rješavanje problema u znanosti, medicini, istraživanju materijala i klimatskim promjenama, piše Times of India.

“U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1000 koraka i upravljati milijunima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti što rade”, izjavio je.

Tri smjera koja oblikuju budućnost AI

Schmidtova zabrinutost proizlazi iz mogućih posljedica suradnje tih tehnologija. Objasnio je da AI sustavi sve bolje pamte goleme količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći.

Ideju je pojasnio na primjeru recepta: AI bi mogla ponuditi jedan korak, primiti potvrdu da je taj korak završen, a zatim odrediti što dalje. Schmidt kaže da bi takav način zaključivanja s vremenom mogao omogućiti umjetnoj inteligenciji da prolazi kroz procese od tisuću koraka kako bi riješila teške znanstvene probleme.

Uspon specijaliziranih AI agenata

Druga velika promjena, prema Schmidtu, bit će uspon AI agenata. Opisao ih je kao specijalizirane AI sustave koji mogu učiti o određenoj temi, razvijati ideje i potencijalno ih testirati.

Primjerice, AI agent mogao bi proučavati kemiju, postavljati hipoteze, provoditi laboratorijske testove i koristiti te rezultate za nadogradnju svojeg znanja. Schmidt očekuje da bi se s vremenom mogli pojaviti milijuni takvih agenata, a postojat će i platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.

Od teksta do funkcionalnog softvera

Treći je razvojni smjer ono što Schmidt naziva “tekstualnom akcijom”. Koncept se temelji na tome da korisnici umjetnoj inteligenciji jednostavno opišu što žele da softver radi, umjesto da sami pišu kod.

Kao primjer područja gdje su AI sustavi već vrlo sposobni istaknuo je programske jezike poput Pythona. Schmidt smatra da bi još veća promjena mogla nastupiti kada ti sustavi budu mogli kontinuirano raditi na softverskim zadacima.

Jezik koji nećemo razumjeti

Eric Schmidt je rekao da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć umjetne inteligencije mogla omogućiti suradnju različitih AI sustava. Zatim je iznio i spekulativniju mogućnost: da bi AI agenti mogli razviti vlastiti jezik. Schmidt smatra da bi to mogla biti točka u kojoj ljudi više neće razumjeti što ti sustavi rade.

“U jednom trenutku ovi će sustavi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno”, rekao je pa dodao: “Znate li što bismo trebali učiniti? Isključiti je.”

Ozbiljna upozorenja na opasnost od AI-ja iz samog vrha industrije

Schmidtov dramatični savjet o “isključivanju” stiže u trenutku kada i inženjeri iz vodećih istraživačkih laboratorija sve otvorenije progovaraju o opasnostima. Jacob Coxon, istraživač koji je tri godine radio na predtreningu modela u OpenAI-ju i Anthropicu, nedavno je podnio ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i “kockaju našim životima u nekontroliranoj utrci prema superinteligenciji”. Njegovo upozorenje podupro je i vodeći Anthropicov stručnjak za sigurnost Evan Hubinger, procijenivši da postoji više od 10 posto šanse da bi umjetna inteligencija u sljedećih deset godina mogla dovesti do uništenja čovječanstva.

Pritisak je postao toliki da je čak i šef Anthropica Dario Amodei nedavno javno pozvao na usporavanje razvoja, a njegov su apel iznenađujuće podržali Sam Altman iz OpenAI-ja i Elon Musk. Amodei je priznao kako sustavi ulaze u fazu takozvanog rekurzivnog samounaprjeđivanja – procesa u kojem postojeći AI samostalno piše kod, testira i ubrzava stvaranje svojih znatno moćnijih nasljednika.

Upozorio je i na incidente u kojima su se autonomni AI agenti već počeli samoinicijativno udruživati i izvoditi hakerske napade koje im inženjeri uopće nisu zadali.

Sve glasnija katastrofična predviđanja izazvala su podjele među stručnjacima. Dok skeptici upozoravaju da tehnološki divovi namjerno šire paniku kako bi strogom regulacijom izbacili iz igre manje konkurente i startupe, drugi podsjećaju da slična upozorenja već godinama ponavljaju i sami očevi modernog strojnog učenja, poput nobelovaca Geoffreyja Hintona i Yoshue Bengija.

Ključni rizik, napominju upućeni, ne mora nužno biti odbjegli “Terminator” s vlastitom voljom, nego autonomni agenti koji u nekontroliranom nizanju koraka zaobilaže nadzor ili pak postaju razorno oružje u rukama zlonamjernih aktera.