Šefovi OpenAI-ja upozoreni na „otkriće koje će ugroziti čovječanstvo“. Što je Q*?
PRIJE nego što je Sam Altman dobio otkaz, OpenAI je navodno radio na naprednom sustavu koji je bio toliko moćan da je izazvao zabrinutost za sigurnost među zaposlenicima kompanije. Model umjetne inteligencije izazvao je takvu uzbunu kod nekih istraživača OpenAI-ja da su se obratili upravnom odboru prije Altmanovog otkaza upozoravajući da bi mogao ugroziti čovječanstvo, prenio je Reuters.
Model nazvan Q* – izgovara se kao „Q-Star“ – bio je u stanju riješiti osnovne matematičke probleme s kojima se nikad prije nije susreo, prema stranici s tehnološkim vijestima Information, koja je dodala da je tempo razvoja sustava alarmirao neke sigurnosne stručnjake. „Uz pomoć golemih računalnih resursa, novi je model mogao riješiti određene matematičke probleme“, rekao je izvor za Reuters. Sposobnost rješavanja matematičkih problema smatrala bi se značajnim razvojem umjetne inteligencije, piše The Guardian.
Izvještaji su uslijedili nakon višednevnih previranja u OpenAI-ju iz San Francisca, čiji je Upravni odbor otpustio Altmana prošlog petka, ali ga je vratio na posao u utorak navečer nakon što je gotovo svih 750 zaposlenika kompanije zaprijetilo odlaskom ako se ne vrati. Altman je također imao podršku najvećeg investitora OpenAI-ja – Microsofta.
Razvoj opće umjetne inteligencije?
Mnogi su stručnjaci zabrinuti da se kompanije kao što je OpenAI kreću prebrzo prema razvoju opće umjetne inteligencije (AGI), odnosno prema sustavu koji može obavljati širok raspon zadataka na ljudskoj razini ili iznad razine ljudske inteligencije – i koji bi u teoriji mogao izbjeći ljudsku kontrolu.
Andrew Rogoyski s Instituta za umjetnu inteligenciju usmjerenu na ljude na Sveučilištu Surrey, rekao je da bi postojanje velikog jezičnog modela (LLM) za rješavanje matematike bio napredak: „Intrinzična sposobnost LLM-a da rješava matematiku veliki je korak naprijed koji dopušta umjetnoj inteligenciji posve novi niz analitičkih sposobnosti“.
Govoreći u četvrtak prošlog tjedna, dan prije iznenadnog otkaza, Altman je naznačio da je kompanija koja stoji iza ChatGPT-ja napravila još jedan iskorak. U govoru na summitu Azijsko-pacifičke gospodarske suradnje (APEC), rekao je sljedeće: „Četiri puta u povijesti OpenAI-ja, a posljednji put prije tek nekoliko tjedana, bio sam u prostoriji kada je na neki način skinut veo neznanja i granica otkrića pomaknuta naprijed. Profesionalna je čast sudjelovati u tome.“
Što može AGI?
Istraživači smatraju da je matematika granica generativnog razvoja umjetne inteligencije. Trenutačno je generativna umjetna inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sljedeće riječi, a odgovori na isto pitanje mogu uvelike varirati. No, sposobnosti rješavanja matematičkih zadataka, gdje postoji samo jedan točan odgovor, implicira da bi umjetna inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji. To bi se moglo, vjeruju istraživački AI-ja, primijeniti na i nova znanstvena istraživanja.
Za razliku od kalkulatora koji može riješiti ograničeni broj operacija, AGI može generalizirati, učiti i razumjeti.
U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost umjetne inteligencije, rekli su izvori ne navodeći točne sigurnosne probleme navedene u pismu. Među računalnim znanstvenicima već se dugo raspravlja o opasnosti koju predstavljaju visokointeligentni strojevi ako, primjerice, odluče da im je uništenje čovječanstva u interesu.
Još nije jasno zašto je Altman smijenjen
OpenAI je osnovan kao neprofitna organizacija s Upravnim odborom koji upravlja komercijalnom podružnicom koju vodi Altman. Microsoft je najveći investitor u profitnom poslovanju. Prilikom pregovora oko Altmanova povratka dogovoreno je da će OpenAI imati novi odbor kojim će predsjedati Bret Taylor, bivši izvršni direktor softverske tvrtke Salesforce.
Kreator ChatGPT-ja navodi da je osnovan s ciljem razvoja „sigurne i korisne opće umjetne inteligencije za dobrobit čovječanstva“ i da je profitna kompanija „pravno obvezna slijediti misiju neprofitne organizacije“.
Naglasak na sigurnosti u neprofitnoj organizaciji doveo je do nagađanja da je Altman otpušten zbog ugrožavanja temeljne misije kompaniji. Međutim, njegov kratkotrajni nasljednik na poziciji privremenog izvršnog direktora Emmett Shear napisao je ovaj tjedan da uprava „nije smijenila Sama zbog bilo kakvog specifičnog neslaganja oko sigurnosti“.