Q*: el projecte capaç d'"amenaçar la humanitat" que li va costar l'acomiadament d'OpenAI a Altman

Segons una informació de l'agència de notícies Reuters, abans que Altman abandonés la companyia, diversos investigadors van escriure una carta al Consell d'Administració de l'empresa de Silicon Valley advertint-los dels perills que representava la precipitada comercialització de la tecnologia d'IA sense entendre'n bé les conseqüències que podia tenir. En aquesta missiva, els investigadors d'OpenAI advertien que l'equip d'Ilya Sutskever, antic científic en cap i un dels artífexs de l'acomiadament d'Altman, havien fet un "poderós descobriment d'intel·ligència artificial" que "podria amenaçar la humanitat".

La carta i aquest algorisme, expliquen aquestes fonts, van ser dos dels principals factors que van desembocar en l'abrupte acomiadament d'Altman i que, fet i fet, van provocar que la pràctica totalitat de la plantilla amenacés de dimitir en bloc si el "nen d'or" de la IA no tornava al seu lloc.

Val a dir que la situació interna d'OpenAI dista de ser la ideal. Al principi, la companyia creada el 2015 per, entre d'altres, Elon Musk, va néixer com una organització sense ànim de lucre amb una missió d'impulsar la investigació segura i ètica en IA. Tot i això, amb el pas dels anys i sota el lideratge d'Altman, la companyia ha anat virant cap a una empresa tecnològica més a l'ús, especialment des del llançament de Chat GPT i de la seva associació amb Microsoft.

Si bé OpenAI no ha respost a cap de les sol·licituds d'informació dels mitjans de comunicació, Reuters ha confirmat que els treballadors de l'empresa emergent van rebre un missatge intern en què es reconeixia l'existència de l'anomenat "projecte Q*" (pronunciat com a Q-Star) i que s'havia redactat una carta alertant dels seus perills. Tot i que l'agència no ha tingut accés a aquest document, algunes fonts internes devien confirmar que, en versions posteriors, l'executiva Mira Murati va deslligar aquest avenç amb l'acomiadament d'Altman.

QUÈ ÉS EL PROJECTE Q*?

Alguns membres d'OpenAI creuen que Q* podria suposar un gran avenç en la recerca del que es coneix com a intel·ligència general artificial (AGI, per les sigles en anglès), segons ha declarat una d'aquestes persones a Reuters. OpenAI defineix l'AGI com a sistemes autònoms que superen els humans en la majoria de les tasques de valor econòmic.

Així, hi hauria una diferència fonamental entre el que fa Chat GPT i aquesta nova IA. Si bé fa la sensació que és autònom, Chat GPT i altres bots similars estan basats en un model de llenguatge de grans dimensions (LLM, per les sigles en anglès) i, grosso modo, és capaç d'articular respostes més o menys convincents i aparentment humanes després destudiar centenars de milers de pàgines de text. No obstant això, Chat GPT és inhàbil de raonar i de resoldre un problema de lògica. En canvi, Q* sí que seria capaç de fer-ho.

Segons aquesta informació, el nou model, dotat de grans recursos informàtics, hauria estat capaç de resoldre certs problemes matemàtics, segons ha declarat una font sota condició d'anonimat. Tot i que "únicament" realitza operacions matemàtiques al nivell dels alumnes de primària, el fet de superar aquestes proves fa que els investigadors es mostrin molt optimistes sobre el futur èxit de Q*.

En aquest sentit, els investigadors consideren que les matemàtiques són la frontera del desenvolupament de la IA generativa. Actualment, la IA generativa és bona escrivint i traduint idiomes mitjançant la predicció estadística de la paraula següent i les respostes a una mateixa pregunta poden variar significativament. En canvi, conquerir la capacitat de fer càlculs matemàtics, on només hi ha una resposta correcta possible, implica que la IA tindria més capacitat de raonament que s'assemblaria a la intel·ligència humana. Això es podria aplicar, per exemple, a la investigació científica, segons creuen els investigadors d'IA.

No obstant això, aquests avenços podrien suposar un perill potencial de no ser compresos íntegrament, raó per la qual els investigadors de la companyia haurien alertat el Consell de les conseqüències que podria tenir comercialitzar aquesta tecnologia abans d'hora.

Després de conèixer-se aquesta notícia, nombrosos experts al camp de la IA creuen que s'hagi aconseguit aquest avenç en tan poc temps no només és creïble, sinó també possible. A més, diversos mitjans especialitzats creuen que Altman hauria deixat entreveure aquest avenç en un recent congrés de Cooperació Econòmica celebrat a San Francisco en reconèixer que "quatre vegades a la història d'OpenAI, l'última en les dues últimes setmanes, he tingut l'oportunitat d'estar a la sala on treiem el vel de la ignorància cap enrere i la frontera del descobriment cap endavant, i poder-ho fer és l'honor professional de la meva vida". Un dia després d'aquestes declaracions, Altman va ser acomiadat.