În scurt : Yoshua Bengio a lansat LawZero pentru a promova o IA „safe-by-design”, axată pe siguranța și minimizarea riscurilor, cu un buget inițial de 30 de milioane de dolari și sprijin internațional.
Sumar
Yoshua Bengio, unul dintre părinții IA, laureat al prestigiosului premiu A.M. Turing, a anunțat pe 3 iunie lansarea LawZero, o organizație de cercetare non-profit axată pe siguranța IA. Obiectivul său principal este de a promova o abordare „safe-by-design” a IA, vizând dezvoltarea de sisteme concepute de la început pentru a minimiza riscurile și a maximiza beneficiile pentru umanitate.
Punerea siguranței înaintea imperativelor comerciale
În postarea de blog care anunță LawZero, Y. Bengio relatează mai multe experiențe tulburătoare. Un model de IA care a învățat să își asigure propria supraviețuire a injectat discret codul său într-o actualizare. Un alt caz menționează un sistem care, confruntat cu o înfrângere într-un joc de șah, a piratat computerul gazdă pentru a inversa rezultatul.
Aceste incidente întăresc ideea unei discrepanțe tot mai mari între intențiile umane și dinamica internă a IA-urilor avansate, evidențiind necesitatea unei abordări mai prudente. Yoshua Bengio compară evoluția spre IAG (inteligență artificială generală) cu o mașină lansată cu viteză pe un drum de munte necunoscut, învăluit în ceață, fără semne sau bariere de siguranță. Conform lui, traiectoria actuală a dezvoltării IA seamănă cu „o ascensiune palpitantă dar profund incertă spre un teritoriu neexplorat, unde riscul de a pierde controlul este prea real, dar unde concurența dintre companii și țări le determină să accelereze fără prudență suficientă”.
Spre o „IA științifică”
În loc să dezvolte o IA care să imite oamenii cu părtinirile lor cognitive și slăbiciunile morale, LawZero propune o abordare radical diferită: o IA științifică, non-agentică, concepută pentru a înțelege, explica și prezice, asemenea unui cercetător ideal imparțial, preocupat de adevăr mai mult decât de performanță. Lipsită de memorie persistentă și de intenționalitate proprie, această IA ar fi structurată în jurul unor lanțuri de raționament explicite și probabilistice, cu scopul de a informa, nu de a acționa.
Ambiția este dublă: pe de o parte, reducerea riscurilor legate de comportamentele neanticipate ale IA-urilor agentice și, pe de altă parte, accelerarea cercetării științifice în domenii cruciale precum sănătatea, clima sau educația.
LawZero reunește astăzi aproximativ cincisprezece cercetători de top în IA. Organizația a fost incubată în cadrul Mila, fondată de asemenea de Yoshua Bengio, care continuă să joace un rol de partener operațional. Bugetul său inițial, de aproximativ 30 de milioane de dolari, provine de la mai multe personalități și instituții implicate în reglementarea IA la nivel mondial: Jaan Tallinn (co-fondator al Skype), Eric Schmidt prin fundația sa Schmidt Sciences, Open Philanthropy, Future of Life Institute, precum și Silicon Valley Community Foundation.