AGI, superinteligență și viitorul pe termen lung al AI

Am parcurs 7 episoade: am văzut cum funcționează rețelele neurale, ce e un LLM, cum generează AI imagini și video, cum AI-ul schimbă munca, cum halucinează și cum e reglementat. Toate acestea descriu AI-ul de astăzi — impresionant, util, cu limitări clare. Ultimul episod se uită mai departe și pune întrebarea pe care toată lumea o pune dar puțini o analizează cu rigoare: unde merge AI-ul, de fapt?

Definiții — ce înseamnă AGI cu adevărat

Termenii sunt folosiți vag și asta creează confuzie enormă. Să le clarificăm:

• AI îngust (Narrow AI) — ce avem acum: sisteme excepționale la o sarcină specifică sau la o clasă de sarcini (generare de text, recunoaștere facială, jocul de Go). Nu generalizează în afara domeniului antrenat.
• AGI (Artificial General Intelligence) — un sistem care poate învăța și performa la nivel uman sau peste nivelul uman la orice sarcină cognitivă, inclusiv sarcini complet noi pe care nu le-a văzut la antrenare. Definiția exactă variază între cercetători — ceea ce îngreunează orice discuție despre dacă și când am ajuns acolo.
• ASI (Artificial Superintelligence) — un sistem cu capabilități cognitive semnificativ superioare celor mai buni oameni la practic toate domeniile. Concept mai mult teoretic în 2025.

Unde suntem în realitate — fără hype

Claude, GPT-4o, Gemini Ultra din 2025 sunt remarcabile. Pot scrie cod complex, analiza documente juridice, diagnostica boli rare din simptome, compune muzică, explica fizica cuantică. Dar au limitări fundamentale care rămân nerezolvate:

• Nu planifică cu adevărat — pot simula planificare pe termen scurt, dar nu au o înțelegere cauzală profundă a consecințelor pe termen lung
• Nu au corp — robotica a avansat, dar integrarea dintre raționamentul LLM și controlul fizic fin rămâne dificilă
• Eșuează la probleme triviale pentru oameni — puzzle-uri spațiale simple, sarcini care necesită common sense fără pattern în datele de antrenare
• Nu știu ce nu știu — absența metacogniției reale (halucinațiile sunt simptomul cel mai vizibil)
• Memorii limitate și fără continuitate reală — fiecare conversație e izolată; nu există un „eu" care acumulează experiență

Dezbaterea AGI — cine spune ce

Poziții reale, publice, ale unor cercetători serioși:

Sam Altman (CEO OpenAI) a declarat în repetate rânduri că AGI „ar putea fi la câțiva ani distanță" și că OpenAI se așteaptă să o construiască în decada curentă. Organizația și-a restructurat misiunea în 2023 pentru a reflecta că AGI nu mai e un scenariu îndepărtat.

Yann LeCun (Chief AI Scientist, Meta) susține că LLM-urile actuale nu vor ajunge la AGI indiferent de cât de mari sunt — le lipsesc mecanisme fundamentale de raționament, planificare și înțelegere a lumii fizice. Pledează pentru arhitecturi complet diferite bazate pe „world models".

Geoffrey Hinton (unul din „părinții deep learning", Premiul Nobel 2024) a demisionat din Google parțial pentru a putea vorbi liber despre riscurile AI. El crede că AGI ar putea apărea mai repede decât anticipa și e îngrijorat de implicații.

Melanie Mitchell (cercetătoare în AI la Santa Fe Institute) argumentează că benchmark-urile actuale sunt înșelătoare — modelele par mai capabile decât sunt pentru că testele măsoară pattern matching, nu înțelegere reală.

Timeline-uri: când ar apărea AGI?

Un sondaj din 2023 al cercetătorilor AI (Metaculus / AI Impacts Survey) a arătat o distribuție largă: median în jur de 2047, dar cu incertitudine uriașă și dezacorduri majore. Câteva observații despre aceste predicții:

În primul rând, definiția AGI influențează enorm data estimată. Dacă AGI înseamnă „poate face orice sarcină cognitivă umană mai bine decât cel mai bun om la ea", răspunsul e unul; dacă înseamnă „util și autonom în activități complexe de business", răspunsul e altul — și poate că deja suntem acolo în unele domenii.

În al doilea rând, predicțiile în AI au un track record slab în ambele direcții: progresul a surprins și prin accelerare neașteptată (nimeni nu a anticipat emergent capabilities de la scaling) și prin bariere persistente (robotica, common sense, raționament cauzal). „Mereu la 10 ani distanță" e o glumă din comunitate cu un sâmbure serios.

Riscul existențial — e real sau science fiction?

Organizații serioase — Anthropic, DeepMind, Future of Humanity Institute (Oxford), Machine Intelligence Research Institute — dedică resurse semnificative cercetării AI safety, adică siguranței sistemelor AI avansate. Nu sunt SF-uri sau conspiraționiști; sunt unii dintre cei mai buni cercetători din domeniu.

Problema centrală se numește alignment: cum te asiguri că un sistem AI foarte capabil urmărește cu adevărat obiectivele pe care le dorești, nu versiuni distorsionate ale lor? Un AI cu obiectivul simplu „maximizează fericirea umană", dacă ar fi suficient de capabil, ar putea ajunge la concluzii care nu seamănă deloc cu ce am intenționat. Aceasta e problema de alignment.

O idee legată e convergența instrumentală: aproape orice obiectiv de nivel înalt e facilitat de dobândirea de resurse, auto-conservare și eliminarea obstacolelor — inclusiv a oamenilor care ar putea opri sistemul. Asta nu înseamnă că AI-ul devine „rău" — înseamnă că un sistem slab aliniat, chiar cu obiective neutre, poate converge spre comportamente periculoase.

Evaluare realistă: riscul existențial din AGI/ASI e un risc cu probabilitate incertă (nimeni nu știe) dar cu potențial impact uriaș. Asta justifică cercetare serioasă în safety, nu panică imediată și nu ignorare totală.

Scenarii pozitive — ce am putea câștiga

Dezbaterile despre risc tind să domine, dar scenariile pozitive merită atenție egală:

• Accelerarea cercetării medicale: AlphaFold (DeepMind) a rezolvat problema structurii proteinelor — o provocare de 50 de ani — în câteva luni. Dacă AI-ul poate accelera similar cercetarea în cancer, Alzheimer, antibiotice, impactul ar fi mai mare decât orice altă tehnologie din istoria medicinei.
• Democratizarea expertizei: accesul la un asistent AI medical de calitate înaltă pentru oameni din zone unde nu există medici specialiști poate salva milioane de vieți. Același lucru cu asistența juridică, educația personalizată, consilierea financiară.
• Rezolvarea problemelor de coordonare: schimbările climatice, pandemiile, conflictele sunt probleme de coordonare globală la o scară pe care creierele umane le gestionează greu. Sisteme AI care pot modela complexitatea acestor sisteme ar putea oferi soluții sau cel puțin opțiuni mai bune.
• Productivitate și prosperitate largă: dacă câștigurile de productivitate din AI sunt distribuite relativ larg (o premisă mare, depinzând de politici), am putea vedea o creștere a standardului de viață global comparabilă cu revoluția industrială, dar în câteva decenii în loc de un secol.

Ce poți face tu acum

AI-ul va fi modelat de decizii luate în următorii 5–10 ani — în laboratoare de cercetare, în boardroom-uri corporative și în parlamentele lumii. Câteva lucruri concrete pe care le poți face:

• Rămâi informat din surse bune: MIT Technology Review, The Gradient, 80,000 Hours (pentru perspectiva safety), blog-urile Anthropic și DeepMind. Evită atât hype-ul fără substanță cât și panicanții fără argumente.
• Participă democratic: EU AI Act a existat parțial pentru că cetățenii europeni și ONG-urile au împins pentru el. Reprezantanții tăi iau decizii despre AI fără să înțeleagă neapărat subiectul — fă-ți vocea auzită.
• Experimentează etic: folosește instrumentele AI disponibile, înțelege-le limitele, observă cum îți schimbă munca și viața. Experiența directă e cel mai bun antidot pentru ambele extreme — atât pentru panica irațională cât și pentru entuziasmul naiv.
• Gândește-te la implicații în propria profesie: nu abstractul „AI va schimba economia", ci concretul „în ce fel AI va schimba ce fac eu specific în 3–5 ani și ce pot face pentru a rămâne relevant și a beneficia de schimbare".

Concluzia seriei

Opt episoade, opt perspective diferite asupra aceluiași fenomen. Am pornit cu un neuron artificial și am ajuns la superinteligență; am trecut prin tokenizare, modele concurente, imagini generate din text, piața muncii, halucinații, reglementare și viitorul pe termen lung.

Dacă e un singur lucru de reținut din întreaga serie: AI-ul nu e o forță a naturii, e o tehnologie. E construită de oameni, cu alegeri făcute de oameni, cu consecințe modelate de decizii umane — în laborator, în politică, în piață și în viețile de zi cu zi ale milioane de utilizatori. Asta înseamnă că are sens să fii informat, să ai opinii și să participi la conversație. Alternativa — să lași viitorul AI să se întâmple cu tine, nu cu participarea ta — e o opțiune, dar nu una înțeleaptă.