De ce AI ar putea să nu atingă niciodată inteligența umană
O nouă analiză susține că AI-ul s-ar putea să nu gândească vreodată cu adevărat ca oamenii, deoarece cele mai importante aspecte ale inteligenței umane nu pot fi programate în mașini. Potrivit scitechdaily.com, un important om de știință în domeniul calculatoarelor afirmă că o propunere formulată de Alan Turing, considerat tatăl științei computerelor teoretice, a dus cercetarea în inteligența artificială pe o cale greșită în ultimii 75 de ani.
👉 Analiza critică a propunerilor lui Alan Turing despre inteligența artificială
În noua sa analiză, “Greșeala lui Turing: Evitarea jugului mașinilor neinteligente”, Peter J. Denning examinează ideile pe care Turing le-a avansat în 1950. La acea vreme, mulți oameni de știință credeau că inteligența umană ar putea exista independent de corp și, prin urmare, ar putea fi recreată ca software care rulează pe un computer digital. Denning contestă și ideea că inteligența mașinilor poate fi demonstrată printr-un joc de imitație (cunoscut acum sub numele de testul Turing). “Aceste două afirmații au modelat o mare parte din cercetarea și dezvoltarea AI,” scrie Denning. “Premisa mea este că supunerea noastră acestor afirmații a dus la haosul AI în care ne aflăm astăzi.”
Conform lui Denning, sistemele de inteligență artificială (AI) care sunt dezvoltate în prezent sunt puțin probabil să producă inteligență la nivel uman, cunoscută sub numele de inteligență generală artificială (AGI). În schimb, el avertizează că acestea ar putea crea pericole grave fără a gândi vreodată ca oamenii. Un aspect central al argumentului lui Denning este ideea de cunoștințe tacite. Aceasta se referă la cantitatea enormă de înțelegere umană pe care oamenii o posedă, dar pe care nu o pot exprima pe deplin în cuvinte sau traduce în simboluri pe care o mașină le poate procesa.
👉 Limitările cunoștințelor tacite în dezvoltarea inteligenței artificiale
Denning descrie cinci forme largi de cunoștințe tacite care, spune el, “eludează învățarea automată”. Acestea includ bunul simț, interacțiuni cotidiene cu oamenii și mediul, sentimentele și percepțiile, abilitățile practice și fundalul cultural și istoric împărtășit de societăți. Cercetătorii au petrecut decenii încercând să înregistreze bunul simț într-o formă pe care computerele să o poată folosi. Începând cu anii 1980, ambițiosul proiect Cyc al lui Douglas Lenat a încercat să construiască o bază de date vastă de fapte de bun simț. După 40 de ani de muncă, proiectul conținea 25 de milioane de înregistrări.
“Totuși, chiar și acest tezaur nu putea să adune un fundal de bun simț suficient pentru a face sistemele experte destul de inteligente pentru a fi experți,” notează Denning. “Cyc a validat că mult din cunoștințele care fac oamenii experți nu pot fi articulate ca propoziții.” Abilitatea practică reprezintă o altă mare obstacol, susține Denning. “Abilitățile noastre de performanță în mii de domenii nu pot fi comunicate mașinilor,” explică Denning. “Deși descrierile rezultatelor pricepute (“știu ce”) pot fi adesea reprezentate ca biți și stocate într-o mașină, nu știm cum să codificăm cunoștințele încorporate pentru o performanță pricepută (“știu cum”).” Muzica oferă un exemplu clar al acestei diferențe. Denning spune: “Un violonist virtuoz poate cânta muzică frumoasă, dar nu poate descrie unui ucenic cum să o producă.”
“Chiar și dacă un robot ar putea observa și imita oameni pricepuți, având un corp biologic, un robot nu poate înțelege cum se simte muzicianul când cântă muzica frumoasă sau cum se simte publicul când o aude.” Intuiția, intuițiile, creativitatea spontană și imaginația sunt alte forme de cunoștințe tacite care se rezistă reducerii la instrucțiuni pentru computere. Denning numește obstacolul central “problema reprezentării”. Calculatoarele pot efectua doar calcule atunci când datele și instrucțiunile sunt codificate în forme fizice pe care acestea le pot recunoaște și procesa. Cunoștințele tacite, totuși, nu pot fi ușor convertite într-un astfel de format.
“În spatele fiecărui cuvânt se află o fântână adâncă de cunoștințe tacite care îi oferă un sens,” spune Denning. “Cuvintele sunt doar reprezentări simbolice ale înțelesurilor, nu înțelesurile însele. Modelele de limbaj mari, cum ar fi ChatGPT, Claude și Gemini, manipulează doar cuvinte, ele nu pot ști sau înțelege sensul a ceea ce spun.” Aceasta creează ceea ce Denning vede ca fiind un gap imposibil de depășit. Deoarece oamenii de știință nu înțeleg pe deplin cum funcționează cunoștințele tacite în oameni, ei nu pot determina cum să le transfere la o mașină. “Cum găzduim cunoștințe tacite este în mare parte o enigmă,” admite Denning. “Tot ce știm este că este încorporată. Nu avem idee ce am putea observa și măsura în corpurile noastre pentru a o dezvălui.”
Denning subliniază, de asemenea, importanța contextului, sau circumstanțelor înconjurătoare care oferă cuvintelor și acțiunilor umane sensul și scopul lor. O afirmație poate însemna lucruri foarte diferite, în funcție de dacă vorbitorul este sincer, sarcastic, furios, jucăuș sau provocator. Contextul ajută, de asemenea, oamenii să decidă când să folosească umorul, când să arate tact și cum să interpreteze ceea ce cineva lasă nespus. “Când întrebi de unde provine o presupunere a contextului actual, descoperi că aceasta se bazează pe conversații anterioare din contexte anterioare,” explică Denning. “Fiecare dintre acestea, la rândul său, se bazează pe alte conversații anterioare și pe contextul lor. Această structură este nesfârșită și fractală.”
Cultura prezintă o provocare similară. Ea include valori, norme sociale, judecăți, istorii, comunități, stări de spirit și relații implicând putere sau grijă. “Conversațiile umane sunt impregnate cu presupuneri de fundal care oferă sens și relevanță cuvintelor folosite,” explică Denning. El susține că mărirea modelelor lingvistice mari nu va rezolva această problemă. “Mărirea LLM-urilor cu rețele neuronale tot mai mari nu le va permite să dobândească cunoștințele umane incorporate pe care le numim cultură. LLM-urile nu vor atinge obiectivul testului Turing: de a demonstra gândirea mașinilor nedistinctibilă de gândirea umană.”
Denning descrie în cele din urmă o formă de nesuprapunere mutuală între oameni și mașini. Rețelele neuronale artificiale pot dezvolta propriul tip de cunoștințe tacite de mașină, dar oamenii ar putea fi incapabili să o înțeleagă. “Mașinile nu pot citi cunoștințele noastre tacite și noi nu putem citi ale lor,” scrie el. “Suntem străini printr-o prăpastie imposibil de trecut.” Această prăpastie ar putea avea consecințe majore pentru siguranța AI. Dacă mașinile nu pot înțelege contextul nespecificat din spatele instrucțiunilor umane, Denning avertizează că alinierea comportamentului lor cu scopurile umane poate fi imposibilă.
“Prin automatizarea AI, rețele agentice de mașini sunt susceptibile să dezvolte propria lor inteligență de mașină care nu atinge nivelul inteligenței generale umane, dar este totuși capabilă să creeze probleme severe pentru oameni. Această amenințare este mai mare decât o preluare de către mașini superinteligente,” explică el. Din punctul de vedere al lui Denning, cea mai imediată pericol nu este o mașină superinteligentă care depășește umanitatea. Ci este o rețea de sisteme mai puțin inteligente care acționează în moduri puternice, imprevizibile și potențial dăunătoare. “Inteligența mașinilor are griji diferite față de noi și nu pare să-i pese de noi. Modurile sale de gândire și de rezolvare a problemelor par străine pentru noi. Nu știm încă cum să trăim în siguranță cu aceste mașini.”
“Retragerea de la o singularitate a automatizării AI va necesita mult de la noi. Începem prin a accepta că cultura familiară se estompează pe măsură ce mașinile inteligente apar în societatea noastră și nu știm ce ne așteaptă. Refuzăm să gândim ca mașinile sau să fim subordonați acestora. Refuzăm să ne supunem unui jug impus de mașini cu inteligență scăzută. Cel mai important, ne reafirmăm umanitatea, declarăm din nou ce ne face diferiți de mașini și celebrăm aceste diferențe.”