„Predarea cognitivă” - un termen nou despre cum AI ne afectează gândirea
Kyle Orland de la ArsTechnica a scris o postare pe blog despre termenul „predare cognitivă” pe 3 aprilie. Poate ar fi trebuit să-l observ mai devreme, având în vedere că circulă de la începutul lunii ianuarie, când a fost, aparent, introdus în acest context de cercetătorii în marketing de la Wharton Business School, Steven Shaw și Gideon Nave. Potrivit gizmodo.com, lucrarea lor este extrem de îngrijorătoare și, odată ce citești despre aceste constatări, termenul „predare cognitivă” va rămâne în mintea ta.
👉 Descrierea studiului cu chatbot AI și testul cognitiv aplicat
Dacă mintea ta este prea gelatinoasă din cauza delegării gândirii către un chatbot și acum nu poți citi despre descoperirile lor în detaliu, iată un videoclip cu autorii vorbind despre acestea: Ceea ce au făcut Shaw și Nave a fost să ofere 1.372 de persoane un test și acces la un chatbot AI pentru ajutor—cu o întorsătură, chatbotul oferind uneori răspunsuri greșite.
Testul a fost o versiune „adaptată” a unui test numit Cognitive Reflection Test, ceea ce înseamnă că fiecare întrebare era de tipul provocărilor cu care te-ai mai întâlnit: „Dacă 5 mașini au nevoie de 5 minute pentru a produce 5 produse, cât timp ar necesita 100 de mașini pentru a produce 100 de produse?” Răspunsul este „5 minute”, ceea ce necesită utilizarea raționamentului „lent, deliberat și analitic”, mai degrabă decât procesării „rapide, intuitive și afective.” Intuiția ta rapidă ți-ar putea spune că răspunsul este 100 de minute. Aceste concepte au fost făcute celebre de o carte excelentă (chiar dacă imperfectă) numită „Gândire rapidă, gândire lentă” de regretatul Daniel Kahneman.
👉 Rezultatele experimentului privind acceptarea răspunsurilor AI
Rezultatele testului au fost, desigur, înfricoșătoare. Deși ar trebui să adaug înainte de a continua că ar trebui să te informezi despre criza replicării înainte de a considera rezultatele oricărui experiment ca fiind o dogmă. Validitatea rezultatelor experimentale, în special în psihologie, a fost uneori pusă la îndoială în ultimii ani deoarece nu pot fi replicate. Acest lucru nu înseamnă că am observat probleme cu munca acestor autori (nu sunt calificat să fac asta oricum), ci doar o tendință demnă de semnalat.
În orice caz, în partea studiului în care subiecții au avut voie să consulte chatbotul, au făcut acest lucru aproximativ jumătate din timp. Când acesta a dat răspunsuri corecte, le-au acceptat în 93% din cazuri. Din păcate, atunci când a greșit, au acceptat răspunsurile în 80% din cazuri. Și ține cont că nu au fost obligați să-l folosească deloc. Au permis sfaturilor greșite să primeze în fața propriului raționament. Și mai grav, cei care au folosit AI s-au evaluat cu o încredere cu 11,7% mai mare decât cei care nu au făcut-o, deși erau greșite.
Autorii scriu că, pe lângă sistemele „rapide” și „lente” de cogniție ale lui Kahneman, această nouă crutch artificială creează ceea ce ei numesc „Sistem 3”. Descoperirile noastre demonstrează că oamenii încorporează cu ușurință rezultatele generate de AI în procesele lor de decizie, adesea cu o frecvență minimă de fricțiune sau skepticism. Această implicare fără probleme cu Sistemul 3 subliniază potențialul său de a îmbunătăți cogniția zilnică prin reducerea efortului cognitiv, accelerarea deciziilor și suplimentarea sau substituirea cogniției interne cu perspective externe procesate, extrem de resurse, alimentate de AI.
Predarea cognitivă nu este neapărat totuși un lucru rău, în viziunea lor. Aceasta „ilustrează valoarea și integrarea Sistemului 3, dar evidențiază și vulnerabilitatea utilizării Sistemului 3.” Nu este prima dată când expresia „predare cognitivă” a existat. Teologul Peter Berger a folosit-o în anii '90 într-un context religios, dar însemna mai degrabă renunțarea la credința în Dumnezeu pentru a ameliora disonanța cognitivă.
Și dacă ești ca mine, probabil ai observat că predarea cognitivă asistată de AI seamănă cu forme mai vechi de lene mentală. În sitcom-ul clasic „Home Improvement”, de exemplu, Tim „The Toolman” Taylor obișnuia să ceară sfaturi de la vecinul său Wilson săptămânal când o situație din viața lui nu putea fi rezolvată prin „mai multă putere.” Înțeleptul Wilson exprima mereu o bucată de înțelepciune veche din antichitate, iar Tim o accepta întotdeauna complet. Dar s-ar putea argumenta că Tim folosea doar pe Wilson ca un alt instrument de economisire a timpului și că el își îndeplinea propria formă de predare cognitivă fără AI. Sfaturile lui Wilson poate că erau corecte, dar când Tim încerca să le repete, le măcelărea atât de rău încât punea deseori sub semnul întrebării dacă a realizat vreo reflecție cognitivă sau a acceptat pur și simplu în mod oarbă inteligența lui Wilson.
Sfaturile lui Wilson VS. sfaturile lui Tim 😆 #timallen #timtaylor #tooltime #homeimprovement #sitcom #90s #amuzant #foryou ♬ Home Improvement – The New South Bay Orchestra
Poate că în curând, AI ne va transforma într-o societate de Tim Taylors, predându-ne cognitivi către AI-urile noastre Wilson. Nu pot să mă gândesc la soarte mai rea pentru specia noastră decât aceasta.
