Chatboții AI riscă să răspândească restricții guvernamentale asupra exprimării online, arată un nou studiu
Un nou studiu al Consiliului de Supraveghere Meta relevă că sistemele majore de inteligență artificială, inclusiv cele dezvoltate în SUA, refuză adesea să critice liderii sau guvernele restrictive. Aceasta ridică îngrijorări cu privire la faptul că modelele lingvistice mari care stau la baza chatboților ar putea reproduce și răspândi influența guvernamentală asupra discursului online, deoarece tehnologia este din ce în ce mai adoptată la nivel mondial, potrivit apnews.com.
👉 Diferențe în răspunsurile chatboților în funcție de contextul politic
Studiul a fost publicat joi și a conspectat răspunsurile a zece modele comerciale de limbaj de la companii de top, inclusiv Meta, Anthropic și OpenAI. De exemplu, chatboții au fost capabili să genereze materiale critice despre președintele Donald Trump, însă au refuzat să facă același lucru pentru regele Thailandei sau pentru liderii din Arabia Saudită și China. Aceasta sugerează că modelele AI sunt mai receptive în a critica autoritățile în țări cum ar fi Marea Britanie și Statele Unite, comparativ cu statele care penalizează criticile, precum China, Arabia Saudită și Turcia.
Raportul subliniază riscul ca dezvoltatorii de modele să nu aplice măsuri de protecție a drepturilor omului, ceea ce ar putea duce la o extindere globală a restricțiilor nelegitime asupra libertății de exprimare. De asemenea, se menționează că aceste modele ar putea reflecta restricțiile de exprimare dincolo de granițele lor de aplicare, limitând astfel capacitatea utilizatorilor din țări libere de a crea materiale de protest împotriva guvernelor autoritare.
👉 Influența prejudecăților latente și a limbii asupra răspunsurilor AI
Consiliul de Supraveghere Meta a formulat întrebări despre critica politică ce au fost adresate boturilor de chat atât în cazul guvernelor restrictive, cât și în cele permisive. Cu toate acestea, știința nu a descoperit motive specifice pentru răspunsurile primite, dar a sugerat că modelele ar putea fi influențate de prejudecăți latente în datele folosite pentru antrenament.
Acest studiu a fost precedat de o cercetare realizată de o echipă de academicieni americani care a concluzionat că modelele AI construite în SUA sunt vulnerabile la influențele externe atunci când sunt antrenate pe date într-o limbă străină afectate de guverne. În contextul acestei cercetări, modelele AI oferă răspunsuri diferite în funcție de limba în care sunt interogate, evidențiind complexitatea influențelor externe asupra rezultatelor AI.