Google subliniază riscurile sfaturilor medicale generate de IA

Google a fost criticat pentru minimizarea avertismentelor de siguranță referitoare la sfaturile medicale generate de inteligența artificială (IA), conform unei investigații realizate de The Guardian. Compania sugerează utilizatorilor să solicite ajutor profesionist, dar avertismentele sunt adesea conținute în text mic, ceea ce îngreunează accesibilitatea lor.

👉 Vizibilitatea redusă a avertismentelor în mesajele generate de IA

În ciuda afirmațiilor Google că "prezentările generale generate de IA vor informa oamenii când este important să solicite sfatul unui expert", textul de avertizare este, de obicei, scris cu un font mic și la finalul mesajului generat. O investigație recentă a arătat că funcția AI Overviews, bazată pe Gemini, nu afișează niciun disclaimer atunci când utilizatorii primesc pentru prima dată sfaturi medicale.

Avertismentul care subliniază că informațiile oferite au doar un scop informativ și că pentru diagnostic sau tratament este necesară consultația unui medic apare doar dacă utilizatorul cere informații suplimentare. În această situație, textul este, din nou, scris într-un font mai mic și mai discret.

👉 Îngrijorările experților privind siguranța sfaturilor medicale generate de IA

Specialiștii în domeniul IA și-au exprimat îngrijorarea față de aceste practici. Un expert de la Massachusetts Institute of Technology (MIT) a declarat: “Absența avertismentelor atunci când utilizatorii primesc sfaturi medicale creează o mulțime de pericole critice”. Acesta a subliniat că, deși tehnologia este avansată, modelele IA pot oferi în continuare informații eronate.

Un profesor de la Universitatea Queen Mary din Londra a adăugat că “problema cu prezentările generale AI defectuoase este de natură structurală”, subliniind că designul lor favorizează viteza în detrimentul acurateței. Acest proces poate duce la erori în informațiile medicale, având astfel potențialul de a pune în pericol sănătatea utilizatorilor.