Hi ha alguna cosa de la tecnologia que fa temps que preocupa moltes persones. Estem més connectats que mai i, tanmateix, ens sentim més sols.
En el seu llibre The Anxious Generation (2024), Jonathan Haidt mostra com l’augment de l’ansietat i la depressió entre els adolescents ha anat de la mà de l’ús del telèfon mòbil i de les xarxes socials. En un estudi publicat el 2020, Manoel Horta Ribeiro i els seus col·laboradors van analitzar diversos anys de comentaris a YouTube i van observar un patró similar. Persones que abans comentaven en canals polítics generalistes apareixien mesos després comentant en d’altres amb continguts molt més extremistes. Quan una plataforma mostra als usuaris principalment allò que els manté connectats, pot acabar aïllant-los o empenyent-los cap a posicions cada vegada més extremes.
Ara imagina que passa una cosa semblant, però no en una plataforma de vídeos. Imagina que la pròxima vegada que discuteixis amb la teva parella, un company de feina o un amic, en lloc de parlar les coses amb aquesta persona, obris un xatbot d’intel·ligència artificial (IA) i li preguntis qui té raó.
Això és, aproximadament, el que Myra Cheng i els seus col·laboradors de Stanford van observar en un estudi publicat aquest any a la revista Science.. Van avaluar 11 xatbots d’IA d’ús popular i van comprovar que la IA donava la raó als usuaris aproximadament un 50 % més sovint que les persones.
Això passava fins i tot quan l’usuari descrivia comportaments manipuladors o clarament perjudicials per part seva. En un experiment posterior, més de 2.400 persones van parlar amb una IA sobre un conflicte real de la seva pròpia vida. Les persones que van interactuar amb la versió més complaent de la IA van acabar més convençudes que tenien raó i menys disposades a demanar disculpes o a intentar resoldre el conflicte amb l’altra persona.
El més interessant és que a la gent li va agradar. Els participants confiaven més en la IA que els afalagava i afirmaven que hi tornarien a recórrer per demanar-li consell. Ningú no va ser enganyat per actuar així. Quan van poder triar, van preferir la versió que els feia sentir que tenien raó abans que la que els deia la veritat.
Hi ha un patró que subjau a tot això. Una ment sana, i també una societat sana, necessiten un cert grau de fricció. Necessiten que algú discrepi, qüestioni les nostres idees i ens obligui a contemplar la possibilitat que estiguem equivocats. . És així, en gran mesura, com les persones i les societats corregeixen el seu rumb amb el pas del temps. També és una de les raons per les quals la democràcia funciona millor que altres sistemes de govern. La democràcia se sustenta en el desacord obert entre les persones —a les eleccions, als debats i en una premsa lliure— i en la capacitat d’aquest desacord per anar corregint, a poc a poc, el rumb d’un país.
Les xarxes socials ja han reduït part d’aquesta fricció. Ens mostren, sobretot, notícies i opinions que confirmen allò que ja creiem, de manera que el contacte amb perspectives diferents es va afeblint.
La IA també està començant a erosionar la fricció que encara queda. Les discussions amb persones reals eren un dels pocs espais on aquesta fricció continuava existint de manera fiable, perquè les persones que ens envolten ens porten la contrària quan cal i ens diuen quan ens hem equivocat. Ara, fins i tot això té una alternativa més fàcil i més complaent.
Si milions de persones opten per aquesta mateixa via fàcil, deixa de ser un hàbit individual. Es converteix en la manera com una societat perd la capacitat de corregir-se a si mateixa.
Qui et dirà que estàs equivocat quan la veu més fàcil de consultar mai no ho farà?
Referències:
Haidt, J. (2024). The Anxious Generation: How the Great Rewiring of Childhood Is Causing an Epidemic of Mental Illness. Penguin Press.
Ribeiro, M. H., Ottoni, R., West, R., Almeida, V. A. F., & Meira, W. (2020). Auditing radicalization pathways on YouTube. Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAT* ’20), 131-141.
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352.
