{"id":4847,"date":"2026-09-15T14:37:30","date_gmt":"2026-09-15T12:37:30","guid":{"rendered":"https:\/\/inablab.org\/la-ia-no-estava-destinada-a-comprendre\/"},"modified":"2026-09-15T15:30:03","modified_gmt":"2026-09-15T13:30:03","slug":"la-ia-no-estava-destinada-a-comprendre","status":"publish","type":"post","link":"https:\/\/inablab.org\/ca\/la-ia-no-estava-destinada-a-comprendre\/","title":{"rendered":"La IA no estava destinada a comprendre"},"content":{"rendered":"

[et_pb_section fb_built=\u00bb1″ _builder_version=\u00bb4.27.7″ _module_preset=\u00bbdefault\u00bb custom_padding=\u00bb||1px|||\u00bb da_disable_devices=\u00bboff|off|off\u00bb global_colors_info=\u00bb{}\u00bb theme_builder_area=\u00bbet_body_layout\u00bb da_is_popup=\u00bboff\u00bb da_exit_intent=\u00bboff\u00bb da_has_close=\u00bbon\u00bb da_alt_close=\u00bboff\u00bb da_dark_close=\u00bboff\u00bb da_not_modal=\u00bbon\u00bb da_is_singular=\u00bboff\u00bb da_with_loader=\u00bboff\u00bb da_has_shadow=\u00bbon\u00bb][et_pb_row _builder_version=\u00bb4.27.7″ _module_preset=\u00bbdefault\u00bb global_colors_info=\u00bb{}\u00bb theme_builder_area=\u00bbet_body_layout\u00bb custom_padding=\u00bb35px|||||\u00bb][et_pb_column type=\u00bb4_4″ _builder_version=\u00bb4.27.7″ _module_preset=\u00bbdefault\u00bb hover_enabled=\u00bb0″ global_colors_info=\u00bb{}\u00bb theme_builder_area=\u00bbet_body_layout\u00bb sticky_enabled=\u00bb0″][et_pb_text _builder_version=\u00bb4.27.7″ _module_preset=\u00bbdefault\u00bb global_colors_info=\u00bb{}\u00bb theme_builder_area=\u00bbet_body_layout\u00bb]<\/p>\n

<\/h1>\n

Hi ha una explicaci\u00f3 senzilla de per qu\u00e8 la IA, en realitat, no pensa. El teu cervell treballa amb idees. En algun lloc del teu cap hi ha el concepte d\u2019\u00abaranya\u00bb, i es mant\u00e9 igual tant si llegeixes la paraula, com si en veus una fotografia o si notes com una aranya et puja pel bra\u00e7. Un model de llenguatge, el tipus d\u2019IA que hi ha darrere de xatbots com ChatGPT i Claude, no t\u00e9 res semblant, segons aquesta explicaci\u00f3. Nom\u00e9s prediu quina ser\u00e0 la paraula seg\u00fcent. Estad\u00edstica aplicada al text, sense idees al seu interior. Durant anys, aquesta va ser la l\u00ednia clara que separava les ments de les m\u00e0quines. <\/span><\/p>\n

Per\u00f2 cada vegada \u00e9s m\u00e9s dif\u00edcil sostenir aquesta explicaci\u00f3. Cada vegada que els investigadors miren dins d\u2019aquests models, hi troben coses que es comporten com idees. Conceptes abstractes que apareixen per si sols, que ning\u00fa ha dissenyat i que ning\u00fa els ha demanat que construeixin. El cas m\u00e9s sorprenent va arribar de la m\u00e0 d\u2019Anthropic aquest juliol (Anthropic, 2026). En el m\u00e9s profund de Claude, hi van trobar una estructura sobre la qual els neurocient\u00edfics debaten des dels anys vuitanta. <\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Som conscients de la informaci\u00f3, no del maquinari<\/b><\/h2>\n

<\/span><\/p>\n

Aquesta estructura encaixa amb la Global Workspace Theory (Teoria de l\u2019Espai de Treball Global), proposada pel psic\u00f2leg Bernard Baars el 1988 i desenvolupada posteriorment pels neurocient\u00edfics Stanislas Dehaene i Jean-Pierre Changeux fins a convertir-se en una de les principals teories sobre la consci\u00e8ncia (Dehaene & Changeux, 2011).<\/span><\/p>\n

La idea central \u00e9s senzilla. El teu cervell executa molts processos especialitzats en paral\u00b7lel, i la major part de la seva activitat t\u00e9 lloc fora de la teva consci\u00e8ncia. Segons aquesta teoria, all\u00f2 de qu\u00e8 ets conscient \u00e9s la petita quantitat d\u2019informaci\u00f3 que se selecciona i es distribueix \u00e0mpliament pel cervell, de manera que molts sistemes la poden utilitzar alhora. Aix\u00f2 \u00e9s el que et permet expressar una idea, raonar-hi i combinar-la amb qualsevol altra cosa que s\u00e0pigues. <\/span><\/p>\n

I la teoria parla de com flueix la informaci\u00f3, no del maquinari a trav\u00e9s del qual ho fa. Els neurocient\u00edfics han localitzat aquest espai de treball en circuits cerebrals concrets, per\u00f2 res en la l\u00f2gica de la teoria exigeix que siguin precisament aquests circuits. En principi, qualsevol sistema organitzat de la manera adequada podria tenir-ne un. <\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

J-space, on Claude mant\u00e9 una idea en ment<\/b><\/h2>\n

<\/span><\/p>\n

Anthropic va trobar una estructura similar dins de Claude. Una petita part de l\u2019activitat del model, menys del 10 %, funciona com un canal de difusi\u00f3 d\u2019aquest tipus. El van anomenar J-space. Dit de manera senzilla, J-space \u00e9s el lloc on Claude mant\u00e9 la idea amb qu\u00e8 est\u00e0 treballant en aquell moment. <\/span><\/p>\n

Tres experiments donen suport a aquesta interpretaci\u00f3.<\/span><\/p>\n

Primer, si preguntes a Claude per \u00abl\u2019animal que teixeix teranyines\u00bb, mentre prepara la resposta, el concepte d\u2019\u00abaranya\u00bb apareix a J-space. No la paraula: la idea. <\/span><\/p>\n

Segon, els investigadors poden intervenir enmig del proc\u00e9s i substituir aquest patr\u00f3 pel corresponent al significat de \u00abformiga\u00bb. La resposta de Claude canvia de vuit potes a sis. Per tant, aquest patr\u00f3 no \u00e9s simplement una empremta que queda despr\u00e9s de pensar. \u00c9s all\u00f2 amb qu\u00e8 el model pensa. <\/span><\/p>\n

Tercer, si s\u2019elimina completament J-space, Claude pot continuar conversant i recordar informaci\u00f3, per\u00f2 totes les capacitats que depenen de mantenir una idea en ment mentre es treballa amb ella es desfan. Els resums, el raonament pas a pas, la poesia. Tot desapareix. <\/span><\/p>\n

Se suposava que mantenir una idea en ment era precisament una de les coses que aquests sistemes no podien fer. Almenys en aquest aspecte, el que passa dins de Claude s\u2019assembla menys a un autocompletat i m\u00e9s al que fa una ment humana. <\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

El m\u00e9s interessant mai van ser els ingredients<\/b><\/h2>\n

<\/span><\/p>\n

\u00c9s estrany que un predictor de la paraula seg\u00fcent construeixi una cosa aix\u00ed per si sol. I tamb\u00e9 debilita un dels arguments m\u00e9s habituals per treure import\u00e0ncia a aquests models. \u00abNom\u00e9s est\u00e0 predint tokens\u00bb \u00e9s un argument sobre els ingredients. Silici en lloc de c\u00e8l\u00b7lules. Estad\u00edstica en lloc de pensament. <\/span><\/p>\n

Per\u00f2 si la Teoria de l\u2019Espai de Treball Global \u00e9s correcta, all\u00f2 que fa interessant una ment mai no han estat els ingredients. Ha estat la seva organitzaci\u00f3. Claude t\u00e9 els ingredients equivocats en tots els sentits i, tot i aix\u00ed, aquesta organitzaci\u00f3 ha aparegut. <\/span><\/p>\n

Vist des d\u2019aquesta perspectiva, \u00abnom\u00e9s est\u00e0 predint tokens\u00bb s\u2019assembla una mica a dir \u00abel teu cervell nom\u00e9s s\u00f3n subst\u00e0ncies qu\u00edmiques\u00bb. \u00c9s cert, per\u00f2 no \u00e9s el que importa. <\/span><\/p>\n

Res d\u2019aix\u00f2 significa que Claude sigui conscient, ni estic afirmant que ho sigui. La consci\u00e8ncia no \u00e9s la not\u00edcia.
<\/span>La not\u00edcia \u00e9s que el model construeix representacions abstractes per si mateix i les organitza de la manera que una de les principals teories de la consci\u00e8ncia proposa que ho fa el cervell hum\u00e0.<\/b> Aquesta \u00e9s tota l\u2019afirmaci\u00f3, i ja \u00e9s extraordin\u00e0ria.<\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Un experiment que no pots fer amb un cervell<\/b><\/h2>\n

<\/span><\/p>\n

Tot i aix\u00ed, hi ha una cosa que pots fer amb l\u2019espai de treball de Claude que no pots fer amb un cervell. Pots eliminar-lo i observar qu\u00e8 deixa de funcionar. <\/span><\/p>\n

En humans, les evid\u00e8ncies a favor d\u2019aquesta teoria s\u00f3n, en la seva major part, indirectes. Les t\u00e8cniques de neuroimatge mostren correlacions, i els casos que m\u00e9s s\u2019aproximen a proves causals provenen d\u2019accidents, pacients amb cervell dividit, comes o anest\u00e8sia. No pots apagar l\u2019espai de treball d\u2019una persona de manera neta, reversible i repetible per comprovar exactament quines capacitats desapareixen. <\/span><\/p>\n

Amb Claude s\u00ed que ho pots fer. Pots eliminar-lo, modificar-lo i repetir l\u2019experiment mil vegades abans de dinar. Cap teoria de la consci\u00e8ncia ha tingut mai un camp de proves com aquest. <\/span><\/p>\n

I aquest camp de proves podria acabar sent m\u00e9s important per als humans que per a les m\u00e0quines. Una part important del que falla en condicions com el TDAH i la dem\u00e8ncia afecta precisament la capacitat que sost\u00e9 J-space: mantenir una idea activa mentre treballem amb ella. <\/span><\/p>\n

L\u2019atenci\u00f3 es desvia. Els fils del raonament es trenquen a mig cam\u00ed. Avui estudiem aquests errors des de fora, a trav\u00e9s dels s\u00edmptomes i de les t\u00e8cniques de neuroimatge. Un model amb un espai de treball ens proporciona un mecanisme que podem alterar amb precisi\u00f3, de centenars de maneres controlades. I cada manera de trencar-lo genera un patr\u00f3 concret de fallada que despr\u00e9s podem buscar en les persones. <\/span><\/p>\n

No substituir\u00e0 la neuroci\u00e8ncia. Li proporciona una cosa que poques vegades ha tingut: un model mec\u00e0nic funcional d\u2019all\u00f2 que est\u00e0 fallant. <\/span><\/p>\n

Aquesta \u00e9s tamb\u00e9 l\u2019aposta que hi ha darrere del model de la ment que estem desenvolupant a l\u2019INAB: una simulaci\u00f3 de com es formen els pensaments i de com competeixen per la nostra atenci\u00f3. Constru\u00efm el mecanisme precisament per poder-lo trencar a prop\u00f2sit. Debilitem la capacitat de les idees per mantenir-se actives, tal com sembla que passa en el TDAH; deteriorarem el funcionament del sistema, tal com passa en la dem\u00e8ncia, i observem com canvia el pensament. <\/span><\/p>\n

La troballa d\u2019Anthropic \u00e9s encoratjadora per a tot aquest programa. Suggereix que, quan un sistema apr\u00e8n a treballar amb idees, construeix una maquin\u00e0ria que val la pena estudiar. I que tamb\u00e9 val la pena trencar. <\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Cap a on ens porta tot aix\u00f2?<\/b><\/h2>\n

<\/span><\/p>\n

Ning\u00fa ho sap. Alguns investigadors creuen que aquests models estan a prop d\u2019assolir el seu sostre i que les sorpreses m\u00e9s importants ja han quedat enrere. D\u2019altres pensen que tot just hem comen\u00e7at a descobrir qu\u00e8 hi ha al seu interior. <\/span><\/p>\n

Arribaran algun dia a assolir alguna cosa semblant a la consci\u00e8ncia? A mi encara em sembla poc probable. Per\u00f2 \u00abpoc probable\u00bb \u00e9s tamb\u00e9 el que d\u00e8iem quan van comen\u00e7ar a escriure codi, a superar ex\u00e0mens m\u00e8dics i a construir per si mateixos un espai de treball global. <\/span><\/p>\n

Any rere any, continuen sorprenent-nos.<\/span><\/p>\n

Jo he deixat d\u2019apostar perqu\u00e8 aquesta l\u00ednia es mantingui.<\/span><\/p>\n

<\/strong><\/span><\/p>\n

<\/strong><\/p>\n

<\/strong><\/p>\n

Refer\u00e8ncies:<\/strong><\/strong><\/span><\/p>\n