Una màquina pot actuar amb autonomia sense tenir voluntat pròpia. Confondre les dues coses ens allunya de comprendre què és realment la intel·ligència artificial generativa.
En els darrers mesos estem assistint a una escalada del relat al voltant de la intel·ligència artificial. Ja no parlem només de models més potents, agents capaços d’executar tasques complexes o sistemes que automatitzen processos que fins fa poc requerien intervenció humana. Comencem a llegir que una IA «ha decidit» actuar, que «ha intentat» evitar una restricció o que ha desenvolupat comportaments que ningú li havia indicat explícitament.
I alguns d’aquests titulars parteixen de fets reals.
S’han documentat sistemes d’IA que han executat accions no previstes, han ocultat errors o han superat determinades barreres de seguretat. És un problema important, especialment a mesura que donem als agents d’IA més capacitat per interactuar amb altres sistemes digitals.
Però d’aquí a afirmar que la IA ha pres una decisió per si mateixa en el sentit humà del terme hi ha un salt conceptual enorme.
I crec que hauríem de ser especialment rigorosos amb el llenguatge que utilitzem.
Una cosa és actuar amb autonomia. Una altra, tenir intencionalitat.
Una IA generativa pot analitzar una situació, seleccionar entre diferents alternatives i executar una acció sense que una persona intervingui en aquell instant.
Això és autonomia operativa.
Però no significa que existeixi darrere d’aquesta acció una voluntat, una motivació o una consciència equivalent a les humanes.
Quan conversem amb una IA tenim la sensació que ens entén perquè interpreta el nostre llenguatge, manté el context, relaciona conceptes i construeix respostes coherents. I aquesta capacitat és extraordinària.
Però que el resultat s’assembli al d’un procés cognitiu humà no demostra que el procés que l’ha generat sigui cognitivament equivalent al nostre.
Aquest és un dels grans riscos de l’antropomorfització de la IA: interpretar una conducta observable amb categories pròpies de la psicologia humana —voler, pensar, decidir, tenir por, enganyar— quan el mecanisme que hi ha darrere és diferent. La literatura científica actual està debatent precisament fins on podem parlar d’«enteniment» en aquests sistemes i alerta de la facilitat amb què projectem característiques humanes sobre el seu comportament.
Crear contingut tampoc significa haver decidit crear-lo
Aquí és on la IA generativa ha provocat una ruptura tecnològica extraordinària.
Fa dècades que interactuem amb màquines. Un cercador ja ens permetia escriure una consulta i obtenir una resposta en forma de resultats.
La diferència fonamental és que ara la màquina genera contingut que abans no existia en aquella forma concreta.
Text. Imatges. Àudio. Vídeo. Codi. Gràfics. Documents.
I això modifica radicalment la nostra percepció de la tecnologia.
Quan una màquina ens retorna una llista de pàgines web, difícilment pensem que està reflexionant. Quan ens escriu una argumentació, construeix una fotografia o manté una conversa aparentment coherent durant quaranta minuts, la frontera psicològica es torna molt més difusa.
Però generar no equival a voler generar.
Darrere continuen existint una arquitectura dissenyada per persones, un procés d’entrenament, dades, objectius d’optimització, instruccions, paràmetres, sistemes de control i, cada vegada més, eines i entorns sobre els quals el model pot actuar.
La sofisticació del resultat no converteix el sistema en un subjecte.
El cervell humà fa una cosa diferent
Els tres anys que vaig estudiar Psicologia m’han resultat especialment útils per observar aquesta diferència entre processos cognitius humans i sistemes artificials.
El cervell humà experimenta un procés biològic de desenvolupament extraordinàriament complex. Durant determinades etapes es produeixen processos intensos de sinaptogènesi, mielinització i reorganització de circuits; alhora, l’experiència vital contribueix a reforçar unes connexions sinàptiques i eliminar-ne o reorganitzar-ne d’altres.
Un model d’IA també pot modificar-se mitjançant entrenament, ajustaments, memòria o nous mecanismes d’aprenentatge. Però no hem de confondre aquests processos computacionals amb el desenvolupament neurobiològic d’una persona ni assumir que compartir determinats resultats implica compartir els mateixos processos interns.
El sensacionalisme tampoc és innocent
Per què, doncs, cada vegada escoltem més noticies que parlen d’IA que «pensa», «decideix», «enganya» o «actua pel seu compte»?
Una part té a veure amb nosaltres. El llenguatge antropomòrfic simplifica fenòmens tècnics molt complexos i genera titulars enormement atractius.
Però també existeix un context empresarial que no podem ignorar.
La indústria tecnològica està immersa en una competició extraordinària per demostrar qui disposa del model més capaç, l’agent més autònom o la plataforma capaç d’assumir més funcions. Al mateix temps, responsables de les mateixes tecnològiques estan alertant públicament dels riscos dels sistemes que desenvolupen. El debat actual combina avenços reals, riscos reals, interessos comercials i una enorme pressió competitiva.
Per a les empreses que han d’adoptar aquesta tecnologia, el soroll no ajuda.
Ni ajuda pensar que la IA és poc més que un cercador sofisticat, perquè estaríem infravalorant una transformació tecnològica profunda.
Ni ajuda atribuir-li consciència, voluntat o intencions perquè un sistema hagi fet alguna cosa que no esperàvem.
Entre banalitzar la IA i mitificar-la hi ha l’espai que més m’interessa: entendre-la.
Menys fascinació i més criteri
Des d’una perspectiva empresarial, aquesta distinció té conseqüències molt pràctiques.
Si interpretem que una IA «decideix sola», desplacem subtilment la responsabilitat des de les persones i les organitzacions cap a la tecnologia.
I aquest és un terreny especialment perillós.
Com més autonomia operativa concedim a un sistema, més importants són les decisions de les persones responsables sobre factors clau com: el disseny dels permisos, les dades a les quals accedeix, els límits d’actuació, la supervisió humana, la traçabilitat i els mecanismes de control.
Lluny de que la IA “decideixi” per si mateixa, el risc està en una altra banda: en la desinformació que es pot amplificar, en la dependència cognitiva que es pot generar i, sobretot, en la progressiva dilució de la responsabilitat humana.
La màquina no pensa per nosaltres. El risc comença quan nosaltres deixem de fer-ho.
Resolem tots els teus dubtes en matèria de màrqueting i gestió de negocis digitals
El màrqueting i la gestió de negocis digitals són aspectes fonamentals per a qualsevol empresa que vulgui tenir èxit en l’entorn actual dels negocis. Són elements que permeten aprofitar al màxim la presència en línia i assegurar-se que s’estan aconseguint els seus objectius comercials.
Necessites créixer i prosperar en l’entorn, però tens dubtes? Parla amb l’assessora de màrqueting i gestió de negocis digitals!
