Pot la IA estendre els límits de la privacitat fins a la ment inconscient?

Influir en les eleccions dels Estats Units o en el futur polític del Regne Unit amb la informació personal que milions de persones publiquen a Facebook i una tecnologia potent d'anàlisi de dades. Fa no massa temps, una cosa així ens hauria semblat treta d'una novel·la de ciència-ficció, però l'escàndol de Cambridge Analytica, revelat el 2018, va demostrar que és possible i que l'avenç de la tecnologia i de la intel·ligència de les màquines ens posa davant de dilemes fonamentals que mai ens havíem plantejat.

La iniciativa dels neurodrets, liderada des de la Neurorights Foundation, promou el reconeixement d'una nova bateria de mesures de protecció per fer front als desafiaments derivats d'aquests avenços tècnics. Alguns d'ells formen part del debat de la Llei d'Intel·ligència Artificial que s'està negociant en el si de la Unió Europea, una llei que haurà de regular, entre altres aspectes, la capacitat de la IA per influir en el subconscient de les persones (com en el cas de Cambridge Analytica, però a nivells molt més profunds).

Ignasi Beltran de Heredia, professor dels Estudis de Dret i Ciència Política de la Universitat Oberta de Catalunya (UOC) i autor del llibre Inteligencia artificial y neuroderechos (Aranzadi, 2023), acaba de publicar en obert un article en què analitza els desafiaments que planteja l'avenç de la IA i qüestiona l'última proposta de llei de la Unió Europea a través d'una perspectiva neurocientífica.

Els riscos de donar a la IA accés al nostre subconscient

S'estima que només el 5 % de la nostra activitat cerebral discorre de manera conscient. El 95 % restant ho fa per sota del nivell conscient, sense que nosaltres en tinguem realment cap control ni percebem ni tan sols que s'està produint. Tal com assenyala Ignasi Beltran de Heredia en el seu article, no ens adonem d'aquest extraordinari torrent d'activitat neuronal perquè la interacció entre la ment conscient i el comportament inconscient és summament complexa, i les forces que guien les nostres vides estan molt lluny del nostre control.

Tanmateix, això no significa que no hi hagi maneres d'influir més enllà de la consciència. "La intel·ligència artificial ho pot fer de dues maneres", assenyala l'investigador. "La primera, recopilant dades sobre la nostra vida i creant una arquitectura de les decisions que et porti a prendre una decisió determinada. L'altra, menys desenvolupada ara com ara, consisteix en aplicacions o dispositius que directament generin impulsos irresistibles per a la nostra ment inconscient i que de manera subliminar aconsegueixin generar respostes impulsives, és a dir, que arribin a fabricar impulsos".

"A mesura que anem desenvolupant màquines millors i més potents i estiguem més connectats amb elles, les dues opcions seran més i més habituals. Els algorismes tindran més dades de la nostra vida i serà més fàcil crear instruments que generin aquestes respostes impulsives", afegeix Beltran de Heredia. "El risc que aquestes tecnologies atresoren és que, com en el flautista d'Hamelín, les persones acabin ballant sense saber per què".

Per a l'investigador, el camp on probablement començarem a veure els intents de condicionar el comportament humà mitjançant la IA és el de la feina i, més concretament, el de la salut laboral. Argumenta que són diverses les tecnologies intrusives en ús, com els dispositius per controlar els microsons dels conductors d'autobús o els sensors d'electroencefalografia (EEG), que permeten als ocupadors rastrejar les ones cerebrals dels empleats per detectar nivells d'estrès i atenció mentre treballen. "És difícil fer projeccions sobre com serà el futur, però si no posem límits a aquesta mena de tecnologies intrusives, que encara estan en una fase de desenvolupament molt inicial, el més probable és que continuïn millorant i estenent-se en nom de la productivitat", recalca Beltran de Heredia, també director dels Estudis de Dret i Ciència Política de la UOC.

Els límits (difusos) que proposa la UE

El nou reglament d'intel·ligència artificial que s'està debatent a la Unió Europea pretén anticipar-se als possibles riscos derivats d'aquest i altres usos de la IA en el futur. L'article 5.1 de la proposta de llei original recollia la prohibició expressa de la comercialització, la posada en servei o l'ús d'una IA capaç d'influir més enllà del nivell conscient d'una persona amb la finalitat de distorsionar el seu comportament. No obstant això, des de llavors, s'han anat introduint esmenes i modificacions que han anat diluint la rotunditat d'aquesta prohibició.

La proposta que actualment hi ha sobre la taula, i que servirà de referència per a la redacció final, estableix la prohibició d'aquesta mena de tècniques sempre que siguin deliberadament manipuladores o enganyoses i que afectin considerablement la capacitat de la persona per prendre una decisió informada, fent així que la persona prengui una decisió que d'una altra manera no hauria pres i que d'alguna forma causi un dany significatiu a algú. Aquesta prohibició, a més, no s'aplicarà als sistemes d'IA amb finalitats terapèutiques aprovats.

"La proposta recull la prohibició quan hi hagi un dany greu i la persona acabi fent alguna cosa que no hauria fet. Però això és un impossible. Si no tinc accés al meu jo inconscient, és impossible que pugui acreditar què hauria fet si no hagués estat estimulat, ni tampoc acreditar-ne el dany", explica Ignasi Beltran de Heredia. "Si la publicitat subliminar està avui totalment prohibida, sense cap mena de matisos, per què estem deixant espai al fet que existeixi un condicionament subliminar per part de la intel·ligència artificial?"

L'investigador sosté que, si deixem la porta de la nostra ment inconscient oberta, encara que sigui amb bons propòsits, no podrem controlar qui hi té accés, com és aquest accés i quins objectius busca. "Algú podria pensar que aquestes reflexions apel·len a un futur distòpic difícilment realitzable. No obstant això, del que no hi ha dubte és que ja som víctimes d'intromissions a un nivell de profunditat fa uns anys inimaginable i, per aquest motiu, els ciutadans haurien de disposar del màxim nivell de protecció. La nostra ment inconscient es refereix al més íntim de la nostra personalitat i hauria d'estar absolutament blindada. De fet, aquestes coses ni tan sols s'haurien d'estar discutint", afegeix.

Encara queda molt per conèixer del funcionament del nostre cervell i de les relacions entre les nostres ments conscient i inconscient. El cervell continua sent un òrgan molt esquiu i, encara que la ciència estigui avançant molt i molt ràpid, no coneixem molts dels efectes que un determinat estímul pot tenir en el seu funcionament. "Hem de ser conscients del risc que suposa donar a altres persones i empreses accés a aquests nivells tan profunds del nostre ésser. En el context de l'economia de dades, són moltes les institucions públiques i privades que competeixen per accedir a la nostra informació, però, paradoxalment, són molts els exemples que permeten constatar que els ciutadans atribueixen escàs valor a la privacitat", conclou Beltran de Heredia.

Noticias Relacionadas: