El gerro trencat

Vine preparat perquè en breu la conversa es tornarà distòpica. Per anar escalfant motors i donar context a tot plegat, comencem amb una breu escena de Matrix que segurament et serà familiar. Neo visita l’oracle, i aquesta l’adverteix del gerro i… endavant, tu mateix:

Poc a poc t’adonaràs com l’enigma final, el fet de si l’hagués trencat igualment si no li hagués dit, donaran forma a aquestes línies.

Fins no fa gaire, pocs segles enrere, un hipotètic creador era considerat el portador de la veracitat, una font pura, inqüestionable, a través de la qual justificar els capricis del destí. Amb el temps, aquest model social ha anat canviant. El dogma s’ha desentès de la figura divina, per centrar-se en l’individu. Els nostres sentiments s’han convertit en la màxima font d’autoritat — recolzat en el que ens dicta el cor. La més alta instància a la qual podem recórrer per a cercar una veritat genuïna. Lògicament, qui millor que nosaltres pot saber el que volem? Fins avui la resposta a aquesta pregunta era trivial: ningú. Nosaltres tenim el control i la sobirania dels nostres actes.

Una gran veritat que només podria veure’s amenaçada en el moment que una entitat externa fóra capaç de conèixer’ns millor que nosaltres mateixos i influenciar de manera silenciosa la nostra voluntat. Una realitat — extreta quasi de la ciència-ficció — que encara que costi de creure, pot estar més a prop del que molts pensen. Anem a dins.

Per obtenir el control d’una població a gran escala, es necessiten bàsicament dues coses: moltes dades i un mecanisme per processar-les. Històricament, per aconseguir les dades, necessitàvem agents o espies pul·lulant per les ciutats. Un procés costós i poc escalable que no era capaç de generar suficients dades — ni en volum, ni en qualitat — per sacsejar els pilars de la societat. No obstant això, podríem dir que actualment vivim en el somni més sucós d’un espia del segle XIX.

Resulta que hem creat uns dispositius que no només viatgen amb nosaltres allò on anem, sinó que nosaltres mateixos els entreguem voluntàriament les dades. Li confessem tot: què veiem, on estem, què ens interessa, amb qui parlem… i de tant en tant, de forma explícita, què sentim en cada interacció.

Paral·lelament la tecnologia s’està acostant a les carns, convertint-se en més i més íntima i personal. Digui-li Neuralink o digui-li intel·ligència artificial que analitza els teus músculs facials, però aviat aquests dispositius seran capaços no només d’entendre el que mirem, sinó també, de manera implícita, què sentim i com reaccionem als inputs.

En un món on els inputs estan determinats per un tercer que coneix minuciosament les nostres reaccions a cada una de les nostres interaccions, qui està en control de tot plegat? El “sistema” ens dóna els inputs, en processa la nostra reacció, i n’ajusta els següents en temps real basant-se en el feedback rebut. En un escenari com aquest, ens preguntem el següent: qui s’asseu al seient del conductor i qui al seient del passatger?

Això és gros. Estem parlant d’una falla filosòfica monumental en la mateixa concepció del món, on creiem cegament en la legítima autoria dels nostres actes. Un model que inevitablement col·lapsa quan aquests sentiments es veuen influenciats per un tercer que no té els nostres millors interessos en ment.

Molts pensaran que aquest entretingut relat serà un problema “pels nostres fills”. Puntada endavant. Malauradament no és així, aquest futur distòpic ja és aquí. El 2019, per primera vegada, vam ser capaços d’extreure memòries del cervell d’uns micos. Productores cinematogràfiques ja estan testant models de CGI on els protagonistes s’ajusten al que sentim per a crear una experiència única cada vegada que mirem el seu contingut. Tanmateix, TikTok pot suggerir dinàmicament vídeos creats de manera digital en funció del teu patró de comportament. La cosa és tan seriosa que fins i tot hem entregat el nostre espai més íntim a un company virtual.

Estirem una mica més del fil i de sobte ens comencem a qüestionar l’autenticitat dels nostres actes. Inevitablement ens trobem a la trencadissa de Matrix. Doncs som el que repetim. El nostre pas per aquest món es compon de petits esdeveniments, simples reaccions a cada un dels successos que ens passen per davant. Del més trivial — com el gerro que cau. Fins al més complex — la persona amb qui ens acabem casant. Així, si aquests esdeveniments venen “predeterminats” per un algoritme pervers, qui controla realment el destí?