Obriu totes les cartes. És per els nens
Chat Control i la vella prestidigitació democràtica de convertir una tragèdia real en una infraestructura per vigilar tothom
Cap govern mínimament civilitzat presenta la vigilància massiva com a vigilància massiva. Seria desagradable, poc elegant i, sobretot, electoralment millorable. Ningú no compareix davant les càmeres per anunciar que voldria examinar la correspondència privada de centenars de milions de ciutadans que no estan acusats de res. Fins i tot els buròcrates conserven cert sentit del teatre.
Per això la vigilància arriba sempre disfressada de virtut.
No ens llegiran els missatges per controlar-nos. Déu ens en guard. Els processaran tecnològicament per protegir-nos. No inspeccionaran les nostres fotografies, els nostres correus i les nostres converses: hi aplicaran mesures de seguretat. No debilitaran la confidencialitat de les comunicacions: construiran un espai digital més segur. I, per descomptat, tot es farà per els nens.
Sempre per els nens.
El 9 de juliol, el Parlament Europeu va votar sobre la restitució d’una excepció a les normes europees de privacitat que permet que determinats serveis de comunicació analitzin voluntàriament missatges privats per detectar material d’abús sexual infantil. La norma anterior havia caducat el 3 d’abril de 2026, però el Consell vol ressuscitar-la fins al 3 d’abril de 2028 mentre continua negociant-se un règim permanent. Una majoria simple d’eurodiputats va votar per rebutjar la posició del Consell —314 a favor del rebuig, 276 en contra i 17 abstencions—, però no es va arribar als 360 vots exigits en aquella fase del procediment. El Parlament sí que va aprovar excloure les comunicacions protegides amb xifratge d’extrem a extrem; ara el Consell haurà d’acceptar aquesta esmena o entrar en conciliació.
No, per tant, la Unió Europea encara no ha aprovat un funcionari amb bigoti assegut dins de cada telèfon. La realitat és més sofisticada i, en conseqüència, més interessant: s’està normalitzant la idea que la confidencialitat de les comunicacions és una molèstia reglamentària de la qual convé introduir excepcions successives, temporals i estrictament necessàries. Temporals des de 2021. Prorrogades el 2024. Caducades el 2026. Ressuscitades fins al 2028. Pendents de ser substituïdes per una arquitectura permanent.
L’eternitat europea, com és sabut, es construeix mitjançant mesures provisionals.
El mateix Supervisor Europeu de Protecció de Dades va advertir el febrer de 2026 que una nova extensió havia d’incorporar garanties efectives contra l’escaneig general i indiscriminat, respectar la necessitat i la proporcionalitat i evitar que una norma etiquetada com a temporal servís per esquivar drets fonamentals. No ho deia un grup d’anarquistes digitals instal·lat en un soterrani de Berlín, sinó l’autoritat independent encarregada de vigilar com les institucions europees tracten les dades personals.
Aquí apareix el primer truc.
La protecció dels infants no és una excusa perquè els infants no existeixin. Els abusos existeixen, les víctimes existeixen i la distribució de material criminal és una realitat terrible. L’excusa consisteix a utilitzar aquest mal real com a salvoconducte moral per desplegar mesures que afecten indiscriminadament persones que no són sospitoses de cap delicte.
És una diferència important.
Una excusa política no necessita inventar el problema. Només necessita convertir-lo en un problema tan emocionalment incontestable que qualsevol pregunta sobre l’eficàcia, la proporcionalitat o els límits de la solució pugui ser presentada com una mostra de complicitat amb el monstre.
—Vostè s’oposa a escanejar les converses privades?
—Sí.
—Aleshores no vol protegir els nens.
Fi del debat. S’apaguen els llums. Entra l’orquestra.
Una llei pot ser útil i continuar sent incompatible amb una democràcia
Naturalment que la vigilància massiva pot ser útil. També seria útil que la policia pogués entrar en qualsevol domicili sense ordre judicial. Seria utilíssim obligar tota la població a dipositar l’ADN en una base de dades estatal. Facilitaria molt les coses que cada ciutadà hagués de justificar periòdicament els seus desplaçaments, les seves amistats, els seus ingressos i les seves lectures. Una càmera obligatòria a cada menjador permetria aclarir delictes, detectar maltractaments, comprovar coartades i, amb una mica de sort, millorar els modals a taula.
L’eficàcia policial no és l’únic principi sobre el qual es construeix una democràcia.
Les democràcies accepten deliberadament certes dificultats per al poder. Ordres judicials. Presumpció d’innocència. Secret de les comunicacions. Dret a no ser inspeccionat sense causa. Separació entre una sospita concreta i la població general. No són accidents administratius ni concessions sentimentals. Són obstacles col·locats expressament perquè l’Estat no pugui fer tot allò que tècnicament podria fer.
Perquè el problema no és només què farà el govern benintencionat d’avui. El problema és què podrà fer qualsevol govern de demà amb la infraestructura que avui li hàgim construït.
Naturalment, ens asseguraran que només es buscarà material d’abús infantil. Les bases de dades secretes, els filtres, els sistemes de classificació algorítmica i els mecanismes d’accés excepcional són coneguts per la seva fidelitat monàstica a la finalitat original. Mai no s’amplien. Mai no s’equivoquen. Mai no desperten l’interès de la policia, les agències d’intel·ligència, els propietaris de drets d’autor, els reguladors, els governs autoritaris o el funcionari que acaba de descobrir que aquell botó tan bonic també serveix per a una altra cosa.
Excepte quan passa.
Primer els pedòfils; després ja veurem
Al Regne Unit, la infraestructura Cleanfeed de British Telecom va ser creada per bloquejar pàgines amb imatges d’abús infantil. L’any 2008, el sistema va acabar bloquejant un article de la Viquipèdia sobre el disc Virgin Killer dels Scorpions perquè contenia la portada original de l’àlbum. El bloqueig va provocar problemes tècnics que van afectar milers d’editors britànics i l’Internet Watch Foundation va acabar retirant la pàgina de la llista. Tres anys després, l’Alt Tribunal britànic va ordenar que la mateixa infraestructura Cleanfeed s’utilitzés per bloquejar Newzbin2, aquesta vegada per infraccions de propietat intel·lectual.
La seqüència és exquisida. Es construeix una eina per combatre un dels delictes més repugnants imaginables. Un cop existeix, algú observa que també pot servir per protegir pel·lícules de Hollywood.
Perquè una infraestructura de censura no sap per què va néixer. Només sap bloquejar.
Austràlia va provar una coreografia semblant amb el seu projecte de filtre nacional d’Internet. La llista secreta havia de servir per impedir l’accés a pàgines perilloses, especialment material infantil criminal. Quan una suposada còpia de la llista va sortir a la llum el 2009, contenia 2.395 adreces: al costat de contingut il·legal apareixien webs de joc, pornografia legal, vídeos de YouTube, un operador turístic, una residència canina i el web d’un dentista. També hi figurava Wikileaks, que havia publicat informació sobre la mateixa llista.
Una llista secreta, sense control públic ni mecanisme transparent d’apel·lació, havia atrapat un dentista. Segurament una amenaça especialment sofisticada. Potser amagava la revolució entre dues endodòncies.
Aquesta és una característica deliciosa dels sistemes de vigilància: el debat sempre gira al voltant del criminal ideal, però el sistema real acaba processant humans normals. Els promotors ens mostren un agressor ocult en una habitació fosca. La màquina, mentrestant, troba un pare que consulta un metge.
El 2021, els sistemes de Google van identificar com a possible material d’abús fotografies que dos pares havien fet de lesions genitals dels seus fills a petició de professionals sanitaris. Google va comunicar els casos a les autoritats, la policia va investigar els homes i tots dos van ser exonerats. En un dels casos, però, Google es va negar a restituir els comptes i les dades de l’afectat fins i tot després que la policia determinés que no s’havia comès cap delicte. La revisió de la companyia no es va limitar a la imatge assenyalada: també va examinar la seva col·lecció de fotografies familiars.
L’algoritme no va entendre una fotografia mèdica. El revisor humà tampoc. El sistema va mobilitzar la policia, va suspendre serveis, va obrir arxius personals i va castigar una persona innocent.
Però tranquil·litat: els errors sempre són petits en percentatge. Aquesta és una de les frases preferides de la civilització automatitzada. Quan s’analitzen milers de milions de fitxers, una taxa d’error minúscula només arruïna la vida d’una quantitat estadísticament acceptable de persones.
Ordre a través del caos.
Protegirem els menors vigilant-los
La ironia arriba al seu punt culminant quan la vigilància desplegada en nom dels infants acaba perjudicant directament els mateixos infants.
Milers d’escoles nord-americanes utilitzen sistemes automatitzats per controlar correus, documents, cerques i converses dels alumnes. La justificació és impecable: prevenir suïcidis, assetjament, violència i abusos. Una investigació de l’Associated Press i The Seattle Times va aconseguir accidentalment accés a prop de 3.500 documents sensibles d’estudiants que no estaven protegits amb contrasenya. Contenien informació íntima, inclosos intents de suïcidi. La mateixa investigació va assenyalar que no existeixen estudis independents que demostrin que aquests sistemes redueixen mesuradament els suïcidis o la violència escolar, i va documentar almenys sis estudiants que podien haver estat exposats davant del personal del centre després d’escriure sobre homosexualitat, transsexualitat o disfòria de gènere.
El Center for Democracy & Technology va trobar que un 29% dels estudiants LGBTIQ+ enquestats afirmava que ells mateixos o algú conegut havia estat tret de l’armari a conseqüència d’aquestes tecnologies. També reportaven més disciplina i més contacte amb les forces de l’ordre que els seus companys.
La màquina que havia de protegir l’adolescent vulnerable llegeix el seu missatge, identifica la seva orientació o identitat i ho comunica als adults.
La protecció és completa. Ja no queda ni privacitat on refugiar-se.
No és una anomalia. És el resultat lògic de confondre cura amb inspecció. Un sistema automàtic no acompanya, no escolta, no estableix confiança i no comprèn una biografia. Detecta paraules. Genera alertes. Escala incidències. Converteix la intimitat en un expedient i l’expedient en una intervenció.
Després, quan l’infant deixa d’escriure el que sent perquè sap que algú —o alguna cosa— ho està llegint, els responsables poden celebrar que han disminuït les alertes.
Eficàcia demostrada.
Els poders extraordinaris acaben en mans ordinàries
Austràlia també va justificar la retenció obligatòria de metadades invocant, entre altres amenaces, les investigacions d’explotació sexual infantil. En la tramitació parlamentària es van utilitzar explícitament casos d’abús infantil per defensar que les operadores conservessin durant dos anys dades de comunicacions de tota la població.
Quan aquests poders van passar del discurs solemne a l’administració quotidiana, el Commonwealth Ombudsman va examinar 1.713 accessos a dades de localització fets per ACT Policing entre 2015 i 2019. Només va poder assegurar que nou complien plenament la llei. Va detectar accessos potencialment il·legals, autoritzacions incompletes o retrospectives, possibles vulneracions de privacitat i una cultura que descrivia com a displicent davant del compliment normatiu.
Nou de 1.713.
Els poders excepcionals s’aproven imaginant investigadors impecables perseguint monstres excepcionals. Després els gestionen oficines amb formularis mal emplenats, procediments ignorats, controls tardans i éssers humans convençuts que la norma és una nosa perquè ells, personalment, ja saben que estan fent el bé.
Aquest és el problema de lliurar eines extraordinàries a institucions ordinàries.
El sistema europeu actual tampoc no pot demostrar amb la precisió que caldria la cadena que va des de l’escaneig massiu fins a la protecció efectiva d’una víctima. L’informe de la mateixa Comissió Europea sobre l’aplicació de la derogació admet que molts estats no indiquen quants avisos són realment aptes per investigar, que el nombre de casos oberts és significativament inferior al nombre d’informes rebuts, que les dades sobre condemnes són fragmentàries i que no es pot establir una relació clara entre els informes enviats per les plataformes i les condemnes registrades.
Això no significa que cap alerta no hagi ajudat mai cap infant. Significa que es pretén consolidar una infraestructura d’inspecció de comunicacions sense haver demostrat adequadament quina part de l’enorme volum processat produeix investigacions útils, quina part són duplicats, quina part són errors i quina part acaba realment identificant una víctima o condemnant un agressor.
Però l’ordre modern no necessita demostrar gaire res. Només necessita acumular xifres prou grans perquè semblin importants.
Milions d’arxius examinats.
Milions d’alertes.
Milions de motius per no preguntar quants casos útils n’han sortit.
El nen del cartell
Chat Control no és només una discussió tècnica sobre hash, intel·ligència artificial, xifratge o serveis de missatgeria. És una discussió sobre quin principi governarà les societats digitals: si l’Estat ha de vigilar persones concretes perquè existeixen indicis contra elles, o si tots hem de ser examinats preventivament perquè entre nosaltres podria amagar-se un criminal.
La segona opció és sempre més còmoda per al poder.
També és més ordenada.
Un món on totes les comunicacions poden ser analitzades és un món estadísticament més llegible. Cada fotografia es pot classificar. Cada conversa es pot puntuar. Cada ciutadà es pot situar en una escala de risc. El caos humà —la intimitat, l’ambigüitat, el context, el secret, la broma, la vergonya, el dolor— es transforma en dades tractables.
I quan el sistema s’equivoqui, la culpa serà del caos.
La gran habilitat política consisteix a presentar aquest ordre com una forma de compassió. No es demana poder. Es demana responsabilitat. No es retallen drets. S’eliminen buits legals. No es crea una capacitat de vigilància. Es permet que les empreses continuïn voluntàriament una activitat útil. No es debilita el secret de les comunicacions. Se’n protegeixen els usuaris més vulnerables.
El llenguatge fa la seva feina. Posa una manta sobre la maquinària.
I al cartell, naturalment, apareix un nen.
El nen és perfecte perquè no pot discutir la llei, no pot preguntar si funcionarà, no pot exigir proporcionalitat i no pot denunciar que s’utilitzi el seu patiment per vigilar milions d’adults. És la víctima ideal i també el portaveu ideal: parla sempre amb la veu de qui redacta el reglament.
Potser la protecció dels menors és la intenció sincera d’algunes persones implicades. No cal negar-ho. El que resulta difícil de creure és que una infraestructura capaç d’analitzar comunicacions privades de tota la població romandrà eternament limitada a una finalitat, gestionada sempre amb rigor, immune als errors, inaccessible als governs futurs i indiferent a tots els altres usos que aniran apareixent.
Això sí que exigiria una fe infantil.
La democràcia no consisteix a impedir tota mesura coercitiva. Consisteix a entendre que algunes mesures poden ser útils i, malgrat això, continuar sent inacceptables. Que no tot allò que facilita atrapar un criminal justifica tractar tothom com un sospitós. Que la intimitat no és una concessió revocable quan l’Estat troba una causa prou emotiva. Que els drets fonamentals serveixen precisament quan renunciar-hi sembla més temptador.
Protegir els infants exigeix investigació, recursos policials, cooperació internacional, prevenció, atenció a les víctimes, educació i persecució dirigida contra els agressors. No exigeix convertir cada telèfon en un control fronterer i cada conversa privada en una escena potencial del crim.
Però això seria menys espectacular.
No permetria construir una arquitectura general de vigilància.
I, sobretot, no oferiria aquell ordre magnífic que només es pot obtenir quan s’observa tothom, es classifica tothom i es confia que la màquina sabrà distingir el monstre del dentista.
Obriu, doncs, totes les cartes.
És per els nens.