El Estado puede recolectar más información y con más facilidad que nunca antes. No subestimemos los riesgos.
Te están observando. Cuando caminas al trabajo, las cámaras CCTV te filman y reconocen tu rostro cada vez más. Si sales en auto de la ciudad, las cámaras que leen los números de placa capturan tu recorrido. El teléfono inteligente de tu bolsillo deja un rastro digital constante. Puedes explorar la red en la privacidad de tu hogar, pero lo que haces queda registrado y se analiza. Los datos resultantes pueden cribarse para crear un registro minuto a minuto de tu vida.
Bajo un gobierno autoritario como el de China, el monitoreo digital está convirtiendo un perverso Estado policiaco en uno aterrador que todo lo sabe. Sobre todo en la región de Xinjiang, China está utilizando la inteligencia artificial y la vigilancia masiva para crear un panóptico del siglo XXI e imponer un control total sobre millones de uigures, una minoría musulmana que habla una lengua túrquica. En las democracias occidentales, la policía y las agencias de inteligencia están utilizando las mismas herramientas de vigilancia para resolver e impedir delitos, así como para evitar el terrorismo. Los resultados son eficaces, pero muy preocupantes.
Entre la libertad y la opresión se encuentra un sistema que busca el consentimiento de los ciudadanos, mantiene controles y equilibrios gubernamentales y, cuando se trata de la vigilancia, impone reglas para limitar a quienes recolectan y procesan información. Sin embargo, puesto que los datos son tan abundantes y fáciles de recolectar, estas protecciones se están erosionando. Las reglas de privacidad diseñadas para el teléfono fijo, los buzones de correo y los archiveros deben reforzarse de manera urgente en la edad del teléfono inteligente, el correo electrónico y la computación en la nube.
UN ESPÍA CON MILES DE OJOS
Cuando Alemania del Este colapsó en 1989, la gente se maravilló de la cantidad de información que el servicio de seguridad Stasi había recabado, así como con la vasta red de informantes requerida para reunirla. Desde entonces, la revolución digital ha transformado la vigilancia, como lo ha hecho con todo lo demás, al hacer que sea posible recolectar y analizar datos a una escala sin precedentes. Los teléfonos inteligentes, los exploradores web y los sensores proporcionan enormes cantidades de información que los gobiernos pueden hackear o reunir; los centros de datos les permiten almacenar esos datos de manera indefinida; la IA los ayuda a encontrar agujas en el pajar digital reunido. Las tecnologías que alguna vez parecieron ser afines a la libertad, pues permitían que los disidentes en las dictaduras se comunicaran y se organizaran más fácilmente, ahora resultan más orwellianas, ya que permiten que los autócratas vigilen a la gente incluso más de cerca que la Stasi.
Xinjiang es el extremo de pesadilla que la nueva tecnología hace posible: un Estado policiaco racista. Debido a temores de insurrección y separatismo, los gobernantes chinos han reforzado técnicas de control totalitario: entre ellas la detención en masa, mediante tecnología digital, de los uigures para su reeducación. Algunas calles en las provincias tienen postes con cámaras CCTV cada 100 a 200 metros. Registran cada rostro y placa de los conductores que pasan. Los móviles de los uigures deben contar con un software de espionaje emitido por el gobierno. Los datos asociados con sus identificaciones no solo incluyen nombre, sexo y ocupación, sino también detalles de familiares, huellas digitales, tipo de sangre, información de ADN, registro de detenciones y “estatus de fiabilidad”. Todo esto y más se encuentra en la Plataforma Integrada de Operaciones Conjuntas, un sistema con un motor de IA que genera listas de sospechosos para su detención.
El totalitarismo a la escala de Xinjiang puede ser difícil de replicar, incluso en la mayoría de los territorios en China. Reprimir a una minoría fácilmente identificada es más fácil que asegurar el control absoluto de poblaciones enteras. No obstante, los elementos del modelo de vigilancia de China seguramente inspirarán a otras autocracias –desde Rusia a Ruanda y Turquía–, a las que felizmente les venderán el hardware necesario. Los Estados liberales tienen la obligación de exponer y castigar esta forma de represión, sin importar qué tan limitadas sean sus herramientas.
Occidente debe verse a sí mismo también. Actualmente, las fuerzas policiacas también pueden tener acceso a una cantidad de datos similar a la de la Stasi. Los funcionarios pueden configurar torres de teléfono falsas para rastrear los movimientos y los contactos de la gente. Los datos de los lectores de placas pueden rastrear los movimientos de una persona durante años. Algunas ciudades estadounidenses tienen programas de vigilancia policial predictiva similares a IJOP que analizan delitos previos para predecir crímenes próximos. Todo esto permite el monitoreo de posibles atacantes, pero el potencial de abuso es enorme. Se sabe que cientos de policías estadounidenses han utilizado bases de datos confidenciales para revelar información comprometedora de periodistas, ex novias y otros.
VIGILANDO A LOS DETECTIVES
¿Cómo mantener un equilibrio entre la libertad y la seguridad? Hay que comenzar por asegurarnos de que el mundo digital, como el verdadero, tenga lugares donde la gente que respeta la ley pueda disfrutar de privacidad. Los ciudadanos de las democracias liberales no esperan que los registren sin una buena causa, ni que entren a sus casas sin una orden judicial. De igual manera, un móvil en el bolsillo de una persona debe tratarse como un archivero en casa. Así como uno de estos puede cerrarse con llave, el cifrado no debe restringirse. Una segunda prioridad es limitar el tiempo de almacenaje de la información sobre los ciudadanos, reducir quién tiene acceso a ella y penalizar su mal uso en consecuencia. En el 2006, la Unión Europea emitió una disposición con la que requería que las firmas de celulares mantuvieran los metadatos de los clientes hasta por dos años. Esa ley fue derribada por el Tribunal de Justicia de la Unión Europea en el 2014. El mal uso de datos policiacos debe ser una ofensa criminal por la que la gente sea castigada, no un “error” absuelto mediante una disculpa colectiva.
Una tercera prioridad es supervisar el uso de la IA. Los sistemas de vigilancia policial predictiva son imperfectos y funcionan mejor a la hora de encontrar patrones de robo que de asesinatos, por ejemplo. El reconocimiento facial podría producir muchos resultados de falso positivo. La inteligencia artificial entrenada con datos parciales –por ejemplo, patrones de arresto con un número desproporcionado de personas de raza negra– puede reproducir esa información tendenciosa. Algunos algoritmos para generar sentencias tienen más probabilidades de etiquetar a acusados de raza negra que a los blancos como personas con alto riesgo de volver a cometer un delito. Ese tipo de algoritmos deben estar expuestos al escrutinio, no protegidos como secretos comerciales.
La vigilancia y la transparencia deben ser las consignas. Podrían mejorar la efectividad de la tecnología: la rutina de que la policía use cámaras de intervención (“bodycams”), por ejemplo, parece reducir las quejas públicas. Las consultas también son importantes. Un proyecto de ley propuesto en California obligaría a las agencias policiacas a revelar qué dispositivos de vigilancia tienen, publicar datos sobre su uso y buscar la opinión pública antes de comprar más. Si eso provoca que el progreso sea más lento, que así sea. La policía vigila a los ciudadanos para mantenerlos a salvo. Los ciudadanos deben vigilar a la policía para mantener su libertad.