BLACK MIRROR: CRÉDITO SOCIAL
Aristóteles dividió la vida en dos esferas plenamente diferenciadas: la esfera pública o la polis, que involucraba al mercado, la política, en suma, toda la vida «social»; y la esfera doméstica u oikos, que era toda la vida familiar, relativa al hogar y donde lo público no tenía cabida
Autor: Dr. Antonio Bermejo (@JuezBermejo)
Datos y Crédito Social
En la segunda mitad del siglo XX una nueva herramienta revolucionó casi toda la vida del hombre: la computadora. En palabras sencillas, podemos definirla como una máquina que puede llevar a cabo operaciones lógicas o aritméticas de forma automática, siguiendo comandos y ejecutando programas. La capacidad de procesar esos datos (de «computar») ha crecido en niveles siderales y, actualmente, es inconcebible casi cualquier actividad económica sin el apoyo de estas máquinas.
La capacidad de procesar datos a gran escala ha generado toda una nueva economía de datos: a través de técnicas como el data mining, big data y técnicas más avanzadas de inteligencia artificial como el machine learning o el deep learning, son capaces de perfilar a los usuarios y poder brindarles determinados servicios u ofrecerles determinados productos de acuerdo a sus gustos o preferencias, determinados a través de aplicar algoritmos a los datos recolectados. Estos perfilamientos pueden ser relativamente inocuos (si solo son usados para publicidad dirigida), pueden tener consecuencias políticas (como la utilización de esos perfilamientos para direccionar opiniones o votos) o incluso pueden llegar a restringir derechos. Uno de los primeros usos (y de los más controversiales) son las empresas que brindan información sobre cumplimiento crediticio y solvencia financiera de las personas (el famoso VERAZ).
Estas empresas se dedican a recolectar determinada información proveniente de bases de datos públicas, por ejemplo el BCRA (donde está toda la información sobre cheques rechazados y la historia crediticia), información sobre juicios iniciados, participación en sociedades, etc., y la ofrecen a empresas que desean conocer la solvencia de sus eventuales deudores. Un informe negativo puede significar para uno hallarse totalmente fuera del sistema de crédito formal, impidiendo a uno financiarse o teniendo que acudir a prestamistas usurarios. Como se ve, resulta una grave afección a la persona, y un informe negativo erróneo, una grave afectación a sus derechos.
Por estas razones (la nueva capacidad de almacenamiento y procesamiento de datos y los problemas que pueden llegar a causar), existe todo un plexo normativo dedicado a los datos.
Derecho a la Privacidad
Antes que nada, debemos hacer énfasis en el concepto de derecho a la privacidad o la intimidad. Aristóteles dividió la vida en dos esferas plenamente diferenciadas: la esfera pública o la polis, que involucraba al mercado, la política, en suma, toda la vida «social»; y la esfera doméstica u oikos, que era toda la vida familiar, relativa al hogar y donde lo público no tenía cabida. Con el tiempo, su concepción se fue agrandando, incluyendo no solo el derecho liberal a poder hacer todo lo que no está prohibido (derecho que está receptado en el artículo 19 de nuestra Constitución), sino a un derecho no solo dirigido contra el Estado, sino contra otros ciudadanos: el derecho a «ser dejado en paz», a no ser difamado y a que no se ventilen asuntos privados que se desea que continúen siendo tales. En otra épocas, un rumor o una calumnia apenas podía divulgarse más allá del mismo pueblo donde había surgido (o incluso el mismo bar), pero, con los medios de comunicación masivos primero, y con las redes sociales después, es inconmensurable el daño al honor y a la privacidad de una persona que puede ser causado por la difusión de un dato, una opinión o un rumor. Para terminar, voy a utilizar una definición de Díaz Molina: "es el derecho personal que compete a toda persona de sensibilidad ordinaria, de no permitir que los aspectos privados de su vida, de su persona, de su conducta y de sus empresas, sean llevados al comentario público o con fines comerciales, cuando no exista un legítimo interés por parte del Estado o de la sociedad".
Por el impacto de las nuevas tecnologías de la información, el derecho a la privacidad, entonces, no sólo consiste en el viejo «déjenme en paz», sino que lo excede. Le tenemos que agregar el concepto de «autodeterminación informativa»: el derecho a poder conocer y controlar la información existente sobre uno mismo en los bancos de datos y conocer el tipo de procesamiento y uso que se le dará.
Principios en Bases de Datos
Advirtiendo este problema, a partir de los años 80 comenzó a surgir toda una normativa dedicada al uso de bases de datos, que se vio receptada primero en el artículo 43 de la Constitución Nacional (agregado en la reforma de 1994) y por la Ley de Protección de Datos Personales 25.326. Estos principios básicos son los siguientes (pondré entre paréntesis en qué normativa argentina se vieron receptados):
- LICITUD:
Los datos deben ser recolectados usando medios lícitos (art. 3º, ley 25.326) y no deben ser tratados posteriormente en forma ilegal o que contravenga los fines por los cuales fueron recolectados (art. 4º inc. 2, Ley 25.326).
- CALIDAD:
Los datos recolectados deben ser ciertos, actualizados, pertinentes y no excesivos en relación a los fines por los cuales fueron recogidos (art. 4º ley 25.326).
- CONSENTIMIENTO:
El titular de los datos debe prestar consentimiento expreso e informado acerca de la recolección y tratamiento de sus datos. Esto es un pilar básico del principio de autodeterminación informativa y solo no sería necesario cuando sean datos recabados por el Estado en virtud del ejercicio de sus funciones propias (más adelante volveré sobre esto).
- INFORMACIÓN:
EL titular de los datos debe ser informado sobre la finalidad de la base de datos, el modo de tratamiento, domicilio y datos del responsable y la posibilidad de tener acceso a ella.
- ACCESO:
El titular puede exigir legalmente el acceso a la base de datos (a través de la acción de hábeas data), de forma gratuita, clara, exenta de codificaciones.
- SUPRESIÓN, MODIFICACIÓN, RECTIFICACIÓN:
El titular puede exigir la modificación, actualización y, si correspondiere, la supresión o sometimiento a confidencialidad de los datos almacenados en la base.
- PERFILAMIENTO:
Otra cuestión de mucha actualidad, se busca que no se vean «sometidas a una decisión con efectos jurídicos sobre ellas o que les afecte de manera significativa, que se base únicamente en un tratamiento automatizado de datos destinado a evaluar determinados aspectos de su personalidad, como su rendimiento laboral, crédito, fiabilidad, conducta, etc».
Las leyes de protección de datos en todo el mundo prestan especial atención a los llamados «datos sensibles»: los que tienen que ver con la salud, etnia, religión, ideología política u orientación sexual. Ellos solo pueden ser recabados a fines estadísticos y con disociación, es decir, que el dato no pueda ser relacionado a determinada persona.
Perfilamiento o Determinismo Algorítmico
El objetivo fundamental de la ciencia es poder generar hipótesis que se comprueben (o, más bien, que no sean falsadas). En tanto la hipótesis siga estando vigente, puede predecir lo que va a acontecer siguiendo un simple proceso deductivo: si A y B entonces C. Esto, tan común en ciencias como la física, intentó ser replicado en otras áreas del conocimiento humano, incluso los estudios sociales o humanos.
Todos recordamos a Cesare Lombroso, un famoso criminólogo italiano que sostenía que analizado ciertos datos antropométricos, se podía predecir el comportamiento criminal de las personas, y, con el armado de distintos perfiles, se podría prevenir el crimen. Actualmente sus teorías son rechazadas, pero, apoyados en las nuevas tecnologías disponibles y en las inmensas bases de datos, se buscan objetivos similares: armar perfiles de personas para poder predecir su comportamiento, decidir cuáles son deseables o indeseables y aislar a estas últimas de la sociedad. De esta forma llegamos a lo que podría denominar determinismo algorítmico: un programa es capaz de decidir cómo va a ser tu futuro y concederte premios y castigos en consecuencia. Parece distópico, pero lo tenemos en el horizonte.
Capaz el experimento más siniestro que vislumbra es el llamado crédito social. Muchas empresas de comercio electrónico o aplicaciones al estilo de Uber tienen un sistema de puntaje de usuario, de acuerdo a su comportamiento (similar al viejo Veraz del que hablábamos al principio de esta nota). Si somos buenos usuarios, confiables, que respetamos las normas, tenemos un puntaje alto, con sus correspondientes beneficios. Si no, somos castigados e incluso podemos llegar a ser expulsados de la comunidad, todo ellos en virtud de una sentencia dictada por un opaco algoritmo que no conocemos.
En estos casos podemos justificar plenamente esto, diciendo que son las reglas del juego a las que uno se somete al ingresar al sistema ofrecido por estas empresas. Pero en países como China se está buscando llevar este sistema un paso más allá: el sistema de crédito social. En él, cada ciudadano tendrá un puntaje asociado a su comportamiento: haber cometido crímenes, su integridad social, cumplir las normas, no difundir noticias falsas, no opinar, no hablar y vaya uno a saber hasta qué extremo puede procesar el algoritmo. Este puntaje va a tener sus consecuencias: a puntaje alto uno va a tener ciertos beneficios, y con puntaje bajo, castigos.
Ya existe la posibilidad en China de que se prohíba la posibilidad de viajar en ciertos medios más cómodos (como aviones) si uno tiene deudas, debiendo viajar en sistemas más lentos e incómodos. Es un país donde existe el hukou, un sistema de registracion que asigna determinados beneficios (desde la provisión de un sistema de salud, educación, etc.) de acuerdo al lugar de nacimiento. La migración interna (huir del campo a la ciudad) es «castigada» mediante la no provisión de estos beneficios. Lentamente, se va desarrollando un sistema que pueda aplicar el sistema de puntaje de las aplicaciones y el sistema de segmentación de servicios sociales a toda la población mediante la decisión de oscuros algoritmos. Estas formas de pequeños ataques a las libertades son las más dañinas: son incluso justificadas por el que las sufre (lo vemos acá: la cuarentena obligatoria por decreto hizo surgir cientos de defensores y delatores) y no parecen ser germen para una gran protesta.
Aplicaciones y la SUBE
Este artículo lo escribí en medio de una crisis que ha justificado los más inimaginables atropellos a nuestros derechos. En nombre de evitar las consecuencias de una pandemia se están violando uno por uno las libertades más elementales. Siempre hay que estar alertas en períodos de emergencia, ya que son justificaciones a atropellos imposibles en otros momentos. Vaya como ejemplo la Patriot Act dictada luego de los ataques a las Torres Gemelas en uno de los países que siempre se consideró a sí mismo como un defensor de las libertadores. El miedo sirve como excusa para que nos impongan soluciones que parecen brindar falsa seguridad pero que, en el fondo, son una forma de control.
Dos decisiones (que fueron suspendidas momentáneamente) del Gobierno para enfrentar este virus fueron la obligatoriedad de descargar una aplicación que procesaría datos sobre salud, ordenaría el aislamiento de acuerdo a determinados síntomas (!) y realizaría un seguimiento de la persona. Más allá de la utilidad o inutilidad del diagnóstico mediante sistemas expertos, nos hallamos ante un evidente perfilamiento y uso de datos sensibles que no debe ser tolerado.
Por otro lado, estos días se comentó la posibilidad de bloquear a todos los ciudadanos que no realicen «actividades esenciales» (eufemismo por actividades autorizadas a ser realizadas por la Administración, vulnerando la libertad de trabajo) la tarjeta de transporte público. Más allá de la inmensa estupidez de esta medida (cualquier urgencia médica, trámite, posibilidad de ir al mercado estaría vedada), lo que más aterra es la posibilidad de que la Administración, sin mediar orden judicial, pueda bloquear algo tan básico como es subirse a un transporte público. No debemos tolerar semejante discrecionalidad y poder por parte de la Administración, sea la decisión tomada por un funcionario o por un algoritmo.
Espero que este breve artículo no haya resultado muy árido y ponga en valor lo siguiente, como resumen: la importancia de conocer los datos que estamos ofreciendo y que no se puede hacer cualquier cosa con ellos; y la importancia de no tolerar abusos por parte de la Administración. Si no entendemos esto, el sistema de crédito social nos va a estar golpeando la puerta.
 |
| In Jail. |
* * *
Agradecemos la difusión del presente artículo:
* * *
* * *
