LA INTELIGENCIA ARTIFICIAL PUEDE AMENAZAR LA DEMOCRACIA
Sobre cómo los sistemas de inteligencia artificial pueden amenazar la democracia
Por Steven Feldstein
Nota original: https://reaction.life/artificial-intelligence-systems-threaten-democracy/
Como demuestra mi investigación, el advenimiento de la represión digital afecta profundamente la relación entre el ciudadano y el estado. Las nuevas teconologías están artillando a los gobiernos con capacidades sin precedencia para monitorear, seguir y espiar a los individuos. Aún gobiernos en democracia con viejas tradiciones de estado de derecho se encuentran tentados para abusar de esas nuevas habilitades.
En los estado con instituciones que no dan cuenta de sus actos y donde son frecuentes los abusos a los derechos humanos los sistemas de IA probablemente van a causar grandes daños. China es un ejemplo prominente. Sus líderes han abrazado entusiastamente las tecnologías IA y ha convertido a la Provincia de Xinjiang en el estado con el sistema más sofisticado de vigilancia que existe, haciendo seguimiento de los movimientos diarios de los ciudadanos y el uso de sus smartphones.
La aplicación de estas tecnologías presenta un modelo que causa escalofríos para otros autócratas y establece una permanente amenaza a las sociedades abiertas democráticas. Aunque no hay evidencia que otros gobiernos hayan replicado el nivel de vigilancia, las compañías chinas están activamente exportando las mismas tecnologías por todo el mundo.
Los sistemas de inteligencia artificial están por todos lados en el mundo moderno, ayudan a hacer funcionar los smartphones, y los motores de búsqueda de internet, los asistentes de voz digital y las colas de espera de las películas de Netflix. Mucha gente falla en no percibir cuán pronto la Inteligencia Artificial se expande, gracias a la cada vez más grande cantidad de datos disponibles para ser analizados, los algoritmos mejorados y los chips de computadoras más avanzados.
A medida que la información se vuelve cada vez más accesible y los análisis se tornan más fáciles de efectuar, los gobiernos están más interesados y no sólo los de países autoritarios. Los EEUU, por ejemplo, en los '70 comprobaron que varias agencias de gobierno - como el FBI, la CIA y la NSA - había expandido sus redes de vigilancia doméstica para monitorear y amenazar a los activistas de derechos civiles, activistas políticos y grupos de nativos americanos. Esas preocupaciones persisten. La tecnología digital hoy ha profundizado la habilidad de aún más agencias para conducir vigilancias más intrusivas.
Por ejemplo, la policía de EEUU ha incorporado las tecnologías de IA. Empezaron usando un software diseñado para predecir donde los crímenes van a pasar para decidir a dónde hay que enviar oficiales a patrullar. También usan reconocimiento facial y análisis de ADN en las investigaciones criminales. Pero los análisis de esos sistemas muestran que los datos que esos desarrollos producen a menudo están sesgados, y que llevan a resultados injustos como determinar que los negros son más proclives a cometer crímenes que otros grupos.
En países autoritarios los sistemas de IA se aplican directamente en control y vigilancia de la población y colaboran con las fuerzas internas de seguridad a procesar masivos volúmenes de información - que incluyen medios sociales, mensajes de texto, correos electrónicos y llamadas telefónicas - más rápida y eficientemente. La policía identifica los patrones sociales y detecta individuos que pueden amenazar al régimen basados en la información descubierta por estos sistemas.
Por ejemplo, el gobierno chino ha usado IA en gran escala para quebrar regiones que son sede de minorías étnicas dentro de China. Los sistemas de vigilancia de Xinijiang y de Tibet han sido descriptos como Orwellianos. Estos esfuerzos incluyen toma de muestras compulsivas de ADN. La red de Wi-Fi que monitorea y las cámaras de reconocimiento facila, todos conectados a una plataforma de análisis integrado de datos. Con la ayuda de estos sistemas, las autoridades chinas, según la opinión del Departamento de Estado de los EEUU, ha detenido arbitrariamente de uno a dos millones de personas.
Mi investigación abarca 90 países con gobiernos que van desde el más cerrado autoritarismo a democracias fallidas como Tailandia, Turquía, Bangladesh y Kenia. Encontré que compañías chinas han exportado tecnología de vigilancia a, al menos, 54 países. Frecuentemente, esta tecnología está empaquetada dentro de la marca "Iniciativa de la Ruta de la Seda" que está financiando una extensiva red de caminos, ferrocarriles, gasoductos, oleoductos, redes de alta tensión y redes de comunicación que sirven al 60% de la población y a economías que generan el 40% del PBI global.
Por ejemplo, las compañías chinas como Huawei y ZTE están construyendo "ciudades inteligentes" en Pakistán, Filipinas y Kenia, que tienen embebidas extensivas redes de tecnología de vigilancia. Por ejemplo, Huawei ha provisto Bonifacio Global City en las Filipinas con internet de alta definición conectada a cámaras que proveen "7 x 24 seguridad, inteligencia y vigilancia conjuntamente con datos para detectar crímenes y ayudar a manejar el tránsito".
Hikvision, Yitu y SenseTime han provisto state-of-the-art cámaras de reconocimiento facial para el uso en lugares como Singapore - que anunció el establecimiento de un programa de vigilancia con 110.000 cámaras colocadas en lámparas de alumbrado público por toda la Ciudad-Estado. Zimbawe está creando una base de datos de imágenes para toda la nación que podrá ser usada para el reconocimiento facial.
De todas maneras vender equipamiento avanzado para obtener réditos es diferente de compartir tecnología con un propósito geopolítico. Estas nuevas capacidades pueden plantar las semillas de la vigilancia global. Así como los gobiernos se han vuelto más dependientes de la tecnología china para manejar a las poblaciones y mantenerse en el poder, también recibirán más presión para alinearse con la agenda de China. Por ahora pareciera que el principal motivo de China es controlar el mercado de las nuevas tecnologías y hacer un montón de dinero en el proceso.
En adición a proveer capacidades de vigilancia la IA puede ayudar a un gobierno represivo a manipular la información disponible y desparramar información falsa. Esas campañas pueden ser automatizadas y emitir mensajes hiperpersonalizados directamente para - o contra - personas específicas y o grupos.
IA también maneja la tecnología llamada "deepfake”, por la cual los algoritmos crean falsificaciones realistas de videos y audios. Embarrar las aguas entre la verdad y la ficción puede ser muy útil en una elección ajustada, cuando un candidato puede crear videos falsos haciendo que un oponente dice o hace cosas que nunca sucedieron.
En mi opinión, los legisladores en las democracias deben sopesar muy cuidadosamente los riesgos de los sistemas de IA en sus propias sociedades y para las personas que viven bajo regímenes autoritarios en todo el mundo. Una cuestión crítica es cómo varios países han adoptado el modelo chino de vigilancia digital. Pero no son sólo los países autoritarios los que sienten la tentación. Y no son únicamente las compañías chinas las que extienden la teconología. Muchas compañías norteamericanas, Microsoft incluida, pero también IBM, Cisco yThermo Fisher han provista sus sofisticadas habilidades a gobiernos despreciables. Los mal usos de IA no son limitados a los estados autocráticos.
