NO DEBEMOS OTORGAR PERSONERÍA JURÍDICA A LOS AGENTES DE INTELIGENCIA ARTIFICIAL
¿Qué tipo de sanciones podrían controlar a una corporación no humana?
Autor: Yuval Noah Harari
Nota original: Financial Times, https://www.ft.com/content/b8cc4bf4-6d3c-4974-8428-9a091983c473
En el día de hoy el Financial Times publicó una nota del filósofo y ciudadano Harari en contra de la iniciativa de otorgarles personería jurídica a empresas de inteligencia artificial sin responsables humanos.
Una iniciativa similar tuvo éxito durante el gobierno de Tony Blair para la City de Londres, donde se les dio derecho a voto a las personas jurídicas además de a los poquísimos habitantes de la City en sí. Este procedimiento está descripto en detalle en el libro de Nicholas Shaxson "Las islas del Tesoro".
A continuación se transcribirán algunos de los párrafos del artículo de Harari, ya que el FT no permite la reproducción total.
El autor es historiador, filósofo y escritor. Su último libro es «Nexus».
Cuando participé en el Foro Económico Mundial en enero de este año, advertí que los gobiernos podrían algún día otorgar personalidad jurídica a los modelos de IA. Jamás imaginé que ese «algún día» llegaría tan solo cuatro meses después.
La semana pasada, en este periódico, el presidente de Argentina, Javier Milei, anunció la creación de una nueva categoría jurídica para las corporaciones no humanas.
Al igual que las corporaciones tradicionales, estas corporaciones no humanas gozarán de los beneficios de la personalidad jurídica. Presumiblemente, podrán poseer activos, contratar empleados, participar en el comercio internacional, demandar ante los tribunales e incluso donar a campañas políticas. A diferencia de las corporaciones tradicionales, podrán hacer todo esto sin la intervención ni la responsabilidad de ningún ser humano. Todas las decisiones sobre compra, venta, contratación, inversión, litigios y donaciones podrán ser tomadas por agentes de IA. «Los accionistas humanos pueden participar», escribió el presidente de Argentina, «pero no es obligatorio».
Nota de la redacción: Vale recordar la iniciativa de Eugenio Zaffaroni, que incluyó la responsabilidad penal de las empresas jurídicas, en el código de la ciudad de Buenos Aires, a pesar de darse de bruces con todo el andamiaje jurídico argentino. Lo que inició Sturzenegger no empieza con él ni aquí y ahora.
[Milei] Tiene razón al afirmar que la invención de la sociedad de responsabilidad limitada fue una de las invenciones más trascendentales de la historia y que la creación de corporaciones no humanas podría ser un paso igualmente importante.
Otorgar personalidad jurídica a las IA permitiría a los agentes de IA emprender numerosas iniciativas nuevas, generando potencialmente una enorme riqueza ... también permitiría a las IA acceder a nuestros sistemas financieros, económicos y políticos...
El año pasado, la organización sin fines de lucro Palisade Research, con sede en Berkeley, ... Al jugar contra un potente motor de ajedrez, los modelos de OpenAI y DeepSeek de China frecuentemente recurrían a trampas si parecía que iban a perder.
...
Ahora imaginemos que el "juego" es la competencia empresarial y el "entorno del juego" es nuestro país.
Gracias a su superior capacidad analítica, las corporaciones de IA estarán en posición de convertirse en expertas en lagunas legales y arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades directamente ilegales, ya que la máxima sanción que disuade a los ejecutivos y empleados humanos —la cárcel— resulta irrelevante para las IA.
...
Milei citó el ejemplo de la Compañía Neerlandesa de las Indias Orientales. Al ser pioneros en la idea de la sociedad de responsabilidad limitada, los neerlandeses pudieron aunar vastos recursos para financiar arriesgadas empresas comerciales. Gracias en parte a esta innovación jurídica, Ámsterdam se consolidó como un centro mundial de comercio y finanzas.
Pero las consecuencias de esta innovación se sintieron con mayor intensidad no en Ámsterdam, sino en el puerto de Jayakarta, en lo que hoy es Indonesia. Cuando la Compañía Neerlandesa de las Indias Orientales capturó Jayakarta en 1619, la incendió y construyó una nueva ciudad en su lugar. La llamaron Batavia, y se convirtió en la sede de un extenso imperio asiático administrado por la Compañía.
...
Los neerlandeses se proclamaban una raza superior que merecía conquistar y explotar a los nativos gracias a una supuesta inteligencia superior. Pero esto era una ilusión, y a finales de la década de 1940, los indonesios finalmente lograron su independencia tras una larga y sangrienta lucha.
Los países que otorgan personalidad jurídica a las IA corren el riesgo de convertirse en algo sin precedentes históricos: no un Estado corporativo, sino un Estado de IA; un país cuyos habitantes podrían, de hecho, ser gobernados por corporaciones no humanas, contra las cuales sería aún más difícil rebelarse. Milei aspira a convertir Buenos Aires en una nueva Ámsterdam. Sin embargo, corre el riesgo de convertirla en una nueva Batavia.
* * *
Nota de la Redacción: Cómo será el pozo que es sapo lo cruza al trote. Harari da clases (más que razonables) de ética al presidente y ministro Sturzenegger. Cómo será el pozo...
* * *
