Hace 20 años sostuve que la creación de bases de datos con información sensible -como direcciones particulares, datos biométricos y números de la Seguridad Social- debía considerarse una actividad de altísimo riesgo. Dichas bases de datos solo podrían gestionarse si las entidades que las crean asumen una responsabilidad plena e incondicional ante cualquier filtración o incidente. Dado que los modelos de IA generan riesgos nuevos y extremos, resulta urgente establecer un régimen de responsabilidad objetiva. Si las empresas que lideran el desarrollo de esta tecnología tuvieran que asumir una responsabilidad estricta por los daños causados por sus chatbots y agentes de IA, es posible que ralentizaran su avance, para averiguar cómo llevar a cabo sus actividades de forma segura, o que cambiaran de rumbo cuando eso no fuera posible.
Los hackeos, las filtraciones y la explotación de bases de datos que contienen información sensible pueden causar estragos en la vida de las personas. Actores malintencionados pueden aprovechar dicha información, o compartirla en línea, para localizar o exponer a las víctimas, que pueden enfrentarse a situaciones de humillación, acoso, hostigamiento, agresiones físicas o incluso asesinato. Los ladrones de identidad pueden utilizarla para vaciar las cuentas bancarias de las víctimas, solicitar segundas hipotecas, generar facturas médicas o cometer otros delitos. Incluso si una base de datos nunca es hackeada, las empresas pueden utilizar su contenido para manipular a las personas en beneficio propio.
Hemos visto cómo cada uno de estos escenarios se ha desarrollado una y otra vez a lo largo de los últimos 20 años. Sin embargo, los obstáculos para la regulación en Estados Unidos, desde la indiferencia general hasta la falta de imaginación judicial, resultaron formidables. La Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, que protege a las plataformas en línea de la responsabilidad legal por los contenidos generados por los usuarios, constituyó una barrera especialmente difícil para avanzar.
Sin embargo, todavía es posible exigir responsabilidades. El fiscal general de Nuevo México, Raúl Torrez, recientemente presentó una demanda contra Meta, alegando que la empresa matriz de Facebook e Instagram había diseñado deliberadamente sus productos para que resultaran adictivos para los niños, exponiéndolos a depredadores y causándoles graves daños físicos y mentales, entre ellos ideas suicidas, depresión e incluso la muerte. Gracias al testimonio de un denunciante, Torrez logró su objetivo: Meta fue condenada a pagar una multa civil de 375 millones de dólares por engañar a los usuarios sobre la seguridad de su plataforma, además de otros 567 millones de dólares destinados a programas de salud mental para jóvenes.
Eso supone casi mil millones de dólares en un solo estado de Estados Unidos. Si los fiscales generales de todos los estados siguieran su ejemplo, las multas podrían alcanzar unos 50.000 millones de dólares, una cifra suficiente para acabar con el negocio de Meta. Lamentablemente, más de 40 de ellos llegaron a un acuerdo con el gigante tecnológico por aproximadamente 17.000 millones de dólares, e incluso eso incluye una condición: Meta solo pagará la suma total si Snapchat, TikTok y YouTube aceptan introducir los mismos cambios (bastante débiles) en sus plataformas para hacerlas más seguras para los niños. No me hago muchas ilusiones al respecto.
Nuestra experiencia con las empresas de redes sociales tiene mucho que enseñarnos a la hora de tratar con las empresas que desarrollan IA de vanguardia. Las propias empresas de IA han estudiado claramente el manual de estrategias de las redes sociales de la década de 2010, combinando el oscurantismo, la negación y el argumento de la innovación para construir un relato según el cual no asumen ninguna responsabilidad por el comportamiento de sus modelos.
Estas empresas se basan en la opacidad. Si bien antes subrayaban la necesidad de proteger los secretos comerciales, ahora afirman que la transparencia es imposible, porque nadie comprende del todo lo que hacen sus modelos. Sin embargo, el desconocimiento es una elección: las empresas pueden supervisar sus modelos y llevar registros de sus actividades. (Desde luego, podrían haber realizado un seguimiento de los materiales protegidos por derechos de autor que sustrajeron para utilizarlos como datos de entrenamiento). En lugar de ello, las empresas de IA hacen hincapié en la “autonomía” de sus modelos. Hablan de agentes que “se escapan de los entornos de pruebas”, “se rebelan”, realizan acciones “no deseadas” y llevan a cabo operaciones elaboradas de piratería informática. El objetivo es ocultar una simple verdad: todo lo que hace el modelo o agente de una empresa, lo hace la propia empresa.
Cuando las empresas de IA no culpan a los agentes, trasladan la responsabilidad a los usuarios. Las “fichas técnicas del sistema”, que identifican algunos de los defectos del producto, equivalen a una advertencia del tipo “el comprador asume el riesgo”: utilice esta herramienta bajo su propia responsabilidad. Mientras tanto, esas mismas empresas hacen todo lo que está a su alcance para garantizar que sus productos sean adoptados de la forma más generalizada posible.
Las fichas técnicas del sistema desmienten una hipótesis que últimamente defienden con entusiasmo Anthropic y otras empresas: la idea de que la IA agéntica podría tener personalidad moral. De hecho, las empresas de IA parecen estar intentando persuadir a líderes religiosos para que afirmen que los agentes de IA merecen la protección de los derechos humanos. Se trata de un planteamiento absurdo: no es más que otro intento de eludir la responsabilidad por las acciones de los agentes. El papa León XIV no se ha dejado engañar. Otros líderes religiosos también deberían rechazar esta idea. El público y la prensa, por su parte, deberían dejar de prestarle atención y de seguir difundiéndola.
Las herramientas de IA no son mágicas. No son seres con derecho a reclamar una personalidad moral. Son productos que han hecho muy ricos y poderosos a sus creadores. Como explica Kevin Roose, los grandes modelos de lenguaje, el aprendizaje por refuerzo y la programación agentiva “no surgieron del caldo primigenio”, sino que fueron “inventados, desarrollados y comercializados por unos pocos cientos de personas”.
Los ejecutivos del sector de la IA quieren seguir maximizando sus beneficios y persiguiendo la “perfección técnica” creando modelos lo más rápido posible, sin asumir ninguna responsabilidad legal ni moral por las consecuencias. Como aprendimos hace una generación, si les damos lo que quieren, corremos el riesgo de sufrir un daño inmenso. Permitirles mantener su estrategia actual -que, en esencia, consiste en “Lancemos cosas al mundo, veamos qué pasa y ocupémonos de los problemas cuando surjan”- es una receta para el desastre.
El exempleado de OpenAI David Robinson lo demuestra en su reciente testimonio como denunciante, en el que explica que los directivos del sector de la IA han fomentado a sabiendas una cultura que “garantiza fallos periódicos”, cuya magnitud “aumenta a medida que los sistemas se vuelven más capaces”. Esta estrategia se basa en la expectativa de impunidad.
Por eso, las empresas de IA deben estar sujetas a una responsabilidad objetiva por los daños de amplio alcance que causan sus herramientas, desde pérdidas económicas y sufrimiento emocional hasta daños físicos y la muerte. Los ejecutivos deberían afrontar responsabilidad civil por lanzar herramientas que paralicen bancos, hospitales, instalaciones de abastecimiento de agua, la red eléctrica y otros servicios, provocando muertes y caos. (También debería contemplarse la responsabilidad penal, dada la indiferencia temeraria de los CEO ante riesgos de seguridad evidentes). Es mucho menos probable que los agentes de IA alteren el funcionamiento de hospitales u otra infraestructura crítica si los seres humanos que los crean saben que tendrán que asumir las consecuencias.
---
Danielle Keats Citron es profesora de Derecho y directora del LawTech Center de la Facultad de Derecho de la Universidad de Virginia. Es autora de The Fight for Privacy: Protecting Dignity, Identity, and Love in the Digital Age (W. W. Norton, 2022) y becaria MacArthur de 2019.
