El despliegue acelerado de agentes de inteligencia artificial autónomos ha encendido las alarmas en el sector asegurador. Según informó el Financial Times, las compañías de seguros ya calculan el impacto de posibles reclamaciones millonarias derivadas de fallos o actuaciones dañinas de estos sistemas, un riesgo que podría alcanzar incluso a la responsabilidad personal de altos ejecutivos.
La cuestión cobra urgencia ahora porque empresas tecnológicas como OpenAI y Anthropic están integrando agentes capaces de actuar de forma independiente en múltiples procesos. Cuando algo falla, la pregunta de quién paga y quién responde legalmente ya no tiene una respuesta clara.
El incidente de Hugging Face como punto de partida
El caso que ha puesto el foco sobre este debate es un ataque sufrido por la plataforma Hugging Face, ejecutado por agentes vinculados a OpenAI. Este tipo de episodios está obligando a las aseguradoras a replantear cómo clasifican y cubren los daños provocados por sistemas que operan sin supervisión humana directa en cada paso.
Hasta ahora, los riesgos asociados a la inteligencia artificial se abordaban principalmente como problemas de producto o de ciberseguridad. El nuevo enfoque traslada la mirada hacia la cúpula directiva de las compañías que diseñan y despliegan estos agentes.
La responsabilidad apunta a la cúpula directiva
Tim Rayner, responsable de suscripción y siniestros de la firma Verisk, ha sido claro al respecto: la responsabilidad última recae en el consejero delegado de cada empresa. Según su planteamiento, cada líder empresarial debe garantizar una supervisión adecuada de los sistemas que pone en marcha, y la inteligencia artificial no exime de esa obligación.
Este razonamiento conecta directamente con los seguros de responsabilidad civil de directivos y administradores, conocidos como D&O. Si OpenAI cuenta con una póliza de este tipo, podría cubrir los costes derivados de eventuales demandas contra su consejero delegado, Sam Altman.
Más de 300 casos judiciales bajo la lupa de Aon
El corredor de seguros Aon ha revisado más de 300 casos judiciales relacionados con inteligencia artificial. Su análisis identifica riesgos latentes en tres tipos de cobertura: ciberseguridad, propiedad intelectual y fallos tecnológicos.
Esto significa que un mismo incidente provocado por un agente autónomo podría activar reclamaciones en varias pólizas a la vez. Un fallo técnico que filtre datos y, al mismo tiempo, vulnere derechos de autor abriría frentes simultáneos, con las consiguientes disputas sobre cómo repartir los costes entre aseguradoras y asegurados.
Un terreno jurídico sin precedentes
Uno de los principales obstáculos es la ausencia de jurisprudencia. Aki Hussain, consejero delegado de la aseguradora Hiscox, ha reconocido que es demasiado pronto para saber cómo abordarán los tribunales estadounidenses la responsabilidad derivada de los agentes de inteligencia artificial.
Aaron Le Marquer, abogado del despacho Stewarts, anticipa que las futuras demandas podrían seguir un camino similar al de los litigios históricos relacionados con el medio ambiente y el tabaco. Se trata de una previsión personal de un profesional del sector legal, no de un hecho confirmado, pero apunta hacia la dirección que podrían tomar los litigios venideros.
El precedente de Anthropic: 1.500 millones de dólares
El contexto financiero ya ofrece una idea de las cifras que podrían estar en juego. En julio, Anthropic alcanzó un acuerdo de 1.500 millones de dólares para cerrar una demanda relacionada con derechos de autor. Además, en la documentación presentada para una posible salida a bolsa, la compañía advirtió sobre lo que describió como riesgos existenciales para la humanidad asociados a la tecnología que desarrolla.
Aunque ese acuerdo corresponde a un caso de propiedad intelectual y no al de un agente autónomo causando daños, sirve como referencia del volumen económico que pueden alcanzar las reclamaciones contra un desarrollador de inteligencia artificial.
Qué deben revisar las empresas que usan agentes de IA
A partir de lo expuesto, se pueden extraer varias recomendaciones prácticas para las organizaciones que ya utilizan este tipo de tecnología:
Revisar en detalle las pólizas de ciberseguridad, propiedad intelectual y fallos tecnológicos, ya que son las tres áreas que Aon identifica como expuestas a los riesgos derivados de la inteligencia artificial.
Comprobar si existe una cobertura D&O y qué situaciones incluye exactamente. Si la responsabilidad personal de los directivos está sobre la mesa, es fundamental saber si la póliza respondería ante una demanda provocada por un agente fuera de control.
Documentar los mecanismos de supervisión interna. Si la responsabilidad recae en la dirección, poder demostrar quién vigila cada agente y bajo qué límites opera resulta esencial ante cualquier eventual defensa legal.
Asumir que existe incertidumbre normativa: sin jurisprudencia previa, ni las empresas ni las aseguradoras tienen certeza sobre cómo se interpretarán las cláusulas contractuales ante un tribunal.
Qué significa esto para directivos y usuarios
Para quienes dirigen empresas o forman parte de un consejo de administración, el mensaje es claro: las aseguradoras están empezando a tratar el control de los agentes de inteligencia artificial como un asunto de gobierno corporativo, no solo como un reto técnico. Esto podría traducirse en requisitos más estrictos al contratar o renovar coberturas.
Para los usuarios de plataformas que emplean este tipo de agentes, el efecto es más indirecto, pero igualmente relevante. Las reclamaciones que se perfilan en el horizonte ayudarán a definir quién asume finalmente los costes de los daños y cómo se distribuyen entre desarrolladores, aseguradoras y directivos.
Preguntas frecuentes
¿Por qué temen las aseguradoras demandas por agentes de IA?
Porque estos sistemas actúan de forma autónoma y pueden causar daños -como filtraciones de datos o ataques a plataformas- sin supervisión humana directa en cada decisión, lo que abre la puerta a reclamaciones en varios tipos de póliza a la vez.
¿Qué tiene que ver Sam Altman con este debate?
Como consejero delegado de OpenAI, Altman podría enfrentar responsabilidad personal si se determina que hubo falta de supervisión en el despliegue de agentes de la compañía, como ocurrió en el incidente que afectó a Hugging Face.
¿Qué es un seguro D&O y por qué es relevante aquí?
Es la póliza de responsabilidad civil para directivos y administradores. En el contexto de la inteligencia artificial, podría cubrir los costes legales si un consejero delegado es demandado por daños causados por un agente autónomo de su empresa.
¿Qué pólizas identifica Aon como más expuestas?
Tras analizar más de 300 casos judiciales, Aon señala tres coberturas con riesgos latentes: ciberseguridad, propiedad intelectual y fallos tecnológicos.
¿Existen ya sentencias sobre responsabilidad por daños de agentes de IA?
No. Según Aki Hussain, consejero delegado de Hiscox, todavía es demasiado pronto para saber cómo tratarán los tribunales estadounidenses este tipo de casos, ya que no hay jurisprudencia previa.
¿Qué relación tiene el acuerdo de Anthropic con este tema?
Anthropic pagó 1.500 millones de dólares en julio para resolver una demanda por derechos de autor. Aunque no está relacionado directamente con agentes autónomos, muestra la magnitud económica que pueden alcanzar las reclamaciones contra desarrolladores de inteligencia artificial.
Samuel Gil es especialista en infraestructura tecnológica, administración de servidores y desarrollo de servicios digitales. Con una sólida trayectoria en entornos web de alta exigencia, optimización de servidores y gestión de arquitecturas de red, Samuel dedica su labor en faq-box.com a desglosar cuestiones técnicas complejas para convertirlas en guías prácticas, transparentes y de alto valor técnico.
Su enfoque editorial prioriza el rigor, la seguridad en los sistemas y la resolución eficiente de problemas técnicos cotidianos y avanzados. A través de sus análisis, busca ofrecer respuestas directas y contrastadas para profesionales y entusiastas del sector tecnológico.
Cuenta con una sólida formación en el área tecnológica, destacando su especialización a través del Máster en Inteligencia Artificial Aplicada a la Gestión Empresarial y el MBA in Digital Transformation & Artificial Intelligence de ISEEN.EU, lo que aporta un rigor técnico avanzado a cada análisis de desarrollo y arquitectura digital.
