En 2017, el sistema Watson de IBM recomendó, en un hospital danés, un tratamiento oncológico que habría sido letal para diez pacientes. Nadie fue condenado. Ninguna ley existente era capaz de asignar esa responsabilidad con claridad. Esta pregunta —¿a quién se le cobra el daño que causa un algoritmo?— define uno de los desafíos jurídicos más urgentes de nuestra era.
El vacío: cuando la IA hace daño y el derecho no sabe a quién culpar
Los sistemas jurídicos latinoamericanos han sido construidos sobre un principio básico: detrás de todo daño hay una persona que decidió. La responsabilidad civil por negligencia exige identificar al responsable, probar su culpa, establecer el nexo causal. Pero ¿qué sucede cuando el agente dañoso no es una persona sino un algoritmo que nadie programó específicamente para hacer lo que hizo?
En ese sentido, se identifican tres características de la inteligencia artificial autónoma que colapsan las categorías jurídicas tradicionales. Su autonomía: opera sin supervisión humana directa en tareas de variada complejidad. Su imprevisibilidad: no sigue necesariamente una secuencia lógica de razonamiento anticipable. Y su opacidad: resulta técnicamente difícil —a veces imposible— determinar por qué tomó determinada decisión. El llamado «black box problem» no es una metáfora literaria; es un obstáculo jurídico concreto.
Ante este vacío, los ordenamientos latinoamericanos han recurrido a soluciones forzadas: aplicar la responsabilidad del fabricante por productos defectuosos a sistemas que no son productos en el sentido convencional, o extender la responsabilidad objetiva a contextos para los que no fue diseñada. El resultado es una desnaturalización normativa que crea más incertidumbre de la que resuelve. La falta de leyes específicas en Ecuador y Perú contrasta notoriamente con la propuesta de la Unión Europea de armonizar la responsabilidad algorítmica.
Los tres límites estructurales del Estado regulador
El problema no es solo normativo, sino institucional. América Latina enfrenta tres déficits que se combinan y amplifican mutuamente.
Primero, la captura regulatoria y la presión por la innovación. Someter a responsabilidad objetiva a quienes desarrollan tecnología avanzada podría desincentivar precisamente la innovación más responsable. El riesgo, paradójicamente, sería penalizar a quienes usan soluciones más sofisticadas. Si quien emplea un sistema de IA queda sujeto a responsabilidad objetiva mientras quien no lo emplea solo responde por culpa, se estaría desincentivando la adopción tecnológica.
Segundo, la carencia de coordinación normativa regional. La fragmentación entre países crea espacios de arbitraje regulatorio: las empresas de IA operarán bajo la legislación más permisiva. Sin marcos regionales compartidos, cualquier regulación nacional queda parcialmente vaciada. Las diferencias entre países y las características únicas de la IA para cada Estado hacen que el proceso de convergencia sea heterogéneo y lento.
Tercero, la brecha tecnológica en las entidades supervisoras. No se puede fiscalizar lo que no se comprende. Los organismos regulatorios latinoamericanos carecen en general de la capacidad técnica para auditar sistemas de IA, lo que genera la «paradoja del riesgo»: buscar seguridad jurídica mediante supervisión humana de sistemas que superan la capacidad humana de comprensión, generando incluso el riesgo de un «regreso al infinito» al buscar valorar la supervisión con más supervisión digital artificial.
Ni mercado ni Estado maximalista: principios para un sistema integrado
Consideramos que tanto la opción de «dejar al mercado» la gestión del riesgo —seguros y cláusulas limitativas han demostrado ser insuficientes— como la de un estatismo maximalista imposible para las capacidades institucionales de la región son per se inviables. Proponemos en cambio cinco (5) principios intermedios.
Advertencia tecnológica previa. Los sistemas de IA de «alto riesgo» deben someterse a evaluaciones previas con estándares verificables: gestión de datos de entrenamiento, validación periódica, auditorías externas. El Reglamento europeo de IA sirve como referencia, no como modelo directo a copiar.
Inversión de la carga de la prueba. Dado el black box problem, no puede exigirse a la víctima que explique cómo funcionó el algoritmo que le causó el daño. La carga probatoria debe desplazarse hacia quien desarrolla o despliega el sistema. La jurisprudencia europea ya ha reconocido esta necesidad de flexibilizar los principios de distribución de la prueba.
Fondos de compensación. Ante la posibilidad de insolvencia del responsable o la imposibilidad de identificarlo, fondos obligatorios —similares a los existentes en accidentes de circulación— garantizarían la reparación efectiva, concentrándose en probar el daño y el nexo causal más que en la culpa.
Estándares éticos vinculantes. Privacidad, justicia distributiva, transparencia, rendición de cuentas, no discriminación, bienestar social y democracia: estos principios —hoy en gran parte retóricos— deben integrarse como estándares jurídicamente exigibles. La bioética ofrece un modelo consolidado que varios autores proponen adaptar para la IA.
Convergencia regional progresiva. La clave no está en importar el modelo europeo —que responde a una realidad institucional muy distinta— sino en construir principios compartidos que respeten las particularidades latinoamericanas mientras eliminan los espacios de arbitraje regulatorio. Un marco jurídico sólido pero flexible, con enfoque diferenciado según el nivel de riesgo del sistema.
La conclusión es tan sencilla como urgente: la inteligencia artificial autónoma no es una amenaza futura que el derecho podrá abordar cuando esté listo. Ya está operando. Ya está causando daños. El sistema de responsabilidad civil latinoamericano tiene que ajustarse —con precaución y justicia distributiva como criterios principales— para responder a una realidad que no esperará más.
El autor es Rector y profesor de la Universidad Católica de Cuenca.
Artículo revisado con el software <Language Tool> , con la asistencia del equipo del Grupo de Investigación CONVERGENCIA (liderado por Miguel Ángel Vela Hugo, Mónica Sofía Safar Díaz, Tatiana Dangond Aguancha, Nicolás Silva Cueva, Ronald Thaler Toro Huilcapán).
