Los desafíos de la trazabilidad en la era de las Black Boxes

Resumen

El presente artículo realiza una revisión crítica al AI Act, centrando el análisis en la estructura funcional que éste establece, a través de la cual, asigna roles y responsabilidades diferenciadas a los distintos actores de la cadena de valor de los sistemas de inteligencia artificial. Principalmente, examina la distribución de obligaciones a lo largo del ciclo de vida de dichos sistemas, con especial atención a los contextos de opacidad algorítmica en los sistemas de tipo Black Box, en los que los procesos decisionales internos resultan inaccesibles o complejos de reconstruir incluso para sus propios desarrolladores. Se plantea si el AI Act puede garantizar una atribución efectiva de responsabilidades frente al avance tecnológico y la proliferación de contenido sintético, dado que la trazabilidad técnica se torna progresivamente más dificultosa. La tesis central sostiene que una posible solución consiste en robustecer el entramado probatorio e incorporar la figura del Logger, lo que permitiría conservar evidencia del proceso decisional y prevenir que las obligaciones establecidas en el AI Act se reduzcan a una categoría formal e ineficaz. Sin embargo, concluye en que la implementación práctica enfrenta un desafío sustancial; pues, el descomponer exhaustivamente la cadena de decisiones de un sistema de IA, cuando su diseño prioriza la eficiencia sobre la explicabilidad, sería, en muchos casos, incompatible con la propia lógica operativa de eficiencia.