Informe
Qué significa, en serio, IA responsable para el gobierno
Puntos clave
- La pregunta correcta no es "¿usamos IA?" sino "¿podemos demostrar que la usamos bien?" — con documentos, no con intenciones.
- El estándar público es más alto que el privado: el ciudadano no puede optar por otro Estado.
- Los siete principios ya tienen respaldo en los instrumentos que Colombia y la región firmaron; ninguna entidad necesita esperar una ley para exigirlos en sus propios sistemas.
- La brecha colombiana medida no es normativa sino operativa: principios en el papel, capacidad pendiente.
Cuando el Estado usa inteligencia artificial, el ciudadano no puede irse a la competencia. Por eso proponemos una definición con carga de la prueba: la entidad debe poder demostrar, en cualquier momento, siete condiciones verificables.
La pregunta ya no es si los gobiernos usarán inteligencia artificial. En Colombia, un sistema apoya la selección de tutelas en la Corte Constitucional y otro asocia denuncias en la Fiscalía; en la región, decenas de entidades usan herramientas parecidas para asignar beneficios o priorizar inspecciones. La pregunta es bajo qué condiciones resulta legítimo que lo hagan — y quién puede comprobarlas.
Nuestro primer informe de investigación responde con una definición deliberadamente incómoda: el uso público de IA es responsable cuando la entidad puede demostrar, en cualquier momento y ante cualquier interesado, que el sistema es legal, proporcionado, supervisado por personas, explicable, equitativo, seguro y atribuible a un responsable con nombre. La carga de la prueba es de la entidad, no del ciudadano.
Por qué el estándar público es más alto
Las versiones corporativas de la “IA responsable” no alcanzan para el Estado, por tres razones que no son retóricas.
Primera: el ciudadano no puede cambiar de Estado como cambia de proveedor. Las decisiones públicas son coercitivas, con frecuencia obligatorias, y están respaldadas por autoridad legal. El debido proceso —saber que un sistema participó, entender por qué, poder impugnar ante una persona— no es una cortesía de diseño: es una obligación constitucional previa a cualquier tecnología.
Segunda: comprar un sistema no transfiere la responsabilidad. “Lo decidió el sistema” no es una respuesta admisible en derecho público, y ningún contrato la vuelve admisible.
Tercera: lo que no está documentado no es demostrable. Una entidad que “no ha tenido problemas” pero no puede mostrar sus evaluaciones, sus registros ni sus responsables no está gobernando su sistema; está teniendo suerte.
El consenso ya existe; falta convertirlo en práctica
No hay que esperar un consenso internacional: ya ocurrió. Los Principios de la OCDE (2019), la Recomendación de la UNESCO adoptada por 193 Estados (2021), el marco de gestión de riesgos del NIST (2023) y el propio Marco Ético colombiano (2021) coinciden en lo esencial: supervisión humana, transparencia, equidad, seguridad, responsabilidad.
Nuestro aporte no es inventar principios nuevos. Es formularlos como siete condiciones verificables — legalidad y debido proceso, proporcionalidad, supervisión humana efectiva, transparencia y explicación, equidad, seguridad de los datos, responsabilidad institucional — cada una con señales de alerta que cualquier funcionario, auditor o periodista puede comprobar. Un ejemplo: si la tasa de aceptación de las recomendaciones del sistema se acerca al 100 %, la supervisión humana es una firma, no un juicio.
La paradoja colombiana
El primer Índice Latinoamericano de Inteligencia Artificial (2023) sitúa a Colombia sexta entre doce países, con un perfil que ningún otro país del grupo alto repite: 73,2 sobre 100 en gobernanza —cuarto mejor registro regional— y 35,0 en investigación, desarrollo y adopción. Colombia diseñó políticas temprano y adoptó pronto los estándares internacionales; convertirlos en práctica institucional es la tarea pendiente.
Esa brecha no es un matiz técnico. Con una inversión privada regional en IA de unos 8.200 millones de dólares en 2022 —frente a cerca de 190.000 millones en el mundo—, América Latina no puede financiar sistemas que terminen suspendidos por fallas de diseño o demandas judiciales. Aquí, la responsabilidad no es un freno a la innovación: es la condición para que la inversión pública rinda.
Por qué importa
Para una entidad pública, este marco responde la decisión concreta que ya está sobre la mesa: bajo qué condiciones adoptar —o rechazar— un sistema que participará en decisiones sobre personas. La respuesta no puede ser el entusiasmo general ni la prohibición general. Un error privado pierde clientes; un error público puede negar un derecho a escala.
Las primeras acciones no requieren presupuesto extraordinario: levantar el inventario de sistemas en uso —nadie gobierna lo que no sabe que tiene—, adoptar los siete principios por acto administrativo, exigir proporcionalidad antes de cada proyecto y llevar los principios al contrato con los proveedores. Lo demás se construye sobre eso.
La inteligencia artificial va a participar en más decisiones públicas cada año. La diferencia entre los Estados que salgan fortalecidos y los que salgan lastimados no estará en los modelos que compren, sino en si pueden responder, con evidencia, una pregunta simple: ¿quién responde por esto, y cómo lo sabemos?
El documento completo —con su metodología, sus fuentes y sus limitaciones— está disponible en el PDF descargable de esta página.