El 1 de diciembre de 2022 fuimos invitados a la “Audiencia Pública Inteligencia Artificial en Colombia: Iniciativas para una regulación con enfoque de Derechos Humanos” convocada por el Representante a la Cámara por Bogotá, Alirio Uribe Muñoz. La audiencia se llevó a cabo en la Comisión Primera de la Cámara y tuvo como propósito debatir con expertos, el Gobierno Nacional, organización de derecho humanos y académicos acerca de los contenidos que debería tener una eventual regulación de la inteligencia artificial (IA) en Colombia, según los estándares internacionales de derechos humanos recientes.
Nuestra intervención, liderada por nuestra Directora Carolina Botero, se enfocó primero en definir y limitar lo que se entiende por inteligencia artificial, ante el desarrollos que pueden ser o no entrar en esta categoría, para así atender qué retos son urgentes regular y que otras aristas requieren un proceso pausado de reflexión y consensos.
Segundo, se expuso que la posición de Karisma se debe centrar en “estas etapas iniciales del debate en la inteligencia artificial relacionada con la toma automatizada de decisiones. Es esta parte de la inteligencia artificial la que requiere una regulación más urgente”. La IA es una herramienta que tiene múltiples usos y usuarios tanto en el sector público como en el privado, de su uso se derivan riesgos muy diversos. En Karisma creemos que el campo el panorama regulatorio ha estado caracterizado por dos extremos: la perspectiva liberal de mercado -que tiene como ejemplo a los Estados Unidos- y un control estatal estricto -como sucede en China-, sin embargo en el medio hay un balance entre innovación y control de riesgos, entre mercado y estado, que enfatiza la protección de derechos humanos, ese es el modelo que proponemos analizar para Colombia, es el caso de la Unión Europea.
Las conclusiones de Karisma: para nosotras una propuesta legislativa adecuada para la IA debe tener en cuenta:
- Enmarcar cualquier iniciativa en los estándares de derechos humanos (legalidad, necesidad y proporcionalidad)
- Se debe garantizar la participación, veeduría y control ciudadano efectivo sobre los sistemas que ya han sido y continúan siendo desplegados en Colombia y en cada proceso nuevo tanto de implementación como de regulación.
- Abordar la IA como herramienta y no como fin por sí misma. Mirarla en su contexto, dentro del tema concreto.
- No es lo mismo regular la Inteligencia Artificial en el sector público que en el sector privado. Lo anterior considerando que se debe considerar que el sector privado es el que operativiza las soluciones de Inteligencia Artificial del sector público (ej, IDEMIA en la Registraduría).
- Evaluar el riesgo de obsolescencia al regular. No se debe regular tecnologías o herramientas concretas sino procesos, resultados, problemas, de lo contrario al dejar consignado en la ley demasiados detalles van a comprometer la regulación y a hacerla obsoleta en un muy corto tiempo.
- El despliegue de la inteligencia artificial no puede obedecer a la idea predominante de que “más vale pedir perdón que pedir permiso” o “avanzar rápido y romper cosas”. Cuando estemos frente a la regulación de la inteligencia artificial, la prioridad debe ser la garantía del ejercicio de los derechos humanos. Por tanto, las máximas deben ser “el principio de precaución” y “la acción sin daño”.
En la audiencia también presentamos dos temas que requieren con urgencia regulación:
- Poner límites a los usos de los datos personales que alimentan las herramientas aplicando a fondo los principios de la ley de protección de datos, de modo que el tratamiento de datos respete efectivamente los principios legales, tanto en el sector público como en el privado.
- La Procuraduría General de la Nación debe desplegar su capacidad como autoridad de protección de datos del sector público porque en la práctica mientras el estado implementa y desarrolla capacidades para usar IA, no hay nadie en el Estado cuidando el insumo más delicado de esta tecnología, los datos personales de la población.
Finalmente, desde Karisma desaconsejamos un único esfuerzo regulatorio que puede ser imposible de implementar o ineficiente como mecanismo de control democrático o de garantía del cumplimiento de derechos humanos. Creemos que hace falta entender mejor el panorama para regular y por eso proponemos como siguiente paso la creación de un foro para la discusión de estos temas desde donde se formulen recomendaciones para una regulación adecuada y sostenible.
Relacionados
2 comentarios
La IA, debe verse como herramienta para la gestión pública y privada; por ejemplo para mejorar la justicia, para formular mejores políticas públicas; debe haber una regulación de la IA, por ejemplo regulación a partir de ” “sandnox”; en este momento no la hay; hay que formar talento humano en IA; aún no lo tenemos;
las IA en Colombia deben ser usadas de manera productiva para toda la poblacion Colombiana, con cierta regulacion por ejemplo en el ambito educativo en el cual aun somos primitivos en comparacion a otros paises