Fundación Karisma
El año pasado estuvo marcado por el cierre de la legislatura 2023-2024 en junio de 2024 y el inicio de una nueva el 20 de julio de 2024 en el Congreso de la República. Durante este periodo, se presentaron numerosos proyectos de ley relacionados con el uso de nuevas tecnologías; algunos fueron discutidos, mientras que varios terminaron archivados. En esta entrada, queremos analizar el año legislativo desde nuestra perspectiva, justo ahora que la legislatura 2024-2025 está en su recta final.
La tecnología parece ocupar un lugar prioritario en las agendas de los y las senadores y representantes. Sin embargo, desde Karisma consideramos que, al igual que en otros temas, los y las congresistas deben basar sus propuestas en diagnósticos sociales que permitan plantear soluciones efectivas a los problemas que requieren intervención. Asimismo, es fundamental que los procesos de participación ocurran antes de la radicación de los proyectos de ley y que se mantengan durante todo el trámite. De lo contrario, existe el riesgo de generar políticas públicas que no aborden de manera efectiva las causas reales de los problemas.
El debate alrededor de los asuntos tecnológicos podría facilitar un diálogo más fluido entre congresistas, sociedad civil, academia y sector público y privado, permitiendo escuchar experiencias y propuestas de manera más efectiva. Además, el Congreso podría aprovechar otras de sus funciones como la facultad para citar debates de control político, audiencias públicas y mesas técnicas para abordar los desafíos que plantea la tecnología. Por ejemplo, podría solicitar explicaciones a autoridades como la Procuraduría General de la Nación y a la Superintendencia de Industria y Comercio sobre el control que ejercen las entidades públicas en el manejo de datos. Del mismo modo, podría requerir a la Registraduría Nacional información sobre el uso de los datos de identificación de los ciudadanos en acuerdos con la Policía Nacional, los municipios y actores privados. Esta información sería clave para desarrollar iniciativas de política pública integrales que realmente respondan a los desafíos urgentes que la tecnología plantea.
Iniciativas legislativas en cifras
Para la legislatura 2023-2024 monitoreamos 54 proyectos de ley con menciones a la tecnología, mientras que para lo corrido de la legislatura 2024-2025 van 75 proyectos de ley en monitoreo. No todos los proyectos mencionados tratan principalmente asuntos tecnológicos, algunos incluyen la regulación a los prestadores de servicios de internet para solucionar un problema o la creación de plataformas para la denuncia de delitos. Los temas son diversos: Inteligencia Artificial, ciberseguridad, ciberdelitos, protección de datos e identificación, violencia de género digital y otros.
Para legislar hay que estudiar
En los debates legislativos, los congresistas reconocen con frecuencia la complejidad técnica de los temas tecnológicos y admiten su falta de experiencia en estas materias. Esto se evidenció en diversas discusiones, como los debates sobre inteligencia artificial en la Comisión Sexta del Senado, el debate en la Comisión Primera de la Cámara sobre el proyecto de infraestructura de datos del Estado y la mesa técnica sobre inteligencia artificial en la Comisión Primera del Senado.
Somos conscientes de que los legisladores deben abordar una amplia variedad de temas en su labor, muchos de ellos igualmente complejos, por lo que es comprensible que no puedan conocerlos todos en profundidad. Sin embargo, en el ámbito tecnológico, la producción normativa actual exige un estudio detallado de los temas. Dicho esto, no pretendemos afirmar que solo un grupo de expertos deba opinar sobre tecnología; al contrario, dado que su impacto y beneficios afectan a toda la población, es fundamental que el debate sea amplio e inclusivo. También se requiere que se fortalezcan las capacidades de los congresistas y sus equipos.
Así, exponer nuestras consideraciones sobre la totalidad de los proyectos monitoreados nos tomaría mucho tiempo. También sería una labor sin sentido, pues la mayoría de los proyectos de ley no terminarán su trámite. Por ello proponemos un debate sobre cuatro asuntos que hacen parte de nuestros objetivos estratégicos.
- Sobre inteligencia artificial: Ocho proyectos, cada uno por su lado
Uno de los aspectos más destacados del año legislativo 2024 y lo corrido de 2025 fue la radicación de nueve proyectos de ley sobre inteligencia artificial (IA), de los cuales ocho siguen en trámite en el Congreso. Durante la legislatura 2023-2024, cinco de estos proyectos superaron su primer debate y continuarán su proceso en la actual legislatura. El único proyecto archivado tenía una particularidad: al ser de naturaleza estatutaria, debía superar cuatro debates en un año; posteriormente, sus autores lo presentaron nuevamente y, para abril de 2025, ha sido agendado varias veces para su primer debate.
Las iniciativas legislativas sobre IA abordan distintos enfoques. Algunas buscan establecer marcos regulatorios integrales, mientras que otras se centran en temas específicos como la suplantación, la protección de los derechos de autor, la prevención de accidentes viales y la armonización de la IA con los derechos laborales.
En 2024, durante el primer debate del proyecto que establece el “deber de información sobre el uso de inteligencia artificial”, los y las senadoras de la Comisión Sexta consideraron la posibilidad de frenar el avance de estas iniciativas para unificar conceptos, evaluar enfoques más adecuados y escuchar a personas expertas.
Un problema recurrente en este proceso ha sido la falta de participación previa a la radicación de los proyectos. La ausencia de espacios de consulta con la sociedad civil, la academia y otros sectores impide que estos actores contribuyan con su conocimiento en la construcción de los articulados, alerten sobre riesgos y preocupaciones, propongan enfoques más urgentes o mecanismos alternativos de abordaje. Creemos que la idea de convocar un diálogo amplio surgió demasiado tarde, cuando varios proyectos ya habían sido presentados e incluso debatidos.
Un caso emblemático es el del proyecto de ley estatutaria sobre inteligencia artificial, que se hundió en la Cámara por no contar con el respaldo del Ministerio de Tecnologías de la Información y las Comunicaciones (MinTIC). En la legislatura 2024- 2025 fue radicado nuevamente con un concepto negativo del Ministerio de Ciencia, Tecnología e Innovación (MinCiencias) y de MinTIC. Ambos ministerios consideran que la iniciativa es inconveniente porque intenta regular una tecnología en constante evolución y contiene definiciones ambiguas. Desde el Gobierno se defiende la idea de establecer marcos éticos flexibles en lugar de regulaciones estrictas, permitiendo explorar mejor los alcances de la IA antes de imponer restricciones.
Ante la insistencia de varios sectores en unificar esfuerzos legislativos, las Comisiones Sextas del Congreso, con el apoyo del Gobierno, crearon una Subcomisión de Inteligencia Artificial para coordinar esta labor. Sin embargo, la subcomisión no impidió la radicación de nuevos proyectos: en los primeros cuatro meses de la legislatura actual, se han presentado tres iniciativas adicionales sobre IA.
Lo cierto es que hace pocas semanas MinTIC y MinCiencias socializaron a los congresistas el borrador de proyecto que busca reunir el grueso del resto de propuestas, se espera sea radicado antes de finalizar el mes de abril.
Nuestra mayor preocupación sigue siendo la implantación de modelos de regulación importados de otros lugares, incluidos esquemas que se sustentan en riesgos y no en el goce efectivo de derechos fundamentales. Echamos de menos también una discusión seria sobre infraestructura, recopilación, gestión y protección de datos, asunto central para que la implementación y uso de la Inteligencia Artificial sea responsable. Este debate debe pasar por un análisis serio de la institucionalidad disponible para dar respuesta a las posibles afectaciones que se generarían.
El Congreso tiene el potencial de convertirse en un espacio de debate participativo donde se respondan preguntas clave sobre la inteligencia artificial: ¿Cómo queremos posicionarnos en este mercado? ¿La adopción de IA se limitará a la adquisición de licencias de proveedores extranjeros? ¿Qué impacto tendrá en el empleo, especialmente en las labores que sustentan esta tecnología dentro del país? ¿Cómo podemos recuperar y garantizar en el futuro el control sobre nuestros datos personales, utilizados en el desarrollo de la IA? ¿Cómo se plantean indicadores de impacto en derechos humanos? ¿Cómo se preparan planes de contingencia frente a posibles afectaciones? ¿Cómo se ven afectadas las poblaciones sujetas a estas propuestas?
Estas son cuestiones fundamentales que requieren un enfoque amplio, informado y participativo para lograr una regulación que realmente responda a los desafíos que plantea la inteligencia artificial.
- Lo digital aún no cuenta en los debates sobre la cultura
Durante el 2024 se radicaron varias iniciativas relevantes para el sector cultural. Entre ellas, el proyecto de “canasta básica de cultura”, que fue aprobado y pasó a sanción presidencial, y la propuesta de “Ley de Música”, que se hundió en el último debate por falta de tiempo en la legislatura anterior (2023-2024), pero fue presentada nuevamente en la legislatura actual (2024-2025) y ya superó su primer debate. Sin embargo, el impacto de lo digital en el sector cultural aún no parece estar en la agenda del Congreso.
La democratización del conocimiento y la cultura requiere una revisión de las leyes de derechos de autor locales para adaptarlas a los entornos digitales en materia de investigación, educación y difusión cultural. En particular, es necesario ampliar las excepciones y limitaciones para fortalecer la misión de bibliotecas, archivos y museos. Por otro lado, temas como la creación y reproducción de obras en internet, la remuneración justa, la protección de los derechos de los artistas locales frente al poder de las plataformas digitales y la preservación de la diversidad cultural requieren nuevas herramientas, debates profundos y procesos participativos más inclusivos.
Aunque en la legislatura en curso existe la oportunidad de reformar la Ley General de Cultura e incorporar asuntos digitales y tecnológicos, desde Karisma esperamos que también se abran espacios para discutir temas clave, como la ampliación de las excepciones de derechos de autor en relación con la investigación y la cultura.
- Avanza la apuesta por el abordaje de la violencia de género digital
La digitalización de la vida cotidiana ha permitido que la violencia de género se extienda a los nuevos espacios en los que interactuamos. En la legislatura pasada, un proyecto de ley sobre este tema avanzó hasta el tercer debate, pero fue archivado por falta de trámite; sin embargo, generó serias preocupaciones debido a su impacto diferencial en las vidas de mujeres y personas con orientaciones sexuales o identidades de género diversas. La iniciativa se centraba principalmente en enfoques punitivistas y en la protección de la intimidad y el buen nombre, en lugar de abordar las desigualdades estructurales que perpetúan la violencia de género.
En la legislatura en curso, se están tramitando tres proyectos de ley que buscan responder a esta problemática. Karisma ha sido convocada como experta técnica en uno de ellos y, como parte de la coalición Libres y Conectadas, nuestro trabajo se ha enfocado en promover medidas asistenciales para las víctimas, impulsar un enfoque de justicia penal restaurativa para la difusión no consentida de contenido íntimo-sexual y garantizar la obligación de los prestadores de servicios de internet de preservar evidencia para la investigación de estos casos.
Hacemos un llamado a que las iniciativas propuestas prioricen las particularidades que afectan a las víctimas en Colombia. Si bien reconocemos los avances internacionales, es fundamental tener en cuenta que los actores involucrados y el contexto específico del país requieren enfoques diferenciados.
- La lucha por el control de contenidos en línea: una constante en las iniciativas legislativas
Durante la legislatura 2023-2024, se presentaron más de ocho proyectos de ley con el propósito de regular las interacciones en internet, enfocándose en la protección de grupos vulnerables como niños, niñas y adolescentes, así como mujeres. Actualmente, cinco de estos proyectos siguen en trámite.
En lo que va de la legislatura actual, se han radicado siete nuevos proyectos de ley relacionados con el control de contenidos en internet, algunos de ellos fueron archivados en la legislatura anterior y han sido presentados nuevamente por sus autores. Estos proyectos abordan temas como la prohibición de la apología al delito, el derecho al olvido y la protección de menores de edad en plataformas digitales.
La existencia de conductas dañinas en internet plantea un debate crucial sobre el uso de la tecnología y el nivel de intervención estatal necesario. Es innegable que el mundo digital puede generar afectaciones a derechos fundamentales, con impactos más graves para poblaciones vulnerables como la niñez, las mujeres y las personas migrantes. Asimismo, se ha recurrido a la referencia de legislaciones de países como Australia, que, aunque pueden ser exitosas en su territorio, no contemplan las características sociales y culturales propias de la población colombiana.
Sin embargo, nos preocupa que muchas de estas iniciativas se enfocan en restringir la autonomía y la libertad de expresión en lugar de promover soluciones estructurales a los problemas de discriminación y violencia, que podrían ser medidas educativas, preventivas y de sanción efectiva. Prohibir el acceso a redes sociales a menores de edad o imponer restricciones de horario para el uso de internet ignora su capacidad para tomar decisiones informadas sobre la tecnología. En su lugar, la inclusión de programas de alfabetización digital y mediática en los currículos escolares fortalecería habilidades críticas y fomentaría una mayor conciencia sobre las implicaciones de la vida en línea.
Además de las acciones de pedagogía, consideramos que una regulación de las plataformas de redes sociales debe estar mediada por espacios de deliberación complejos, que permitan el diálogo entre distintos actores y que conduzcan a soluciones reales que ponderen los distintos derechos fundamentales en juego.
Además, la censura de contenidos en internet y la asignación de facultades de control a autoridades administrativas sin supervisión judicial representan un riesgo para la libertad de expresión, el derecho a la información y la prensa. Hasta ahora, los proyectos de ley en discusión otorgan estas facultades sin establecer mecanismos de control judicial ni garantías de debido proceso para las personas usuarias afectadas.
- Ciberseguridad, protesta, inteligencia: las promesas no cumplidas
Después de que la propuesta de crear una Agencia de Seguridad Digital fuera eliminada del Plan Nacional de Desarrollo antes de su aprobación, al inicio de la legislatura 2023-2024 se presentaron dos proyectos de ley para su creación: uno impulsado por el Gobierno y otro por el senador David Luna.
Ambas iniciativas plantean funciones similares, pero difieren en su estructura administrativa. Mientras que el proyecto gubernamental propone que la agencia esté adscrita a la Presidencia de la República e incluya también asuntos espaciales dentro de su alcance, la iniciativa de Luna la ubica bajo la jurisdicción del Ministerio de Tecnologías de la Información y las Comunicaciones (MinTIC).
Ambos proyectos fueron aprobados en primer debate y, desde julio de 2024, han sido agendados en varias ocasiones para su segundo debate. Sin embargo, es más probable que avance la iniciativa gubernamental, ya que este tipo de leyes requieren el respaldo del Ejecutivo para su aprobación.
Esperamos que en esta legislatura se apruebe uno de estos proyectos, pues es urgente contar con una institucionalidad articulada para dar respuesta a amenazas e incidentes, así como que la ciberseguridad se aborde con una perspectiva interseccional que garantice la protección de las poblaciones más vulnerables.
Otra de las deudas pendientes en el Congreso es la aprobación de la ley estatutaria de protección del derecho a la protesta, una de las promesas clave del actual gobierno. Sin embargo, hasta el momento, la administración nacional no ha impulsado decididamente su trámite legislativo.
La iniciativa fue radicada por primera vez en 2023, pero se hundió por falta de trámite al no superar el primer debate. En agosto de 2024, se presentó nuevamente una propuesta que busca conciliar las posturas del Pacto Histórico y el Partido Conservador. No obstante, hasta la fecha, el proyecto no ha avanzado en su primer debate, y debido a su carácter estatutario, enfrenta plazos ajustados para su aprobación.
Desde Karisma, hemos aportado al debate resaltando la importancia de garantizar el acceso a internet en contextos de protesta, evitar cortes de conexión que afecten la libertad de expresión y de prensa, y reconocer las diversas formas de manifestación digital como parte esencial del derecho a la protesta.
A finales de 2023, la Corte Interamericana de Derechos Humanos profirió la sentencia de CAJAR vs. Colombia en ella se determinó que el Estado colombiano violó diversos derechos humanos de los integrantes de dicha organización y ordenó implementar medidas de reparación y garantizar la no repetición de tales vulneraciones. Estas violaciones incluyen actos de vigilancia y seguimiento ilegales, amenazas, hostigamientos y otros actos de intimidación dirigidos a obstaculizar su labor en la defensa de los derechos humanos. En consonancia, el 4 de septiembre de 2024, se radicó por segunda vez en el Congreso el proyecto de ley estatutaria 225/24 S que busca reformar la ley de inteligencia y contrainteligencia. Un intento previo de tramitar esta reforma en la Cámara no logró avanzar.
En la iniciativa actual, Karisma colaboró en la definición de principios y controles para las actividades de inteligencia relacionadas con tecnología, junto con ONU Derechos Humanos, el CAJAR y la Inspección General de la Dirección Nacional de Inteligencia. El proyecto prohíbe la adquisición de tecnología de empresas involucradas en violaciones de derechos humanos, exige que los programas de intrusión cuenten con mecanismos de control para restringir el acceso a datos y garantizar la trazabilidad de su uso y prohíbe herramientas que permitan manipular información o suplantar identidades digitales.
Esta reforma también busca responder a la falta de controles efectivos en las actividades de inteligencia, evidenciada en casos recientes como la compra de Pegasus. Actualmente, la supervisión interna recae en inspectores de la Policía y las Fuerzas Militares, quienes deben presentar informes anuales al Ministerio de Defensa y al Congreso; sin embargo, estos mecanismos han demostrado ser insuficientes.
Por ello, el proyecto busca fortalecer la Comisión Legal de Seguimiento y establecer una autorización previa, así como un control judicial posterior, para la compra y el uso de programas de intrusión, garantizando su cumplimiento dentro del marco legal. Sin embargo, aún no ha sido aprobado en primer debate, lo que pone en riesgo su avance, ya que debe superar los cuatro debates reglamentarios antes del 20 de junio de 2025.
Retos
El año legislativo anterior y lo corrido del actual dejan un amplio conjunto de proyectos de ley relacionados con tecnología, muchos de los cuales requieren un análisis detallado, mostrando la importancia de fomentar espacios de participación mucho más efectivos y amplios que permitan evaluar con profundidad el impacto de estas iniciativas sobre los derechos humanos y la justicia social, y su pertinencia dentro del marco normativo existente.
La multiplicidad de proyectos ha conducido a iniciativas fragmentadas, que no promueven la articulación institucional, como se evidencia en la proliferación de proyectos sobre inteligencia artificial y de control de contenidos en internet. Observamos también la decisión de replicar modelos normativos importados sin considerar la realidad colombiana. Además, vemos que muchas de las problemáticas que se pretenden abordar carecen de un enfoque integral en temas como la protección de datos y la regulación de la inteligencia artificial, ello puede llevar a normas ineficaces o de difícil implementación.
Uno de los principales retos de la legislatura 2024-2025 y en general de la labor legislativa, es hacer un examen sobre las propuestas que son necesarias, las que pueden afectar los derechos fundamentales, y las que pueden fortalecer el marco normativo existente. El Congreso debería también evaluar de qué manera alternativa pueden abordarse los problemas que involucran tecnología. La asignación de facultades de control de contenidos a entidades administrativas sin procedimientos legales claros y en algunos casos sin supervisión judicial, por ejemplo, representa un riesgo para las libertades de expresión y prensa.
Asimismo, es crucial que el Congreso priorice el debate informado, evitando regulaciones improvisadas y promoviendo soluciones que equilibren la innovación tecnológica con la garantía de derechos humanos.
Invitamos a las y los Senadores y Representantes a explorar alternativas a regulaciones ineficaces, considerando soluciones que respondan a las necesidades actuales y a la realidad colombiana.
Acompáñanos en @Karisma en X, Fundación Karisma en Facebook y YouTube, y @karismacol en Instagram y Tik Tok.
Si por algún motivo esta entrada no es accesible para tí, por favor escríbenos a comunicaciones@karisma.org.co y haremos los ajustes que estén a nuestro alcance para que puedas acceder al contenido.
Indícanos el título del contenido en el asunto del correo, por ejemplo: 2024: ¿El año de la legislación tecnológica?
Es fundamental poner el tema en la agenda y nutrir la conversación. ¿Trabajas en un medio de comunicación? Escríbenos a comunicaciones@karisma.org.co
Relacionados
De la pantalla a la política pública: Visiones y retos de los derechos culturales en entornos digitales en Colombia
El debate internacional sobre derechos culturales inició desde la Declaración Universal de Derechos Humanos y el Pacto Internacional de los Derechos Económicos, Sociales y Culturales de Naciones Unidas (PIDESC).Legislando sobre violencia de género digital
En mayo de este año advertimos varias veces sobre los riesgos para los derechos de las víctimas de violencia de género digital y para la libertad de expresión de una iniciativa que buscaba legislar sobre el tema. En esa ocasión, nos unimos a varias organizaciones para exigir que se archivara el proyecto de ley y...