Este documento de recomendaciones al Ministerio de Tecnologías de la Información y las Comunicaciones (MinTIC) surge de una investigación al respecto de cómo los algoritmos de las apps de domicilios afectan a los repartidores. Nuestros hallazgos nos llevan a considerar y proponer que el funcionamiento de los algoritmos debe ser regulado por MinTIC para evitar que se produzcan bloqueos injustos de cuentas, falta de apoyo oportuno a las personas repartidoras y asignación opaca de pedidos.
Dado que en Colombia y el mundo los intentos de regulación de estos servicios se han enfocado en la legislación laboral, esto ha producido discusiones muy extensas y dificultades para abordar los problemas reales de las personas repartidoras. Aquí proponemos un enfoque diferente: es necesaria una regulación de la “gestión algorítmica”, es decir, de los estándares de la tecnología misma.
Nuestro documento propone, al menos, los siguientes estándares:
- Que los algoritmos empleados por las aplicaciones de domicilios midan con precisión las distancias y asignen la compensación correspondiente establecida por la app.
- Que los algoritmos empleados por las apps consideren las condiciones de riesgo (clima, seguridad del sector, etc) al establecer la distancia y la compensación del viaje. También deben tenerse en cuenta antes de bloquear a los repartidores.
- Que las apps de domicilios cuenten con un sistema de soporte que garantice la comunicación entre la empresa y el repartidor. El sistema de soporte permitiría a los repartidores notificar sobre problemas durante el viaje o el domicilio y proporcionaría un contacto significativo cuando los repartidores están bloqueados o suspendidos.
- Que las apps de domicilios brinden una explicación clara y precisa de las razones detrás de un bloqueo o suspensión y establezcan mecanismos de desagravio efectivos.
No existen obstáculos, legales o de otro tipo, que impidan que las plataformas implementen cambios para solucionar los problemas de gestión algorítmica identificados en nuestro documento y su regulación es una responsabilidad que MinTIC debe asumir para mejorar las condiciones de las personas que diariamente reparten pedidos a través de aplicaciones móviles en nuestro país.
Este es un primer ejemplo de cómo podemos empezar a regular la “Inteligencia Artificial” en nuestro país. Este concepto sigue siendo esquivo como término general, pero se materializa en casos como estos algoritmos y termina afectando de manera muy tangible la vida de las personas. Nuestro documento es una forma propositiva de regular para mitigar los efectos nocivos de las decisiones algorítmicas y esperamos que contribuya a dar forma al ecosistema de Inteligencia Artificial en Colombia, enviando el mensaje del tipo de IA que no queremos y la que sí incentivamos como país.
Accede a todos los hallazgos de nuestra investigación en el siguiente documento:
Si por algún motivo esta entrada no es accesible para tí, por favor escríbenos a comunicaciones@karisma.org.co y haremos los ajustes que estén a nuestro alcance para que puedas acceder al contenido.
Indícanos el título del contenido en el asunto del correo, por ejemplo: Cómo domar el algoritmo
Es fundamental poner el tema en la agenda y nutrir la conversación. ¿Trabajas en un medio de comunicación? Escríbenos a comunicaciones@karisma.org.co
Acompáñanos en @Karisma en Twitter, Fundación Karisma en Facebook y YouTube, y @karismacol en Instagram y Tik Tok
Relacionados
