¿Qué piensan lxs activistas del movimiento de lo abierto, creadorxs y la ciudadanía interesada sobre la regulación de la IA generativa?
Febrero 9, 2024. La discusión sobre inteligencia artificial (IA) generativa ha puesto sobre la mesa la pregunta sobre sus posibles efectos en lo que corresponde a la prevalencia y defensa de los Bienes Comunes Digitales. El movimiento global de activistas, creadorxs y organizaciones que defienden las políticas de acceso abierto en entornos digitales, se han enfrentado a la pregunta: ¿cómo podría afectar y modelar la inteligencia artificial (IA) generativa a los bienes comunes digitales? ¿cómo resolver las preocupaciones de activistas, creadorxs y organizaciones al momento de regular la IA generativa?
Mucha de la IA generativa es construída desde la infraestructura digital de los bienes comunes y se alimenta de una basta cantidad de imágenes, textos, videos y recursos de datos de acceso abierto en internet. Las organizaciones de diferente tipo entrenan sus modelos con billones de tokens procedentes de conjuntos de datos de acceso público como CommonCrawl, los proyectos de código abierto de GitHub, Wikipedia y ArXiV.
Si bien la posibilidad de hacer uso y acceder a los bienes comunes ha permitido innovaciones increíbles a lo largo y ancho del globo, también hay quienes reclaman que simultáneamente se han creado las condiciones para la concentración de poder en las manos de determinadas organizaciones, que son capaces de liderar el uso de esta tecnología y logran hacer uso de estos insumos necesarios para entrenar una IA generativa. Sobre este tema, las consultas a la comunidad en conferencias como Mozfest, RightsCon, Creative Commons Summit y Wikimania también han puesto de manifiesto la preocupación por la transparencia, la parcialidad, la imparcialidad y la atribución en la IA.
SONDEO DE ALINEACIÓN
Para empezar a direccionar algunas de estas discusiones y preocupaciones, entre el 13 de febrero y el 15 de marzo, Open Future organizará una Sondeo de Alineación de manera asincrónica y virtual, para que el movimiento de lo abierto explore los principios y consideraciones para regular la IA generativa. Esperamos contar con participantes que trabajen en diferentes campos del movimiento de lo abierto y que se ubiquen en diferentes regiones del mundo. Este espacio está siendo organizado en asociación con Creative Commons como plataforma global y por Fundación Karisma que estará a cargo de llevar el mensaje a la comunidad latinoamericana.
Queremos traer a la conversación perspectivas de:
- Artistas y personas expertas, incluyendo defensores de derechos humanos o con experticia en el tema legal.
- Gestorxs, personas de organizaciones que gestionan colecciones que son parte de los Bienes Comunes Digitales como Wikimedia, Open Access repositories, y colecciones patrimoniales.
- Creadorxs, personas que produzcan obras que forman parte de los Bienes Comunes Digitales, entre las cuales se incluyen no sólo artistas y músicxs sino también investigadorxs que hacen ciencia abierta o programadores de IA de código abierto.
Utilizaremos el proceso de una Sondeo de Alineación, la cual constituye un experimento de alineación de las diferentes perspectivas sobre el tema. Este modelo es pionero en el Proyecto de Inteligencia Colectiva (CIP), dirigido por Divya Siddarth y Saffron Huang. El modelo ha sido utilizado por OpenAI, Anthropic y el gobierno de Taiwán.
Si este proceso te interesa, puedes inscribirte para participar aquí (sólo utilizaremos la información de contacto para invitarte al sondeo y para proporcionar actualizaciones; una vez finalizado el proceso la eliminaremos).
¿QUÉ ESPERAMOS DE TU PARTICIPACIÓN?
Si decides participar del sondeo, deberás responder una encuesta interactiva. Tu papel será responder las preguntas de dicha encuesta y tendrás la posibilidad de añadir nuevas preguntas para que otrxs participantes del sondeo las puedan responder también.
Con esto en mente:
- Desde el 15 febrero, lxs participantes recibirán un enlace de acceso a la plataforma pol.is.
- Debes visitar la plataforma y empezar a votar para responder el conjunto de preguntas iniciales. El sistema muestra de manera sincrónica la forma en la que votan lxs demás participantes.
- También podrás enviar nuevas preguntas o afirmaciones para que otras personas las voten. Esto ayudará a profundizar en el tema.
Puedes participar una sola vez y responder a las preguntas, o volver y responder o añadir preguntas adicionales. Puedes inscribirte para recibir notificaciones cuando se añadan nuevas preguntas.
RESULTADOS ESPERADOS
El sondeo de Alineación sobre la IA y los Bienes Comunes parte desde un ejercicio realizado en la cumbre de Creative Commons sobre la IA y los Bienes Comunes celebrada en octubre de 2023. Open Future y Creative Commons organizaron un taller sobre la IA generativa y su impacto en los bienes comunes. Como resultado de este taller, de manera colectiva se acordaron y publicaron siete principios para regular la IA generativa, que pueden consultarse aquí.
Aunque no es un acuerdo general, estos siete principios funcionan como un punto de partida para ampliar esta conversación. Por ello, utilizaremos la metodología del Sondeo de Alineación y pol.is, una herramienta digital que permite entender dónde hay consenso y qué principios generan controversia. Nuestra expectativa al usar esta herramienta, en particular, es poder visualizar el grado de coincidencia entre las perspectivas de lxs activistas, lxs creadorxs y los gestorxes de los bienes comunes.
Al final del proceso, elaboraremos un informe con los resultados del sondeo y una propuesta de conjunto de principios perfeccionados. A medida que se desarrolle el debate político sobre los bienes comunes y la IA esperamos que el sondeo aporte ideas para una mejor regulación de la IA generativa.
Cualquier pregunta adicional pueden escribir a los correos:viviana.rangel@karisma.org.co y maria.parra@karisma.org.co
Acompáñanos en @Karisma en X, Fundación Karisma en Facebook y YouTube, y @karismacol en Instagram y Tik Tok.
Si por algún motivo esta entrada no es accesible para tí, por favor escríbenos a comunicaciones@karisma.org.co y haremos los ajustes que estén a nuestro alcance para que puedas acceder al contenido.
Indícanos el título del contenido en el asunto del correo, por ejemplo: Sondeo de alineación sobre Inteligencia Artificial y Bienes Comunes
Es fundamental poner el tema en la agenda y nutrir la conversación. ¿Trabajas en un medio de comunicación? Escríbenos a comunicaciones@karisma.org.co.
Relacionados
