Inteligencia artificial: un riesgo para la democracia y las elecciones
Expertos en América Latina, Europa y Estados Unidos advierten sobre los impactos negativos de la inteligencia artificial (IA) en la democracia y las elecciones. Sostienen que esta tecnología puede profundizar las desigualdades en la región.
La ventana de gobernanza de la IA se está cerrando
Los especialistas reunidos en el Foro DemocracIA organizado por Luminate, Civic Compass y el International Fund for Public Interest Media (IFPIM) alertaron que la ventana de gobernanza para la IA se está cerrando y que América Latina debe actuar ahora para garantizar que la tecnología esté al servicio de los derechos humanos y no profundice aún más las desigualdades en la región.
Los riesgos de una regulación inadecuada
El primer panel del foro discutió las perspectivas de regulación de la IA para tender puentes entre el Norte y el Sur Global. Maroussia Lévesque, candidata a doctora y profesora en la Facultad de Derecho de Harvard, destacó que, a la hora de adoptar parámetros regulatorios, predomina la visión de la industria y no la del interés público.
Vanina Martínez, científica titular en el Instituto de Investigación en Inteligencia Artificial de Barcelona, advirtió que las iniciativas de regulación que se están desarrollando actualmente dejan afuera a la mayor parte del mundo y corren el riesgo de poner los intereses de los países y actores particulares por encima de los derechos humanos.
Los sesgos emergentes de la IA
El segundo panel del foro se centró en cómo innovar con responsabilidad en el ámbito de la IA. Claudia López, investigadora principal en el Centro Nacional de Inteligencia Artificial en Chile, señaló que es clave reconocer los límites y las fallas de la IA y comunicarlos a la sociedad.
Luciana Benotti, profesora asociada de la Universidad Nacional de Córdoba, observó que, si bien se habla mucho de los sesgos sociales derivados de los prejuicios humanos, poco se habla de los sesgos emergentes de la IA.
Benotti explicó que los sesgos emergentes ocurren cuando los modelos de IA se entrenan en un contexto pero se utilizan en otros. Estos sesgos pueden derivar en discursos de odio y otros contenidos dañinos.
El impacto de la IA en las elecciones
El último panel del foro analizó el impacto de la IA en las elecciones. Menno Cox, jefe de sector para aspectos globales de Servicios Digitales y Plataformas en la Comisión Europea, destacó el funcionamiento de la Ley de Servicios Digitales (DSA) de la UE durante las elecciones de este año.
Cox afirmó que la DSA permitió a las instituciones prepararse para las elecciones y que no se registraron incidentes graves de desinformación.
Recomendaciones para mitigar los riesgos de la IA
Los especialistas reunidos en el Foro DemocracIA recomendaron una serie de medidas para mitigar los riesgos de la IA para la democracia y las elecciones:
- Adaptar marcos regulatorios a los contextos locales, evitando copiar reglas externas sin considerar las realidades regionales.
- Garantizar la participación de países y voces diversas del Sur Global en las discusiones internacionales sobre regulación de la IA.
- Contemplar los efectos de la IA en los grupos más vulnerables de la sociedad en las regulaciones.
- Reconocer los límites y las fallas de la IA y comunicarlos a la sociedad.
- Mitigar los sesgos emergentes de la IA mediante el diseño participativo y comunitario, el análisis de errores discriminados por distintos grupos sociales y la educación de los usuarios menos poderosos.
- Fortalecer el periodismo y los medios de comunicación para garantizar la integridad de la información y contrarrestar los efectos negativos de la IA en el debate público.
Los expertos advirtieron que si no se toman medidas para mitigar los riesgos de la IA, esta tecnología puede profundizar las desigualdades en América Latina y a nivel global.