En 2024, la mitad de la población mundial acudirá a las urnas. El debate sobre cómo proteger la integridad electoral y la democracia frente a los nuevos desafíos representados por la desinformación, la polarización y la violencia política en las redes sociales está sobre la mesa. Aunque esta preocupación no es nueva, se ve agravada por los desafíos representados por la inteligencia artificial (IA) para el entorno informativo. En la mayor parte del mundo, no existe regulación para el uso de la IA ni para el de las plataformas de redes sociales.
En Brasil, el atentado al Congreso Nacional, al Tribunal Supremo y al Palacio Gubernamental, el 8 de enero de 2023 se considera un ejemplo emblemático de lo que la difusión de la desinformación y de los ataques en línea pueden causar a la democracia. En respuesta, las autoridades se organizaron para intentar aprobar en Congreso la regulación de las plataformas de redes sociales, pero la propuesta no avanzó.
En octubre de 2024, el país tendrá las elecciones legislativas y ejecutivas municipales. En febrero, el Tribunal Superior Electoral divulgó una resolución sobre el uso de inteligencia artificial y la responsabilidad de las plataformas en las elecciones. En agosto, comienza oficialmente la propaganda electoral. Sobre la decisión del tribunal, los riesgos de violencia durante las elecciones contra grupos históricamente subrepresentados y lo que el momento actual significa para la democracia, hablamos con Heloisa Massaro, Directora de Investigación y Operaciones de InternetLab, un centro independiente de investigación interdisciplinar que promueve el debate académico y la producción de conocimiento en las áreas de Derecho y Tecnología, especialmente en el ámbito de Internet. InternetLab es un aliado de Luminate en Brasil. Vea a continuación:
En el actual contexto brasileño, ¿Cómo, la desinformación, el discurso de odio y la manipulación de la información pueden afectar a las elecciones municipales?
Esta pregunta nos interesa para reflexionar sobre cómo las preocupaciones y los riesgos en torno a las elecciones han evolucionado a lo largo de los años, y hacia dónde deberíamos mirar, qué tipo de preocupaciones deberíamos tener y dónde deberíamos enfocarnos.
A medida que se desarrollan los nuevos ciclos electorales, una cuestión clave de las elecciones municipales que resurge es la constatación de que éstas poseen una dinámica muy diferente de las elecciones para el gobierno estatal y para el gobierno federal.
Estamos hablando de elecciones en miles de municipios, simultáneamente, con dinámicas muy diferentes. Las grandes capitales pueden incluso parecerse a las elecciones estatales y federales, pero las de las ciudades pequeñas tienen dinámicas diferentes. Por eso es importante subrayar dos puntos: el primero es que es bastante común que en los municipios más pequeños haya lo que llamamos un desierto informativo. Son lugares donde no hay medios de comunicación independientes significativos, medios periodísticos que comprueben el contenido producido y distribuyan información confiable. Y el segundo punto es la dinámica de violencia política que hemos observado en Brasil desde hace muchos años, pero que están adquiriendo nuevas características a medida que la comunicación política migra para el entorno digital.
En las elecciones municipales, este factor es muy relevante, porque personas candidatas y votantes se encuentran cotidianamente, son relaciones muy localizadas. Las mujeres, por ejemplo, son las más atacadas durante el periodo electoral. Y no sólo las mujeres, sino las candidaturas de grupos históricamente subrepresentados. Por ese motivo, a nivel municipal, la frontera entre online y offline, que ya es muy porosa, se vuelve aún más gris y permeable, y el riesgo de violencia contra la integridad física de las personas es aún mayor.
El Tribunal Superior Electoral ha publicado una resolución sobre el uso de inteligencia artificial y la responsabilidad de las plataformas en las elecciones que van a ocurrir en octubre de este año. ¿Cuáles son los puntos principales y qué opinión tienes sobre esta resolución?
La publicación de resoluciones es una práctica habitual del Tribunal Superior Electoral, que es una corte, tiene poderes administrativos y reglamentarios. Por esa razón, cerca del período electoral, actualiza las resoluciones que rigen las elecciones, con el fin de reglamentar la legislación electoral.
Es importante destacar algunos puntos específicos de la resolución de propaganda electoral. Primeramente, a través de una competencia de reglamentación de las cuestiones relacionadas con la propaganda electoral en internet y atento a los cambios tecnológicos, el tribunal ha introducido algunas novedades relacionadas con el uso de IA. Se creó la obligación de que los contenidos que utilicen herramientas de IA estén debidamente etiquetados e identificados; esto no significa que el uso de estas herramientas esté prohibido, sino que debe estar señalado para que el público no se confunda. En el caso de los chatbots, las campañas pueden adoptarlos, pero la resolución prohíbe que simulen una conversación real con la persona candidata o con otros seres humanos. Por último, la resolución prohíbe el uso de deepfakes, videos, voces o fotos creadas artificialmente para generar situaciones que no ocurrieron, además de declaraciones inexistentes.
Un segundo punto son las novedades en las reglas de protección de datos. Desde las últimas dos resoluciones, el tribunal ha estado incorporando reglas de protección de datos estableciendo un diálogo entre esta legislación específica y la electoral. Este año, el tribunal avanzó en esta resolución, estableciendo reglas como obligaciones de registros de actividades de tratamiento de datos y la regulación del uso de herramientas de microsegmentación y técnicas de perfilado de votantes.
Por último, la resolución creó nuevas reglas en el ámbito de la desinformación, con artículos relacionados con la prohibición del uso de IA para generar contenido desinformativo y reglas y orientaciones generales sobre los deberes de las plataformas. Según la resolución, las plataformas deben tener términos de uso y políticas de moderación de contenido, especialmente en período electoral. Además, deben hacer sus mejores esfuerzos para garantizar la integridad electoral y deben eliminar contenidos que sean claramente falsos o gravemente descontextualizados, bajo pena de ser responsabilizadas – este último es, notablemente, el punto más polémico.
¿Cómo es recibida la resolución por la sociedad civil en Brasil y cuáles son los precedentes internacionales?
El diálogo entre el derecho electoral y el derecho digital aún tiene mucho que avanzar a nivel internacional. El tribunal electoral en Brasil es pionero al entrar en esta discusión, dialogando con plataformas durante varios ciclos electorales y estableciendo cooperaciones. Mientras tanto, vemos experiencias de otros países donde la legislación electoral aún no aborda muchas cuestiones relacionadas con la propaganda en internet.
La resolución llega en un momento marcado por dos grandes movimientos internacionales: las "super elecciones" de 2024, que abarcan aproximadamente el 50% de la población mundial, incluidas grandes democracias como Estados Unidos y el Parlamento de la Unión Europea. Esto fomenta el debate internacional en torno a la integridad electoral y la responsabilidad de las plataformas, y amplía la preocupación sobre su actuación y qué medidas deben tomarse para garantizar la integridad electoral.
El segundo movimiento internacional, que acontece hace más tiempo, busca editar legislación para regular plataformas. Su principal ejemplo es la Ley de Servicios Digitales (DSA) que entró en vigor este año en la Unión Europea. Esta legislación establece una serie de reglas, deberes, obligaciones y parámetros para las plataformas, especialmente las grandes.
¿Cuáles son las limitaciones de cada lado: tanto de la resolución como de la respuesta de las plataformas? ¿Hay puntos de preocupación en cada una de ellas?
Hay puntos positivos, principalmente en relación con el avance en temas como la IA, la protección de datos y la institución de reglas de transparencia para las plataformas. Una regla muy importante es la que obliga a las plataformas a tener repositorios sobre anuncios contratados – y que es una demanda de la sociedad civil desde hace algún tiempo.
Por otro lado, se incluyó el Artículo 9E, que entra directamente en conflicto con la regla de responsabilidad de intermediarios, prevista en el Marco Civil de Internet y en la legislación electoral. El Artículo 9E de la actual resolución prevé la responsabilidad civil y administrativa solidaria de las plataformas por determinados contenidos, incluidos actos antidemocráticos y contenidos sabidamente falsos o gravemente descontextualizados que atenten contra la integridad electoral. La norma no estaba en el borrador de la resolución, fue incluida posteriormente, lo que generó bastante sorpresa y preocupación debido a este conflicto con la legislación vigente.
De acuerdo con el régimen de responsabilidad de intermediarios, previsto en el Artículo 19 del Marco Civil en internet y en la legislación electoral, las plataformas solo tienen la obligación o pueden ser responsabilizadas por contenido de terceros si no los eliminan tras una decisión judicial. Esto no significa que las plataformas no eliminen contenidos dañinos; tienen políticas propias de moderación de contenido para garantizar la integridad y seguridad de sus espacios. Este arreglo es muy importante para garantizar la libertad de expresión.
Pero, al trasladar la responsabilidad a las plataformas, se crea un incentivo económico para que eliminen materiales potencialmente riesgosos. De esta forma, las plataformas deciden lo que puede o no ser dicho a través de un análisis hecho desde una perspectiva económica. El cambio en la forma de responsabilización es preocupante para la libertad de expresión, al fomentar una eliminación excesiva de contenidos. Esto se aplica especialmente cuando debatimos sobre desinformación, cuya distinción entre lo que debe ser retirado o no es complicada, generando una gran zona gris que puede resultar en la eliminación excesiva de materiales legítimos que formarían parte del proceso democrático y de la discusión política.
Al mismo tiempo, la resolución crea incentivos para que las plataformas dirijan recursos hacia el cumplimiento de la resolución, en lugar de invertir en la mejora de políticas y estructuras de moderación de contenido. Cuando pensamos en estructuras regulatorias, lo ideal es crear incentivos para mejores sistemas de moderación de contenido, que hagan el ambiente digital más íntegro y seguro mediante mejores reglas.
Cuando solo creamos incentivos para cumplir con un régimen de responsabilidad por contenidos específicos, es difícil fomentar espacios en los que las personas se sientan seguras para ejercer su libertad de expresión.
Teniendo en cuenta los ataques al sistema democrático brasileño que culminaron el 8 de enero, ¿podemos decir que la democracia brasileña llega a las elecciones de este año más protegida?
Es muy difícil prever riesgos eventuales. Pero creo que las elecciones de este año serán diferentes y muy importantes, especialmente al pensar en el próximo ciclo electoral presidencial. Esto se debe a que las dinámicas locales tendrán impacto en las elecciones nacionales dentro de dos años, y los esfuerzos por la integridad democrática y electoral son constantes. Por eso, no es posible decir que estamos en una situación más protegida. Vivimos en un escenario de constante lucha por la construcción de la democracia.
A pesar de la movilización social y política en torno al tema, Brasil aún no ha logrado avanzar en la regulación del uso de las plataformas y de la IA. ¿Este debate está lo suficientemente maduro para convertirse en legislación? ¿Por qué no ha avanzado?
Los debates sobre la inteligencia artificial y la regulación de plataformas son diferentes. La regulación de la IA tuvo una comisión de juristas y se propusieron proyectos de ley que están en trámite en el Senado Federal e involucran una amplia gama de actores económicos. Por otro lado, hay un movimiento para discutir la regulación de plataformas que abarca cuestiones relacionadas con la moderación de contenido y la transparencia, por ejemplo. Este es un tema complejo, principalmente debido a la sensibilidad de la libertad de expresión – es una estructura nueva, sin precedentes. Diseñar modelos regulatorios y pensar en incentivos de acuerdo con el contexto local no es fácil y, al mismo tiempo, involucra diversos intereses, interpretaciones y posicionamientos en la definición de la estructura regulatoria.
La búsqueda de una estructura que tenga sentido en el contexto brasileño ha avanzado bastante recientemente. Sin embargo, este es un movimiento que depende de las dinámicas políticas y de los desafíos de debatir y construir alternativas para un tema tan complejo, sin consenso. El esfuerzo por construir la mejor solución lleva tiempo. Cuando el proyecto de ley entró en el Senado Federal en 2020, tramitó de manera muy acelerada debido a la falta de tiempo para madurar el tema. En Europa, la ley fue aprobada recientemente, por lo que no es como si Brasil estuviera atrasado en este campo. Algunos países están iniciando las discusiones ahora, por lo que el debate es natural.