Fake news, AI y elecciones

Propósito Panamá > Blog > Propósito Panamá > Fake news, AI y elecciones

Fake news, AI y elecciones

La intersección de la desinformación, la información errónea y la inteligencia artificial en los procesos electorales plantea un riesgo crítico para las democracias modernas. Según el informe de Riesgos del Foro Económico Mundial (WEF, por sus siglas en inglés), este es el riesgo número uno a corto plazo, especialmente dada la gran cantidad de países inmersos en procesos.

Donde se puede observar más claramente el impacto es en el incremento de la polarización política en todo el mundo, pero en América Latina y el Caribe es donde ha crecido más en las últimas dos décadas, según el PNUD.

Parte del problema es cómo nos llega la información. Las redes sociales, con sus algoritmos, nos muestran contenido que confirma lo que ya creemos, creando burbujas donde apenas vemos opiniones distintas a las nuestras. Esto está debilitando nuestra capacidad para discutir ideas y comprender diferentes puntos de vista. Además, es aprovechado para generar campañas de desinformación y odio.

Para poder mitigar y contrarrestar esta tendencia es importante primero entenderla. Al final del artículo se darán recomendaciones que se pueden implementar desde cada sector.

Cuando la IA está a cargo

Según el WEF la proliferación descontrolada de tecnologías de inteligencia artificial (IA) remodelará radicalmente las economías y sociedades en la próxima década, tanto para bien como para mal. Junto con los beneficios en productividad y avances en campos tan diversos como la atención médica, la educación y el cambio climático, la IA avanzada conlleva también importantes riesgos sociales.

Por ejemplo, expertos en la materia advierten que los deepfakes, contenido generado mediante IA, están en aumento y representan una amenaza tangible para la integridad de las elecciones en América Latina, Estados Unidos y el resto de los países en procesos electorales.

Los deepfakes pueden utilizarse para crear videos de personas realizando acciones que nunca ocurrieron, pronunciando discursos falsos o participando en situaciones inventadas. La creciente sofisticación de estas tecnologías ha generado preocupaciones sobre su posible impacto en la desinformación y en la confianza en los medios audiovisuales.

La conjunción de desinformación, información errónea y la influencia de la inteligencia artificial en los procesos electorales plantea un riesgo crítico que se suma a la complejidad de los desafíos que enfrentan las democracias modernas. Sumando una capa adicional de riesgo a la estabilidad de nuestras sociedades y sistemas políticos.

Casos recientes

A medida que avanzamos hacia un nuevo año electoral, la creación de contenido falso, como videos, fotos y audios generados por IA se ha vuelto más prominente. Estudios de opinión revelan que el 74% de la población a nivel global considera que la IA facilita la generación de noticias e imágenes falsas altamente realistas y casos recientes suman a esta percepción.

Por ejemplo, en julio 2023, una imagen en Guatemala se hizo viral en las redes sociales e incluso, fue replicada por algunos medios de comunicación. La imagen mostraba en la gradería de un partido de futbol nacional, un supuesto mensaje en contra de la candidata Sandra Torres, en plena campaña por la 2da vuelta. Ese texto fue montado por inteligencia artificial, cuando en realidad el anuncio original decía “Guatemala”.

Otro caso sucedió durante el proceso electoral argentino del 2023, donde se viralizó una imagen del ex-candidato Sergio Masa supuestamente consumiendo cocaína. Esta imagen fue compartida más de 200 mil veces. Al hacer una búsqueda inversa, la foto original correspondía a una foto del 2015 donde Masa tenía un sorbete sobre sus labios y el polvo es harina; un producto que se acostumbra arrojar en el Festival Chayero Sanagasteño de La Rioja. La imagen original fue modificada para desvirtuar la verdad.

Créditos fotos: Chequeado.com

También puede ocurrir a la inversa, es decir, cuando un video real puede viralizarse como falso. Esto sucedió cuando se difundió en las pantallas del Time Square en Nueva York, un anuncio de la candidata presidencial a las elecciones en México 2024, Claudia Sheinbaum generando muchas críticas por parte de la oposición. Cerca de 250,000 de sus seguidores diseminaron en las redes que el video era falso, cuando realmente era real y lo ratificó el equipo de comunicaciones de la candidata.

Una preocupación percibida pero no resuelta

Recientemente, la UNESCO e Ipsos decidieron realizar una encuesta en 16 países donde se celebrarán elecciones generales en 2024 para explorar la percepción sobre el impacto de las redes sociales, la desinformación y las elecciones.

Las redes sociales son la principal fuente de información a nivel mundial superando a los medios impresos, la radio e incluso la televisión. Un 56% utiliza las redes sociales como fuente primaria de información, y un 29% usa como fuente primaria los grupos o comunidades en aplicaciones de mensajería en línea como WhatsApp, Telegram y Messenger.

Entre los resultados destaca que:

  • El 87% de los encuestados están “muy preocupados” o “preocupados” por el impacto de la desinformación en las próximas elecciones en su país.
  • El 67% de los usuarios de Internet se ha encontrado con discursos de odio en línea, y la mayoría percibe que son más frecuentes en Facebook (58%).
  • Un 88% de la ciudadanía cree que los gobiernos, los organismos reguladores y las plataformas de redes sociales (90%) deberían abordar activamente los asuntos sobre la desinformación y el discurso de odio, especialmente durante períodos electorales.

Sin embargo, llama la atención de que a pesar de estas expectativas sólo el 17% de las personas han denunciado contenidos en línea relacionados con la desinformación “a menudo” en el contexto de una campaña electoral.

El rol de gobiernos y reguladores

La integración de la IA en los procesos electorales, si bien puede ofrecer beneficios en términos de análisis de datos y campañas políticas más dirigidas, también plantea riesgos significativos que deben ser abordados desde todos los sectores y la ciudadanía. La democracia latinoamericana enfrenta un capítulo decisivo en 2024, donde la adaptación a la era de la IA se vuelve crucial.

Para hacer frente a estos riesgos, se necesitan enfoques integrales desde múltiples frentes. Desde los gobiernos y sus instituciones se necesitan regulaciones y estándares robustos pero flexibles que garanticen el desarrollo y la implementación tecnológica alineados con las necesidades de la sociedad. La aplicación de legislaciones existentes en propiedad intelectual, empleo, competencia, protección de datos, privacidad y derechos humanos deberá evolucionar rápidamente para abordar los nuevos desafíos planteados por la IA generativa.

El 13 de marzo de este año, el Parlamento Europeo aprobó la primera ley regulatoria de Inteligencia Artificial que garantiza la seguridad y el cumplimiento de los derechos fundamentales, al tiempo que impulsa la innovación. Dentro de esta Ley se contemplan que las imágenes, el audio o el contenido de video artificial o manipulado («deepfakes») deben etiquetarse claramente como tal. La Ley entrará en vigor veinte días después de su publicación en el Diario Oficial y será aplicada de manera escalonada desde los 9 meses hasta los 24 meses después de su publicación.

Durante el VII Congreso de Editores de la Unión Europea, América Latina y el Caribe (EditoRed), celebrado justo después de la promulgación de la Ley de AI, se abordaron diversas temáticas cruciales para el futuro de los medios de comunicación, incluyendo la integración de la inteligencia artificial (IA) en el ámbito periodístico.

Los editores presentes en el evento reconocieron la importancia de adoptar la IA para mejorar la eficiencia y precisión en la generación de noticias, destacando el cambio significativo en la forma en que se produce y presenta la información. aunque también hicieron hincapié en los desafíos éticos y prácticos asociados con su uso.

Como parte de la declaración final del congreso, conocida como la Declaración de Bruselas, se hizo un llamado a los gobiernos y reguladores de ambas regiones para establecer regulaciones que garanticen una integración responsable de la IA en los medios de comunicación. Se resaltó la necesidad de abordar los aspectos éticos y legales relacionados con el uso de la IA en la producción de noticias, así como la importancia de proteger los derechos de autor y garantizar la veracidad de la información generada por sistemas de IA.

¿Qué hacer desde otros sectores?

Desde el sector empresarial tecnológico, es imperativo que las plataformas en línea refuercen sus medidas para verificar la autenticidad del contenido, implementando tecnologías avanzadas para detectar información falsa.

Los líderes y partidos políticos deben comprometerse a la transparencia, abogando por la regulación efectiva y medidas sancionadoras contra la desinformación. La colaboración global también es esencial para abordar la desinformación que trasciende fronteras.

El sector empresarial no está exento de los impactos de las fake news, por ello, es imprescindible la comunicación con los diferentes grupos de interés de manera activa, ya que el bajo perfil deja vacíos de información y eso es terreno fértil para las noticias falsas.

Además, hay una significativa oportunidad en las esferas de comunicación y capacitación empresarial para educar sobre el uso de las redes sociales y la verificación de fuentes en relación con los temas de mayor relevancia para la  .

A nivel individual, la educación digital y mediática desempeña un papel crucial para empoderar a los ciudadanos a discernir entre información veraz y manipulada.

Hoy más que nunca corremos el riesgo de ser amplificadores de desinformación y noticias falsas. La acción individual impacta. Antes de aceptar una noticia como cierta y reenviarla tómate unos minutos y evalúa:

  • ¿Te causó una reacción emocional muy grande? Desconfía. Las noticias falsas se hacen para producir sorpresa, rechazo o alguna reacción emocional fuerte.
  • Lee la noticia entera, no solo el titular.
  • Fíjate en la fuente. Verifica que viene de medios de comunicación reconocidos.
  • ¿La noticia está «pidiendo» que creas en ella o «muestra» por qué desconfiar? Las fake news utilizan y citan fuentes para hacerse ver como legítimas. Busca esos indicadores u estudios en la internet, valida que estén en sus fuentes originales.
  • Si no hay certeza de que la información es verídica no la compartas.
  • Si tienes certeza de que es falsa o incita al odio, denúnciala.

La convergencia de desinformación, información errónea e inteligencia artificial en los procesos electorales representa un desafío multifacético que requiere una respuesta coordinada y decidida. El futuro de las democracias depende de la capacidad de las sociedades para contrarrestar esta amenaza y preservar la integridad de los procesos electorales hoy y en el futuro.

Hoy más que nunca, asumir un rol activo y responsable durante estas elecciones, tendrá un verdadero impacto en tu futuro y el de Panamá