spot_img
21.7 C
Bogota
sábado, abril 13, 2024
spot_img

Procesos electorales con la Inteligencia Artificial Generativa y Deep Fakes como nuevos participantes

Desde su llegada, la inteligencia artificial ha tenido un gran impacto en muchas facetas de nuestra vida diaria, de manera tanto positiva como negativa. Y es que esta tecnología presenta un gran potencial para la generación de elementos maliciosos, que propició un aumento del 38% en el número de ciberataques durante 2022.

 

Check Point® Software Technologies Ltd. un proveedor líder de soluciones de ciberseguridad a nivel mundial, alerta de que las próximas elecciones de Estados Unidos son ya uno de los principales objetivos de los ciberdelincuentes, quienes están usando la IA Generativa para crear textos persuasivos, así como diferentes contenidos audiovisuales, dirigidos para generar discordia y difundir desinformación a gran escala en todo el mundo.

 

Democracia y libre elección

Las elecciones democráticas se basan en unos elementos clave: la discusión pública gratuita, un mercado público de ideas donde se enfrentan y se ponderan opiniones, un proceso de votación justo, y una transición pacífica y garantizada del poder. Por desgracia, estos elementos están enfrentando nuevos desafíos en los últimos años.

 

Ante las crecientes preocupaciones sobre posibles vulnerabilidades y fraudes electorales, naciones como los Países Bajos, que habían adoptado desde hace tiempo el voto digital, volvieron a los procesos manuales basados en papel. Mientras tanto, en EE. UU., el gobierno federal asignó presupuestos por miles de millones para mejorar la infraestructura de las máquinas de votación estatales. Sin embargo, los críticos argumentaron que estas pruebas se realizaban en condiciones no realistas. Es importante destacar que, hasta la fecha, nunca ha habido informes de intentos de hackeo de máquinas de votación con la intención de manipular los resultados electorales a nivel global.

 

La razón detrás de esto podría atribuirse a la complejidad involucrada. Manipular los resultados electorales no es una tarea sencilla. Requiere violar múltiples sistemas distribuidos sin conexión y, lo que es crucial, hacerlo sin ser detectado. Cualquier sospecha podría invalidar de inmediato el recuento, ya que las copias de seguridad en papel ofrecen un método confiable para verificar manualmente la integridad del voto. Estos desafíos pueden explicar por qué, hasta donde llega nuestro conocimiento, esto no se ha intentado realmente. Pero esto no significa que el sistema democrático no haya estado bajo ataque.

 

Ahora es evidente que el objetivo principal de los ataques a los sistemas democráticos de elección no era necesariamente promover candidatos específicos, sino socavar el propio sistema democrático. Y es que los cibercriminales pueden, sin recurrir a la censura o la fuerza, turbar el requisito principal de las elecciones democráticas, y destruir el actual modelo de libre opinión.

 

A medida que se acerca el próximo ciclo de elecciones presidenciales de EE. UU. en 2024, existe una creciente aprehensión de que los avances en IA se puedan utilizar para introducir nuevas interrupciones en el proceso democrático.

 

El papel de la Inteligencia Artificial: ¿amigo o enemigo?

Una de las implicaciones más significativas de la tecnología de IA emergente es su capacidad para fabricar grabaciones de voz y vídeo engañosas. Este avance amenaza con difuminar las líneas entre relatos auténticos y falsificados de eventos. Con herramientas como estas cada vez más accesibles y asequibles, hay una creciente preocupación de que distinguir entre informes auténticos y deep fakes falsificados sea casi imposible.

 

Esta tecnología ha permitido realizar proezas asombrosas como devolver a la vida a actores y cantantes reconocidos, emulando su voz y rostros, con proyectos como el de YouTube y Universal Music Group, quienes planeaban crear nuevos éxitos cantados por el ya fallecido Frank Sinatra. Aunque por desgracia, normalmente los deepfakes están siendo mayoritariamente utilizados para desvirtuar de los individuos suplantados.

 

También presentes en el ámbito político, destacan polémicas como la relacionada con recientes elecciones municipales de Chicago, en las que apareció un supuesto clip de audio del candidato Paul Vallas, en el que se escuchaba al cargo apoyar la agresión y abuso de la fuerza policial; además de otras falsificaciones similares en las que suplantaron a Elizabeth Warren; el presidente de Ucrania, Volodymyr Zelensky; o el presidente de los Estados Unidos, Joe Biden. Aunque también hemos visto viralizadas imágenes del papa Francisco o el expresidente Donald Trump.

  

Desde el lanzamiento de ChatGPT a finales de 2022, y su rápida popularización entre los ciberdelincuentes, estos atacantes cuentan ahora con una gran facilidad para generar automáticamente textos personalizados. Actualmente, se pueden establecer parámetros de conversación específicos, como edad, género y ubicación geográfica, junto con objetivos que se alimentan automáticamente en la API.

 

Vale la pena enfatizar que, a diferencia de los desafíos tecnológicos anteriores para los que la solución estaba basada en la tecnología, estos nuevos desarrollos desafían algo más fundamental: nuestra relación con la verdad misma. Ahora estamos lidiando con problemas complejos que son más filosóficos y morales que tecnológicos. Estos desafíos están remodelando el panorama del discurso político, poniendo en duda la autenticidad de la información y exigiendo una nueva perspectiva sobre los valores fundamentales de la comunicación y la integridad en el proceso democrático.

 

Abordar este desafío requerirá la cooperación de múltiples partes interesadas, incluidos proveedores de IA, reguladores, medios de comunicación y la sociedad en general. La confiabilidad de las fuentes de información, la responsabilidad política y la verificación de contenido se convertirán en factores cruciales en el proceso democrático. En última instancia, la integridad de las elecciones democráticas dependerá de cómo abordemos estos desafíos en evolución y cómo protejamos la esencia misma de la democracia.

 

El panorama político está experimentando cambios significativos con la proliferación de la inteligencia artificial generativa y deep fakes“, explica Manuel Rodríguez, Gerente de Ingeniería de Seguridad para el Norte de América Latina de Check Point Software. “Estos avances tienen el potencial de socavar la esencia misma de las elecciones democráticas al difuminar las líneas entre la realidad y la falsificación y al manipular el discurso

público en formas cada vez más sutiles“.

Artículos Similares

Most Popular