En una larga pero interesante reflexión pública de hace unos días, la Directora de la Agencia de Seguridad de Infraestructura y Ciberseguridad del Departamento de Seguridad Nacional de los Estados Unidos, Jen Easterly, advirtió sobre los riesgos monumentales que la Inteligencia Artificial Generativa (IAG) puede significar para el proceso electoral de su país, si se le usa con fines maliciosos.
Escrito por: Sergio González Muñoz y Fernando Díaz Naranjo
Easterly denuncia que la IAG en manos de adversarios podría amenazar todo el proceso electoral, incluido el registro de votantes, la emisión de votos y la presentación de resultados.
Te invitamos a leer: Más del 65 por ciento de las personas sin derechohabiencia acude al sector privado
En gran parte, afirma, la responsabilidad de hacer frente a esta amenaza recaerá en los funcionarios electorales estatales y locales del país, explicando que durante casi 250 años, estos funcionarios han protegido el proceso electoral de adversarios extranjeros, guerras, desastres naturales, pandemias y tecnologías disruptivas, pero también señala que estos funcionarios necesitan apoyo, especialmente debido a la intensa presión que han enfrentado desde las elecciones de 2020 y las acusaciones infundadas de fraude electoral posteriores.
Explica que el software de IAG crea texto, imágenes y otros tipos de medios originales utilizando modelos estadísticos que generalizan los patrones y estructuras de los datos existentes. Las aplicaciones que se ejecutan en modelos de lenguaje grandes, como ChatGPT, reciben texto como mensaje y producen texto nuevo como salida. Esta forma de IAG puede crear correos electrónicos, rutinas de stand-up, recetas o trabajos universitarios en segundos. Otras aplicaciones pueden aceptar entradas de texto y crear salidas de medios sintéticos (a menudo llamados deepfakes), como la foto falsa viral del Papa Francisco con una chamarra larga acolchada. La IAG también puede generar archivos de audio clonados por voz basándose en un simple fragmento de voz grabada.
Informa también que estas tecnologías para generar texto, voz, imágenes y videos sintéticos se han vuelto cada vez más accesibles, lo que reduce las barreras para quienes desean inmiscuirse en las elecciones estadounidenses. Dice que en los últimos años, los adversarios extranjeros han intentado socavar la seguridad y la integridad de las elecciones estadounidenses mediante el lanzamiento de intrusiones cibernéticas, la realización de operaciones de piratería y filtración y el aprovechamiento de granjas de trolls y redes de robots de redes sociales para difundir falsedades.
Nos recuerda que en septiembre pasado, por ejemplo, apareció una grabación de audio falsa en Facebook apenas dos días antes de las elecciones en Eslovaquia; utilizó la clonación de voces para simular una entrevista entre el líder de uno de los partidos políticos de ese país y un periodista local en la que el líder del partido progresista parecía estar discutiendo cómo manipular las elecciones.
Aclara que aunque no se ha observado ningún uso malicioso de la IAG en las elecciones estatales, locales y municipales celebradas en más de 30 estados, se ha ido haciendo evidente el mal uso de la tecnología utilizada en las campañas políticas estadounidenses y en las elecciones eslovacas, como se señaló anteriormente, y en las elecciones presidenciales argentinas de noviembre. A medida que los adversarios se familiaricen con estas herramientas cada vez más accesibles y poderosas, se debe suponer que las utilizarán con más frecuencia, denuncia.
Destaca que en particular, un número cada vez mayor de actores extranjeros está ingresando a este espacio, y la Oficina del Director de Inteligencia Nacional hizo público en diciembre un informe en el que la escala y el alcance de la actividad extranjera dirigida a las elecciones intermedias de EE. UU. de 2022 excedieron lo que el gobierno de EE. UU. detectó durante el ciclo electoral de 2018. “La participación de más actores extranjeros probablemente refleja cambios en los cálculos de riesgo geopolítico, percepciones de que la actividad de influencia electoral se ha normalizado y a bajo costo pero potencialmente alta recompensa de tales actividades”, dice el informe de inteligencia.
En Gran Bretaña la cosa no es muy diferente. El Centro Nacional de Seguridad Cibernética del Reino Unido reveló en un reporte reciente que las elecciones generales británicas de este año serán las primeras que tendrán lugar en un contexto de avances significativos en la IA. El centro advirtió que “es casi seguro que se utilizarán grandes modelos de lenguaje para generar contenido fabricado, los robots hiperrealistas creados por IA facilitarán la difusión de desinformación y la manipulación de los medios para su uso en campañas deepfake probablemente se volverá más avanzada”.
A pesar de las crecientes preocupaciones, dice Easterly, Estados Unidos tiene el poder de evitar la amenaza que el uso malicioso de la IAG representa para su democracia. Informa que el proceso electoral estadounidense es resiliente, gracias en gran parte a la dedicación de los funcionarios electorales estatales y locales que trabajan todos los días para administrarlo, gestionarlo y asegurarlo.
Los funcionarios electorales que prestan servicios en unas 8,800 jurisdicciones electorales trabajan incansablemente para identificar, detectar y mitigar riesgos. Incluso antes de la llegada de la IAG, los funcionarios electorales defendieron eficazmente los sistemas electorales de toda la gama de riesgos cibernéticos, físicos y operativos, así como de la amenaza de operaciones de influencia maligna extranjera y desinformación.
Como resultado, no hay evidencia de que algún sistema de votación haya perdido votos (o se haya visto comprometido de alguna otra manera) en ninguna elección nacional, ya que la infraestructura electoral, por decreto de 2017, fue designada como infraestructura crítica y se organizó un esfuerzo dedicado a nivel federal, estatal y a nivel local para rastrear el efecto de las amenazas a la seguridad en la integridad del proceso de votación.
Como se puede apreciar, creemos que se trata de una admonición global en realidad, que acá en México, en pleno proceso electoral, se debe atender tanto en el INE como en el Congreso, tan cerca como estamos de la jornada electoral más compleja y grande de la historia del país. Como diría el clásico: “Lo que se soslaya, estalla”.
¿Qué hacer? Le cuento en entrega posterior. ¡Feliz año nuevo!
También podría interesarte: ¿Y si sólo nos tenemos a nosotros mismos?
[…] Te invitamos a leer: Elecciones, inteligencia artificial y autoridad electoral […]