Y ahora… las falsificaciones profundas (deep fakes)

Por Juan Ramón de la Fuente, embajador de México ante la ONU. Este artículo se reproduce de El Universal, con autorización expresa del autor.

Si a usted le llega a su teléfono celular una liga en la que, al abrirla, aparece un video en el que sale un amigo suyo diciendo cosas terribles de usted, con expresiones de voz y gestos “inconfundibles”, no se lo tome tan a pecho, al menos no de entrada. Llámele y verifique: es posible que no esté ni enterado de qué se trata. Podrían ser deep fakes.

Hace poco se inauguró en Florida el Museo Salvador Dalí, un lugar en el que usted puede interactuar con el artista (que se decía inmortal) e incluso tomarse una selfie con él.

Un algoritmo capaz de analizar miles de fotografías del pintor aprendió todos y cada uno de sus gestos y movimientos corporales. La voz también es indistinguible de la original. Salvador Dalí, quien murió hace 30 años, le dará la bienvenida personalmente.

El reconocimiento y la recreación virtual de caras y voces es una realidad que avanza a pasos acelerados gracias, en buena medida, a la inteligencia artificial y a la tecnología 5G.

Por eso estamos viendo lo que pudiera ser el inicio de la “madre de todas las batallas comerciales”, protagonizada por los Estados Unidos de América y China. Los daños colaterales de dicho encontronazo podrían ser realmente graves y nos pueden afectar a todos. Cualquier mercado, de mediano para arriba, será un botín apetecible.

Deep fakes pueden conmocionar todo lo imaginable

El verdadero temor de las grandes potencias en torno a su seguridad está en dicha esfera. Razón no les falta. ¿Se imagina a los grupos terroristas con esta tecnología a su alcance? Las deep fakes pueden conmocionar todo lo imaginable (mercados, gobiernos, comunidades enteras).

Se estima que hay al menos tres mil millones de elementos vinculados vía internet y cerca de 70 mil redes interconectadas, y un algoritmo en el Medio Oriente podría colapsar una planta de energía atómica en el hemisferio sur.

No es ficción: una decena de empresas controlan el mundo digital. La pregunta es quién las controla a ellas y qué gobernanza es posible en un esquema de tal naturaleza.

Por otro lado, esa misma tecnología (con la capacidad autoinnovadora que tienen los algoritmos inteligentes) puede ser nuestra mejor aliada. Si fuéramos capaces de compartirla, sería la gran opción para un desarrollo incluyente y sostenible.

Al menos, esa es la conclusión a la que llegan los expertos que elaboraron un reciente informe sobre cooperación digital, presentado en la ONU, por iniciativa del Secretario General António Guterres.

El tema de la interdependencia digital es ya irrevocable y complejo. Es una característica de los tiempos actuales y seguramente de los que vendrán. La única alternativa para evitar las grandes batallas digitales es la de crear modelos de gobernanza colaborativa.

Que la industria se autorregule, pero que se generen mecanismos para la toma de decisiones críticas en los que participen todas las partes involucradas: gobiernos, empresas, academia, sociedad civil.

De lograr tal objetivo, la ONU iniciaría con ello una renovada versión del multilateralismo, tan necesario como vulnerable, por los embates nacionalistas de las potencias y los grandes intereses económicos de la industria digital.

Ejes fundamentales

El informe se centra en tres ejes fundamentales: la seguridad digital, la idea de un futuro digital incluyente y los derechos humanos en un mundo digitalizado. Plantea la necesidad de crear una nueva arquitectura global para la cooperación digital. Se ocupa de los temas más sensibles que derivan de estas tecnologías.

Ya no queda la menor de las dudas: la información se ha convertido en la más poderosa de las monedas. En tanto que la tecnología capaz de recopilarla, ordenarla, sistematizarla, jerarquizarla y utilizarla no es neutral. La cooperación digital se vuelve un tema estratégico en la agenda global y en las agendas locales de cada país.

¿Será posible algún día alcanzar la igualdad digital? Al menos habría que plantearlo como propósito, de la misma manera que es necesario proteger en línea es decir, en el mundo virtual (que también existe), los derechos humanos, la equidad de género y los derechos de las niñas y de los niños, entre otros.

Crisis digital

De seguir las cosas como van, sin frenos ni contrapesos, una crisis digital está más próxima que una crisis ambiental. Me explico: todo lo que hoy ocurre en el mundo digital – a una velocidad vertiginosa- ocurre más lentamente que en cualquier otro momento del futuro.

Basta tan solo recordar que el teléfono inteligente se inventó… ¡en 2007! Acaso más que nunca se nos escapa hoy la dimensión del tiempo.

El informe referido contempla algunas recomendaciones, a saber: para avanzar en la construcción de una sociedad digital inclusiva hay que educar a las personas y fortalecer a las instituciones (reaparecen las viejas consejas, qué bueno).

Para proteger los derechos humanos en el contexto de la tecnología digital, ésta debe usarse de manera responsable, segura y confiable, bajo los lineamientos del derecho internacional. El objetivo no es otro más que establecer mecanismos efectivos de cooperación digital que generalicen sus beneficios.

Como lo ha sostenido nuestro país en distintos foros dentro y fuera de la ONU, estas tecnologías pueden ser instrumentos poderosos para acelerar los Objetivos para el Desarrollo Sostenible de la Agenda 2030.

Bajo el concepto de “tecnologías exponenciales” (propuesto por José Ramón López-Portillo Romano desde la Universidad de Oxford), México encabeza desde hace un par de años un grupo de discusión sobre el tema, en el cual han participado más de cincuenta países.

La plataforma hoy es más que oportuna. Es el momento de ampliar sus perspectivas y reformularla para incluir el concepto de bienestar: “Tecnologías digitales para el bienestar”.

La UNAM, por su parte, con el liderazgo de Alejandro Pisanty, ha hecho un gran trabajo al respecto. Tiene reconocimiento oficial. Hay que cerrar filas; México puede jugar un papel importante en este proceso.

La necesaria prioridad

Pienso que es necesario que la política nacional de ciencia y tecnología incorpore estos temas como prioritarios. Para alcanzar los tan anhelados ideales de inclusión social, paridad y derechos humanos se debe tomar en cuenta la dimensión digital de la vida moderna.

Sería un error eludirla. Invertir en infraestructura sin disponer de mecanismos de cooperación que funcionen no será suficiente para zanjar las asimetrías. Las tecnologías digitales deben orientarse más hacia el bienestar colectivo y para ello tenemos que hacer alianzas internacionales: diplomacia científica.

A las noticias falsas (fake news) y a las falsificaciones profundas (deep fakes) las tenemos que contrarrestar con sus propias armas; es decir con tecnologías capaces de prevenirlas y de denunciarlas.

Es cierto que se requiere un marco jurídico que hoy por hoy no existe, pero también se necesitan nuevos acuerdos políticos multilaterales y esquemas globales de colaboración.

El Informe del Panel sobre la Cooperación Digital de la ONU aparece como la única respuesta visible frente a la grave amenaza que representa el uso sin escrúpulos de las tecnologías digitales (las deep fakes incluidas) y la gran oportunidad que al mismo tiempo nos ofrecen tales tecnologías, si logramos que el concepto de bienestar sea inherente a su aplicación.

Para las Naciones Unidas, el reto radica en cómo lograr que éstas contribuyan a robustecer sus compromisos fundamentales en tema de paz y seguridad, derechos humanos y desarrollo sostenible.

En suma: seamos conscientes de las implicaciones que están alcanzando estas nuevas y poderosísimas tecnologías: guerras comerciales, intrusión en la vida política de los países, altos riesgos de seguridad nacionales, etcétera.

Pero seamos conscientes también de que pueden ser mecanismos formidables de inclusión social, igualdad de derechos y desarrollo colectivo duradero.

También te puede interesar: “TECNOLOGÍA BIOMÉTRICA EN PROGRAMAS SOCIALES, ¿UNA PREOCUPACIÓN LEGÍTIMA?”