Las próximas elecciones presidenciales de EE. UU. Parecen ser un desastre, para decirlo a la ligera. Covid-19 probablemente disuadirá a millones de votar en persona, y la votación por correo no parece ser mucho más prometedora. Todo esto ocurre en un momento en que las tensiones políticas son más altas de lo que lo han hecho en décadas, los temas que no deberían ser políticos (como el uso de máscaras) se han vuelto altamente politizados y los estadounidenses están dramáticamente divididos según los partidos.
Entonces, lo último que necesitamos en este momento es otra llave inglesa en los radios de la democracia, en forma de desinformación; todos vimos cómo se desarrolló eso en 2016, y no fue nada agradable. Para el registro, dis información deliberadamente engaña a la gente, mientras que mal información es simplemente inexacta, pero sin intención maliciosa. Si bien no hay mucho que la tecnología pueda hacer para que las personas se sientan seguras en los colegios electorales abarrotados o aumentar el presupuesto del Servicio Postal, la tecnología puede ayudar con la desinformación, y Microsoft está tratando de hacerlo.
El martes, la compañía lanzó dos nuevas herramientas diseñadas para combatir la desinformación, descritas en una publicación de blog del vicepresidente de seguridad del cliente y confianza Tom Burt y el director científico Eric Horvitz.
El primero es Microsoft Video Authenticator, que está diseñado para detectar deepfakes. En caso de que no esté familiarizado con este subproducto perverso del progreso de la IA , “deepfakes” se refiere a archivos de audio o visuales creados con inteligencia artificial que pueden manipular las voces o semejanzas de las personas para que parezca que dijeron cosas que no dijeron. Editar un video para unir palabras y formar una oración que alguien no dijo no cuenta como deepfake; aunque hay manipulación involucrada, no necesita una red neuronal y no está generando ningún contenido o metraje original.
El Autenticador analiza videos o imágenes y les dice a los usuarios el porcentaje de probabilidad de que hayan sido manipulados artificialmente. Para videos, la herramienta puede incluso analizar fotogramas individuales en tiempo real.
Los videos deepfake se crean alimentando cientos de horas de video de alguien en una red neuronal, “enseñando” a la red las minucias de la voz, la pronunciación, los gestos, los gestos, etc. de la persona. Es como cuando haces una imitación de tu molesto compañero de trabajo de contabilidad, con imitar la forma en que hace que cada oración suene como una pregunta y sus ojos se abren cuando habla de hojas de cálculo complejas. Has pasado horas, no, meses , en su presencia y has dominado sus peculiaridades de personalidad. Un algoritmo de inteligencia artificial que produce deepfakes necesita aprender esas mismas peculiaridades, y más, sobre quien sea el objetivo del creador.
Con suficiente información real y ejemplos, el algoritmo puede generar sus propias imágenes falsas, con creadores de deepfake que usan gráficos por computadora y ajustan manualmente la salida para que sea lo más realista posible.
¿La parte más aterradora? Para hacer un deepfake , no necesitas una computadora sofisticada o incluso un montón de conocimientos sobre software. Hay programas de código abierto a los que la gente puede acceder de forma gratuita en línea, y en cuanto a encontrar secuencias de video de personajes famosos, tenemos que agradecerle a YouTube lo fácil que es.
El Autenticador de video de Microsoft puede detectar el límite de combinación de elementos deepfake y sutil desvanecimiento o escala de grises que el ojo humano puede no ser capaz de ver.
En la publicación del blog, Burt y Horvitz señalan que a medida que pasa el tiempo, los deepfakes solo mejorarán y serán más difíciles de detectar; después de todo, son generados por redes neuronales que continuamente están aprendiendo y mejorando a sí mismas.
Contra-táctica de Microsoft que está por venir en desde el ángulo opuesto, es decir, ser capaz de confirmar sin ninguna duda que un video, imagen o la noticia es verdadera (quiero decir, puedo papas fritas de McDonald de la calvicie cura ? Hizo un sello palmada a un kayakista en la cara con un pulpo? Nunca ha sido tan imperativo que el mundo sepa la verdad).
Una herramienta integrada en Microsoft Azure, el servicio de computación en la nube de la compañía, permite a los productores de contenido agregar hash digitales y certificados a su contenido, y un lector (que se puede usar como una extensión del navegador) verifica los certificados y hace coincidir los hash para indicar que el contenido es auténtico.
Por último, Microsoft también lanzó un cuestionario interactivo “Spot the Deepfake” que desarrolló en colaboración con el Centro para un público informado de la Universidad de Washington, la empresa de detección de deepfake Sensity y USA Today. El cuestionario está destinado a ayudar a las personas a “aprender sobre los medios sintéticos, desarrollar habilidades críticas de alfabetización mediática y ganar conciencia sobre el impacto de los medios sintéticos en la democracia”.
El impacto que tendrán las nuevas herramientas de Microsoft está por verse, pero bueno, nos alegra que lo estén intentando. Y no están solos; Facebook , Twitter y YouTube han tomado medidas para prohibir y eliminar deepfakes de sus sitios. La Realidad de la Fundación AI Defender utiliza algoritmos de detección de los medios sintéticos para identificar el contenido falso. Incluso hay una coalición de grandes empresas tecnológicas que se unen para tratar de luchar contra la interferencia electoral.
Una cosa es segura: entre una pandemia mundial, protestas y disturbios generalizados, desempleo masivo, una economía cojeando y la desinformación que ha permanecido extendida a través de todo esto, vamos a necesitar toda la ayuda que podamos conseguir para superarlo. solo las elecciones, pero el resto del año de conga-línea de catástrofes que es 2020.
Fuente:
Ramirez, V. B. (2020, 3 septiembre). Microsoft’s New Deepfake Detector Puts Reality to the Test. Recuperado 8 de septiembre de 2020, de https://singularityhub.com/2020/09/04/microsofts-new-deepfake-detector-puts-reality-to-the-test/</p;>