No creas que todo lo que ves en Internet” es un consejo bastante estándar, pero cada vez es más difícil distinguir lo real de lo falso. Un nuevo algoritmo de Nvidia podría enturbiar las aguas al generar rostros humanos completamente inventados que son casi indistinguibles de los reales.

La capacidad de AI para sintetizar, intercambiar y transformar imágenes, videos e incluso discursos se ha desarrollado a pasos agigantados en los últimos años. Eso está impulsando un software de edición de imágenes más potente , asistentes de voz más realistas e incluso abriendo la puerta para generar automáticamente mundos digitales completos . Pero también existe una creciente preocupación de que a medida que este tipo de herramientas se vuelven cada vez más sofisticadas y accesibles, se está erosionando nuestra capacidad de confiar en estos medios.

El problema se introdujo en la conciencia pública por el escándalo Deepfakeque se desató esta vez el año pasado, cuando AI se utilizó para superponer las caras de las celebridades en los videos porno. Desde entonces, se han usado técnicas similares para poner las palabras en la boca de los políticos , y ha habido muchas críticas sobre el impacto potencial de la tecnología en una era de noticias falsas y manipulación digital.

GANs

La clase de algoritmos en el corazón de la más avanzada de estas soluciones se denominan redes de confrontación generativa, o GAN, y también forman el núcleo del nuevo software Nvidia. Esencialmente, los GANs enfrentan dos redes neuronales entre sí, una diseñada para detectar imágenes sintetizadas y la otra diseñada para crear falsificaciones lo suficientemente realistas como para pasar desapercibidas. Este juego del gato y el ratón se repite una y otra vez, y las imágenes sintetizadas se vuelven cada vez más realistas.

El enfoque solo se inventó en 2014, pero ha habido un rápido progreso desde entonces, desde fotos de pasaporte granulosas en blanco y negro hasta fotos en la cabeza en alta resolución a todo color (aunque a veces un poco torcidas). Pero el último avance de Nvidia ha alcanzado un nivel de realismo sin precedentes: le resultaría difícil diferenciar la salida de las imágenes extraídas de un catálogo de fotografías.

La principal innovación de los investigadores fue combinar su GAN con métodos del campo de la transferencia de estilos, algo con lo que puede estar familiarizado con las aplicaciones que transforman sus fotos en el estilo de Vincent van Gogh o algún otro artista. Estos enfoques permiten a las redes neuronales aprender a separar el contenido y el estilo de una imagen y luego combinarlos de manera interesante.

Subir de nivel

La mayoría de las redes neuronales diseñadas para trabajar con imágenes las “entienden” en términos de una jerarquía de características, comenzando con trazos amplios como su pose, luego cosas como la distancia entre sus ojos y nariz, y en el nivel más bajo detalles como el tono de su piel. Al agregar los métodos de transferencia de estilo, el nuevo algoritmo es esencialmente capaz de aprender estilos para cada uno de estos niveles de funciones.

Los investigadores pueden luego remezclar estos diferentes estilos en diferentes niveles para crear caras completamente nuevas, o simplemente cambiar el color del cabello de alguien al modificar el estilo de bajo nivel. Los investigadores también probaron el enfoque en otros conjuntos de datos de imágenes, creando falsificaciones convincentes de autos y habitaciones también.

Pero tan genial como evocar nuevas caras del aire, esa no es la verdadera motivación para la investigación. A pesar de las mejoras en la tecnología, las redes GAN y las redes neuronales en general aún funcionan como cajas negras en la medida en que no entendemos realmente en qué se enfocan en una imagen.

Como señala Tiernan Ray en ZDNet , al forzar a su red a separar lo que se está enfocando en características de alto y bajo nivel y luego hacer posible intercambiarlas, podemos entender mucho mejor el algoritmo está mirando a cada nivel de abstracción.

Pero si bien eso podría ser de gran interés para los científicos informáticos, lo que probablemente sea una preocupación más apremiante para el resto de nosotros es cuáles son los efectos secundarios prácticos de este enfoque, algo que los autores evitan claramente discutir en su artículo.

Es cierto que las caras falsas todavía no son perfectas, una publicación del blog del artista-programador Kyle McDonald señala sutiles aberraciones, como aretes fantasmáticos y dientes extraños que se aclaran con una inspección más cercana, pero son lo suficientemente buenos como para engañar a la mayoría de las personas hora.

Por que importa

Una posible aplicación de ese tipo de trucos señalado por The Register podría ser crear fotos de perfil altamente realistas para cuentas de redes sociales falsas utilizadas para manipular el discurso en línea. Y como los autores planean liberar el código fuente, esa capacidad pronto podría estar disponible de forma gratuita.

Sin embargo, a diferencia del código de Deepfakes, que permitió que cualquier persona con una tarjeta gráfica relativamente poderosa comenzara a crear sus propios videos, entrenar a este nuevo modelo tomó casi una semana en ocho de los chips de vanguardia Tesla GPU de Nvidia. Eso significa que los costos probablemente superarán los beneficios para la mayoría de las aplicaciones concebibles.

Pero la promesa y el peligro de este enfoque probablemente no sea tanto en su aplicación directa, pero el descubrimiento de que la incorporación de métodos de transferencia de estilo puede llevar a GANs capaces de una salida de fidelidad mucho mayor. Es probable que esto inspire el desarrollo de una nueva generación de algoritmos de imagen y suplantación de video cuyas salidas son aún más difíciles de detectar.

Para volver a trabajar un famoso dicho, una imagen falsa vale más que mil palabras falsas, y con la creciente democratización de este tipo de tecnología será cada vez más difícil confiar en lo que vemos en la web. Como señala Joshua Rothman en The New Yorker , que presenta una espada de doble filo: la gente no solo podrá crear falsificaciones para torcer el discurso público, sino que las figuras públicas también tendrán una negación plausible de todo lo que se les sorprenda haciendo con la cámara.

“No creas que todo lo que ves en Internet” pronto podría cambiar a “No creas todo lo que ves en Internet”.

Crédito de la imagen: ESB Professional / Shutterstock.com

Fuente: SingularityHub

Cuando pensamos en la sabiduría, a menudo pensamos en antiguos filósofos, místicos o líderes espirituales. La sabiduría está asociada con el pasado. Sin embargo, algunos líderes intelectuales nos desafían a reconsiderar la sabiduría en el contexto de la evolución tecnológica del futuro.

Con el auge de tecnologías exponenciales como la realidad virtual , el big data, la inteligencia artificial y la robótica , las personas obtienen acceso a herramientas cada vez más poderosas. Estas herramientas no son ni malévolas ni benevolentes por sí mismas; Los valores humanos y la toma de decisiones influyen en su uso.

En las discusiones sobre temas futuros, a menudo nos centramos en el progreso tecnológico mucho más que en los avances intelectuales y morales. En realidad, las ideas virtuosas que poseen los humanos futuros serán incluso más poderosas que sus herramientas tecnológicas.

Tom Lombardo y Ray Todd Blackwood están defendiendo exactamente esto. En su documento interdisciplinario ” Educando al sabio ciborg del futuro “, proponen una nueva definición de sabiduría, una que es relevante en el contexto del futuro de la humanidad.

Ya somos Cyborgs

El propósito central de Lombardo y el artículo de Blackwood es explorar modelos educativos revolucionarios que prepararán a los humanos, que pronto serán los cyborgs, para el futuro. La idea de educar a tales “cyborgs” puede sonar como ciencia ficción, pero si te fijas en ti mismo y en el mundo que te rodea, los cyborgs surgieron hace mucho tiempo.

Los tecno-filósofos como  Jason Silva señalan  que nuestros dispositivos tecnológicos son una forma abstracta de interfaces cerebro-máquina . Usamos teléfonos inteligentes para almacenar y recuperar información, realizar cálculos y comunicarnos entre nosotros. Nuestros dispositivos son una extensión de nuestras mentes.

Según la teoría de la mente extendida de los filósofos Andy Clark y David Chalmers, usamos esta tecnología para expandir los límites de nuestras mentes. Utilizamos herramientas como el aprendizaje automático para mejorar nuestras habilidades cognitivas o telescopios poderosos para mejorar nuestro alcance visual. Así es como la tecnología se ha convertido en parte de nuestros exoesqueletos, lo que nos permite ir más allá de nuestras limitaciones biológicas.

En otras palabras, ya eres un cyborg. Has estado todo el tiempo.

Tal definición abstracta de cyborgs es a la vez relevante y estimulante. Pero no se mantendrá abstracto por mucho más tiempo. Los últimos años han visto desarrollos notables tanto en el hardware como en el software de  las interfaces cerebro-máquina . Los expertos están diseñando electrodos más intrincados mientras programan mejores algoritmos para interpretar las señales neuronales. Los científicos ya han logrado que los pacientes paralizados escriban con sus mentes, e incluso permiten que las personas se comuniquen  únicamente a través de las ondas cerebrales . Tecnólogos como Ray Kurzweil creen que para 2030 conectaremos el neocórtex de nuestros cerebros a la nube a través de nanobots.

Dadas estas tendencias, los humanos seguirán siendo cada vez más parecidos a los cyborg. Nuestras escuelas futuras pueden no necesariamente educar a la gente como lo somos hoy, sino que más bien estarán educando a una nueva especie de híbrido humano-máquina.

Educación basada en la sabiduría

Ya sea que tome una definición abstracta o literal de un cyborg, debemos renovar completamente nuestros modelos educativos. Incluso si no crees en el escenario donde los humanos integran poderosas interfaces cerebro-máquina en nuestras mentes, todavía existe una necesidad desesperada de educación basada en la sabiduría para equipar a las generaciones actuales para abordar los problemas del siglo XXI.

Con un énfasis en temas aislados, evaluaciones estandarizadas y conocimiento del contenido, nuestros modelos educativos actuales fueron diseñados para la era industrial, con el objetivo de crear masas de trabajadores de fábricas eficientes, no para capacitar a pensadores críticos, innovadores o cyborgs sabios.

Actualmente, el objetivo de la educación superior es proporcionar a los estudiantes el grado en que la sociedad les dice que necesitan y, aparentemente, prepararlos para la fuerza laboral. En contraste, Lombardo y Blackwood argumentan que la sabiduría debería ser el objetivo central de la educación superior, y explican cómo podemos hacer que esto suceda en la práctica. Lombardo ha desarrollado un programa integral de educación fundacional de dos años para estudiantes universitarios que ingresan a la universidad y está orientado al desarrollo de la sabiduría.

¿Cómo se ve ese modelo educativo? Lombardo y Blackwood dividen la sabiduría en rasgos y capacidades individuales, cada uno de los cuales se puede desarrollar y medir de forma independiente o en combinación con otros. Los autores presentan una amplia lista de características que pueden influir en nuestra toma de decisiones a medida que nos esforzamos por enfrentar los desafíos globales y allanar un futuro más emocionante. Estos incluyen el pensamiento a gran escala, la curiosidad, la maravilla, la compasión, la autotrascendencia, el amor al aprendizaje, el optimismo y el coraje.

Como señalan los autores, “dada la naturaleza compleja y transformadora del mundo en que vivimos, el desarrollo de la sabiduría proporciona una base holística, perspicaz y éticamente informada para comprender el mundo, identificar sus problemas críticos y oportunidades positivas y abordar de manera constructiva sus retos “.

Después de todo, muchos de los desafíos que vemos en nuestro mundo actual se reducen a formas de pensar anticuadas, ya sean mentalidades regresivas, sistemas de valores superficiales o mentalidades egocéntricas. El desarrollo de la sabiduría inmunizaría a las sociedades futuras contra valores tan debilitantes; imagine cómo sería nuestro mundo si la sabiduría estuviera arraigada en todos los líderes y miembros participantes de la sociedad.

El sabio cyborg

Lombardo y Blackwood nos invitan a imaginar cómo vivirían sus vidas los sabios cyborgs del futuro. ¿Qué pasaría si los poderosos híbridos humano-máquina del mañana también fueran impulsados ​​por un propósito, compasivos y éticos?

Percibirían el mundo digital en evolución a través de una lente de asombro, asombro y curiosidad. Usarían la información digital como una herramienta para la resolución de problemas y una fuente de conocimiento infinito. Aprovecharían medios inmersivos como la realidad virtual para mejorar la expresión creativa y la experimentación. Continuarían adaptándose y prosperando en un mundo impredecible de cambio acelerado.

Nuestros medios a menudo representan un futuro distópico para nuestra especie. Vale la pena considerar un escenario radicalmente positivo pero plausible en el que, en lugar de que las máquinas tomen el control, convertimos con ellos en cyborgs sabios. Esto es solo un vistazo de lo que es posible si combinamos la sabiduría trascendente con las poderosas tecnologías exponenciales.

Crédito de la imagen: Peshkova / Shutterstock.com

Fuente: SingularityHub