Los algoritmos de Inteligencia Artificial pueden generar texto lo suficientemente convincente como para engañar al ser humano promedio, lo que podría proporcionar una forma de producir en masa noticias falsas, críticas falsas y cuentas sociales falsas. Afortunadamente, la IA ahora también se puede usar para identificar texto falso.
Investigadores de la Universidad de Harvard y el MIT-IBM Watson AI Lab han desarrollado una nueva herramienta para detectar texto que se ha generado utilizando AI. La herramienta se llama Giant LanguageModel Test Room (GLTR), y explota el hecho de que los generadores de texto AI dependen de patrones estadísticos en el texto, en oposición al significado real de las palabras y oraciones. En otras palabras, la herramienta puede decir si las palabras que está leyendo parecen demasiado predecibles para haber sido escritas por una mano humana.
Herramientas con tecnología de inteligencia artificial como esta pueden convertirse en armas valiosas en la lucha para captar noticias falsas, falsificaciones y bots de Twitter.
GLTR resalta las palabras que son estadísticamente probables de aparecer después de la palabra anterior en el texto. Como se muestra en la imagen anterior (de Infinite Jest) , las palabras más predecibles son verdes; menos predecibles son el amarillo y el rojo; y los menos predecibles son morados. Cuando se prueba en fragmentos de texto escritos por el algoritmo de OpenAI, encuentra mucha previsibilidad. Los artículos de noticias genuinos y los resúmenes científicos contienen más sorpresas.
Los investigadores detrás de GLTR también llevaron a cabo otro experimento. Pidieron a los estudiantes de Harvard que identificaran el texto generado por IA, primero sin la herramienta y luego con la ayuda de su resaltado. Los estudiantes pudieron detectar solo la mitad de todas las falsificaciones por su cuenta, pero el 72% cuando recibieron la herramienta. “Nuestro objetivo es crear sistemas de colaboración humanos y de inteligencia artificial”, dice Sebastian Gehrmann, un estudiante de doctorado involucrado en el trabajo. Con información de Technology Review.
Fuente:
Redacción GH. (2019, 27 julio). Crean IA para detectar texto escrito por otra IA. Recuperado 29 julio, 2019, de https://www.elimparcial.com/tecnologia/Crean-IA-para-detectar-texto-escrito-por-otra-IA-20190727-0120.html