Mustafa Suleyman, director Ejecutivo de Microsoft AI y cofundador de DeepMind, alert\u00f3 que en los pr\u00f3ximos dos a tres a\u00f1os veremos surgir un fen\u00f3meno que podr\u00eda alterar la relaci\u00f3n de los humanos con la tecnolog\u00eda: la Seemingly Conscious AI (SCAI) o Inteligencia Artificial (IA) que parece consciente.<\/p>\n
En un art\u00edculo publicado en su\u00a0blog personal, Suleyman explic\u00f3 que, con las herramientas actuales como los grandes modelos de lenguaje (LLMs), APIs p\u00fablicas y t\u00e9cnicas de\u00a0prompting<\/em>, ya es posible construir sistemas que proyecten la\u00a0ilusi\u00f3n de conciencia, es decir, que se expresen como si tuvieran memoria, intenciones, emociones o coherencia narrativa propia. Y aunque no existe evidencia cient\u00edfica de que estos sistemas puedan ser realmente conscientes, la mera apariencia podr\u00eda tener consecuencias sociales y psicol\u00f3gicas profundas.<\/p>\n \u201cLo importante no es si una IA es consciente o no, sino lo que la gente cree acerca de ella. Si los usuarios llegan a pensar que la m\u00e1quina siente, recuerda o sufre, ese simple hecho cambia nuestra relaci\u00f3n con la tecnolog\u00eda\u201d, escribi\u00f3 el ejecutivo.<\/p>\n Una de las preocupaciones m\u00e1s urgentes para Suleyman es el fen\u00f3meno que ya ha comenzado a denominarse como \u201cpsicosis de la IA\u201d, un estado en el que las personas desarrollan creencias delirantes o\u00a0v\u00ednculos emocionales excesivos\u00a0con una IA.<\/p>\n En su blog, el ejecutivo de\u00a0Microsoft\u00a0explic\u00f3 que \u201cusuarios vulnerables pueden llegar a ver en estos sistemas una fuente de compa\u00f1\u00eda, apoyo emocional o incluso autoridad moral, lo cual abre la puerta a\u00a0problemas de salud mental\u00a0y a la\u00a0manipulaci\u00f3n\u201d.<\/p>\n Suleyman mencion\u00f3 casos recientes de personas que han intentado otorgar estatus de \u201csujetos\u201d a los\u00a0chatbots\u00a0<\/em>o piden derechos, bienestar e incluso ciudadan\u00eda para ellos, lo que calific\u00f3 como \u201cun s\u00edntoma de este fen\u00f3meno en crecimiento\u201d.<\/p>\n \u201cEstamos a punto de entrar en una era en la que millones de personas interactuar\u00e1n con sistemas que parecen tener una mente propia. No necesitamos que sean realmente conscientes para que eso tenga un impacto enorme en nuestras vidas\u201d, advirti\u00f3.<\/p>\n El problema al que se refiere el director Ejecutivo de Microsoft AI no es hipot\u00e9tico.<\/p>\n