Soy Stuart Russell, profesor de informática en la Universidad de Berkeley. He trabajado en inteligencia artificial más de 35 años. Su potencial para beneficiar a la humanidad es enorme, incluso en defensa. Sin embargo, permitir que las máquinas puedan elegir matar humanos será devastador para nuestra seguridad y libertad. Miles de colegas investigadores están de acuerdo. Tenemos una oportunidad para prevenir el futuro que acaba de ver, pero el tiempo para actuar se está acabando rápidamente”.
Así cierra [spoiler] Stuart Russell su corto Slaughterbots, donde muestra un plausible futuro cercano en el que ejércitos de microdrones autónomos atemorizan a la población con ataques dirigidos a personas y lugares concretos. A Russell, referencia mundial en IA a quien EL PAÍS RETINA ha podido entrevistar durante el congreso DES – Digital Enterprise Show 2018, le preocupa mucho el desarrollo y uso de armas robóticas inteligentes y autónomas hasta un punto de no retorno digno de Black Mirror.
Este científico, director del Centro de Inteligencia Artificial Compatible con Humanos (EE UU), es uno de los impulsores y firmantes de una carta abierta a la ONUque pide prohibir las armas letales autónomas, proteger a los civiles de su mal uso y evitar los efectos desestabilizadores de estas tecnologías. Una carta que han firmado más de 20.000 personas de 26 países, entre ellas Stephen Hawking, con quien Russell había escrito un artículo relacionado años atrás.
Russell asegura que la prohibición está en proceso. Destaca la adhesión de China y la ausencia de apoyo de Reino Unido, Estados Unidos, Israel y Rusia. “Tal vez no son conscientes de la dimensión del problema, o tal vez no les interese estratégicamente. Sea como sea, están cometiendo un error”, afirma. Y, por si hay dudas, asegura que este tipo de armamento es mucho más peligroso que el nuclear y mucho más fácil de usar. “Tenemos que pararlo antes de que sea demasiado tarde”, recalca.
En su empeño por evitar que las máquinas se apoderen del mundo, Russell ha apostado por un sistema diferente para el diseño y desarrollo de la IA. “Las aproximaciones actuales se basan en fijar un objetivo que la máquina tiene que alcanzar, y eso conduce inevitablemente a que esta tome el control y se quite de en medio cualquier cosa que pueda interferir en ello”, explica. Por ejemplo, si se le pide a un sistema inteligente que cure una enfermedad lo más rápido posible, podría optar por matar a todo el mundo, o por inocular dicha enfermedad a toda la población para tener una muestra mundial en la que probar diferentes tratamientos.
“Como no queremos que esto pase, lo que se hace es ordenarle que cumpla su objetivo sin matar o contagiar a todo el mundo, pero este enfoque es erróneo”, asegura. Entre otras cosas, porque es imposible anticipar todas las posibles incidencias. Cuando los humanos damos instrucciones omitimos cientos de detalles implícitos. Podemos decir “quiero el mejor café del mundo” y cualquier persona entendería que lo queremos ahora (no mañana), a un precio razonable (no más de tres euros) y sin herir a nadie.
El investigador ve potencial es en el desarrollo de lenguajes de programación probabilísticos y universales
Para que una máquina pueda interpretar instrucciones de la misma manera, Russell sostiene que hay diseñar sistemas capaces de lidiar con la incertidumbre, sin objetivos específicos. Que puedan resolver situaciones a partir de su propio aprendizaje sobre nuestras preferencias. Y para ello necesitarán preguntar y pedir permiso a los humanos, que ejercen como filtro de seguridad. Es lo que denomina diseño de recompensa inversa y aprendizaje de refuerzo inverso cooperativo.
Esto supone un gran cambio de perspectiva en el desarrollo de tecnologías basadas en IA. Russell y su grupo de investigación en Berkeley han comprobado con modelos matemáticos que esta aproximación es exitosa y permite contar con una IA “probadamente beneficiosa para los humanos”. El científico explica cómo llevar a cabo este tipo de diseño en su próximo libro. Lo publicará en 2019, según avanza el también autor de Inteligencia artificial: un enfoque moderno, un clásico para estudiantes de ingeniería de todo el mundo, traducido a 13 idiomas.
- Contra los vendehúmos del big data
Russell asegura que hay compañías y consultoras que ofrecen servicios basados en inteligencia artificial y big data que en realidad no son capaces de realizar. “Invertir en recopilar grandes cantidades de datos de tus clientes no puede ser la solución mágica para todo”, afirma. Entre otras cosas, por las limitaciones de la tecnología en usos que no le son propios. “Los datos no son el nuevo petróleo”, sostiene, en contra de lo que aseguran otros expertos.
Russell critica que a menudo empresas basadas en análisis y predicción big data realizan promesas que no pueden cumplir. Eso, además de ser decepcionante, tiene una repercusión negativa e incluso provoca una reacción violenta cuando el cliente comprueba que no es verdad, comenta.
Donde el investigador sí ve más potencial es en el desarrollo de lenguajes de programación probabilísticos y universales. Que haya un único algoritmo que pueda resolver todos los problemas para llegar a tener una IA general con una inteligencia comparable a la humana. Es decir, que sea capaz de entender el lenguaje, que integre aprendizaje y conocimiento, que sea capaz de tomar decisiones sobre largos periodos de tiempo y que sea capaz de acumular el descubrimiento de conceptos y teorías.
El experto aboga por lo que se conoce como “IA general”. Es decir, que su inteligencia no se ciña a un solo ámbito (por ejemplo, ganar una partida de ajedrez). Que pueda aprender rápidamente sobre cualquier situación o ante cualquier problema, y actuar con éxito. Como en la película Marte, en la que el protagonista debe descubrir cómo sobrevivir en el planeta rojo, afrontando situaciones que nadie ha experimentado antes y adaptándose a ellas.
- Contra los robots humanoides
¿Qué es la inteligencia? Para Russell, “la capacidad de actuar con éxito en el mundo”. ¿Incluye eso las relaciones con humanos? El científico no lo niega, pero le parece “perturbador” el hecho de que haya personas que se casen con robots (algo que ya ha sucedido en China). Cree que dotar de aspecto humano a estas máquinas es “un gran error”. Una solución para frenar esta tendencia, dice, podría ser una ley que establezca que todos los robots deban tener cuatro patas. “De hecho, desde un punto de vista práctico, es mejor, ya que proporciona estabilidad y permite cargar más peso”.
Llevamos muchos años usando a la gente como robots, y eso va a cambiar”, sostiene
Otra vía sería la cultural: que tener máquinas humanoides se vuelva socialmente inaceptable, “como en su día pasó con el consumo generalizado de cocaína, tras una época de exposición abusiva”. Russell afirma que a esta labor deberían contribuir los escritores y los cineastas, no solo para evitar que acabemos emparejados con robots sino que estos no acaben haciéndolo todo por nosotros. “Reconozco que es muy tentador, pero eso nos volverá vagos, obesos y estúpidos, como sucede en la película Wall-e”, afirma. Cree que, dedicados a la vida contemplativa, acabaríamos apoltronados en un sofá, delante de una pantalla, con un tanque de patatas fritas y cerveza. A lo Homer Simpson. “Es aterrador”, afirma.
El experto, sin embargo, aboga por el uso de robots e IA para evitar que los humanos realicen trabajos mecánicos y alienantes. “Llevamos muchos años usando a la gente como robots, y eso va a cambiar”, sostiene. La idea es liberar a las personas para que se puedan dedicar a tareas más creativas o gratificantes, donde además aporten valor y sigan teniendo una función de utilidad en la economía. Por eso, no cree que la renta básica universal (RBU) sea una solución a largo plazo ante la automatización, aunque sí cree que será necesaria para la transición.
“Creo que las evidencias muestran que necesitamos incentivos. Pueden ser financieros o relacionados con el estatus social. Por ejemplo, que cosas como ayudar a otras personas se conviertan en algo importante y reconocido socialmente, algo más allá del voluntariado, para lo cual recibas una formación”, propone. Russell afirma que los cuidadores (ya sea de niños, de personas enfermas o de mayores) están muy poco valorados y eso tiene que cambiar. “Necesitamos más investigación y estudios acerca de cómo un humano puede mejorar la vida de otro humano”.
El científico cree que en el futuro la mayoría de las personas trabajará para proporcionar servicios individuales a otras personas. “Se trata de encontrar nuevas formas de ayudarse para ser felices, que es lo que realmente importa”.
Fuente: EL Pais
Por Esther Paniagua
