La posibilidad de que una plataforma de inteligencia artificial escape al control de los seres humanos es algo que preocupa a muchos cient\u00edficos. En Google han debido pensar que es mejor prevenir que curar y est\u00e1n trabajando en un protocolo que permita tomar el control de su IA m\u00e1s avanzada, Google DeepMind, en caso de emergencia.<\/p>\n
<\/p>\n
<\/p>\n
El protocolo se describe en un ensayo reci\u00e9n publicado por los investigadores de Google Deepmind y cient\u00edficos del\u00a0Instituto para el Futuro de la Humanidad\u00a0de la Universidad de Oxford que lleva por t\u00edtulo:\u00a0Safely Interruptible Agents. En \u00e9l se describe un complejo protocolo que puede interpretarse como un enorme bot\u00f3n rojo para interrumpir el funcionamiento de Google Deepmind y \u201ctomar el control de un sistema cuyo comportamiento inadecuado pueda acarrear consecuencias irreversibles.<\/p>\n
Aunque todos tenemos en la cabeza escenarios apocal\u00edpticos, en realidad los investigadores piensan en problemas menos dram\u00e1ticos y m\u00e1s inmediatos, como una f\u00e1brica cuyos robots sufran un error que ponga en peligro la integridad de la l\u00ednea de producci\u00f3n y no sea posible ajustarlo por los procedimientos ordinarios. El protocolo est\u00e1 especialmente pensado para evitar que el sistema de inteligencia artificial intente ignorar o invalidar el comando de desactivaci\u00f3n.<\/p>\n
El propio Eric Schmidt apelaba recientemente a la necesidad de establecer este tipo de mecanismos de control para las plataformas de IA. De momento los sistemas de inteligencia artificial no han llegado tan lejos como para manejar sistemas cr\u00edticos para la vida humana, pero cada vez avanzan m\u00e1s y m\u00e1s r\u00e1pido.<\/p>\n
Nick Bostrom, fundador del\u00a0Instituto para el Futuro de la Humanidad\u00a0y uno de los mayores expertos en esta tecnolog\u00eda explica que hay un punto de inflexi\u00f3n a partir del cual la inteligencia artificial tendr\u00e1 la capacidad de mejorarse a s\u00ed misma. A partir de ese punto su despegue ser\u00e1 exponencial. Mejor pensar con antelaci\u00f3n en sistemas de control.<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
La posibilidad de que una plataforma de inteligencia artificial escape al control de los seres humanos es algo que preocupa a muchos cient\u00edficos.<\/p>\n","protected":false},"author":1,"featured_media":2556,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[361],"tags":[],"class_list":["post-2555","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"yoast_head":"\n