Investigadores de Google han demostrado que resulta relativamente sencillo enga\u00f1ar a una inteligencia artificial (IA), como los asistentes virtuales de nuestros smartphones, para que se ponga a su servicio. Una foto alterada podr\u00eda no solo conseguir que la IA se equivoque, sino contener instrucciones para que realice una tarea diferente a aquella para la que fue programada. En el futuro, un atacante podr\u00eda servirse de algo parecido para hacer que tu m\u00f3vil se ponga su servicio.<\/p>\n
El miedo a los robots que han reconocido abiertamente desde iconos de la tecnolog\u00eda como Elon Musk hasta cient\u00edficos de renombre como el fallecido Stephen Hawking se suele relacionar con las armas aut\u00f3nomas o las inteligencias artificiales que escapan a nuestro control y se vuelven en contra de la raza humana, al m\u00e1s puro estilo Hollywood. Sin embargo, puede ser que los peligros m\u00e1s temibles de la IA, por ser los m\u00e1s inmediatos y cercanos, sean los que ya est\u00e1n ah\u00ed sin que la mayor\u00eda nos hayamos dado cuenta.<\/p>\n
Los algoritmos de inteligencia artificial m\u00e1s comunes y que m\u00e1s impacto tienen en tu d\u00eda a d\u00eda son aquellos que influyen (o incluso determinan) cosas tan cotidianas como la m\u00fasica que escuchas, la ropa que compras o las noticias que lees. Sabemos por Facebook y el esc\u00e1ndalo de Cambridge Analytica que hasta te pueden estar manipulando para cambiar el partido al que votas, pero ni siquiera eso es lo que m\u00e1s deber\u00eda preocuparte. Lo que de verdad te deber\u00eda alarmar es lo sencillo que resulta enga\u00f1ar a esos \u2018cerebros\u2019 artificiales que est\u00e1n detr\u00e1s de infinidad de cosas que haces con tu \u2018smartphone\u2019 a diario.<\/p>\n
Cient\u00edficos de Google Brain acaban de demostrar\u00a0que incluso es posible hacer que un algoritmo concebido para reconocer im\u00e1genes (saber si lo que sale en una foto es un perro o un gato, por ejemplo) se ponga a realizar otras tareas para un atacante que consiga reprogramar sus funciones mediante una simple foto modificada.<\/p>\n
A\u00f1adiendo una capa imperceptible para los humanos y dise\u00f1ada para confundir al algoritmo, la imagen de un oso panda que tanto las personas como la m\u00e1quina sol\u00edan reconocer como tal, de repente ha pasado a ser un gib\u00f3n (o cualquier otro animal) para la inteligencia artificial.<\/p>\n
Y eso no es todo: con t\u00e9cnicas como la utilizada por los investigadores de Google, la foto alterada podr\u00eda no solo conseguir que la IA se equivoque, sino contener instrucciones para que realice una tarea diferente a aquella para la que fue programada. En el futuro, un atacante podr\u00eda servirse de algo parecido para hacer que tu \u2018smartphone\u2019 se ponga su servicio.<\/p>\n
\u00bfC\u00f3mo se enga\u00f1a a una m\u00e1quina?<\/strong><\/p>\n Todo parte de la forma en que se entrenan estos algoritmos: el famoso \u2018machine learning\u2019 o aprendizaje autom\u00e1tico. Para que sean capaces de reconocer una manzana verde, se le proporcionan a la m\u00e1quina miles o millones de im\u00e1genes de frutas y otros elementos que le sirvan de modelo.<\/p>\n As\u00ed, analizando ejemplos y buscando patrones, la inteligencia artificial acabar\u00e1 por comprender qu\u00e9 hace que una manzana sea una manzana y no otra cosa, o qu\u00e9 p\u00edxeles determinan que es verde y no roja o amarilla. Si quieres que aprenda a cocinar, ponle v\u00eddeos de recetas de YouTube\u00a0hasta que se convierta en un Top Chef.<\/p>\n Para enga\u00f1arla, lo que se utilizan son los llamados \u2018adversarial examples\u2019 (ejemplos contradictorios), que est\u00e1n dise\u00f1ados para causar alguna confusi\u00f3n, ya sea gen\u00e9rica (simplemente, conseguir que no funcione o lo haga mal) o intencionada (forzar un determinado error, como que vea exactamente lo que quiere el atacante).<\/p>\n En el caso de los investigadores de Google, no solo se logra el enga\u00f1o y se obtiene un resultado concreto, sino que se llega a \u2018secuestrar\u2019 la m\u00e1quina para que lleve a cabo otras tareas.<\/p>\n La efectividad de esta pr\u00e1ctica ya se ha puesto a prueba en otras ocasiones y con diferentes objetivos, como enga\u00f1ar a un coche aut\u00f3nomo haci\u00e9ndole creer que hay una se\u00f1al cualquiera es un stop coloc\u00e1ndole una pegatina, y forzando as\u00ed que se detenga, o para enga\u00f1ar al algoritmo de una aseguradora que detecta da\u00f1os en fotos de veh\u00edculos para que magnifique su evaluaci\u00f3n despu\u00e9s de un accidente.<\/p>\n Tambi\u00e9n se han usado los ejemplos contradictorios para hacer que un algoritmo entrenado para destacar en un videojuego (como el Pong o el Seaquest) pierda eficacia.<\/p>\n Fuente: Tecnoxplora<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Investigadores de Google han demostrado que resulta relativamente sencillo enga\u00f1ar a una inteligencia artificial (IA), como los asistentes virtuales de nuestros smartphones, para que se ponga a su servicio. Una foto alterada podr\u00eda no solo conseguir que la IA se equivoque, sino contener instrucciones para que realice una tarea diferente a aquella para la que […]<\/p>\n","protected":false},"author":1,"featured_media":11245,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[361],"tags":[],"class_list":["post-11244","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"yoast_head":"\n