{"id":15961,"date":"2019-05-24T08:34:25","date_gmt":"2019-05-24T14:34:25","guid":{"rendered":"http:\/\/otech.uaeh.edu.mx\/noti\/?p=15961"},"modified":"2019-05-24T08:34:25","modified_gmt":"2019-05-24T14:34:25","slug":"como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces","status":"publish","type":"post","link":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/","title":{"rendered":"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces"},"content":{"rendered":"
\n
\n
\n
\n
\n
\n

Llevamos a\u00f1os usando modelos enormes con grandes partes que no sirven para nada, lo que dificulta el entrenamiento\u00a0y aumenta su tiempo y coste. Una investigaci\u00f3n revela que es posible reducir su tama\u00f1o sin sacrificar su rendimiento para ampliar los usos de la IA a dispositivos como los m\u00f3viles<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

\n
\n
\n
\n
\n
\n
\n
\n

Las redes neuronales son el software b\u00e1sico del aprendizaje profundo. Pero, a pesar de lo extendido que est\u00e1 su uso, estas estructuras est\u00e1n muy poco estudiadas. Los investigadores han analizado sus emergentes caracter\u00edsticas\u00a0<\/span>sin comprender realmente\u00a0<\/span>por qu\u00e9<\/em>\u00a0<\/span>funcionan de esa manera.<\/strong><\/p>\n

Ahora, un\u00a0<\/span>nuevo estudio<\/a>\u00a0<\/span>del MIT (EE. UU.) ha dado un gran paso para responder a esta pregunta. Y en ese proceso, los investigadores han hecho un descubrimiento simple pero extraordinario:\u00a0<\/span>las redes neuronales usadas habitualmente son mucho m\u00e1s grandes de lo necesario<\/strong>. En algunos casos, son 10, incluso 100 veces m\u00e1s grandes, as\u00ed que entrenarlas en ese orden de magnitud cuesta m\u00e1s tiempo y potencia de c\u00f3mputo de lo que realmente har\u00eda falta.<\/p>\n

Dicho de otra manera, dentro de cada red neuronal existe\u00a0<\/span>una mucho m\u00e1s peque\u00f1a que se puede entrenar para lograr el mismo rendimiento.<\/strong>\u00a0<\/span>Este hallazgo no solo resulta clave para los investigadores de la inteligencia artificial (IA), tambi\u00e9n tiene el potencial de descubrir nuevas aplicaciones, algunas de las cuales a\u00fan no podemos ni entender, que podr\u00edan mejorar nuestra vida cotidiana.<\/p>\n

Hablaremos de eso m\u00e1s adelante. Pero primero,\u00a0<\/span>vamos a analizar c\u00f3mo funcionan<\/strong>\u00a0<\/span>las redes neuronales para comprender qu\u00e9 est\u00e1 pasando.<\/p>\n

\"Un<\/p>\n

Foto<\/em><\/strong>: Un diagrama de una red neuronal que aprende a reconocer a un le\u00f3n.\u00a0<\/span>Cr\u00e9ditos<\/strong>: Jeff Clune \/ SCREENSHOT<\/em><\/p>\n

C\u00f3mo funcionan las redes neuronales<\/strong><\/h4>\n

Es posible que haya visto redes neuronales representadas en diagramas como el de arriba: est\u00e1n compuestas de\u00a0<\/span>capas con simples nodos computacionales conectados<\/strong>\u00a0<\/span>para registrar patrones en los datos.<\/p>\n

Lo m\u00e1s importante son las conexiones. Antes de entrenar una red neuronal, estas conexiones reciben valores aleatorios entre cero y uno que representan su intensidad. (Esto se denomina proceso de “inicializaci\u00f3n”). Durante el entrenamiento, a medida que la red recibe una serie de, por ejemplo, fotos de animales, las conexiones se van modificando y ajustando a esas intensidades. El proceso es similar al de cuando nuestro cerebro fortalece o debilita las diferentes conexiones neuronales a medida que acumulamos experiencia y conocimiento. Despu\u00e9s del entrenamiento, las intensidades finales de conexi\u00f3n se utilizan para identificar animales en nuevas fotos.<\/p>\n

Aunque la mec\u00e1nica de las redes neuronales est\u00e1 bien estudiada, la raz\u00f3n por la que funcionan de esa manera sigue siendo un misterio. Pero, a trav\u00e9s de mucha experimentaci\u00f3n, los investigadores han observado\u00a0<\/span>dos caracter\u00edsticas de las redes neuronales que han resultado \u00fatiles.<\/strong><\/p>\n

Observaci\u00f3n n\u00famero 1<\/strong>. Cuando se\u00a0<\/span>inicializa<\/em>\u00a0<\/span>una red antes del proceso del entrenamiento, siempre existe la posibilidad de que las intensidades de conexi\u00f3n asignadas aleatoriamente\u00a0<\/span>den lugar a una configuraci\u00f3n que no se pueda entrenar<\/strong>. En otras palabras, no importa cu\u00e1ntas fotos de animales se introduzcan en una red neuronal, puede que nunca se consiga un rendimiento decente, por lo que habr\u00eda que\u00a0<\/span>reinicializarla<\/em>\u00a0<\/span>para darle una nueva configuraci\u00f3n. Cuanto m\u00e1s grande sea la red (cuantas m\u00e1s capas y nodos tenga), esta probabilidad ser\u00e1 menor. Mientras que una peque\u00f1a red neuronal se puede entrenar en solo una de cada cinco\u00a0<\/span>inicializaciones<\/em>, una red m\u00e1s grande se puede entrenar en cuatro de cada cinco intentos. De nuevo,\u00a0<\/span>la raz\u00f3n<\/em>\u00a0<\/span>por la que esto sucede es un misterio, pero es la raz\u00f3n por la que los investigadores suelen usar redes muy grandes para sus tareas de aprendizaje profundo. Quieren aumentar sus posibilidades de lograr un modelo exitoso.<\/p>\n

Observaci\u00f3n n\u00famero 2<\/strong>. La consecuencia el primer modelo de red neuronal que suele usarse siempre es grande de lo que deber\u00eda. Una vez que ha terminado el entrenamiento, normalmente solo una fracci\u00f3n de sus conexiones se mantienen s\u00f3lidas, mientras que las otras terminan siendo bastante d\u00e9biles, tanto que realmente\u00a0<\/span>se pueden eliminar o “podar” sin afectar el rendimiento de la red<\/strong>.<\/p>\n

Desde hace muchos a\u00f1os, los investigadores han explotado esta segunda observaci\u00f3n para reducir el tama\u00f1o de sus redes\u00a0<\/span>despu\u00e9s<\/em>\u00a0<\/span>de entrenarlas para rebajar el tiempo y los costes computacionales. Pero\u00a0<\/span>nadie pens\u00f3 que era posible reducir sus redes\u00a0<\/span>antes<\/em>\u00a0<\/span>de entrenarlas.<\/strong>\u00a0<\/span>Se supon\u00eda que hab\u00eda que comenzar con una gran red y que el proceso de entrenamiento ten\u00eda que seguir su curso para separar las conexiones relevantes de las irrelevantes.<\/p>\n

El estudiante de doctorado del MIT y coautor del art\u00edculo, Jonathan Frankle, cuestion\u00f3 esa suposici\u00f3n: “Si hacen falta menos conexiones que las del inicio, \u00bfpor qu\u00e9 no podemos simplemente entrenar una red m\u00e1s peque\u00f1a<\/strong>\u00a0<\/span>sin esas conexiones adicionales?” Pues resulta que lo que Frankle plantea es factible.<\/p>\n

\"Michael<\/p>\n

Foto<\/em><\/strong>: Los autores del art\u00edculo, Michael Carbin (izquierda) y Jonathan Frankle (derecha).\u00a0<\/span>Cr\u00e9ditos<\/strong>: Jason Dorfman, MIT CSAIL<\/em><\/p>\n

Un billete de loter\u00eda<\/strong><\/h4>\n

Este descubrimiento se basa en el hecho de que la intensidad asignada aleatoriamente a las conexiones durante la\u00a0<\/span>inicializaci\u00f3n<\/em>\u00a0<\/span>en realidad no tiene consecuencias aleatorias sino que predisponen a diferentes partes de la red a fallar o tener \u00e9xito incluso antes del entrenamiento. Dicho de otra manera,\u00a0<\/span>la configuraci\u00f3n inicial influye en la configuraci\u00f3n final que adopte la red.<\/strong><\/p>\n

Centr\u00e1ndose en esta idea, los investigadores descubrieron que, si se\u00a0<\/span>poda<\/em>\u00a0<\/span>una red de gran tama\u00f1o despu\u00e9s del entrenamiento,\u00a0<\/span>se puede reutilizar la red m\u00e1s peque\u00f1a resultante para entrenarla con nuevos datos\u00a0<\/span><\/strong>y mantener un alto rendimiento, siempre que cada conexi\u00f3n se devuelva a su intensidad inicial dentro de esta red reducida.<\/p>\n

A partir de este hallazgo, Frankle y su coautor y profesor asistente en el MIT, Michael Carbin, proponen lo que han denominado como\u00a0<\/span>la “hip\u00f3tesis del billete de loter\u00eda”.<\/strong>\u00a0<\/span>Cuando se inician aleatoriamente las intensidades de conexi\u00f3n de una red neuronal, es casi como comprar una bolsa llena de billetes de loter\u00eda. Esperamos que dentro de nuestra bolsa est\u00e9 el boleto ganador, es decir, que se produzca una configuraci\u00f3n inicial f\u00e1cil de entrenar que d\u00e9 lugar a un modelo exitoso<\/p>\n

Esto tambi\u00e9n explica por qu\u00e9 la observaci\u00f3n n\u00famero 1 es cierta.\u00a0<\/span>Comenzar con una red m\u00e1s grande es como comprar m\u00e1s billetes de loter\u00eda.<\/strong>\u00a0<\/span>No aumenta la cantidad de potencia usada para un problema de aprendizaje profundo; simplemente aumenta la probabilidad de lograr una configuraci\u00f3n ganadora. Una vez encontrada, se deber\u00eda poder reutilizar una y otra vez, en lugar de continuar jugando la loter\u00eda.<\/p>\n

Pr\u00f3ximos pasos<\/strong><\/h4>\n

Esto plantea muchas preguntas. Primero, \u00bfc\u00f3mo encontrar el boleto ganador? En su art\u00edculo, Frankle y Carbin adoptaron un enfoque de fuerza bruta para entrenar y podar una red de gran tama\u00f1o con un conjunto de datos para extraer el boleto ganador para otro conjunto de datos. En teor\u00eda,\u00a0<\/span>deber\u00eda haber formas mucho m\u00e1s eficaces de encontrar, o incluso dise\u00f1ar, una configuraci\u00f3n ganadora<\/strong>\u00a0<\/span>desde el principio.<\/p>\n

Segundo,\u00a0<\/span>\u00bfcu\u00e1les son los l\u00edmites de entrenamiento de una configuraci\u00f3n ganadora?<\/strong>\u00a0<\/span>Se supone que diferentes tipos de datos y distintas tareas de aprendizaje profundo requerir\u00edan configuraciones diferentes.<\/p>\n

En tercer lugar,\u00a0<\/span>\u00bfcu\u00e1l es la red neuronal m\u00e1s peque\u00f1a posible con la que se lograr\u00eda un alto rendimiento?<\/strong>\u00a0<\/span>Frankle descubri\u00f3 que, a trav\u00e9s de un proceso reiterado de entrenamiento y\u00a0<\/span>poda<\/em>, pudo reducir constantemente la red inicial entre un 10 % y un 20 % de su tama\u00f1o original. Pero cree que ser\u00eda posible hacerla a\u00fan m\u00e1s peque\u00f1a.<\/p>\n

Red neuronal nirvana<\/strong><\/h4>\n

Frankle imagina un futuro en el que habr\u00e1\u00a0<\/span>una base de datos de c\u00f3digo abierto con todas las diferentes configuraciones encontradas<\/strong>, con descripciones para qu\u00e9 tareas son m\u00e1s \u00fatiles. En broma lo llama “red neuronal nirvana”. Cree que acelerar\u00eda y democratizar\u00eda dr\u00e1sticamente la investigaci\u00f3n de IA al reducir el coste y el tiempo del entrenamiento, y al permitir que las personas sin grandes servidores de datos hagan este trabajo directamente en peque\u00f1os ordenadores port\u00e1tiles o incluso en tel\u00e9fonos m\u00f3viles.<\/p>\n

Tambi\u00e9n\u00a0<\/span>podr\u00eda cambiar la naturaleza de las aplicaciones de IA.\u00a0<\/span><\/strong>Si es posible entrenar una red neuronal localmente en un dispositivo en vez de hacerlo en la nube, se podr\u00eda reducir el tiempo de entrenamiento y aumentar la seguridad de los datos. Imagine un dispositivo m\u00e9dico basado en aprendizaje autom\u00e1tico capaz de mejorarse a s\u00ed mismo a trav\u00e9s de este servicio, sin necesidad de enviar datos de pacientes a los servidores de Google o Amazon.<\/p>\n

“Estamos constantemente chocando contra el borde de lo que podemos entrenar”, sostiene el miembro fundador de Uber AI Labs y coautor del trabajo de seguimiento de Uber, Jason Yosinski, y a\u00f1ade:”Eso significa que las redes m\u00e1s grandes deben encajar en una GPU y determina el tiempo m\u00e1ximo que podemos tolerar la espera antes de obtener un resultado”. Si los investigadores aprendieran a\u00a0<\/span>identificar las configuraciones ganadoras desde el primer momento<\/strong>, eso reducir\u00eda el tama\u00f1o de las redes neuronales por un factor de 10, incluso 100. El l\u00edmite m\u00e1ximo de posibilidades aumentar\u00eda much\u00edsimo, abriendo un nuevo mundo de posibles usos.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

\n
\n
\n
Fuente: MIT Technology Review<\/strong><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Llevamos a\u00f1os usando modelos enormes con grandes partes que no sirven para nada, lo que dificulta el entrenamiento\u00a0y aumenta su tiempo y coste. Una investigaci\u00f3n revela que es posible reducir su tama\u00f1o sin sacrificar su rendimiento para ampliar los usos de la IA a dispositivos como los m\u00f3viles Las redes neuronales son el software b\u00e1sico […]<\/p>\n","protected":false},"author":1,"featured_media":15962,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[362],"tags":[],"class_list":["post-15961","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-robt"],"yoast_head":"\nC\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces - Observatorio Tecnol\u00f3gico de Hidalgo<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces - Observatorio Tecnol\u00f3gico de Hidalgo\" \/>\n<meta property=\"og:description\" content=\"Llevamos a\u00f1os usando modelos enormes con grandes partes que no sirven para nada, lo que dificulta el entrenamiento\u00a0y aumenta su tiempo y coste. Una investigaci\u00f3n revela que es posible reducir su tama\u00f1o sin sacrificar su rendimiento para ampliar los usos de la IA a dispositivos como los m\u00f3viles Las redes neuronales son el software b\u00e1sico […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\" \/>\n<meta property=\"og:site_name\" content=\"Observatorio Tecnol\u00f3gico de Hidalgo\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/observatoriouaeh\" \/>\n<meta property=\"article:published_time\" content=\"2019-05-24T14:34:25+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png\" \/>\n\t<meta property=\"og:image:width\" content=\"3200\" \/>\n\t<meta property=\"og:image:height\" content=\"1800\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"admin\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@OBSERVATORIOEH\" \/>\n<meta name=\"twitter:site\" content=\"@OBSERVATORIOEH\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"admin\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"9 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\"},\"author\":{\"name\":\"admin\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c\"},\"headline\":\"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces\",\"datePublished\":\"2019-05-24T14:34:25+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\"},\"wordCount\":1719,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#organization\"},\"image\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png\",\"articleSection\":[\"Rob\u00f3tica\"],\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\",\"name\":\"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces - Observatorio Tecnol\u00f3gico de Hidalgo\",\"isPartOf\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png\",\"datePublished\":\"2019-05-24T14:34:25+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png\",\"contentUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png\",\"width\":3200,\"height\":1800},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Inicio\",\"item\":\"https:\/\/otech.uaeh.edu.mx\/noti\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#website\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/\",\"name\":\"Observatorio Tecnol\u00f3gico de Hidalgo\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/otech.uaeh.edu.mx\/noti\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#organization\",\"name\":\"Observatorio Tecnol\u00f3gico de Hidalgo\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png\",\"contentUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png\",\"width\":250,\"height\":250,\"caption\":\"Observatorio Tecnol\u00f3gico de Hidalgo\"},\"image\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/www.facebook.com\/observatoriouaeh\",\"https:\/\/x.com\/OBSERVATORIOEH\"]},{\"@type\":\"Person\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c\",\"name\":\"admin\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g\",\"caption\":\"admin\"},\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/author\/admin\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces - Observatorio Tecnol\u00f3gico de Hidalgo","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/","og_locale":"en_US","og_type":"article","og_title":"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces - Observatorio Tecnol\u00f3gico de Hidalgo","og_description":"Llevamos a\u00f1os usando modelos enormes con grandes partes que no sirven para nada, lo que dificulta el entrenamiento\u00a0y aumenta su tiempo y coste. Una investigaci\u00f3n revela que es posible reducir su tama\u00f1o sin sacrificar su rendimiento para ampliar los usos de la IA a dispositivos como los m\u00f3viles Las redes neuronales son el software b\u00e1sico […]","og_url":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/","og_site_name":"Observatorio Tecnol\u00f3gico de Hidalgo","article_publisher":"https:\/\/www.facebook.com\/observatoriouaeh","article_published_time":"2019-05-24T14:34:25+00:00","og_image":[{"width":3200,"height":1800,"url":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png","type":"image\/png"}],"author":"admin","twitter_card":"summary_large_image","twitter_creator":"@OBSERVATORIOEH","twitter_site":"@OBSERVATORIOEH","twitter_misc":{"Written by":"admin","Est. reading time":"9 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#article","isPartOf":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/"},"author":{"name":"admin","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c"},"headline":"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces","datePublished":"2019-05-24T14:34:25+00:00","mainEntityOfPage":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/"},"wordCount":1719,"commentCount":0,"publisher":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#organization"},"image":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage"},"thumbnailUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png","articleSection":["Rob\u00f3tica"],"inLanguage":"en-US","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/","url":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/","name":"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces - Observatorio Tecnol\u00f3gico de Hidalgo","isPartOf":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#website"},"primaryImageOfPage":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage"},"image":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage"},"thumbnailUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png","datePublished":"2019-05-24T14:34:25+00:00","breadcrumb":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#primaryimage","url":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png","contentUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2019\/05\/feed_mit_image_algolotto-01.png","width":3200,"height":1800},{"@type":"BreadcrumbList","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/como-crear-redes-neuronales-10-veces-mas-pequenas-e-igual-de-eficaces\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Inicio","item":"https:\/\/otech.uaeh.edu.mx\/noti\/"},{"@type":"ListItem","position":2,"name":"C\u00f3mo crear redes neuronales 10 veces m\u00e1s peque\u00f1as e igual de eficaces"}]},{"@type":"WebSite","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#website","url":"https:\/\/otech.uaeh.edu.mx\/noti\/","name":"Observatorio Tecnol\u00f3gico de Hidalgo","description":"","publisher":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/otech.uaeh.edu.mx\/noti\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#organization","name":"Observatorio Tecnol\u00f3gico de Hidalgo","url":"https:\/\/otech.uaeh.edu.mx\/noti\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/","url":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png","contentUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png","width":250,"height":250,"caption":"Observatorio Tecnol\u00f3gico de Hidalgo"},"image":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/observatoriouaeh","https:\/\/x.com\/OBSERVATORIOEH"]},{"@type":"Person","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c","name":"admin","image":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g","caption":"admin"},"url":"https:\/\/otech.uaeh.edu.mx\/noti\/author\/admin\/"}]}},"_links":{"self":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts\/15961","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/comments?post=15961"}],"version-history":[{"count":1,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts\/15961\/revisions"}],"predecessor-version":[{"id":15963,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts\/15961\/revisions\/15963"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/media\/15962"}],"wp:attachment":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/media?parent=15961"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/categories?post=15961"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/tags?post=15961"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}

Muchos equipos de investigaci\u00f3n de IA ya han comenzado a realizar trabajos de seguimiento. Un investigador de la Universidad de Princeton (EE. UU.) recientemente\u00a0<\/span>coment\u00f3 los resultados<\/a>\u00a0<\/span>de un pr\u00f3ximo trabajo que aborda la segunda pregunta. Un equipo de Uber ha publicado un\u00a0<\/span>nuevo estudio<\/a>\u00a0<\/span>sobre varios experimentos que analizan la naturaleza de los metaf\u00f3ricos billetes de loter\u00eda. Lo m\u00e1s sorprendente es que encontraron que una vez descubierta la configuraci\u00f3n ganadora, esta consigue un rendimiento significativamente mejor que la gran red original no entrenada\u00a0<\/span>antes<\/em>\u00a0<\/span>de cualquier entrenamiento. En otras palabras,\u00a0<\/span>el acto de\u00a0<\/span>podar<\/em>\u00a0<\/span>una red para extraer la configuraci\u00f3n ganadora es en s\u00ed mismo un m\u00e9todo importante de entrenamiento<\/strong>.<\/p>\n