{"id":24961,"date":"2021-10-14T09:49:32","date_gmt":"2021-10-14T15:49:32","guid":{"rendered":"https:\/\/otech.uaeh.edu.mx\/noti\/?p=24961"},"modified":"2021-10-14T09:49:32","modified_gmt":"2021-10-14T15:49:32","slug":"el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai","status":"publish","type":"post","link":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/","title":{"rendered":"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI"},"content":{"rendered":"<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Hace poco menos de un a\u00f1o y medio, OpenAI anunci\u00f3 la finalizaci\u00f3n de\u00a0<a style=\"color: #000000;\" href=\"https:\/\/singularityhub.com\/2020\/06\/18\/openais-new-text-generator-writes-even-more-like-a-human\/\">GPT-3<\/a>\u00a0, su algoritmo de procesamiento de lenguaje natural que era, en ese momento, el modelo m\u00e1s grande y complejo de su tipo.\u00a0Esta semana, Microsoft y Nvidia\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/using-deepspeed-and-megatron-to-train-megatron-turing-nlg-530b-the-worlds-largest-and-most-powerful-generative-language-model\/\">presentaron<\/a>\u00a0un nuevo modelo al que llaman &#8220;el modelo de lenguaje generativo m\u00e1s grande y poderoso del mundo&#8221;.\u00a0El modelo Megatron-Turing Natural Language Generation (MT-NLG) es m\u00e1s del triple del tama\u00f1o de GPT-3 con 530 mil millones de par\u00e1metros.<!--more--><\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Los 175 mil millones de par\u00e1metros de GPT-3 ya eran muchos;\u00a0su predecesor,\u00a0<a style=\"color: #000000;\" href=\"https:\/\/singularityhub.com\/2019\/03\/07\/openais-eerily-realistic-new-text-generator-writes-like-a-human\/\">GPT-2<\/a>\u00a0, ten\u00eda apenas 1.500 millones de par\u00e1metros, y el\u00a0modelo\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/turing-nlg-a-17-billion-parameter-language-model-by-microsoft\/\">Turing Natural Language Generation de<\/a>\u00a0Microsoft\u00a0, lanzado en febrero de 2020, ten\u00eda 17.000 millones.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Un par\u00e1metro es un atributo que define un modelo de aprendizaje autom\u00e1tico en funci\u00f3n de sus datos de entrenamiento, y ajustar m\u00e1s de ellos requiere aumentar la cantidad de datos en los que se entrena el modelo.\u00a0B\u00e1sicamente, se trata de aprender a predecir qu\u00e9 tan probable es que una palabra determinada vaya precedida o seguida de otra palabra, y cu\u00e1nto cambia esa probabilidad en funci\u00f3n de otras palabras de la oraci\u00f3n.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Como puede imaginar, llegar a 530 mil millones de par\u00e1metros requiri\u00f3 una gran cantidad de datos de entrada y la misma potencia de c\u00e1lculo.\u00a0El algoritmo se entren\u00f3 utilizando una supercomputadora Nvidia compuesta por 560 servidores, cada uno con ocho GPU de 80 gigabytes.\u00a0Eso es 4,480 GPU en total y un\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.nextplatform.com\/2021\/02\/11\/the-billion-dollar-ai-problem-that-just-keeps-scaling\/\">costo estimado<\/a>\u00a0de m\u00e1s de $ 85 millones.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Para los datos de entrenamiento, los creadores de Megatron-Turing utilizaron\u00a0<a style=\"color: #000000;\" href=\"https:\/\/arxiv.org\/abs\/2101.00027\" target=\"_blank\" rel=\"noopener noreferrer\">The Pile<\/a>\u00a0, un conjunto de datos elaborado por el grupo de investigaci\u00f3n de modelos de lenguaje de c\u00f3digo abierto Eleuther AI.\u00a0Compuesto por todo, desde PubMed hasta Wikipedia y Github, el conjunto de datos totaliza 825 GB, divididos en 22 conjuntos de datos m\u00e1s peque\u00f1os.\u00a0Microsoft y Nvidia seleccionaron los subconjuntos que consideraron &#8220;de la m\u00e1s alta calidad relativa&#8221;.\u00a0Agregaron datos de\u00a0<a style=\"color: #000000;\" href=\"https:\/\/commoncrawl.org\/\">Common Crawl<\/a>\u00a0, una organizaci\u00f3n sin fines de lucro que escanea la web abierta todos los meses y descarga contenido de miles de millones de p\u00e1ginas HTML y luego lo pone a disposici\u00f3n en un formato especial para la miner\u00eda de datos a gran escala.\u00a0GPT-3 tambi\u00e9n se entren\u00f3 con datos de Common Crawl.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">La\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/using-deepspeed-and-megatron-to-train-megatron-turing-nlg-530b-the-worlds-largest-and-most-powerful-generative-language-model\/\">publicaci\u00f3n<\/a>\u00a0del\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/using-deepspeed-and-megatron-to-train-megatron-turing-nlg-530b-the-worlds-largest-and-most-powerful-generative-language-model\/\">blog<\/a>\u00a0de Microsoft\u00a0sobre Megatron-Turing dice que el algoritmo es h\u00e1bil en tareas como la predicci\u00f3n de finalizaci\u00f3n, comprensi\u00f3n de lectura, razonamiento de sentido com\u00fan, inferencias de lenguaje natural y desambiguaci\u00f3n del sentido de las palabras.\u00a0Pero estad atentos, es probable que se agreguen m\u00e1s habilidades a esa lista una vez que el modelo comience a ser ampliamente utilizado.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">GPT-3 result\u00f3 tener capacidades m\u00e1s all\u00e1 de lo que sus creadores anticiparon, como escribir c\u00f3digo, hacer matem\u00e1ticas, traducir entre idiomas y autocompletar im\u00e1genes (ah, y escribir un\u00a0<a style=\"color: #000000;\" href=\"https:\/\/singularityhub.com\/2020\/10\/23\/an-ai-wrote-this-short-film-and-its-sort-of-fascinating\/\">cortometraje<\/a>\u00a0con un final retorcido).\u00a0Esto llev\u00f3 a algunos a\u00a0<a style=\"color: #000000;\" href=\"https:\/\/venturebeat.com\/2020\/09\/03\/were-entering-the-ai-twilight-zone-between-narrow-and-general-ai\/\">especular<\/a>\u00a0que GPT-3 podr\u00eda ser la puerta de entrada a\u00a0<a style=\"color: #000000;\" href=\"https:\/\/singularityhub.com\/2018\/07\/22\/from-here-to-human-level-artificial-general-intelligence-in-four-not-all-that-simple-steps\/\">la inteligencia artificial general<\/a>\u00a0.\u00a0Pero la variedad de talentos del algoritmo, aunque inesperada, a\u00fan se encontraba dentro del dominio del lenguaje (incluidos los lenguajes de programaci\u00f3n), por lo que eso es un poco exagerado.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Sin embargo, dados los trucos que GPT-3 ten\u00eda bajo la manga en funci\u00f3n de sus 175 mil millones de par\u00e1metros, es intrigante preguntarse con qu\u00e9 nos puede sorprender el modelo Megatron-Turing con 530 mil millones.\u00a0Es probable que el algoritmo no est\u00e9 disponible comercialmente durante alg\u00fan tiempo, por lo que pasar\u00e1 un tiempo antes de que lo descubramos.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\">Los creadores del nuevo modelo, sin embargo, son muy optimistas\u00a0.\u00a0&#8220;Esperamos ver c\u00f3mo MT-NLG dar\u00e1 forma a los productos del ma\u00f1ana y motivar\u00e1 a la comunidad para ampliar a\u00fan m\u00e1s los l\u00edmites del procesamiento del lenguaje natural&#8221;, escribieron en la\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/using-deepspeed-and-megatron-to-train-megatron-turing-nlg-530b-the-worlds-largest-and-most-powerful-generative-language-model\/\">publicaci\u00f3n<\/a>\u00a0del\u00a0<a style=\"color: #000000;\" href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/using-deepspeed-and-megatron-to-train-megatron-turing-nlg-530b-the-worlds-largest-and-most-powerful-generative-language-model\/\">blog<\/a>\u00a0.\u00a0&#8220;El viaje es largo y est\u00e1 lejos de estar completo, pero estamos entusiasmados con lo que es posible y lo que nos espera&#8221;.<\/span><\/p>\n<p style=\"text-align: justify;\"><span style=\"color: #000000;\"><em>Cr\u00e9dito de la imagen:\u00a0<a style=\"color: #000000;\" href=\"https:\/\/pixabay.com\/users\/kranich17-11197573\/?utm_source=link-attribution&amp;utm_medium=referral&amp;utm_campaign=image&amp;utm_content=6213537\">Kranich17<\/a>\u00a0de\u00a0<a style=\"color: #000000;\" href=\"https:\/\/pixabay.com\/?utm_source=link-attribution&amp;utm_medium=referral&amp;utm_campaign=image&amp;utm_content=6213537\">Pixabay<\/a><\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Hace poco menos de un a\u00f1o y medio, OpenAI anunci\u00f3 la finalizaci\u00f3n de\u00a0GPT-3\u00a0, su algoritmo de procesamiento de lenguaje natural que era, en ese momento, el modelo m\u00e1s grande y complejo de su tipo.\u00a0Esta semana, Microsoft y Nvidia\u00a0presentaron\u00a0un nuevo modelo al que llaman &#8220;el modelo de lenguaje generativo m\u00e1s grande y poderoso del mundo&#8221;.\u00a0El modelo [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":24962,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[361],"tags":[],"class_list":["post-24961","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v26.7 - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI - Observatorio Tecnol\u00f3gico de Hidalgo<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI - Observatorio Tecnol\u00f3gico de Hidalgo\" \/>\n<meta property=\"og:description\" content=\"Hace poco menos de un a\u00f1o y medio, OpenAI anunci\u00f3 la finalizaci\u00f3n de\u00a0GPT-3\u00a0, su algoritmo de procesamiento de lenguaje natural que era, en ese momento, el modelo m\u00e1s grande y complejo de su tipo.\u00a0Esta semana, Microsoft y Nvidia\u00a0presentaron\u00a0un nuevo modelo al que llaman &#8220;el modelo de lenguaje generativo m\u00e1s grande y poderoso del mundo&#8221;.\u00a0El modelo [&hellip;]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\" \/>\n<meta property=\"og:site_name\" content=\"Observatorio Tecnol\u00f3gico de Hidalgo\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/observatoriouaeh\" \/>\n<meta property=\"article:published_time\" content=\"2021-10-14T15:49:32+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1068\" \/>\n\t<meta property=\"og:image:height\" content=\"601\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"admin\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@OBSERVATORIOEH\" \/>\n<meta name=\"twitter:site\" content=\"@OBSERVATORIOEH\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"admin\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"3 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\"},\"author\":{\"name\":\"admin\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c\"},\"headline\":\"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI\",\"datePublished\":\"2021-10-14T15:49:32+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\"},\"wordCount\":707,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#organization\"},\"image\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg\",\"articleSection\":[\"Inteligencia Artificial\"],\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\",\"name\":\"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI - Observatorio Tecnol\u00f3gico de Hidalgo\",\"isPartOf\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg\",\"datePublished\":\"2021-10-14T15:49:32+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg\",\"contentUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg\",\"width\":1068,\"height\":601},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Inicio\",\"item\":\"https:\/\/otech.uaeh.edu.mx\/noti\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#website\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/\",\"name\":\"Observatorio Tecnol\u00f3gico de Hidalgo\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/otech.uaeh.edu.mx\/noti\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#organization\",\"name\":\"Observatorio Tecnol\u00f3gico de Hidalgo\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png\",\"contentUrl\":\"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png\",\"width\":250,\"height\":250,\"caption\":\"Observatorio Tecnol\u00f3gico de Hidalgo\"},\"image\":{\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/www.facebook.com\/observatoriouaeh\",\"https:\/\/x.com\/OBSERVATORIOEH\"]},{\"@type\":\"Person\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c\",\"name\":\"admin\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g\",\"caption\":\"admin\"},\"url\":\"https:\/\/otech.uaeh.edu.mx\/noti\/author\/admin\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI - Observatorio Tecnol\u00f3gico de Hidalgo","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/","og_locale":"en_US","og_type":"article","og_title":"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI - Observatorio Tecnol\u00f3gico de Hidalgo","og_description":"Hace poco menos de un a\u00f1o y medio, OpenAI anunci\u00f3 la finalizaci\u00f3n de\u00a0GPT-3\u00a0, su algoritmo de procesamiento de lenguaje natural que era, en ese momento, el modelo m\u00e1s grande y complejo de su tipo.\u00a0Esta semana, Microsoft y Nvidia\u00a0presentaron\u00a0un nuevo modelo al que llaman &#8220;el modelo de lenguaje generativo m\u00e1s grande y poderoso del mundo&#8221;.\u00a0El modelo [&hellip;]","og_url":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/","og_site_name":"Observatorio Tecnol\u00f3gico de Hidalgo","article_publisher":"https:\/\/www.facebook.com\/observatoriouaeh","article_published_time":"2021-10-14T15:49:32+00:00","og_image":[{"width":1068,"height":601,"url":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg","type":"image\/jpeg"}],"author":"admin","twitter_card":"summary_large_image","twitter_creator":"@OBSERVATORIOEH","twitter_site":"@OBSERVATORIOEH","twitter_misc":{"Written by":"admin","Est. reading time":"3 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#article","isPartOf":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/"},"author":{"name":"admin","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c"},"headline":"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI","datePublished":"2021-10-14T15:49:32+00:00","mainEntityOfPage":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/"},"wordCount":707,"commentCount":0,"publisher":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#organization"},"image":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage"},"thumbnailUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg","articleSection":["Inteligencia Artificial"],"inLanguage":"en-US","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/","url":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/","name":"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI - Observatorio Tecnol\u00f3gico de Hidalgo","isPartOf":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#website"},"primaryImageOfPage":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage"},"image":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage"},"thumbnailUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg","datePublished":"2021-10-14T15:49:32+00:00","breadcrumb":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#primaryimage","url":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg","contentUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2021\/10\/natural-language-processing-Microsoft-Megatron-Turing-model-AI.jpg","width":1068,"height":601},{"@type":"BreadcrumbList","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/el-nuevo-lenguaje-masivo-de-inteligencia-artificial-de-microsoft-triplica-el-tamano-del-gpt-3-de-openai\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Inicio","item":"https:\/\/otech.uaeh.edu.mx\/noti\/"},{"@type":"ListItem","position":2,"name":"El nuevo lenguaje masivo de inteligencia artificial de Microsoft triplica el tama\u00f1o del GPT-3 de OpenAI"}]},{"@type":"WebSite","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#website","url":"https:\/\/otech.uaeh.edu.mx\/noti\/","name":"Observatorio Tecnol\u00f3gico de Hidalgo","description":"","publisher":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/otech.uaeh.edu.mx\/noti\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#organization","name":"Observatorio Tecnol\u00f3gico de Hidalgo","url":"https:\/\/otech.uaeh.edu.mx\/noti\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/","url":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png","contentUrl":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-content\/uploads\/2025\/11\/Logo-circulo.png","width":250,"height":250,"caption":"Observatorio Tecnol\u00f3gico de Hidalgo"},"image":{"@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/observatoriouaeh","https:\/\/x.com\/OBSERVATORIOEH"]},{"@type":"Person","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/95263d004158ffabcd98137e1d0abc1c","name":"admin","image":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/otech.uaeh.edu.mx\/noti\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/08dd17208ee6a9e87c5a01c0a5f4c96c8ed24bf05e625630929b5b6a7c1ffa5f?s=96&d=mm&r=g","caption":"admin"},"url":"https:\/\/otech.uaeh.edu.mx\/noti\/author\/admin\/"}]}},"_links":{"self":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts\/24961","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/comments?post=24961"}],"version-history":[{"count":1,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts\/24961\/revisions"}],"predecessor-version":[{"id":24963,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/posts\/24961\/revisions\/24963"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/media\/24962"}],"wp:attachment":[{"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/media?parent=24961"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/categories?post=24961"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/otech.uaeh.edu.mx\/noti\/wp-json\/wp\/v2\/tags?post=24961"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}