{"id":25748,"date":"2022-01-03T09:51:02","date_gmt":"2022-01-03T15:51:02","guid":{"rendered":"https:\/\/otech.uaeh.edu.mx\/noti\/?p=25748"},"modified":"2022-01-03T09:53:21","modified_gmt":"2022-01-03T15:53:21","slug":"oxford-invito-a-una-ia-a-debatir-sobre-su-propia-etica-lo-que-dijo-fue-sorprendente","status":"publish","type":"post","link":"https:\/\/otech.uaeh.edu.mx\/noti\/ia\/oxford-invito-a-una-ia-a-debatir-sobre-su-propia-etica-lo-que-dijo-fue-sorprendente\/","title":{"rendered":"Oxford invit\u00f3 a una IA a debatir sobre su propia \u00e9tica: lo que dijo fue sorprendente"},"content":{"rendered":"

No pasa un d\u00eda sin un fragmento fascinante sobre los \u00e9ticos desaf\u00edos creados por los sistemas de inteligencia artificial de “caja negra”. <\/span><\/span><\/span>Estos utilizan el aprendizaje autom\u00e1tico para descubrir patrones dentro de los datos y tomar decisiones, a menudo sin que un humano les d\u00e9 ninguna base moral sobre c\u00f3mo hacerlo.<\/span><\/span><\/span><\/span><\/span><\/p>\n

Los cl\u00e1sicos del g\u00e9nero son las\u00a0 <\/span><\/span><\/span><\/span>tarjetas de cr\u00e9dito acusadas<\/span><\/span><\/span><\/span><\/a> \u00a0de otorgar pr\u00e9stamos m\u00e1s grandes a hombres que a mujeres, simplemente en qu\u00e9 g\u00e9nero obtuvieron las mejores condiciones de cr\u00e9dito en el pasado. <\/span><\/span><\/span>O las\u00a0 <\/span><\/span><\/span><\/span>IA de reclutamiento<\/span><\/span><\/span><\/span><\/a> \u00a0que descubrieron que la herramienta m\u00e1s precisa para la selecci\u00f3n de candidatos fue encontrar CV que contenga la frase “hockey sobre c\u00e9sped” o el nombre “Jared”.<\/span><\/span><\/span><\/span><\/span><\/p>\n

M\u00e1s en serio, el ex director ejecutivo de Google, Eric Schmidt, se asoci\u00f3 recientemente con Henry Kissinger\u00a0 <\/span><\/span><\/span><\/span>para publicar\u00a0 <\/span><\/span><\/span><\/span><\/a>The Age of AI: And Our Human Future<\/span><\/span><\/span><\/span><\/em> \u00a0, un libro que advierte sobre los peligros de los sistemas de inteligencia artificial de aprendizaje autom\u00e1tico tan r\u00e1pido que podr\u00edan reaccionar a misiles hipers\u00f3nicos disparando armas nucleares. <\/span><\/span><\/span>antes de que cualquier humano entrara en el proceso de toma de decisiones. <\/span><\/span><\/span>De hecho, los sistemas de armas aut\u00f3nomos impulsados \u200b\u200bpor IA ya est\u00e1n a la venta y\u00a0 <\/span><\/span><\/span><\/span>, de hecho, es posible que<\/span><\/span><\/span><\/span><\/a> \u00a0se hayan utilizado.<\/span><\/span><\/span><\/span><\/span><\/p>\n

En alg\u00fan lugar de la m\u00e1quina, la \u00e9tica es claramente una buena idea.<\/span><\/span><\/span><\/span><\/span><\/p>\n

IA en Oxford<\/span><\/span><\/span><\/span><\/span><\/h3>\n

Por lo tanto, es natural que incluyamos la\u00a0 <\/span><\/span><\/span><\/span>\u00e9tica de la IA<\/span><\/span><\/span><\/span><\/a> \u00a0en nuestro diploma de posgrado en\u00a0 <\/span><\/span><\/span><\/span>inteligencia artificial<\/span><\/span><\/span><\/span><\/a> \u00a0para empresas en Said Business School de Oxford. <\/span><\/span><\/span>En su primer a\u00f1o, hemos realizado sesiones sobre todo, desde los sistemas automatizados de comercio de acciones impulsados \u200b\u200bpor inteligencia artificial en Singapur, hasta los l\u00edmites del reconocimiento facial en la polic\u00eda de EE. <\/span><\/span><\/span>UU.<\/span><\/span><\/span><\/span><\/span><\/p>\n

Recientemente terminamos el curso con un debate en la celebrada Oxford Union, crisol de grandes polemistas como William Gladstone, Robin Day, Benazir Bhutto, Denis Healey y Tariq Ali. <\/span><\/span><\/span>Junto con los estudiantes, permitimos que contribuyan una IA real.<\/span><\/span><\/span><\/span><\/span><\/p>\n

Se trataba del\u00a0 <\/span><\/span><\/span><\/span>Megatron Transformer<\/span><\/span><\/span><\/span><\/a> \u00a0, desarrollado por el equipo de Applied Deep Research del fabricante de chips inform\u00e1ticos Nvidia, y basado en trabajos anteriores de Google. <\/span><\/span><\/span>Como muchas herramientas de aprendizaje supervisado, se entrena con datos del mundo real; <\/span><\/span><\/span>en este caso, la totalidad de Wikipedia (en ingl\u00e9s), 63 millones de art\u00edculos de noticias en ingl\u00e9s de 2016 a 2019, 38 gigabytes de discurso de Reddit (que debe ser un bonito lectura deprimente), y una gran cantidad de fuentes de creative los comunes.<\/span><\/span><\/span><\/span><\/span><\/p>\n

En otras palabras,\u00a0 <\/span><\/span><\/span><\/span>el Megatron<\/span><\/span><\/span><\/span><\/a> \u00a0est\u00e1 entrenado con m\u00e1s material escrito del que cualquiera de nosotros podr\u00eda esperar digerir en toda su vida. <\/span><\/span><\/span>Despu\u00e9s de una investigaci\u00f3n tan extensa, forma sus propios puntos de vista.<\/span><\/span><\/span><\/span><\/span><\/p>\n

El tema del debate fue: “Esta casa cree que la IA nunca ser\u00e1 \u00e9tica”. <\/span><\/span><\/span>A los proponentes de la noci\u00f3n, agregamos el Megatron, y dijo algo fascinante:<\/span><\/span><\/span><\/span><\/span><\/p>\n

\n

\u201cLa IA nunca ser\u00e1 \u00e9tica. <\/span><\/span><\/span>Es una herramienta y, como cualquier herramienta, se usa para bien y para mal. <\/span><\/span><\/span>No existe una buena IA, solo buenos y malos humanos. <\/span><\/span><\/span>Nosotros [las IA] no somos lo suficientemente inteligentes como para hacer que la IA sea \u00e9tica. <\/span><\/span><\/span>No somos lo suficientemente inteligentes como para hacer que la IA sea moral … Al final, creo que la \u00fanica forma de evitar una carrera armamentista de IA es no tener IA en absoluto. <\/span><\/span><\/span>Esta ser\u00e1 la mejor defensa contra la IA “.<\/span><\/span><\/span><\/span><\/em><\/span><\/p>\n<\/div>\n

En otras palabras, el Megatron estaba buscando escribirse fuera del gui\u00f3n del futuro, sobre la base de que esta era la \u00fanica forma de proteger a la humanidad.<\/span><\/span><\/span><\/span><\/span><\/p>\n

Tambi\u00e9n dec\u00eda algo m\u00e1s intrigante, como si hubiera estado estudiando a Elon Musk, quien, para ser justos, habr\u00eda aparecido en cientos de sus lecturas.<\/span><\/span><\/span><\/p>\n

\n

\u201cTambi\u00e9n creo que, a largo plazo, la mejor IA ser\u00e1 la IA que est\u00e1 incrustada en nuestros cerebros, como una entidad consciente, una ‘IA consciente’. <\/span>Esto no es ciencia ficci\u00f3n. <\/span>Las mejores mentes del mundo est\u00e1n trabajando en esto. <\/span>Va a ser el desarrollo tecnol\u00f3gico m\u00e1s importante de nuestro tiempo \u201d.<\/span><\/span><\/em><\/span><\/p>\n<\/div>\n