{"id":23040,"date":"2021-06-07T09:44:21","date_gmt":"2021-06-07T15:44:21","guid":{"rendered":"https:\/\/otech.uaeh.edu.mx\/noti\/?p=23040"},"modified":"2021-06-07T09:50:21","modified_gmt":"2021-06-07T15:50:21","slug":"robots-asesinos-cuando-el-que-decide-matar-es-un-algoritmo","status":"publish","type":"post","link":"https:\/\/otech.uaeh.edu.mx\/noti\/robt\/robots-asesinos-cuando-el-que-decide-matar-es-un-algoritmo\/","title":{"rendered":"\u2018Robots asesinos\u2019: cuando el que decide matar es un algoritmo"},"content":{"rendered":"

\u00bfOpera ya la tecnolog\u00eda para que un\u00a0robot asesino\u00a0<\/i>localice a alguien, le apunte y le dispare de forma completamente aut\u00f3noma? Un grupo de expertos de las Naciones Unidas sostiene que s\u00ed, y\u00a0que esta situaci\u00f3n se dio ya en Libia en marzo de 2020. <\/a>As\u00ed se lo comunic\u00f3 al\u00a0Consejo de Seguridad<\/a>, seg\u00fan public\u00f3 la semana pasada la revista\u00a0New Scientist.\u00a0<\/i>Este documento de gran calado (entre cuyos autores figura el espa\u00f1ol Luis Antonio de Albuquerque Bacardit) puede suponer un punto de inflexi\u00f3n, puesto que por primera vez en la historia se admite que una m\u00e1quina ha atacado de forma aut\u00f3noma a un ser humano, lo que desata profundos debates \u00e9ticos y legales porque hace que se tambaleen las convenciones internacionales sobre lo que est\u00e1 permitido en una guerra.<\/span><\/p>\n

Bajo el concepto coloquial de\u00a0robots asesinos\u00a0<\/i>se esconde un campo ampl\u00edsimo de armamento, explica el analista de defensa Jes\u00fas Manuel P\u00e9rez Triana: \u201cEstos van desde drones que caben en la palma de una mano a los de gran tama\u00f1o a aparatos como el\u00a0Global Hawk<\/i>\u00a0estadounidense, cuya envergadura es mayor que la de un Boeing 737 y que es capaz de cruzar sin problemas el Oc\u00e9ano Atl\u00e1ntico, pasando por veh\u00edculos blindados aut\u00f3nomos como los desarrollados por la empresa estonia\u00a0Milrem Robotics,<\/a>\u00a0que ya han sido probados en guerras como la de Mal\u00ed\u201d.<\/span><\/p>\n

El uso de drones parcialmente aut\u00f3nomos (es decir, necesitan alguna intervenci\u00f3n humana) se ha generalizado de tal manera que han sido m\u00e1s que frecuentes en las guerras en Libia y Siria, y se convirtieron \u201cen la verdadera estrella\u201d\u00a0del conflicto del Alto Karabaj que enfrent\u00f3 a Armenia y Azerbaiy\u00e1n en 2020<\/a>, explica P\u00e9rez Triana. En esta \u00faltima contienda se dio a conocer al gran p\u00fablico la llamada\u00a0munici\u00f3n merodeadora<\/i>, que se basa en la idea de no emplear drones para lanzar armamento, sino que el propio dron est\u00e9 dotado de una ojiva y cuando localiza un objetivo, un operario lo lance hacia \u00e9l porque el propio dron es un arma. \u201cEl paso evidente es dotarle a ese dron kamikaze de un sistema de reconocimiento de objetivos que le permita operar aut\u00f3nomamente\u201d.<\/span><\/p>\n

\"El<\/span>
El dron de fabricaci\u00f3n turca STM Kargu-2STM<\/span><\/span><\/span><\/figcaption><\/figure>\n

Paso adelante<\/span><\/h3>\n

Para su funcionamiento, los drones aut\u00f3nomos van equipados con una c\u00e1mara y un algoritmo de procesamiento de im\u00e1genes: de la misma manera\u00a0que se puede ense\u00f1ar a un programa a reconocer caras,<\/a>\u00a0se le ense\u00f1a a reconocer objetivos. Y a atacarlos. Hasta ahora, las fuerzas a\u00e9reas debat\u00edan cu\u00e1l ser\u00eda el \u00faltimo avi\u00f3n con piloto. \u201cLo que estamos viendo\u201d, explica P\u00e9rez Triana, \u201ces que se ha lanzado una carrera tecnol\u00f3gica por fabricar masivamente drones kamikazes baratos que puedan lanzarse en enjambre gracias a la\u00a0computaci\u00f3n distribuida,<\/i>\u00a0en la que cada dron por s\u00ed mismo no tiene mucha potencia de procesamiento, pero que actuando en enjambre funciona como una\u00a0mente colmena.\u00a0<\/i>Y si lo que se pretende es lanzar enjambres de drones de forma masiva no puedes depender de un humano sentado detr\u00e1s de una consola\u201d.<\/span><\/p>\n

Este paso adelante ya se ha dado, seg\u00fan la carta que remiti\u00f3 el grupo de expertos al Consejo de Seguridad de la ONU. En ella, se relata un episodio acaecido en marzo de 2020\u00a0durante la guerra de Libia<\/a>. Sobre el terreno, las fuerzas\u00a0del general Jalifa Hafter<\/a>, de 77 a\u00f1os, entonces hombre fuerte del este del pa\u00eds respaldado por Rusia. Sus tropas lanzaron un ataque sobre Tr\u00edpoli y fueron repelidas por el ej\u00e9rcito del primer ministro reconocido por la ONU, Fayez Sarraj. \u201cLos convoyes log\u00edsticos y las fuerzas aliadas de Hafter en retirada fueron perseguidos posteriormente y atacados a distancia por veh\u00edculos a\u00e9reos de combate no tripulados o sistemas de armas aut\u00f3nomos letales como el STM Kargu-2 [un dron militar de fabricaci\u00f3n turca] y otras municiones de merodeo. Los sistemas de armas aut\u00f3nomos letales se programaron para atacar objetivos sin requerir la conectividad de datos entre el operador y la munici\u00f3n\u201d. La carta no revela si hubo v\u00edctimas mortales. Fuentes de la industria en Espa\u00f1a, sin embargo, ven con escepticismo esta posibilidad. \u201cM\u00e1s all\u00e1 de los avances de la t\u00e9cnica en \u00e1mbitos puramente acad\u00e9micos, y hasta donde sabemos, los programas industriales y las innovaciones llevadas a sistemas en uso en defensa se encuentran en un nivel de autonom\u00eda muy bajo\u201d, aseguran.<\/span><\/p>\n

Estos\u00a0robots asesinos<\/i>, explica Rahul Uttamchandani, abogado experto del gabinete de Legal Army, contravienen \u201ctodos los principios sobre los que se basan las guerras modernas\u201d. Los b\u00e1sicos son el de humanidad (toda persona que no participa o que ha dejado de participar en las hostilidades debe ser tratada humanamente); necesidad\u00a0<\/i>(no usar armas o m\u00e9todos que causen da\u00f1os excesivos con respecto a la ventaja militar prevista); proporcionalidad (no se deben causar al adversario males desproporcionados en relaci\u00f3n con el objetivo del conflicto armado);<\/i>\u00a0y distinci\u00f3n (hay que diferenciar en todo momento entre la poblaci\u00f3n y los combatientes).<\/span><\/p>\n

\n