Header Ads

DROIDES ASESINOS, ¿MITO, REALIDAD O FUTURO CERCANO? @uliman73


Como siempre, la realidad tiende a superar la ficción, pero no por ello la ficción deja de alimentar aquellas mentes que terminan transformándolo en realidad. En la década del ´60 muchos vieron Star Trek y como su capitán, James Tiberius Kirk se comunicaba con un aparatito inalámbrico, varias decenas de años luego aparecía el celular, también tenia algo llamado traductor universal, un dispositivo que le permitía comunicarse con cualquier alienígena, hoy tenemos aplicaciones que tienden a dar una solución en ese sentido. En estos tiempos, lo que la ciencia ficción nos presenta tiende a desarrollarse en mucho menos tiempo. En lo personal sigo esperando que aparezca un sable de luz.

La aparición de los droides no es nueva, ya hemos visto como en Japón desarrollan maquinas que tienden a tener apariencia humana y cuando sumamos Inteligencia Artificial (AI) esto se potencia enormemente. Pero en el caso particular que se ha estado hablando en los últimos tiempos, se refieren a robots asesinos, autómatas,  máquinas que pueden tomar la decisión de matar de forma independiente de cualquier control humano. Algunos expertos explican que se trata de una tecnología diferente de los drones o los misiles por control remoto. Hablan de artefactos capaces de "buscar y eliminar personas que tengan ciertos criterios predefinidos".

Como casi todo gran avance, y máxime cuando esta relacionado a la industria o uso militar, trae serias preocupaciones. El famoso arco largo inglés fue toda una revolución que se vió en práctica en la Batalla de Agincourt en 1415, pero pensemos en como lo vivían aquellos que sufrieron las consecuencias del descubrimiento y uso de la pólvora, ni que hablar de la bomba nuclear, algunos pensadores del tema refieren que esta sería la tercera revolución en armas de guerra.

Muchos de los grandes expertos en materia de AI en el mundo, sostienen que el desarrollo de este tipo de armas se dará en forma eficiente en muy poco tiempo, al mismo tiempo sostienen que si una gran potencia militar impulsa las armas de AI será prácticamente imposible evitar una carrera armamentística a nivel global.

EL DISPARADOR DEL TEMA

Pero por qué estamos tratando este tema, en parte se debe a un cortometraje que estuvo dando vueltas por la red, pero más allá de eso, la realidad es que con algo menos de tecnología a la que muestra el corto, ya se están usando drones con armas convencionales y biológicas.


Volviendo al corto que es el disparador global, titulado “Campaña Contra Robots Asesinos”  (el video esta en este artículo), pone en alerta sobre la aparición de drones voladores armados que apuntan y asesinan a personas, utilizando tecnología de reconocimiento facial para dar con ellos. Los desarrolladores del corto, advierten que no se trata de ciencia ficción, sino de un escenario de un futuro cercano que podría suceder en cualquier momento.

Luego de ver el corto, no se puede dudar del uso imaginativo del mismo para traer la atención de un público que solo esta atento a lo que sucede en las redes sociales. Algunos incluso llegan a comprar al mismo con la ficción que en el 30 de octubre de 1938,  a través de la radio y de la mano de HG Wells y la CBS, puso en vilo a la sociedad narrando una supuesta invasión alienígena.

Como bien exponía anteriormente, nadie duda que las intenciones primigenias de estos avances son nobles, robots voladores, reconocimiento facial y hasta la toma de decisiones en forma autónoma. Pero cuando agregamos esa cuota de perversidad, aparece que a lo previamente descripto, le agregamos unos cuantos gramos de explosivo que en la cabeza de una persona inexorablemente le causarían la muerte.

A todo esto surge un interrogante, ¿por qué realizar semejante inversión y tomarse el trabajo de hacer micro-robots asesinos?,  algunos creen que no es mas que una autocomplacencia de las sociedades tecnológicamente avanzadas. Hay que tener presente que un desarrollo similar sería costoso para obtener esa capacidad de matar selectivamente y poder usarla a gran escala, ciertamente fuera de la capacidad de las organizaciones terroristas, y de hecho, de la mayoría de los ejércitos.

Según algunos especialistas, "las armas autónomas son ideales para cometer asesinatos, desestabilizar naciones, someter a la población y acabar con un grupo étnico determinado". Estas armas, por lo pronto no convencionales y autónomas tendrían a priori estos sesgos:

·       Son máquinas que pueden tomar la decisión de matar de forma independiente de cualquier control humano
·        Pueden eliminar personas que tengan ciertos criterios predefinidos
·    Accesibilidad, a diferencia de las armas nucleares, se pueden construir con materiales más baratos y accesibles

En contraparte, hay expertos que entienden que este cortometraje es más bien alarmista. Sin embargo las tecnologías necesarias para desarrollar y/o construir drones asesinos autónomas tales como algoritmos de segmentación inteligente, geolocalizaciòn, reconocimientos facial ya están activas. Hoy día muchos sistemas similares existentes solo funcionan en un formato semiautónomo. Por lo que llegar a lo visto en el cortometraje demandará poco tiempo.

QUÉ HACE EL MUNDO AL RESPECTO

En el marco de las Naciones Unidas se encuentra la Oficina de Asuntos de Desarme, en la que se desarrolló en noviembre de 2017 la primera reunión del Grupo de Expertos Gubernamentales de la Convención Sobre Armas Convencionales (CCW por sus siglas en inglés) relacionada con sistemas letales de armas autónomas. A la misma concurrieron de Campaign to stop Killer Robots acompañados de su cortometraje.

En el documento elaborado para la Campaña se definió a los robots asesinos como "sistemas de armas que, una vez activados, seleccionarían y dispararían a los objetivos sin un control humano significativo", y los denomina también como "armas completamente autónomas o sistemas letales de armas autónomas".

La Oficina de Asuntos de Desarme de las Naciones Unidas, es el lugar mas indicado para tratar inicialmente el tema, puesto que desde allí se trabajó y promulgó la primera Convención sobre Armas Convencionales, la que contó con 3 Protocolos anexos, la misma fue adoptada en firme el 10 de octubre de 1980, actualmente hay 111 Estados que han signado la misma, en dichos protocolos se habla sobre el uso de minas o trampas explosivas y de la prohibición de armas incendiarias entre otros.

Sin ser desalentador al respecto, luego de finalizada las hostilidades en la guerra de los Balcanes, se inició un proceso de desminado en 1996 del que participaron ONGs y empresas privadas, destruyendo mas de 61.000 minas antipersonal, 8.300 minas anticarro y 54.000 artefactos no explosionados, sin embargo según algunos expertos deben quedar cerca de 80.000 minas por desactivar. Todo esto pese a la Convención de Armas Convencionales, otro tanto sucede con la prohibición de bombas beluga y etc.

Entre 2014 y 2016 la CCW celebró tres reuniones informales de expertos sobre el tema, en la última  reunión los Estados, entre ellos Argentina, establecieron el Grupo de Expertos Gubernamentales (GGE por sus siglas en inglés) sobre sistemas letales de armas autónomas.

Desde julio de 2015 está abierta a firmas en una carta abierta contra el uso de robots asesinados impulsada por científicos como Stephen Hawking y el emprendedor tecnológico Elon Musk, fundador de SpaceX, Tesla y Solar City.

CERRANDO IDEAS

En cuanto a las Convenciones y Normas que puedan sugerir a nivel Mundial, mas que una carta de intención es poco lo que preventivamente se pueda realizar, y resalto lo preventivo puesto que en teoría estas armas aún no existirían.

Sin embargo los materiales necesarios para el desarrollo y construcción de armas autómatas letales son relativamente fáciles de acceder a diferencia de las armas nucleares o bombas sucias, por lo que podrían ser fáciles de producir, siempre que nos refiramos a todas las potencias militares mas destacadas. Razón por la cual es que se cree que es cuestión de tiempo para que veamos este tipo de armas y consecuentemente tengan su réplica en el mercado negro, en manos de dictadores ó grupos terroristas.

Cuando se visualiza a través del cortometraje un enjambre de drones asesinos que realizarían una masacre étnica, me viene a la mente lo sucedido en Ruanda en 1994, donde 850.000 personas fueron asesinadas en tres meses, principalmente por machetes y herramientas de jardín, quienes pergeñaron estas masacres étnicas lo hicieron sin necesidad de drones, sin necesidad de reconocimiento facial y mucho menos con Tecnología de avanzada. 

Hace poco vimos como un tirador en Las Vegas mató al menos a 59 personas e hirió a más de 500 en solo unos minutos. Mientras tanto, en Alemania, Francia y el Reino Unido, docenas de personas inocentes han sido asesinadas por terroristas que usan vehículos comunes para cometer asesinatos. Barato, fácil e imposible de prohibir.

Películas demasiado dramáticas e imaginaciones activas bien pueden causar pánico y angustia. Pero lo que realmente se necesita es una discusión pensada y un debate serio para que los Estados y sus Gobiernos usen las nuevas tecnologías de forma que sean beneficiosas para la humanidad, no para prohibirlas por completo. En cuanto a las aplicaciones militares, deben seguir las leyes y Convenciones existentes para conflictos armados.

Como refiere el profesor Noel Sharkey de Campaign to stop Killer Robots, esta visión se basa en la fantasía que los robots son terminadores súper inteligentes cuando en la actualidad "tienen la inteligencia de una heladera”.

Como se ha visto en los últimos lustros, las normas están siempre por detrás de los avances tecnológicos, querer realizar una prohibición preventiva pareciera bueno y razonable ante el hecho que muestra el cortometraje, pero lo cierto es que no son los drones o robos autómatas el problema, el verdadero problema es el hombre, es una cuestión filosofal o teológica pero es lo que es. No asumirlo nos asegura que lo que resolvamos no será suficiente y eficiente.

No hay comentarios.

Copyright 2008 - 2016: CXO Community - Todos los derechos reservados. Imágenes del tema de enot-poloskun. Con tecnología de Blogger.