Profecía sobre Robótica e Inteligencia Artificial

Según los expertos “descifradores” de las profecías de Nostradamus -astrólogo y médico francés del siglo XVI-, la Centuria Sexta - Cuarteta LXXXI contiene la predicción sobre la robótica e inteligencia artificial:

Llanto, gritos lamentos, alaridos, terror.
Corazón inhumano, cruel, negro y transido:
Leman, las Islas, de Génova los mayores,
Sangre derramada, frío, hambre, para nadie perdón

Más allá de utilizar a Nostradamus y su cuarteta de mero conductor ante una realidad presente, aunque no del todo visible o apreciada en su magnitud, sí por el contrario, la profecía alcanza su repercusión en cuanto a la nula o escasa regulación, puesto que solamente existe una Directiva relativa a las máquinas -Directiva 2006/42/CE-, la cual vino a ampliar y/o modificar la anticuada Directiva 98/37/CE, siendo su motivación principal, por una parte, permitir, la libre circulación de las máquinas en el mercado interior y, por otra parte, garantizar un nivel elevado de protección de la salud y de la seguridad. A dicha directiva, la cual “principalmente” hace alusión a las máquinas industriales, se les unen normas estandarizadas, tales como: UNE-EN ISO 13482:2014, que especifica los “requisitos y las directrices para un diseño intrínsecamente seguro, las medidas de protección y la información para el uso de robots de asistencia personales”, especialmente: los robots móviles de servicio; los robots de asistencia física y los robots para el transporte de personas; las normas derivadas de la ISO 8373:2012; ISO 9787:2013; ISO 10218-2:2011, entre otras, las cuales esencialmente se circunscriben a la seguridad, control y ensayos de robots industriales.

De igual forma, la propia Directiva destaca por la regulación del proceso de comercialización y puesta en servicio, a través del marcado CE, disponiendo que el fabricante -responsable de la máquina- deberá, entre otros extremos asegurarse de que esta cumple los pertinentes requisitos esenciales de seguridad y de salud; de que esté disponible el expediente técnico correspondiente; el facilitar las informaciones necesarias -instrucciones-; llevar a cabo los oportunos procedimientos de evaluación de la conformidad; redactar la declaración CE de conformidad a lo establecido y asegurarse de que dicha declaración se adjunta a la máquina; colocar dicho marcado CE, estando obligado, a la introducción del manual de instrucciones cuando dichas máquinas tienen como destinatarios a los consumidores, siendo completada por normas estándares en este último extremo -redacción de instrucciones, estructura y contenido EN 62079:2001.-

Sin embargo, la Directiva como se ha puesto de manifiesto solo contempla los robots industriales o robots máquinas, estableciendo una mínima parte a los destinados a los consumidores, pero dentro de los mismos no contempla determinados extremos como la inteligencia artificial como elemento diferenciador o complementario de la misma. De igual forma, dicha directiva no es aplicable a otro tipo de robots como los de servicio, médicos, drones, coches inteligentes. A fecha presente, solamente disponemos de una simple diferenciación de robots[i]: industriales, que incluyen robots manipuladores secuenciales; robots de control numérico con integración sensorial pero sin planificación automática y robots inteligentes que debido a las técnicas de inteligencia artificial incorpora el análisis del entorno para toma de decisiones autónomas; y los de servicio, tele-operados, cuyo destino principal abarca campos como la cirugía, logística, defensa u otros. 


Ante esta situación, nos podemos encontrar con tres posibles responsables: creador, fabricante, consumidor, y porque no: el propio robot. La regulación de responsabilidad se centra a través de la directiva de productos defectuosos así como la normativa de defensa de consumidores y usuarios, ciertamente poco eficaz para la realidad que nos profetizan. De igual modo, podemos incluir dentro de la presente regulación la normativa respecto a productos sanitarios[ii] y los sistemas de vigilancia y fabricación. 

Ahora bien, la regulación legal -escasa, por no decir inexistente- debería ser acompañada por múltiples ámbitos coordinados -psicología, ética, medicina, programación, defensa.- La situación actual hace que se planteé, con mayor fuerza si cabe, una modificación de los derechos humanos con la finalidad de poder acotar y abarcar los nuevos retos de la sociedad actual para que, en base a ellos, poder construir una sociedad amparada y/o adaptada a la realidad, no virtual, sino “muy real.” La pregunta, sería y… por dónde comenzar: tal vez, por las tres leyes de Asimov[iii] o por los principios éticos desarrollados por la denominada roboética[iv], sumándole las diferentes percepciones cognitivas extrapolables al robot, junto con la actual disposición de determinada normativa aplicable a otros sectores de la tecnología, tales como: protección de datos, patentes, piratería, ciber-ataques. Todo en su conjunto, será la base para, al menos, disponer de un mínimo halo que permita “proteger” y “configurar” legalmente los procesos de fabricación, control, responsabilidad respecto a la configuración del robot a través del software, la toma de decisiones basadas en probabilidades y en la experiencia adquirida, y consecuentemente, la posibilidad que el software sea “persona.” 

Queda mucho camino por recorrer, pero se han de establecer diferentes puntos de inicio para poder, al menos, disponer de un boceto de aquel, simplemente, para que el corazón inhumano, cruel, negro y transido profetizado por Nostradamus sea, al menos, “girado” para evitar una desnaturalización del ser humano. Aunque creo que vamos estableciendo el camino[v].  

Efrén Santos Pascual
Socio-Abogado




[i] International Federation of Robotics (IFR)
[ii] Real Decreto Legislativo 1/2015, de 24 de julio, por el que se aprueba el texto refundido de la Ley de garantías y uso racional de los medicamentos y productos sanitarios, dado que define a producto sanitario como cualquier instrumento, dispositivo, equipo, programa informático, material u otro artículo, utilizado solo o en combinación, incluidos los programas informáticos destinados por su fabricante a finalidades específicas de diagnóstico y/o terapia y que intervengan en su buen funcionamiento, destinado por el fabricante a ser utilizado en seres humanos
[iii] Un robot no puede herir a un ser humano, ni por inacción dejar que un ser humano sufra daño. Un robot debe obedecer las órdenes impartidas por los seres humanos, salvo si viola la primera ley. Un robot debe salvaguardar su existencia, salvo cuando ésta contravenga las dos leyes anteriores.
[iv] Asegurarse el control de los humanos sobre los robots. Prevenir su utilización nociva o ilegal. Proteger los datos obtenidos por los robots. Rastrear y grabar la actividad de los robots. Brindar una identificación única a cada robot.
[v] Stanford to host 100-year study on artificial intelligence. http://news.stanford.edu/news/2014/december/ai-century-study-121614.html

Entradas populares