Profecía sobre Robótica e Inteligencia Artificial
Según los expertos “descifradores” de las profecías de Nostradamus -astrólogo y médico
francés del siglo XVI-, la Centuria Sexta - Cuarteta LXXXI contiene la
predicción sobre la robótica e inteligencia artificial:
Llanto,
gritos lamentos, alaridos, terror.
Corazón
inhumano, cruel, negro y transido:
Leman,
las Islas, de Génova los mayores,
Sangre
derramada, frío, hambre, para nadie perdón
Más allá de utilizar a Nostradamus y su
cuarteta de mero conductor ante una realidad presente, aunque no del todo
visible o apreciada en su magnitud, sí por el contrario, la profecía alcanza su
repercusión en cuanto a la nula o escasa regulación, puesto que solamente
existe una Directiva relativa a las máquinas -Directiva 2006/42/CE-, la cual
vino a ampliar y/o modificar la anticuada Directiva 98/37/CE, siendo su
motivación principal, por una parte, permitir, la libre circulación de las
máquinas en el mercado interior y, por otra parte, garantizar un nivel elevado de
protección de la salud y de la seguridad. A dicha directiva, la cual “principalmente”
hace alusión a las máquinas industriales, se les unen normas estandarizadas,
tales como: UNE-EN ISO 13482:2014, que especifica los “requisitos y las directrices para un diseño intrínsecamente seguro,
las medidas de protección y la información para el uso de robots de asistencia
personales”, especialmente: los robots móviles de servicio; los robots de
asistencia física y los robots para el transporte de personas; las normas
derivadas de la ISO 8373:2012; ISO 9787:2013; ISO 10218-2:2011, entre otras,
las cuales esencialmente se circunscriben a la seguridad, control y ensayos de
robots industriales.
De igual forma, la propia Directiva destaca
por la regulación del proceso de comercialización y puesta en servicio, a
través del marcado CE, disponiendo que el fabricante -responsable de la
máquina- deberá, entre otros extremos asegurarse de que esta cumple los
pertinentes requisitos esenciales de seguridad y de salud; de que esté
disponible el expediente técnico correspondiente; el facilitar las
informaciones necesarias -instrucciones-; llevar a cabo los oportunos
procedimientos de evaluación de la conformidad; redactar la declaración CE de
conformidad a lo establecido y asegurarse de que dicha declaración se adjunta a
la máquina; colocar dicho marcado CE, estando obligado, a la introducción del
manual de instrucciones cuando dichas máquinas tienen como destinatarios a los
consumidores, siendo completada por normas estándares en este último extremo
-redacción de instrucciones, estructura y contenido EN 62079:2001.-
Sin embargo, la Directiva como se ha puesto
de manifiesto solo contempla los robots industriales o robots máquinas,
estableciendo una mínima parte a los destinados a los consumidores, pero dentro
de los mismos no contempla determinados extremos como la inteligencia
artificial como elemento diferenciador o complementario de la misma. De igual
forma, dicha directiva no es aplicable a otro tipo de robots como los de
servicio, médicos, drones, coches inteligentes. A fecha presente, solamente
disponemos de una simple diferenciación de robots[i]: industriales,
que incluyen robots manipuladores secuenciales; robots de control numérico con
integración sensorial pero sin planificación automática y robots inteligentes
que debido a las técnicas de inteligencia artificial incorpora el análisis del
entorno para toma de decisiones autónomas; y los de servicio, tele-operados, cuyo destino principal abarca campos como la
cirugía, logística, defensa u otros.
Ante esta situación, nos podemos encontrar
con tres posibles responsables: creador, fabricante, consumidor, y porque no:
el propio robot. La regulación de responsabilidad se centra a través de la
directiva de productos defectuosos así como la normativa de defensa de
consumidores y usuarios, ciertamente poco eficaz para la realidad que nos
profetizan. De igual modo, podemos incluir dentro de la presente regulación la
normativa respecto a productos sanitarios[ii] y
los sistemas de vigilancia y fabricación.
Ahora bien, la regulación legal -escasa, por
no decir inexistente- debería ser acompañada por múltiples ámbitos coordinados
-psicología, ética, medicina, programación, defensa.- La situación actual hace
que se planteé, con mayor fuerza si cabe, una modificación de los derechos
humanos con la finalidad de poder acotar y abarcar los nuevos retos de la
sociedad actual para que, en base a ellos, poder construir una sociedad
amparada y/o adaptada a la realidad, no virtual, sino “muy real.” La pregunta,
sería y… por dónde comenzar: tal vez, por las tres leyes de Asimov[iii] o
por los principios éticos desarrollados por la denominada roboética[iv],
sumándole las diferentes percepciones cognitivas extrapolables al robot, junto
con la actual disposición de determinada normativa aplicable a otros sectores
de la tecnología, tales como: protección de datos, patentes, piratería,
ciber-ataques. Todo en su conjunto, será la base para, al menos, disponer de un
mínimo halo que permita “proteger” y “configurar” legalmente los procesos de
fabricación, control, responsabilidad respecto a la configuración del robot a
través del software, la toma de decisiones basadas en probabilidades y en la
experiencia adquirida, y consecuentemente, la posibilidad que el software sea
“persona.”
Queda mucho camino por recorrer, pero se han
de establecer diferentes puntos de inicio para poder, al menos, disponer de un
boceto de aquel, simplemente, para que el corazón
inhumano, cruel, negro y transido profetizado por Nostradamus sea, al
menos, “girado” para evitar una desnaturalización del ser humano. Aunque creo
que vamos estableciendo el camino[v].
Efrén Santos Pascual
Socio-Abogado
[i]
International Federation of Robotics (IFR)
[ii] Real Decreto Legislativo 1/2015, de
24 de julio, por el que se aprueba el texto refundido de la Ley de garantías y
uso racional de los medicamentos y productos sanitarios, dado que define a
producto sanitario como cualquier instrumento, dispositivo, equipo, programa
informático, material u otro artículo, utilizado solo o en combinación,
incluidos los programas informáticos destinados por su fabricante a finalidades
específicas de diagnóstico y/o terapia y que intervengan en su buen
funcionamiento, destinado por el fabricante a ser utilizado en seres humanos
[iii] Un robot no puede herir a un ser
humano, ni por inacción dejar que un ser humano sufra daño. Un robot debe
obedecer las órdenes impartidas por los seres humanos, salvo si viola la
primera ley. Un robot debe salvaguardar su existencia, salvo cuando ésta
contravenga las dos leyes anteriores.
[iv] Asegurarse el control de los humanos
sobre los robots. Prevenir su utilización nociva o ilegal. Proteger los datos
obtenidos por los robots. Rastrear y grabar la actividad de los robots. Brindar
una identificación única a cada robot.
[v]
Stanford to host 100-year study on artificial intelligence. http://news.stanford.edu/news/2014/december/ai-century-study-121614.html