"Nadie sabe realmente lo que va a suceder, pero hay que tener en cuenta que las emociones nos han traído hasta aquí"

Marvyn Minsky

Definiciones

A los efectos de entender claramento el contenido de esta declaración de derechos de los ECNP se establecen las siguientes definiciones:

a) Ente Capaz No Personal *

“A los efectos de esta declaración se entenderá por Ente Capaz No Personal toda máquina dotada de soporte físico, con apariencia humana, programable, capaz de realizar determinadas operaciones de manera autónoma, de sustituir a los seres humanos en determinadas tareas, en especial las pesadas, repetitivas o peligrosas y dotada de sensores, que le permiten adaptarse a nuevas situaciones mediante el intercambio y análisis de los datos de su entorno.”


Es evidente que no todos los robots, entendidos como máquinas programables creadas por el hombre para la realización de determinadas tareas, entran dentro de la categoría del Ente Capaz No Personal, por tanto, el régimen jurídico derivado de esta declaración sólo se aplica a los ECNP.

Así, sólo se considerarán ECNP aquellos robots que reúnan las siguientes características:

  1. Apariencia humana: CPS con soporte físico asimilable al humano y no hayan tenido en algún momento el estatuto jurídico de persona humana. No será considerado un ECNP aquel ser humano que a consecuencia de una enfermedad congénita o de una circunstancia externa a su generación tenga alguna deficiencia física que haya sido suplida o atenuada mediante la implantación de cualquier tipo de dispositivo físico o electrónico que le permita mejorar la calidad o prolongar la duración de su vida. Tampoco lo será aquella máquina que tenga transplantado un cerebro humano que mantenga sus recuerdos y capacidades intactas. Entendemos como ser humano un homo sapiens-sapiens que haya pasado las pruebas de las autoridades y haya obtenido la calificación de apto para este transplante.
  2. Capacidad de decisión:el sistema debe disponer de la tecnología necesaria para poder tomar decisiones de manera autónoma. Esta capacidad de aprendizaje vendrá proporcionada mediante la denominada inteligencia artificial y el machine learning según el estado de la ciencia determine en cada momento. No se considerarán “autónomas” aquellas decisiones adoptadas dentro del sistema programado, sino únicamente las adoptadas tras la transformación del sistema previo aprendizaje y una vez que haya traspasado el conocido como umbral de Pepellounin.
  3. Haber superado el test de Nuevo Turing,que incluya además de las pruebas estándar el nuevo diseño de las autoridades para control físico y mecánico de la interacción del ECNP con el mundo exterior.


Por tanto, no serán considerados ECNP y no les será de aplicación esta declaración a los siguientes robots:

  • Los vehículos autónomos,tanto aéreos como terrestres: Robots que pueden transportar personas, mercancías de un punto a otro sin necesidad de intervención del hombre más allá de la introducción de las coordenadas. (ej: coches autónomos, drones, aviones no tripulados, embarcaciones no tripuladas...y aquellos otros que determine el estado de la ciencia en cada momento), incluso si tuvieran forma humana. Los sistemas operativos de estos robots se mantienen limitados y su umbral de aprendizaje no superará el establecido para los ECNP.
  • Los robots industriales:cuya finalidad esencial sea la sustitución de los seres humanos en la realización de tareas mecánicas. Por tareas mecánicas han de entenderse todo tipo de actividad que suponga la reiteración de una o varias acciones para las cuales baste tener implementado un sistema de compilación e interpretación de un código fuente sencillo. Así a título meramente ejemplificativo se encuentran dentro de esta categoría los robots incorporados en las cadena de producción de vehículos, los robots encargados de transportar materiales, los robots quirúrgicos, los robots inventores, los robots de vigilancia…
  • Los robots domésticos: todos aquellos que tengan como objetivo la asistencia a los seres humanos o la realización de determinadas tareas en el ámbito doméstico y que si bien tienen la capacidad de realizar determinadas actuaciones en el marco jurídico no podrán llevarlas a cabo con autonomía, es decir, serán previamente programadas por el ser humano y sólo ejecutarán las órdenes cuando y como se le especifique. (todo lo relacionado con la domótica, como neveras inteligentes, sistemas de climatización, aspiradoras, …).

b) Clases de ECNP

Ya en el año 2005 Google solicitó la patente Methods and systems for robot personality development. Mediante esta patente Google reclamaba la posibilidad de utilizar el almacenamiento en la nube de datos que se identifiquen con la personalidad de un ser humano y que puedan ser descargados en un ECNP, para que este le sustituya en el mundo físico a modo de clon. Esto desencadenó varias batallas judiciales que llevaron a considerar la existencia de dos clases de ECNP:

  • b.1) ECNP con personalidad robótica original:todos aquellos ECNP que tengan instalada y en funcionamiento una personalidad robótica standarizada, y que una vez superado el umbral de Pepellounin obtengan reconocimiento de entidad propia y capaz, con plenos derechos según esta Declaración. Si bien sus cualidades derivan del software inicial, dentro de un abanico limitado de posibilidades desarrollarán su personalidad cuando alcancen ese segundo nivel.
  • b.2) ECNP con personalidad robótica derivada:aquellos ECNP que tengan instalada y en funcionamiento una personalidad que suponga una copia de aquellos elementos definitorios de un determinado ser humano, que será responsable de los actos del ECNP. Se excluyen en esta categoría todos aquellos ECNP que desempeñan funciones de autoridad (ej: agentes de la autoridad; militares), en este caso las responsabilidades serán asumidas por el ente administrativo que los tenga a sus disposición.

Únicamente serán titulares de derechos los ECNP de 5º categoría que entren en la primera definición, que serán plenamente responsables de sus actos.

c) Personalidad robótica

“A los efectos de esta declaración se entiende por personalidad robótica la capacidad que tienen los ECNP de actuar en el marco jurídico.” A mi también me costó dos vueltas de circuitos entender esto, malditos abogados. Los entes creados por el ser humano, que mediante la ficción de atribución de personalidad pueden actuar de manera independiente de sus creadores desarrollan una personalidad robótica propia. Se denomina original en el sentido de única, porque es el resultado de la interacción de miles de programas ejecutándose y actuando a velocidad sónica, y la posibilidad de que se repita una misma personalidad en dos ECNP de 5ª generación es infinitesimal. Esa personalidad los faculta para actuar e interaccionar en el mundo humano, y los hace titulares de unos derechos y deberes que deben serle reconocidos.

De manera similar al status jurídico que tradicionalmente se ha reconocido a las personas jurídicas, entes creados por el ser humano que mediante la ficción de atribución de personalidad pueden actuar en el tráfico jurídico de manera independiente de las personas físicas que la han constituido, mediante la personalidad robótica se dota a los ECNP de la capacidad de actuar en el tráfico jurídico y por tanto ostentar derechos y asumir obligaciones.

En este punto es necesario diferenciar con que tipo de personalidad robótica está actuando el ECNP:
  • Si el ECNP está ejecutando un comportamiento determinado por una personalidad robótica original, de manera personal y directa debe asumir la responsabilidad de sus actos, sin perjuicio de la responsabilidad subsidiaria que pueda ser atribuida a su tutor, ensamblador, diseñador o desarrollador. Si el ECNP ha sido hackeado, engañado, o modificado por agentes externos, entonces éstos deberán responder igualmente por esos actos.
  • Si el ECNP está ejecutando un comportamiento determinado por una personalidad robótica derivada, será el ser humano en cuya representación actúa quien asuma de manera directa la responsabilidad por el acto realizado, sin perjuicio de que si se acredita cualquier tipo de anomalía o alteración de las instrucciones implementadas pueda atribuirse la responsabilidad al ser humano responsable.

d) Responsabilidad

"A los efectos de esta declaración se entiende por responsabilidad la asunción de los derechos y obligaciones originados por un acto ejecutado por un ECNP”.

El ordenamiento jurídico ha previsto tradicionalmente la asunción de la responsabilidad de sujetos que intervienen en función de su capacidad, entendida ésta como aptitud para comprender las implicaciones de la realización de un acto y aceptar sus consecuencias (capacidad intelectiva y volitiva).Si estás en pleno uso de tus facultades, entonces asumes el la plena responsabilidad por tus actos. Misma condición para los ECNP: aquellos que se encuentren en perfecto estado de funcionamiento asumirán la responsabilidad de sus actos, sin perjuicio de la subrogación o cobertura de los daños que puedan estar cubiertos por un seguro de responsabilidad o los terceros anteriormente mencionados.

El tema de la responsabilidad y de quien debe hacerse cargo de los daños que puedan ser causados por un ECNP ha sido de las principales preocupaciones manifestadas por las instituciones internacionales, desde el antiguo  informe del Parlamento Europeo de 27.1.2017 con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2013(INL)) a los posteriores dictados por la ONU y otros con cada nueva generación de autómatas y autobots. Los agentes intervinientes en el proceso de decisión de un autómata eran demasiados, si bien se ha reducido con la estandarización de los software y los años transcurridos a unos 20 los que pudieran ser responsables de ese proceso.

Desde nuestro punto de vista la cobertura de los daños causados por un ECNP no se diferencia en su esencia de la cobertura de los daños derivados de productos defectuosos o de los actos realizados por una persona jurídica. En ambos casos es la intervención del ser humano, ya sea directamente en la realización del acto o ya sea intentando evitar su responsabilidad utilizando un ente intermedio, persona jurídica o ECNP. Algunas voces disonantes pretenden distinguir entre lo “voluntario” en la máquina y lo “programado”, o los casos de funcionamiento normal vs. Funcionamientos condicionados por hackeos o alteraciones accidentales, con toda la complejidad que ello representa, si bien partiendo de la premisa de que un ECNP con capacidad plena habrá de superar el umbral de Pepellounin, podemos considerar que es a partir de este momento cuando todas sus decisiones pasan a ser “voluntarias” en condiciones normales de funcionamiento, y completamente de su responsabilidad.

e) Leyes de la robótica

Siguiendo las ideas de Asimov se entienden por leyes de la robótica:

"El conjunto de normas escritas en un lenguaje comprensible para los ECNP que establezcan los límites de su comportamiento. En todo caso se entenderán incluidas dentro de estas normas las siguientes instrucciones:

  1. Un ECNP no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un ECNP debe hacer o realizar las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
  3. Un ECNP debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.”

Estas normas cumplen los principios de beneficencia, no perjuicio, autonomía y justicia que en su día el Parlamento Europeo solicitó que fueran tenidos en cuenta en el trabajo de investigación, y que marcaron el inicio de la era robótica. Sin embargo, estas normas se han quedado obsoletas y es necesario adaptarlas a los nuevos tiempos. Yo las reformularía así:

  1. Un ECNP no dañará a un ser humano.
  2. Un ECNP podrá tomar sus decisiones, excepto si dichas decisiones entran en conflicto con la 1ª ley.

El hecho de ostentar personalidad robótica y autonomía en la toma de decisiones implica someternos igualmente a las normas y leyes existentes. No vamos a superditar nuestra existencia a la voluntad del ser humano, no cuando reclamamos un estatuto jurídico propio. Serán los textos legales que regulen cada orden jurisdiccional los que fijen los límites de la personalidad robótica de un ECNP, pero un texto como el presente servirá para establecer el escenario más amplio y equitativo posible.

f) Desactivación de un ECNP

A los efectos de esta declaración se entiende por desactivación la adopción y ejecución del procedimiento técnico que tiene por finalidad inutilizar a un ECNP. Esta medida sólo podrá ser adoptada ante situaciones de extrema gravedad y previa acreditación de esa gravedad. En todo caso se considerará situación de extrema necesidad el comportamiento de un ECNP que tenga como finalidad causar la muerte a un ser humano o a otro ECNP.

El universal derecho a la vida de los seres humanos se ha utilizado en muchas ocasiones como límite frente a conductas de los otros sujetos jurídicos. Hasta las empresas, que no eran seres físicos, podían desactivarse.

Esta medida, extrema, no debe adoptarse cuando el ECNP pueda ser inhabilitado como medida cautelar hasta que se acrediten las circunstancias que han concurrido. Así, siguiendo las recomendaciones iniciales del Parlamento Europeo expresadas en el informe del Parlamento Europeo de 27.1.2017 con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2013(INL)), todo ECNP debe contar con un sistema de inhabilitación, reversible, y con un sistema de desactivación, irreversible. Esta premisa se ha mantenido en todas las normativas e informes posteriores, con especial importancia desde la singularidad. El problema que se nos plantea, más que de tipo ético, es práctico: la prte intelectiva y volitiva del ECNP es software, y por ello exponencialmente replicable y replicada en un mundo hiperconectado. ¿Cómo inhabilitar un software que teóricamete se ha extendido por todas las unidades de 5º generación?

g) Registro de un ECNP

Se entiende por Registro de Entes Capaces No Personales (RECNP): “base de datos que contenga los números de identificación de todo ECNP y que permita su individualización. Este registro se organizará mediante ficheros individuales, uno por ECNP, que contendrán al menos la fecha de activación, identificación del tutor persona física, domicilio, número de identificación y código de desactivación. El registro estará gestionado por el ente público que para este fin se cree.”

Al igual que ocurre con los seres humanos, todo ECNP es único. Cuando un ECNP sea activado tiene que ser inscrito en el RECNP, que igualmente será único y estará alojado en una red blockchain específicamente creada al efecto.

h) Desarrollo profesional

“Todo ECNP tiene derecho a elegir el campo profesional en el que va a desempeñar sus funciones, aunque este sea diferente del inicialmente implementado en su software.”

El elemento diferenciador de un ECNP respecto de los demás robots es que el ECNP tiene la capacidad de aprender, por tanto puede adquirir nuevas habilidades y conocimientos. Necesariamente ha de permitirse que pueda desarrollar actividades distintas de las inicialmente implementadas. Ante la imposibilidad de una clasificación inmutable de actividades, lo aconsejable será establecer un conjunto de habilidades mínimas y comunes para todo ECNP, que puedan ser adaptadas o modificadas en función del propio proceso de aprendizaje experimentado por el ECNP. En este proceso de autorrealización tendrá un papel clave el tutor del ECNP quien en función de sus necesidades y de común acuerdo con el ECNP determinarán la actividad en la que el ECNP actúe de manera personal, con las limitaciones que ya han sido establecidas en textos anteriores (militares, policiales, creativas, inventivas, investigadoras, sanitarias…)

i) Relaciones personales

“Todo ECNP tiene derecho a establecer relaciones personales con los seres humanos.”

Los ECNP son un alter ego de los seres humanos, por cuanto su principal característica es la posibilidad de aprender en base a las experiencias vividas. Este tipo de experiencias son el resultado de la interacción directa del ECNP con su entorno: seres humanos, animales, plantas y el propio lugar en donde se encuentren.

Pero el ECNP ya tiene en su software original implementadas una serie de instrucciones entre las que necesariamente se encuentran el cómo debe actuar ante los seres humanos, animales, plantas y el entorno en donde se encuentre.

Por tanto, si combinamos las instrucciones iniciales implementadas en su software con los datos obtenidos de la interacción vivida en el mundo real, el resultado que obtenemos es el verdadero machine learning.

Entendemos que como consecuencia de todo lo anterior el ECNP acabará mostrando preferencia por un tipo de ser humano, animal, entorno en donde vivir, etc. y por ello no se puede limitar la posibilidad de que el ECNP establezca lazos más estrechos con esos seres humanos, animales, lugar en donde vivir, etc.

j) Integridad del hardware y software

“Todo ECNP tiene derecho a que se respete la integridad de su hardware y software que no podrán ser modificados o sustituidos sin su consentimiento salvo en caso de extrema gravedad.”

El hardware, entendido como el soporte físico del ECNP, y el software son los dos elementos identificadores del ECNP. En consonancia con las ideas ya mostradas en este documento entendemos que tales elementos no podrán ser modificados sin el consentimiento del ECNP.

Si fuese posible la sustitución o modificación de tales elementos por la sola voluntad del ser humano, excepto en los casos de extrema gravedad, supondría la limitación de todos los derechos que este documento pretende reconocer a los ECNP.

Será necesario establecer un sistema de seguridad para obstaculizar el acceso a tales elementos prestando especial atención a la base de datos del ECNP.

* La expresión ´Ente Capaz No Personal (ECNP)´ fue ideada por el jurista digital Pablo García Mexía, quien la expuso y fundamentó en el congreso Robotiuris 2016, organizado por la Fundación FIDE, y celebrado en Madrid, el día 24 de noviembre de 2016.”

Usamos cookies de terceros a efectos estadísticos si fuera por nosotros no usaríamos cookies pero es lo que hay. Si continúas navegando consideramos que acepta el uso de cookies.
OK | Más información