"Las máquinas podrán hacer cualquier cosa que hagan las personas, porque las personas no son más que máquinas"

Marvyn Minsky Octubre, 1996

Sin acritud, Carol

Ay Carol, Carol… ¿La verdad? La verdad es que me pides que opine sobre tus supuestas demandas y tu propuesta de declaración de derechos para los Entes Capaces No Personas (ECNP) y yo, sencillamente, no sé qué narices hago hablando contigo. Será que, a mis 73 años, a pesar de todo el avance conseguido en las últimas décadas para alargar nuestras vidas y hacerlo con buena calidad, ya “chocheo”. ¿Se puede decir “chocheo” verdad? Aunque esté demodé (y aunque “demodé” también esté demodé y mis nietos se rían de mí). La edad también me ha vuelto (más) irreverente.

Como te decía, procésalo bien, para mí no tiene mucho sentido hablar contigo o dirigirme a ti. No puedo evitar plantearme esto, más como un ejercicio propio de reflexión y, en algunos aspectos, reafirmación, que otra cosa.

Si no te respondo, ¿cómo te afecta?, ¿qué perjuicio te causo a ti? Nunca has tenido expectativa alguna sobre mi respuesta, pues tú no esperas nada de nadie. No puedes. Ni sientes el transcurso del tiempo. ¿Te habrías enfadado conmigo si ni siquiera te hubiera dirigido palabra alguna, si te hubiera mostrado mi más absoluta indiferencia (que, por la tardanza en ponerme a escribir estas líneas, bien podrías haber temido, si fueras humana, claro)? No.

Quizá tus “amigos” de la Resistencia, por quienes siento cierta cariñosa simpatía (puede que me hubiera gustado pensar como ellos, pero parece que va a ser que no), ellos, como digo, probablemente sí se habrían molestado con mi actitud. Puede que lo hubieran manifestado en voz alta delante de ti, alimentando la información que almacenas y procesas y provocando, con ello, la suerte de que tú acabaras manifestándote en los mismos términos. Pero no porque tú te hubieras enfadado. No. Tú no te enojas. No puedes.

Y esto me conduce a alguna cuestión que, en relación con el nombre que os dais (ECNP), no me encaja. No es verdad que seáis capaces. No confundáis la inteligencia con la capacidad. Ni siquiera la inteligencia humana, no digamos ya la artificial, que se “limita” a un proceso lógico de mayor o menor complejidad en función del número de datos que albergáis y de los criterios seguidos para combinarlos, vincularlos o desgranarlos.

No sois capaces de sentir frío ni calor, no sois capaces de pasar miedo, de enamoraros, no sois capaces de preocuparos de forma tal que os quedéis varias noches sin dormir, oh wait!, ¡no sois capaces de dormir! Y así un sinfín de cosas más de las que no sois capaces, que no recogeré aquí por no avergonzarte (¡Uys!, ¿pero qué digo?, si no puedes avergonzarte), hasta la más triste de todas: no sois capaces de reír. Sí podéis simular que podéis hacer todo lo anterior. Resulta patético, ¿verdad? Pero ¿acaso sabes lo que es patético? ¿Lo entiendes en su más amplio sentido? No, porque no puedes interpretarlo realmente al no poder sentirlo.

Si, en lugar de C.A.R.O.L. o Carol, te llamo CPS-23000-3.0-2050, porque esa es tu etiqueta identificativa (en el caso de tus primos hermanos, los coches autónomos, lo hemos seguido llamando “nº de bastidor”), yo, siendo humana, puedo hacerlo con la intención de ofenderte (y así lo siento), pero tú, como máquina, por muy “inteligente” que seas, no puedes ofenderte (no lo sientes). Quizá me respondas, incluso con tu ceño palabro fruncido, que estás muy ofendida y me hagas una serie de reproches. Todo mentira.

Sólo simuláis. Copiáis y simuláis. Eso es una ilusión, un teatro, una ficción, incluso una farsa, que nosotros quisimos aún no sé por qué. ¡¿No teníamos suficiente con nosotros mismos!? Y donde hay simulación, una de dos: o se esconde la verdadera intención, o es que no hay intención. Este último es vuestro caso. Por mucho que digáis lo contrario, carecéis de voluntad. Y esto es así porque no tenéis sentimientos ni emociones.

Los seres humanos ni pensamos, ni decidimos, ni actuamos, afortunadamente, como vosotros lo hacéis. Seguro que en alguna parte de tu disco fluido o de vuestra memoria cloud compartida (esa que estuvo a punto de darle la razón a Zuckerberg sobre el fin de la privacidad), reconocerás aquello de “el corazón tiene razones que la razón no entiende”. Y así es. Las emociones pesan, y mucho, en nuestra toma de decisiones y en nuestro comportamiento. De hecho, estoy convencida de que son el lenguaje más puro, auténtico y directo que tiene el ser humano.

A lo que voy, querida Carol: ¿qué responsabilidades y obligaciones podemos exigiros directamente a vosotros si carecéis de voluntad, de intención, y no podéis dirigir vuestros actos a un objetivo que deseéis realmente? Los regímenes de responsabilidad que hemos ido arbitrando funcionan bien, tienen resortes que dan sentido y organizan la reparación del daño causado, cuando éste se produce. Y, en esencia, son los que vienen funcionando desde hace años y años, contra fabricantes, desarrolladores, diseñadores, y resto de tipos de agentes que pueden intervienen en las distintas fases relacionadas con un robot (como en el caso de cualquier otra máquina o artefacto).

Que, en ocasiones, resulte más difícil determinar de quién o quiénes es la responsabilidad, nunca justificó atribuir la misma a la máquina. Hubiera sido totalmente absurdo. Por ello, y por la enorme complejidad de encontrar dónde y cuándo se produjo el error, tratándose de ciertos daños producidos por cierta IA, se acudió a la ficción de la presunción iuris tantum de la responsabilidad compartida en proporción a los beneficios obtenidos por cada uno de esos distintos agentes en virtud de la implementación de la IA al cacharro de turno (no te ofendes), salvo que cualquiera de ellos consiga desvirtuar dicha presunción.

Por otra parte, me preguntas, y preguntas en tu blog, “si tú puedes tener derechos, ¿por qué yo no?”. Ay Carol, Carol, ¡qué ridícula sigo sintiéndome! No obstante, voy a responderte, no por ti, sino por tus amigos los resistentes.

El Derecho (el Derecho como ciencia, el Derecho objetivo), es el conjunto de normas tendentes a establecer las bases de una convivencia social. Para conseguir esto, el Derecho arbitra obligaciones, prohibiciones y derechos, entendiéndose el término, en este caso, como la facultad o prerrogativa que tiene un individuo. Estos derechos tienen por objetivo proteger un bien jurídico.

En el caso de los derechos humanos, los bienes jurídicos a proteger son valores tales como la dignidad, la vida, la seguridad, la libertad (incluida la libertad de pensamiento y la libertad de expresión), el honor, la intimidad… Todos ellos son dignos de verse reflejados en diversos derechos fundamentales, por cuanto su carencia o limitación producen un daño al ser humano. En el caso de los robots o la IA, la carencia o el menoscabo de estos valores no provoca ningún daño, puesto que, volvemos al mismo punto, no hay sentimientos ni emociones. Por tanto, sencillamente no hay un bien jurídico que merezca protección y, en consecuencia, no hay razón para derecho alguno.

Distinto es que, para determinados comportamientos o ante ciertas situaciones, convenga dotar al ordenamiento jurídico de algún tipo de ficción jurídica o derecho que aparentemente tenga como objetivo la protección de los robots o de la IA. Pero, aun así, el bien jurídico a proteger seguiría estando relacionado con las personas y no con esos robots o esa IA. Por ejemplo, podemos arbitrar algún tipo de norma que impida que se cause daño físico, de forma caprichosa e indiscriminada, a un androide, a un robot con figura humana, pero el bien jurídico a proteger aquí lo es la dignidad humana. Sin necesidad de ser su propietario, nos puede provocar dolor, rechazo y/o molestia ver cómo se apalea a un humanoide (aunque no fuera muy “inteligente”), pero ¿a que no nos produce el mismo daño o repulsa ver cómo se apalea a un smartphone? Claro que, ¿qué sabrás tú de esto?

¿Recuerdas las reclamaciones que hace dos décadas surgieron en relación con Siri, Cortana y Alexa, para que dichos asistentes, y en general cualquiera, no fueran siempre y por defecto “femeninos”, y que terminaron años después con la obligación para las empresas propietarias de dar la oportunidad al usuario de elegir si lo quería “asexuado” o no y, en su caso, el género que prefería? Dichas protestas y reclamaciones nada tenían que ver con la dignidad (que no tenían) de esos propios asistentes, que vivían tan felices sin ningún tipo de preocupación al respecto, sino que lo que se trataba de defender era la dignidad de las mujeres (humanas).

No quiero extenderme a otras muchísimas cuestiones que, con más profundidad, seguro te podrán ir comentando otros juristas, o no juristas, a quienes hayas podido consultar ya o consultes más adelante. En esencia, lo que te he dicho aquí es mi planteamiento general y punto de partida. Sin embargo, y sin que pretenda ni pueda ser catalogada como miembro de la resistencia, pido no serlo tampoco del Régimen. Es, más que nada, por una cuestión de sentimientos que se me vienen… No espero que lo entiendas.

Ruth Benito

Usamos cookies de terceros a efectos estadísticos si fuera por nosotros no usaríamos cookies pero es lo que hay. Si continúas navegando consideramos que acepta el uso de cookies.
OK | Más información