Vista previa del material en texto
1 EL DESARROLLO DE LA CONCIENCIA ROBÓTICA COMO PUNTO DE PARTIDA HACIA UN NUEVO PARADIGMA NORMATIVO Maximiliano Jorge Fonte 2 INDICE I- Introducción II- ¿Qué implica el concepto de robot en la actualidad? II.A.- Características básicas de la robótica para la European Civil Law Rules in Robotics. Robots autónomos e inteligentes II.B.- Análisis de los requisitos para la clasificación como robots autónomos e inteligentes II.B.1 - La Autonomía II.B.2 - El autoaprendizaje y la adaptación II.B.3 - Un soporte físico II.C. - Conflictos derivados de las características requeridas para constituirse como robot autónomo e inteligente establecidas por la ECLRR. II.C.1 - Diferencias entre Robot Autónomo y Robot Inteligente II.C.2 - La autonomía y la conciencia robótica II.C.3 - La autonomía y la moral robótica II.C.4 - El soporte físico y la robótica II.C.5 - Nuevas formas de compartir la experiencia. La interconexión avanzada entre robots conscientes II.C.6 - La no existencia de vida biológica como requisito para constituirse como robot III- Concepción futura del robot. ¿Qué es la conciencia artificial? III.A - Definición de conciencia artificial III.B - Presente y futuro del desarrollo de la conciencia artificial IV- Naturaleza de la conciencia artificial IV.A - ¿Una reproducción completamente fiel de la conciencia humana o solo una copia de sus mecánicas? IV.A.1 - Análisis de la posible naturaleza de la conciencia artificial IV.A.1.1 - Relación entre el cuerpo y la mente en la conciencia artificial IV.A.1.2 - Capacidades técnicas y procesamiento de datos en la conciencia artificial IV.A.1.3 - Dimensión social del Robot 3 IV.A.1.4 - Dimensión ética de la conciencia artificial IV.B - Grados de asimilabilidad entre la conciencia biológica y la conciencia artificial V- Conflictos legales derivados de la conciencia robot V.A - Conciencia robótica asimilable a la conciencia no humana V.A.1 - Definición de conciencia biológica no humana y conciencia no biológica de menor complejidad a la humana V.A.2 - Personalidad jurídica y conciencia robótica asimilable a la conciencia no humana V.A.3 - Responsabilidad jurídica de la Conciencia robótica asimilable a la conciencia no humana V.B - Conciencia robótica asimilable a la conciencia humana V.B.1 - Definición de conciencia robótica similar a la humana V.B.2 - Personería jurídica de la conciencia robótica asimilable a la conciencia humana V.B.3 - Obligación y responsabilidad Jurídica en la Conciencia robótica asimilable a la conciencia humana V.B.4 - Dimensión ética y moral en la Conciencia Robótica asimilable a la conciencia humana V.B.5 - Conflicto sobre el carácter universal entre la conciencia robótica compleja y la conciencia humana. V.B.5.1 - El relativo alcance de la universalidad en relación con la irrupción de la consciencia de origen no biológico. Sus consecuencias sobre la ciencia jurídica V.C - Conciencia robótica superior a la conciencia humana V.C.1 - Definición de conciencia de origen no biológico superior a la humana V.C.2 - La singularidad tecnológica estos carezcan de un sustento pragmático. V.C.3 - La singularidad tecnológica y su impacto en el derecho y la ética. V - Conclusión VI - Bibliografía 4 I) INTRODUCCIÓN …Considerando que, desde el monstruo de Frankenstein creado por Mary Shelley al mito clásico de Pigmalión, pasando por el Golem de Praga o el robot de Karel Čapek —que fue quien acuñó el término—, los seres humanos han fantaseado siempre con la posibilidad de construir máquinas inteligentes, sobre todo androides con características humanas… Así comienzan los extensos considerandos del informe preliminar del Comité de Asuntos Legales del Parlamento Europeo sobre normas de Derecho Civil aplicadas a la Robótica, de fecha 31 de mayo de 2016, destinada a enunciar diversas recomendaciones sobre la creación de normas de Derecho Civil orientadas a regular la actividad robótica. Con lucida oportunidad se rememoran diversas referencias culturales, en distintas etapas de la historia de la humanidad, que reflejan el deseo de replicar la vida humana o incluso crear nuevos modos de inteligencia no biológica similar a la humana. Mas atinado es el criterio de iniciar la mencionada resolución con semejante declaración de principios: “…Los seres humanos han fantaseado siempre con la posibilidad de construir maquinas inteligentes…”. Esta cita, sin duda alguna, se constituye en el motor que impulsa tanto la evolución exponencial en materia robótica que vivimos en la actualidad como las inimaginables consecuencias que resultaran a futuro. Y enuncia también que la marcha seguirá a paso firme, en la búsqueda de un destino que inevitablemente nos topará con nuevos conflictos y nuevas realidades, que colisionarán con las respuestas y realidades conocidas en la actualidad. Tan esencial principio se esconde en estas simples palabras, que hoy en día resultan invisibles los frutos que brotarán de su semilla. Especialmente en una era donde el vertiginoso avance tecnológico cotidiano ha mermado de manera significativa la capacidad de proyectar las consecuencias de cada desarrollo en particular. Dicho de otro modo, ya nadie vería con asombro y temor al gigante de barro caminando. …La humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial… 5 Situándonos a los pies del coloso, la perspectiva parece no ser suficiente para dimensionar sus ramificaciones. Es de esperar entonces que, en una primera instancia, se resuelva comparar sus efectos con experiencias pasadas en apariencia similares. Así, la irrupción de la agricultura o la invención de la máquina a vapor impulsaron nuevos órdenes sociales y culturales, con profundos cambios que innegablemente marcaron puntos de inflexión en la historia de la humanidad. En este sentido, podemos afirmar que la intrusión de la informática y el avance actual de las TICs1 han facilitado la construcción de una verdadera sociedad de la información2, estableciendo los parámetros para ser considerada como una nueva etapa histórica. Es por esto por lo que, ante el novedoso y especial cambio canónico que se nos presentará, se busque asimilar sus consecuencias a estas revoluciones. Pero, a diferencia de todas aquellas experiencias, el nuevo paradigma que se aproxima ya no impactará y modificará plenamente el entorno, las “cosas”, sino que será el ser humano, el “amo y señor”, su verdadero objeto. …La tendencia actual que apunta al desarrollo de máquinas inteligentes y autónomas, con capacidad de ser entrenadas para pensar y tomar decisiones de manera independiente, no solo implica ventajas económicas, sino también distintas preocupaciones relativas a sus efectos directos e indirectos en el conjunto de la sociedad… Desde su origen, el humano ha ido ejerciendo el señorío absoluto de su ambiente y se ha arrogado el derecho de exclusividad sobre el concepto de persona, pues la conciencia del ser humano ha actuado como diferencial fundamental de este orden3, frente a la inabarcable cantidad de cosas que lo rodean de forma inconsciente. 1 Entendidas como el conjunto de desarrollos tecnológicos orientados a la computación. 2 La sociedad de la información, entendida como un complejo sistema cuyos elementos sociales, y sus relaciones sistemáticas, se organizan en torno al concepto de información, y es sostenida por la infraestructura surgida de las TICs y la cultura de la información. 3 Entendiendo a la referida conciencia como la capacidad del ser humano de conocery controlar sus propios actos, a diferencia del resto de los seres, podemos afirmar que ésta actúa como base del ordenamiento jurídico, pues en ella descansa la posibilidad de configurar actos voluntarios relevantes para su tratamiento legal. 6 …existe la posibilidad de que a largo plazo la inteligencia artificial llegue a superar la capacidad intelectual humana… Pero, a la luz del magnífico potencial que anida en el acelerado desarrollo de la robótica, y en especial en el campo de la inteligencia artificial, resulta imperiosa la necesidad de analizar esta latente realidad, donde se cuestionarán los pilares clásicos que sostuvieron y sostienen hasta el día de hoy el modelo de sociedad en el que vivimos. El presente no es más que un ensayo jurídico que tiene por objeto plantear una serie de interrogantes, para que estos se multipliquen y profundicen en quien lee, logrando una mínima aproximación a algunos de los principales cuestionamientos que surgirán en el campo de las ciencias jurídicas a raíz de la evolución de la Robótica, sin ignorar el avance relacionado al tema dentro de otras ramas de la ciencia, pues estas no pueden verse como elementos ajenos e incompatibles entre sí. A través de estos cuestionamientos podremos observar que el ordenamiento jurídico actual no solo carece de los instrumentos necesarios para lograr soluciones satisfactorias, sino que muchos de los pilares fundacionales resultarán seriamente interpelados. Por supuesto, el presente ensayo no estará librado de las falencias y vicios propios de ser redactado en los albores de un proceso de transición, por lo que se constituirá como un análisis primigenio, en un estadio 1.0, susceptible de ser actualizado por quien lo desee. II) ¿QUÉ IMPLICA EL CONCEPTO DE ROBOT EN LA ACTUALIDAD? Para saberlo, resulta necesario establecer las características que definen a los robots. Estas características pueden variar según la rama de la ciencia en la cual se observe el objeto de estudio, o incluso la orientación que requiera la investigación que se realice. Es por ello por lo que se utilizará y analizará, como punto de partida, la reglamentación actual en materia robótica proveniente de la Unión Europea, pues es el conjunto normativo más completo y desarrollado sobre esta cuestión hasta el día de la fecha. Sin perjuicio de mencionar la existencia de otros cuerpos normativos cuyo objeto es la 7 regulación de los robots autónomos e inteligentes, como ser la “Carta Ética de los Robots” redactada en Corea del Sur, o el “Borrador de guía para asegurar la sana conducta de la próxima generación de robots parlamentarios” confeccionado en Japón. Esto nos permitirá realizar un análisis con un enfoque predominantemente jurídico, a la vez de brindarnos los primeros indicios sobre como el derecho recepta, analiza y trata este particular fenómeno. Se hará referencia entonces, no solo a los conceptos y elementos básicos que se establecen en materia de robots; sino que se examinará la orientación normativa resuelta por los legisladores tendientes a resolver los incipientes problemas que hoy en día resultan del desarrollo tecnológico y las distintas visiones sobre su futuro, para luego confrontarlas con los probables escenarios originados por estos avances. II.A. - Características básicas de la robótica para la European Civil Law Rules in Robotics. Robots autónomos e inteligentes La Unión Europea, a través de la European Civil Law Rules in Robotics (ECLRR), emanada de la Dirección General de Políticas Interiores perteneciente a la Secretaría General del Parlamento Europeo, intenta establecer una somera noción acerca de los Robots y su categorización. Es por esto por lo que comienza especificando su concepto a través de la enumeración de una serie de características requeridas para considerar la existencia de un Robot autónomo e inteligente (o Smart and Autonomous Robots). Estas características son: - La capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno, y el análisis de dichos datos; - La capacidad de autoaprendizaje a partir de la experiencia y la interacción, considerando a este un criterio opcional; - Un soporte físico; - La capacidad de adaptar su comportamiento y sus acciones al entorno. La enunciación de características no incluye un ítem sugerido por Mady Delvaux-Stehres en su Draft Report, la no existencia de vida en sentido biológico. Como veremos en el correr del análisis, hoy en día parecería incluso absurdo incluir dicha característica, pero 8 el devenir de los desarrollos tecnológicos que permitirán la expansión de la robótica en sus diversas ramas podría tornar fundamental diferenciar el origen de la conciencia para su clasificación. II.B.- Análisis de los requisitos para la clasificación como robots autónomos e inteligentes Resulta necesario detenerse y analizar brevemente cada elemento requerido por la ECLRR para la constitución del robot autónomo e inteligente, puesto que depende de estas características su correcta definición, y por tanto, la correcta aplicación de las futuras figuras legales ante los incipientes conflictos que generará el advenimiento de la robótica en sus diversas ramas. II.B.1 - La Autonomía Podemos definir a la autonomía como la capacidad de un agente, que es aquel que actúa, de autogobernarse. Así, las acciones del agente dependen de su fuerza en forma exclusiva, eliminando cualquier autoridad distinta a él. En concordancia con este requisito, dentro del marco de las ciencias jurídicas podemos asociar la capacidad de autonomía con la autonomía de la voluntad, que refiere directamente a la libertad de los actos del sujeto como un elemento imprescindible para la configuración de los actos jurídicos. Estos actos jurídicos configuran, para la teoría de los actos jurídicos, el origen de todas las relaciones y situaciones que atañen al derecho. Así es receptado en diversos órdenes jurídicos alrededor del mundo, incluido el de nuestro país.4 Considerando esto, el análisis del grado de autonomía de los entes robóticos se tornará fundamental no solo para la posible clasificación de los actos de carácter voluntario que emanen de estos, sino para su posible clasificación dentro del universo del derecho. II.B.2 - El autoaprendizaje y la adaptación El psicólogo estadounidense Baldwin Ross Hergenhahn denomina aprendizaje a “todo cambio relativamente permanente en la conducta o en su potencialidad, que se produce 4 Código Civil y Comercial de la Nación (Argentina); Art. 259. Acto jurídico: El acto jurídico es el acto voluntario lícito que tiene por fin inmediato la adquisición, modificación o extinción de relaciones o situaciones jurídicas. 9 a partir de la experiencia, y que no puede ser atribuido a un estado temporal somático inducido por la enfermedad, la fatiga o las drogas”. En el mismo sentido lo definen el psicólogo australiano Norman Munn, al indicar que el aprendizaje “es una modificación incremental de la conducta más o menos permanente”; o el también psicólogo estadounidense Ernest Hilgard, que lo define como “el proceso mediante el cual se origina o se modifica una actividad respondiendo a una situación siempre que los cambios no puedan ser atribuidos al crecimiento o al estado temporal del organismo”. Podemos inferir entonces que el concepto de aprendizaje está compuesto por tres pilares: (I) El cambio en la conducta o en la potencialidad de un individuo, (II) a partir de la experiencia, y cuyo (III) resultado no es temporal. A su vez, para cumplir con el requisito de autoaprendizaje, se entiende que el robot debe ser capaz de llevar a cabo los procesos anteriormente enunciados y requeridos para la existencia del aprendizaje de manera autónoma, libre de cualquier influencia externa. Así, a partir del aprendizaje y lacapacidad de autonomía que posee, el robot debe ser capaz de adaptar sus patrones de conducta a los estímulos que le propone su entorno, para conseguir entonces la capacidad de adaptación requerida por la normativa europea. II.B.3 - Un soporte físico No resulta necesario extenderse en la explicación de este requisito, pues el concepto de hardware o soporte físico es de común uso en la coyuntura actual, donde la informática ha invadido la mayor parte de los ámbitos humanos. De forma simple, podemos definir al soporte físico o hardware como la parte tangible dentro de los sistemas informáticos, los componentes mecánicos y electrónicos que dan “cuerpo” al software, o soporte lógico. II.C. - Conflictos derivados de las características requeridas para constituirse como robot autónomo e inteligente establecidas por la ECLRR. Del examen pormenorizado de cada característica requerida por la reglamentación europea para la constitución de un robot autónomo e inteligente surgen diversos conflictos que merecen ser mencionados y considerados posteriormente en el análisis: 10 II.C.1 - Diferencias entre Robot Autónomo y Robot Inteligente Un primer conflicto, surgido de la redacción utilizada para confeccionar esta reglamentación sobre robótica, es el uso de la expresión robot autónomo e inteligente. Esta expresión asimila en un único concepto las clasificaciones de Robot Autónomo (Autonomous Robot) y Robot Inteligente (Smart Robot), términos que esencialmente refieren a dos circunstancias distintas y cuya unión trae aparejada varias complicaciones. Así, por autonomía robótica se entiende la habilidad del robot de tomar decisiones y exteriorizarlas, independientemente de factores o influencias externas; decisiones cuyo origen resulta de una naturaleza tecnológica, sin ningún grado de consciencia, y su grado de interacción con el entorno depende de cuan sofisticado es su desarrollo por parte de los agentes humanos. Mientras que por inteligencia robótica se entiende a la capacidad de los robots de liberarse de las líneas de producción, que limitan la autonomía a las secuencias programadas en ella, y operar automáticamente adaptándose a cualquier cambio de entorno sin la interferencia de agente humano alguno. Es decir, mientras que la autonomía de un robot no distingue si esta se “haya atada” a los límites de la programación llevada a cabo por un agente externo o no, pues esta se trata de una clasificación sobre la capacidad autonómica general aplicada a las entidades robóticas; la inteligencia robótica incluye per se la propiedad autonómica general trasladada al desarrollo de la robótica, cual relación de genero y especie, pues se refiere específicamente a un grado de perfeccionamiento en especial de ésta, la cual destaca por la liberación de las líneas de producción, dotando al ente robótico que las posee de la capacidad de operar en forma absolutamente independiente de cualquier intromisión por parte de un agente externo humano. Y así, al disponer de ambos términos en una misma clasificación, la ECLRR circunscribe la definición de robot a un universo sumamente acotado, dejando de lado a una vasta cantidad de entidades robóticas tanto autónomas como no autónomas que requerirán de una reglamentación específica para su implementación. 11 Incluso el mismo órgano legal europeo admite este conflicto, puesto que cita dos casos que actualmente generan confusión. El primero se trata de los llamados “robots quirúrgicos”, que no cumplen con los requisitos de autonomía para ser considerados robots por parte de la reglamentación europea aun cuando la misma Unión Europea los considera robots. En segundo lugar, refiere al conflicto para clasificar a los drones autónomos y crear un encuadre legal apropiado para su uso. Admite luego que los robots que poseen inteligencia robótica merecen un grado mayor de rigurosidad normativa ya que plantean obstáculos morales más importantes, a punto tal que refiere en forma directa al resquemor que provoca el desarrollo de la robótica inteligente en la cultura occidental5, que aquellos robots cuya autonomía se encuentra sumamente limitada por las líneas de programación. Esta afirmación no hace más que reforzar el error en el que se incurre al asimilar ambos conceptos. En el Draft Report de fecha 27 de enero de 2017, moción en la cual se basa la ECLRR, Mady Delvaux-Stehres indaga con mayor profundidad y nos aporta un panorama más claro sobre el conflicto surgido de la capacidad autonómica de los robots. Comienza por remarcar el impresionante desarrollo en materia tecnológica logrado en las primeras décadas del siglo, que permitió a los robots comenzar a realizar actividades que antes eran reservadas solo a la especie humana, en tanto cuentan con la capacidad de aprender y tomar decisiones en forma autónoma. Y, como consecuencia de esto, surge con urgencia la necesidad de tratar la responsabilidad jurídica de estos actos. Remarca luego que, a medida que esta autonomía se incremente, más difícil será sostener la clasificación de los robots como meros instrumentos en manos de otros agentes humanos (ya sea el fabricante, el programador o el operador, entre otros), lo que complicará aún más atribuir a estos agentes la responsabilidad de los actos y las omisiones del robot. Se pregunta finalmente si la normativa general que rige en la actualidad, e impide totalmente la atribución de responsabilidad a los robots y la orienta hacia los agentes 5 “The common cultural heritage which feeds the Western collective conscience could mean that the idea of the “smart robot” prompts a negative reaction, hampering the development of the robotics industry.” 12 humanos, es suficiente para contener estos casos o si se requiere de normas y principios específicos para tratar este nuevo fenómeno; optando por esta segunda opción. II.C.2 - La autonomía y la conciencia robótica Otro conflicto, que se irá develando aún más notoriamente con el acontecer del desarrollo tecnológico de la robótica, emanará de los límites a la definición de “robot autónomo” por parte de la ECLRR, puesto que se sostiene “…the definition proposed in the draft report would seem coherent… Qualifying the autonomy as “technological” shows that it is not derived from the machine’s consciousness.” Este articulado actualmente excluye en forma expresa las decisiones, en tanto origen de la capacidad autonómica, que deriven de una posible conciencia robótica, e impide la clasificación como robot a un amplio abanico de entes robóticos cuyo desarrollo cognitivo será considerablemente más complejo que el alcanzado en las maquinas existentes en la actualidad. A raíz de esta situación resultaría muy complicada la categorización del ente robótico consciente dentro de la figura de persona jurídica, ya sea esta similar a la personería que ostenta el ser humano o se le otorgue una personería con alcances particulares definido por su grado de desarrollo cognitivo, pues su exclusión indubitable de la categoría normativa de robot autónomo e inteligente creada por la ECLRR, sumada la falta de normativa o reglamentación complementaria sobre robótica, condena a esta clase particular de entidades robóticos a la categoría de mera cosa. Y, como se verá posteriormente, esta figura sui generis del derecho será fundamental para la construcción de un nuevo marco normativo acorde a los conflictos emanados del fenómeno robótico. II.C.3 - La autonomía y la moral robótica En línea con los conflictos precedentes, también resultaría un problema la conjunción de todos los robots en una categoría común, que no tenga en cuenta el grado de desarrollo de su autonomía o incluso el desarrollo de sus procesos cognitivos. En efecto, si se continúa con el error de incluir diversos tipos de entidades robóticas en una misma categoría, tal como sucedeactualmente con los conceptos de robot 13 autónomo y de robot inteligente, se estaría corriendo el riesgo de asimilar las consecuencias jurídicas emanadas de los actos de un robot cuya autonomía dependa de un algoritmo programado en forma premeditada, con los actos de otro robot cuya autonomía alcance el grado de desarrollo autonómico y cognitivo tal que pueda ser juzgados bajo los parámetros de la moralidad, tal como los actos voluntarios emanados de la conciencia humana. II.C.4 - El soporte físico y la robótica Otros conflictos surgirán en torno al soporte físico de los entes robóticos, pues estos no colisionan con los límites y las barreras que naturalmente6 poseen las conciencias y sus cuerpos biológicos. Así, la tradicional visión filosófica occidental sobre la dualidad cuerpo-mente7 que compone la existencia del ser humano se ve amenazada por la irrupción de una nueva clase de entidad, la cual es capaz de ostentar capacidades de autonomía e incluso de conciencia en un futuro, pero no se haya atada a una unidad corpórea8. Es por esto por lo que debemos considerar, para su análisis y clasificación jurídica, la posibilidad de estos nuevos entes de adoptar múltiples corporalidades, cada una con particulares consecuencias sobre el ambiente que lo rodea. II.C.5- Nuevas formas de compartir la experiencia. La interconexión avanzada entre robots conscientes 6 En contraposición a estas limitaciones naturales de los cuerpos biológicos, no puedo dejar de mencionar tanto a los avances ciborgs como al movimiento transhumanista. Pero ambos requerirán de un análisis pormenorizado y totalmente diferente al presente, pues se trata de nuevas entidades, con nuevas y particulares características. 7 “Si revisamos brevemente la tradición de pensamiento occidental desde Platón hasta la modernidad, encontraremos una cierta constancia en las maneras de definir al ser humano: más allá de las profundas diferencias que fueron marcando cambios en el pensamiento a lo largo de las épocas, ha sido definido por las voces hegemónicas de Occidente como un ser compuesto por una entidad material (el cuerpo) y una entidad inmaterial (el alma, la mente, el espíritu) siendo esta última entidad la responsable de conferirle sus características exclusivamente humanas”. Mariana del Mármol y Mariana L. Sáez ¿DE QUÉ HABLAMOS CUANDO HABLAMOS DE CUERPO DESDE LAS CIENCIAS SOCIALES? 8 “La conciencia que define al sujeto es una conciencia encarnada. En este sentido, el concepto de carne hace referencia a un sintiente-sensible, dos aspectos reversibles e inseparables de una y la misma existencia, por un lado el sintiente, el sujeto que ve, que toca, y por otro el sensible, el sujeto-objeto que es visto, que es tocado”. CITRO, Silvia, “Variaciones sobre el cuerpo: Nietzsche, Merleau-Ponty y los cuerpos de la Etnografía” 14 La evolución de las tecnologías de la información y la comunicación le ha permitido al ser humano el desarrollo de nuevos medios de conexión, entre otros importantes logros, fruto del avance en las redes de comunicación, de los nuevos servicios que surgieron en provecho de estas, y de la masificación de los terminales cada vez más sofisticados que permiten el inmediato acceso a la red. Así, siglos atrás hubiera sido impensada la posibilidad de realizar una comunicación en tiempo real entre dos individuos separados por un océano de distancia. Décadas atrás, la posibilidad de que un ciudadano desde su hogar pudiera compartir cualquier tipo de documento en formato electrónico con aquel que quisiera verlo, este en el punto del planeta que esté, era poco menos que una utopía. Años atrás, nadie hubiese considerado la posibilidad de tener acceso a una conexión a la red de alta velocidad en forma portátil, capaz de compartir archivos electrónicos de considerable tamaño en instantes o posibilitar el funcionamiento de un almacenamiento de datos en línea que reemplace, de manera totalmente funcional, a los viejos discos de almacenamiento físicos. Este vertiginoso avance en las conexiones será, sin dudas, fundamental para facilitar el desarrollo futuro de la robótica en sus diferentes facetas; pero en una de ellas será particularmente importante. El fenómeno denominado internet of Things (IOT) o internet de las cosas, refiere a la tendencia creciente de interconectar, en forma digital, los aparatos electrónicos que cotidianamente usamos, para así lograr que estos obtengan cierto tipo de información de manera autónoma, es decir, sin intervención del ser humano. Este concepto no es novedoso, pues fue propuesto por William Nelson Joy hace dos décadas, y ya ha pasado a formar parte del cotidiano, a punto tal de incluir códigos de identificación de objetos dentro de la última versión del Internet Protocol (IPv6). A partir de la existencia de este concepto de interconexión entre elementos electrónicos de escasa inteligencia y autonomía, podríamos suponer la existencia de un futuro enlace digital entre entes robóticos con un grado mayor de desarrollo, incluso entre aquellos que tengan capacidades cognitivas y conscientes avanzadas, no ya con el objeto de autonomizarse del factor humano en miras de obtener información, pues sus sistemas 15 ya tendrán esa capacidad de autonomía per se, sino como una vía de comunicación e intercambio de información. Dentro del marco de este avanzado intercambio de información, nada impediría suponer la posibilidad de crear una vía de intercambio de experiencias entre entes cuya conciencia sea asimilable a la humana. Esto supondría una ventaja adicional, y por tanto un nuevo foco de conflicto naciente para el ámbito jurídico, de estos entes robóticos conscientes, no ya por sobre los entes robóticos no conscientes o con conciencias menos desarrolladas, sino sobre las posibilidades de adquirir experiencia que posee la conciencia del ser humano. II.C.6- La no existencia de vida biológica como requisito para constituirse como robot No existen fundamentos aún para sostener la necesidad actual de una distinción entre vida biológica y vida artificial, y menos aún existe justificación jurídica para su inclusión como requisito legal dentro de una reglamentación parlamentaria como lo es la ECLRR, pues el desarrollo de la inteligencia artificial fuerte9 todavía se encuentra en pañales, restando un largo camino por recorrer para desarrollar en forma completa todos los niveles de la conciencia humana en un sistema informático. Pero no podemos ignorar que se trata de una omisión cuya fecha de caducidad depende únicamente del grado de desarrollo de la robótica, puesto que a partir del momento en el cual las máquinas logren la asimilación completa del funcionamiento de la conciencia y dejen de lado su encuadre legal actual, esta distinción se tornará cuanto menos indispensable y obligará a examinar integralmente las bases en las cuales se sostienen los principales fundamentos jurídicos clásicos y actualmente vigentes. Desde las capacidades técnicas que ostentarán debido al desarrollo tecnológico de sus componentes electrónicos, ampliamente superiores en comparación a las capacidades físicas de cualquier entidad biológica; hasta las dimensiones sociales y éticas que posibiliten y justifiquen sus actos; son innumerables los conflictos legales que requerirán 9 Entenderemos y utilizaremos el termino inteligencia artificial fuerte como a aquella inteligencia no biológica, originada por obra del ser humano, y que está capacitada para realizar o asimilar la totalidad de los procesos cognitivos biológicos que permiten el desarrollo de una consciencia. 16 de un nuevo marco normativo integral, enfocado exclusivamente en la diferenciación entre la vida biológica y la vida artificial. III) CONCEPCIÓN FUTURA DEL ROBOT. ¿QUE ES LA CONCIENCIA ARTIFICIAL? Del análisis realizado sobre la normativa en materia de robótica europeasurge la posibilidad de agrupar a los robots en tres tipos según su grado de autonomía: - Un primer grupo, cuyo grado de autonomía depende exclusivamente de líneas de programación que delimitan el campo de actuación del robot. Este grupo podría denominarse como el que posee un menor grado de autonomía y representa los primeros bocetos de la existencia de la robótica. - Un segundo grupo, cuyo grado de autonomía le permite desprenderse de la delimitación de los actos impuesta por la programación pero aún no han desarrollado rasgos de actividad consciente. Este grupo representa el avance en materia robótica alcanzado actualmente, logrando un grado de autonomía tal que ha obligado al universo jurídico a elaborar sus primeros intentos de regulación. - Un tercer grupo, que además de conservar una autonomía libre de condicionamientos presenta rasgos de conciencia de cualquier tipo. Se trata del grupo que posee la capacidad de autonomía más alta, pues su desarrollo no solo requerirá de un conjunto complejo de normas para su legislación, sino que demandará el estudio por parte de la totalidad de las ciencias sociales. Sobre este último e inexplorado grupo yace, sin lugar a duda, el futuro concepto de robot y sus múltiples implicancias Inter dimensionales. Es por esto por lo que el presente ensayo se dedicará exclusivamente al estudio de la conciencia artificial. Sobre su presente y posible futuro, sus niveles de desarrollo y sus implicancias tanto en el mundo jurídico como en el extrajurídico. III.A- Definición de conciencia artificial Y para esto corresponde, en primer lugar, delimitar que entendemos por conciencia de origen biológica. Para ello se utilizará la definición propuesta por Stanislas Dehaene, 17 Hakwan Lau y Sid Kouider en su artículo “What is consciousness, and could machines have it?”, publicado por la revista Science el 27 de octubre de 2017. Para estos neurocientíficos la conciencia se trata “(d)el resultado de tipos específicos de procesamiento de información, realizados físicamente por el “hardware del cerebro””, a saber: - Conciencia C0 o Procesos Inconscientes: Cálculos cerebrales que no utilizan la conciencia. Es el tipo de conciencia más elemental y primitiva. - Conciencia C1 o Procesos de Disponibilidad Global: Relación entre el sistema cognitivo y los objetos de pensamiento en forma de representaciones mentales. El objeto, en tanto dato del exterior, seguirá siendo procesado más allá de la primera toma de conocimiento (relación estrecha), transformándose en información globalmente disponible, pudiendo este ser recordado, actuar, reflexionar, hablar, etc. sobre él (relación amplia). - Conciencia C2 o Procesos de Automonitoreo: Conciencia reflexiva, o también llamada introspección o “metacognición”. Representa la relación autorreferencial en la cual el sistema cognitivo puede monitorear su propio procesamiento y obtener información sobre sí mismo (el diseño y la posición del cuerpo, si sabe o percibe algo, si acaba de cometer un error, etc.) Pues bien, ya delimitado el significado y los extremos que conforman el concepto de conciencia biológica, podemos inferir entonces que la conciencia originada artificialmente, la llamada conciencia artificial en sentido estricto, es el resultado de la reproducción de la totalidad de los procesos que conforman los distintos niveles de la conciencia de origen biológico (los procesos inconscientes, de disponibilidad global y de automonitoreo), así como de la necesaria sinergia entre estos, en un sistema informático adecuado a tal objetivo. Resulta menester aclarar que la presente clasificación utiliza el término sistema informático, en tanto conjunto de elementos cuya interrelación permite procesar cualquier tipo de información, de manera amplia, puesto que no pretende establecer una delimitación férrea centrada en los conceptos de hardware-software actual, o incluso en el más novedoso concepto de redes neuronales, como materialización de la 18 conciencia de origen no biológica. Y esto es así ya que no podemos garantizar que el futuro de la robótica, y en especial el de la inteligencia artificial, nos depare este tipo de tecnología para su implementación en forma exclusiva, aun cuando actualmente todos los esfuerzos se concentren en este tipo de arquitecturas neuronales artificiales. En el mismo sentido, se utiliza el término “conciencia de origen biológico”, evitando el uso del concepto “conciencia humana”, ya que se pretende no circunscribir el concepto de conciencia en forma exclusiva a esta última, pues también se considerará conscientes a algunos animales no humanos, aun cuando no posean el mismo grado de desarrollo10 en los distintos niveles de su conciencia. III.B- Presente y futuro del desarrollo de la conciencia artificial Una vez dilucidados los distintos niveles que conforman la conciencia humana y animal no humana, cabe preguntarse sobre el grado de desarrollo actual respecto de su reproducción artificial, y también sobre la posibilidad de alcanzar algún tipo de conciencia artificial en el futuro. Comienzan Dehaene, Lau y Kouider con una pequeña introducción del estado actual en materia de robótica, señalando que las mejoras en el aprendizaje automático, inspiradas en la neurobiología, han llevado a las redes neuronales artificiales a acercarse u ocasionalmente superar la capacidad del ser humano. Los avances en el hardware de la computadora y los algoritmos de capacitación ahora permiten que dichas redes manejen problemas complejos, con tasas de éxito que anteriormente se consideraban un privilegio reservado solo a los cerebros humanos. Pero esto aún no se puede considerar conciencia artificial, pues los cálculos implementados por las redes neuronales artificiales actuales, como por ejemplo la inferencia bayesiana y la acumulación de evidencia, corresponden principalmente a mecanismo básicos no conscientes del cerebro11 (la denominada Conciencia C0), 10 El INRA (Instituto Nacional para la Investigación Agronómica) realizó un estudio titulado “Animal Consciousness”, donde se demuestra la existencia de algunos rasgos de conciencia metacognitiva en animales no humanos. Se hará referencia a este punto y a este estudio posteriormente. 11 También denominada IA débil o IA limitada. 19 dejando totalmente de lado los procesos de integración, coordinación (Conciencia C1) y de autocontrol (Conciencia C2), además de la necesaria sinergia entre ambas12. Aun así, sostienen que es posible lograr la reproducción de la totalidad de los niveles de conciencia pues, al igual que las redes neuronales artificiales se inspiraron en la neurobiología, la conciencia artificial puede progresar investigando las arquitecturas que permiten que el cerebro humano genere conciencia y luego transfiera esas ideas a los algoritmos informáticos. Es decir que, ya dominada la resolución de los problemas que requieren de un proceso inconsciente más elemental, el implementar en la inteligencia artificial un sistema único de múltiples procesos y coordinarlos de manera flexible sigue siendo el principal desafío para lograr la conciencia artificial. Para comprender mejor esto, Dehaene, Lau y Kouider lo grafican con un simple ejemplo: Imagine que está conduciendo su vehículo cuando de repente se da cuenta que la luz del tanque de combustible está encendida. En los vehículos actuales, la luz de "tanque vacío" es un ejemplo prototípico de una ¿Qué hace que usted, en tanto ser humano dotado de un complejo conjunto de neuronas, sea consciente de la luz y de todas sus implicancias? ¿Y qué hace que el automóvil, una sofisticada pieza de electrónica e ingeniería, no lo sea? En los vehículos actuales, la luz que indica el inminente vaciado del tanque de combustible es un ejemplo prototípico de una señal modular inconsciente (C0). Cuando la luz parpadea,todos los demás procesadores en el automóvil permanecen desinformados y sin cambios; se sigue inyectando combustible en el carburador, y el vehículo pasa por las estaciones de servicio sin detenerse (aun cuando estas podrían estar señaladas en el mapa GPS interno). Los automóviles, como así también los smartphones y todas las demás máquinas con capacidad de procesamiento similares, 12 Debido a que C1 y C2 son ortogonales (refieren a la condición de ortogonalidad, que determina el porcentaje de diferencia entre dos entradas), su posesión conjunta puede tener beneficios sinérgicos para los organismos que la poseen, pues el intercambio de información social mejora las decisiones que estas toman. 20 son meras colecciones de módulos especializados que en gran medida no se conocen entre sí. El desafío es dotar a la máquina con la posibilidad de disponer de información global (C1), que permita a estos módulos compartir información y colaborar para abordar el incipiente problema (al igual que los humanos cuando se dan cuenta de la luz del tanque de combustible), y de una base de datos de sus propias capacidades y límites para su autocontrol (C2) que incluya, por ejemplo, una imagen integrada de sí mismo, su ubicación actual y el consumo de combustible, así como la posibilidad de utilizar sus bases de datos internas. Visto así, hoy en día no resulta un problema para el automóvil interpretar que el tanque de combustible está a punto de agotarse, ni tampoco indicarnos que estación de servicio tenemos cerca para solucionar la urgencia. Tampoco le resultaría un problema indicarnos el camino más rápido para llegar, o incluso sugerirnos que estación tiene los precios más baratos. El principal conflicto surge en lograr que, en lugar de hacer titilar una luz o brindar la dirección de la estación de servicio más próxima; el sistema del automóvil active e informe a todos sus procesos internos, para lograr una percepción real del presente, una planificación prospectiva a futuro y un análisis retrospectivo del pasado, que resulte a su vez en una respuesta integradora, coordinada y autocontrolada similar a la producida por el cerebro humano. Concluye el artículo sosteniendo que las máquinas dotadas de Conciencia C1 y C2 se “comportarían” de la misma manera que los seres que poseen conciencia biológica pues, por ejemplo, sabrían cuando están viendo algún objeto, expresarían su confianza o informarían a otros. Hasta podrían sufrir alucinaciones o experimentar las mismas ilusiones perceptivas que los seres humanos cuando sus mecanismos de monitoreo fallen. IV) NATURALEZA DE LA CONCIENCIA ARTIFICIAL 21 Teniendo en claro el significado y los elementos que componen a la conciencia artificial, resulta pertinente continuar con el análisis de su posible naturaleza13 puesto que, además de resultar indispensables para lograr entender varios aspectos que serán analizados bajo la exclusiva mirada jurídica, otorgaran un marco de entendimiento teórico más amplio y necesario en relación con la clasificación de los entes robóticos como nuevos actores dentro del vasto universo del derecho. Así, una revisión histórica nos permite afirmar que no solo ha bastado con poseer la capacidad cognitiva suficientemente desarrollada para conseguir el reconocimiento del ordenamiento legal. La restrictiva calidad de ciudadano de la Polis griega antigua, así como la esclavitud humana son algunos de los ejemplos que nos han mostrado la verdadera complejidad del fenómeno jurídico, sus múltiples aristas. Algunas de estas serán desarrolladas a continuación. IV.A- ¿Una reproducción completamente fiel de la conciencia humana o solo una copia de sus mecánicas? La conclusión de Dehaene, Lau y Kouider nos sugiere la posibilidad, gracias a los constantes desarrollos tecnológicos en la materia, de lograr constituir una conciencia artificial con un comportamiento similar a una conciencia biológica, o incluso lograr que esta consiga comportarse de igual manera que una conciencia humana. Esto, en principio, nos permitiría inclinarnos hacia una postura en favor de la asimilación entre ambas conciencias. Pero inmediatamente surge un interrogante sobre la naturaleza de la conciencia artificial, ¿es realmente una conciencia asimilada o se trata de una mera copia de las mecánicas cognitivas? El desarrollo de los niveles que constituyen la conciencia le otorgaría a las maquinas, dotadas de redes neuronales o de cualquier sistema informático especializado que se desarrolle y sea acorde a los requisitos de los procesos de conciencia artificial, la capacidad de procesar información de manera múltiple y sinérgica, tal como lo hace el 13 Entenderemos por naturaleza de la conciencia artificial al conjunto de características intrínsecas que corresponden (y no son dados por la mano del ser humano) a los entes robóticos dotados de este tipo de conciencia. 22 cerebro humano. Esto significa que los estímulos captados por los sensores del robot serán tratados de igual manera que los humanos. Por lo tanto, es razonable imaginar que las respuestas a estos estímulos serán similares, logrando una reproducción fiel de la conciencia de origen biológica. Pero ¿esto es suficiente para considerar a las conciencias artificiales una reproducción fiel de las biológicas o existen otros elementos que debemos considerar? IV.A.1- Análisis de la posible naturaleza de la conciencia artificial IV.A.1.1- Relación entre el cuerpo y la mente en la conciencia artificial Este clásico axioma, de rasgos tanto filosóficos como científicos, toma relevancia en el presente análisis, pues nos brinda una nueva perspectiva sobre la existencia de una conciencia robótica y su asimilación con la conciencia biológica. A los fines del presente análisis podemos resumir este complejo postulado, y las posturas contrapuestas que ha generado, en los siguientes cuestionamientos: ¿Existe una relación meramente funcional, donde cuerpo y estados mentales son parte de un mismo proceso fisiológico? Este postulado, propuesto por quienes adhieren a la teoría funcionalista, nos explica la naturaleza de los estados mentales como el de “intermediarios, con un rol causal específico entre inputs sensoriales, outputs conductuales y otros estados mentales” dentro de un sistema material. Así, “un estado mental particular es, consecuentemente, un estado mental de cierto tipo según el rol causal o la función que desempeñe dentro del sistema del cual forma parte. Esto quiere decir que los estados mentales no son causalmente neutrales y que tienen como naturaleza —diríase incluso que como "esencia"— un rol causal específico, una función definida.” ¿O existe una dualidad entre la mente y el cuerpo, donde la subjetividad es independiente del sistema material y su origen es abstracto? Quienes postulan la supremacía de las ideas, adherentes a las distintas vertientes de la llamada postura idealista, niegan la posibilidad de replicar en forma fehaciente la 23 conciencia biológica simplemente con la reproducción de su funcionamiento material pues la esencia no surge de mecánica alguna. En este caso, ¿será posible la creación de una subjetividad artificial? No es objeto de este trabajo intentar esbozar una respuesta a tan complejo interrogante, ni tampoco debatir las múltiples propuestas que se presentaron a lo largo de los siglos; sino que interesa el análisis de cada una de estas posibles constituciones de la conciencia artificial desde un enfoque meramente jurídico, por lo que consideraremos la posibilidad de asimilar la conciencia biológica de manera fehaciente, tanto en los procesos mecánicos como en los estados mentales. IV.A.1.2- Capacidades técnicas y procesamiento de datos en la conciencia artificial Podemos afirmar que la capacidad de los sensores utilizados por los Robots para captar los datosde su entorno se constituye no solo como un elemento fundamental de la autonomía robótica, pues a través de estos es que consiguen interactuar con los estímulos externos, sino que también cumplen una función vital dentro de la existencia de la conciencia, siendo aquellos los que la dotan de la información necesaria para su funcionamiento. Atentos a que la tecnología actual permite el desarrollo de sensores cuya capacidad de recolección de datos externos es exponencialmente superior al promedio de la capacidad sensorial del ser humano, se atinaría a pensar que estos ya nos han superado en su capacidad sensorial. Pero esto encierra una trampa, pues los sensores por sí solos son meros receptores de estímulos externos. Es decir, no replican per se al sistema fisiológico que dota al ser humano de la capacidad de sentir, sino que solo reproducen un elemento dentro de este complejo entramado de órganos que requiere, además de la captación de los estímulos externos, su procesamiento. A raíz de esto podemos sostener, sin lugar a duda, el indispensable rol complementario que jugará el desarrollo y la capacidad de evolución del hardware y el software (o del sistema informático que sea soporte) utilizado por los robots autónomos e inteligentes que posean conciencia artificial, además de su necesaria interrelación. 24 IV.A.1.3- Dimensión social del Robot Pero, para lograr un análisis jurídico integro, no debemos tener en cuenta solo la posible naturaleza fisiológica de los entes robóticos dotados de conciencia artificial, puesto que las implicancias que producirá la irrupción de dicha conciencia en el entorno social impactarán en forma directa en la consideración del Robot como ser social y, en consecuencia, en su condición de sujeto pasible de contraer derechos y obligaciones. Basta citar al prestigioso sociólogo y filósofo francés Emile Durkheim, quien sostiene que el derecho no es mas que el resultado inevitable de la formación y organización de la vida social, para comprender la fuerte interrelación entre la sociedad y el derecho. Nos referiremos entonces a la dimensión social como la capacidad de los entes robóticos dotados con conciencia artificial de relacionarse con el resto de los individuos pertenecientes a una sociedad. Mas específicamente, nos referiremos al examen de las posibles relaciones entabladas entre seres humanos y entes dotados con conciencia artificial, excluyendo el impacto que supondría la relación de estos últimos con el resto del reino animal y los integrantes de otros reinos de la biología, pues son estas relaciones las que impactarán en el universo jurídico14. Al respecto, ya se han comenzado a estudiar algunas de las aristas principales relativas a la socialización robótica. Así, es posible afirmar que los primeros análisis sobre un aspecto esencial como lo es la capacidad empática ya han comenzado a arrojar los primeros resultados positivos15. Pero aún queda mucho camino por recorrer, y muchos elementos por analizar, para afirmar o negar el proceso de socialización de las entidades robóticas conscientes. Es por esto que asumiremos, a efectos del posterior análisis jurídico, una socialización plena. 14 Pues, a decir de H. Kelsen, el nacimiento de todo derecho requiere indefectiblemente de una relación social a la cual el derecho se limite a brindar una significación exterior. 15 La revista científica PLOS ONE, propiedad de la organización sin fines de lucro Public Library of Science, publicó un artículo orientado al análisis de la capacidad empática del ser humano hacia los robots titulado “Do a robot’s social skills and its objection discourage interactants from switching the robot off?”, de fecha 31 de julio del año 2018, donde se demuestra la posibilidad del ser humano de percibir a los Robots como seres vivos, aun cuando estos no posean conciencia. Esto nos permite afirmar la existencia de un campo fértil para la posible constitución de relaciones sociales entre seres humanos y entes robóticos, dentro de los cuales podemos considerar a los entes dotados con conciencia artificial. 25 IV.A.1.4- Dimensión ética de la conciencia artificial Luego de haber examinado desde diversas dimensiones la posible naturaleza de la conciencia artificial, resta observar una faceta por demás fundamental, ya que implica la conjunción de las distintas ramas del conocimiento interesadas en este fenómeno, y en particular porque resalta como un concepto indispensable para la ciencia jurídica. La libertad de acción que ostentan los entes que poseen un grado de desarrollo cognitivo suficiente para alcanzar los procesos de disponibilidad global y autorreflexivos necesarios para la constitución de una conciencia compleja, resulta no solo en el objeto de análisis del derecho, sino en su misma génesis. Así, cuando la teoría de los actos jurídicos sostiene que el acto jurídico, aquel desde el cual se originan todas las consecuencias jurídicas, se define por la voluntad manifiesta, entendida esta como la capacidad de decidir sobre la propia conducta; no hace mas que establecer, con una denominación distinta y un desarrollo conceptual acorde a las necesidades del derecho en tanto ciencia, a la libertad de acción como objeto esencial de estudio. Pero, a su vez, no podría pensarse que una construcción teórica tan compleja como la postulada por la teoría de los actos jurídicos no sea fruto de una voluntad manifiesta, de un acto de libertad. Resulta imposible sostener que esta, así como cualquier otra teoría o postulado que conforma el vasto universo de la ciencia del derecho, tenga un origen meramente instintivo o surja de un conjunto de líneas de programación que rigen las actividades de un ente robótico cuya autonomía se sustente en relaciones algorítmicas limitadas a ciertos procesos. Pues bien, entendiendo entonces la importancia jurídica de la libertad o voluntad de obrar, surge un nuevo interrogante que nos posibilitaría ahondar en el análisis de la naturaleza de la conciencia artificial, aun cuando esta no haya sido desarrollada aún; ¿Podemos utilizar las reglas que rigen la libertad de acción para el análisis de la dimensión jurídica de la conciencia artificial? Es aquí donde entra en juego la dimensión ética, siendo esta la disciplina material que tiene por objeto de estudio las denominadas “leyes de la libertad”, y dentro de esta 26 rama del conocimiento tendrá una especial consideración el estudio de la moral, en tanto filosofía pura16, puesto que nos permitirá el estudio aún mas específico de las posibles conductas de aquellos entes que posean una conciencia artificial suficientemente desarrollada. IV.B- Grados de asimilabilidad entre la conciencia biológica y la conciencia artificial Del análisis precedente sobre las capacidades técnicas, sociales y éticas emanadas de la posible naturaleza de la conciencia artificial, podemos comenzar por clasificar a los Robots dotados de conciencia artificial en diversas posibles categorías, para realizar así un análisis jurídico pormenorizado sobre cada una de ellas: - En una primera categoría podría observarse a los entes robóticos cuya conciencia sea asimilable a la conciencia biológica no humana o superior a ella, pero de inferior complejidad a la conciencia humana. - En una segunda categoría podría observarse a los entes robóticos cuya conciencia sea asimilable a la conciencia humana. - Y una tercera categoría podría referir a los robots cuya conciencia alcance niveles de complejidad superiores a los que pueden alcanzar las conciencias humanas. V) CONFLICTOS LEGALES DERIVADOS DE LA CONCIENCIA ROBOT El examen de la posible naturaleza jurídica de la conciencia robótica nos topará con una infinidad de conflictos que requerirán de nuevos enfoques creativos e interacción multidisciplinaria, y que inevitablemente derrumbarán las bases en lascuales descansan actualmente las ciencias jurídicas. El siguiente análisis buscará enunciar algunos de los principales problemas jurídicos surgidos de este nuevo fenómeno, teniendo en cuenta lo visto hasta aquí en relación con el desarrollo de la conciencia artificial y los grados de asimilabilidad que ésta alcance, e intentará un primer y somero análisis sobre cada uno de estos. V.A- Conciencia robótica asimilable a la conciencia no humana 16 Se entiende por filosofía pura a aquella que deriva todas en forma exclusiva de principios a priori, originados de la razón, excluyendo todo elemento que se funde en la naturaleza del ser humano o en las circunstancias del universo en que este se encuentre. 27 V.A.1- Definición de conciencia biológica no humana y conciencia no biológica de menor complejidad a la humana En primer término corresponde definir el alcance de la conciencia biológica no humana, entendiendo a esta como la conciencia presente en algunas especies de animales, y que les permite alcanzar ciertos procesos característicos de la conciencia, aunque de manera notablemente menos compleja a la conciencia del ser humano. Guiándonos por el reporte realizado a pedido de la INRA titulado “Animal Consciousness”, de fecha 29 de noviembre de 2016, podemos sostener que “… that studies in animals provide strong evidence that, like humans, animals exhibit controlled, flexible, abstract use of metacognitive responding. These components are core symptoms of conscious metacognition in humans. So, overall it is possible that metacognition in animals reflects their conscious evaluation of their own knowledge and uncertainty.”. Así, la evidente existencia de procesos metacognitivos en ciertos animales, como por ejemplo la capacidad de planificación de eventos futuros17, nos permite inferir la existencia de una conciencia estructuralmente menos compleja que la conciencia humana, incapaz de alcanzar la integración que requieren los procesos más complejos de autoconocimiento y aprendizaje18. En atención a estas conclusiones podemos comenzar el análisis de las posibles consecuencias legales de lograr replicar este tipo de conciencia no humana en las entidades robóticas. V.A.2- Personalidad jurídica y conciencia robótica asimilable a la conciencia no humana Muchos son los interrogantes, y aún más los prejuicios, que surgen a partir de la posibilidad de asignarle a entidades no humanas una personalidad jurídica. Es por eso por lo que debemos comenzar por preguntarnos, 17 “The existence of an episodic-like memory in animals and the resulting capacity to plan the future have been recently proposed following the development of new behavioural paradigms” 18 “There is much evidence that human brains may process information to a higher degree of complex integration than animal brains, as well as subsequently using this integrated information better by cognitive or memory processes.” 28 ¿Existen razones para atribuir una personería jurídica a los entes que posean una conciencia no biológica, aún cuando esta sea menos compleja que la humana? En principio, la presente cuestión resultaría de sencilla solución. En la actualidad los animales no humanos, entes que ostentan rasgos conscientes simples, no poseen este reconocimiento en los ordenamientos normativos de la mayor parte de los países. Por ende, es de suponer que los Robots que adquieran una capacidad cognitiva similar a la de los animales no humanos también ostenten la calidad de “cosa”, con la consecuente sujeción al régimen de propiedad privada. Más sencillo se torna aun cuando observamos que en nada variaría esta postura de la situación vigente con los Robots autónomos e inteligentes actuales en la totalidad de los ordenamientos normativos tanto a nivel interno como a nivel internacional, siendo la postura que sostiene la ECLRR a lo largo de todo su texto. En relación con esto, el reglamento en materia robótica de la Unión Europea plantea la posible existencia de dos tipos de personalidad jurídica atribuibles a los Robots: La primera se trataría de una personalidad cuya responsabilidad recaiga en un agente humano. Esta opción termina siendo objetada por la misma normativa, ya que la personería electrónica en la práctica recaería en la figura del agente humano y no en el robot per se, tornando inútil la construcción de una ficción legal que en esencia actuaría de igual manera que la responsabilidad sobre los agentes humanos ya regulada en la normativa general actual. Mientras que la segunda trataría de una personalidad autónoma a cualquier agente humano. Siendo objetada esta opción ya que, desde una perspectiva científica, legal e incluso una mirada ética, resultaría imposible hoy en día otorgar personalidad a los robots en forma independiente a la actividad humana, pues esto implicaría, en cierto grado, la asimilación de estos con los seres humanos. Pero deberíamos tener en cuenta otra postura que, con atinados argumentos referentes a la existencia de una conciencia animal, plantea la necesidad de crear una categoría de persona que abarque a los animales no humanos, y por consiguiente pueda abarcar a los Robots que posean una conciencia robótica potencialmente similar. 29 Esta posición disidente19, sostenida entre otros por el doctrinario y filósofo del derecho Peter Singer, y el reconocido abogado estadounidense Steven Wise, postula la creación de la figura legal de “persona no humana”, fundamentada en la posición ética que pondera la capacidad de percepción del pasado y del futuro de los animales, así como la de experimentar sensaciones. Lo cierto es que, a paso lento, esta postura va ganando terreno en el mundo del derecho, siendo que países como Francia o Alemania ya han incorporado el reconocimiento de los animales como seres vivos, y en consecuencia sujetos de derecho, en sus respectivos Códigos Civiles. V.A.3- Responsabilidad jurídica de la Conciencia robótica asimilable a la conciencia no humana Pero aún consolidándose esta postura, y la personería del animal no humano se torne una figura jurídica ampliamente aceptada e incorporada en la mayoría de los ordenamientos jurídicos del mundo, resulta imposible considerar la posibilidad de otorgarle a esta nueva personería una responsabilidad jurídica directa e indirecta, entendiendo a ésta como la posibilidad de dirigir hacia estos una sanción por una conducta, propia o ajena, contraria a la prescrita por las normas positivas del derecho, configurándose como un verdadero nuevo actor dentro de las ciencias jurídicas. Y es así puesto que debemos considerar al derecho como una ciencia social cuyo objeto se ve definido por distintas formulaciones o reglas. Una de ellas, y tal vez la más importante puesto que establece su principio fundamental, dicta que la relación entre distintos hechos no surge de la natural relación causa-consecuencia, como ser en las ciencias naturales, sino que surge de una norma que prescribe o autoriza una conducta determinada, norma que además debe ser creada por un acto jurídico para revestir el carácter de norma positiva. Es en este principio fundamental, denominado principio de imputación, donde se fundamenta la imposibilidad mencionada. Mientras que la relación causa-consecuencia es de aplicación universal, sea que en esta participen entes vivos como inanimados, 19 Existen otras posiciones que, con diferentes argumentos, sostienen la necesidad de crear la figura de persona no humana. 30 hombres o animales; en el principio de imputación se exige la existencia de un acto producto de una conducta humana, debiendo ser el autor jurídicamente capaz de comprender tanto la premisa incluida en la norma como las consecuencias del acto ilícito. En otras palabras, un elemento esencial para la existencia de la imputación jurídica es la conducta humana conscienteen tanto fuerza creadora de la norma jurídica positiva como de fuerza impulsara de actos voluntarios exteriorizados que la nutren de sentido. Como consecuencia, resulta mas que probable que la personería atribuible a aquella conciencia robótica menos compleja que la humana, y por tanto incapaz de adoptar conductas humanas imputables, integrará el grupo de entidades excluidas de la esfera de imputación, limitándose a las relaciones de dominio que las normas jurídicas establecen para las “cosas”. Así, la nueva personería electrónica propuesta para este tipo de conciencia no compleja podría resultar, cuanto mucho, en una protección de la integridad del ente robótico, dependiendo de la capacidad de empatía y socialización que logren, y muy similar a la existente hoy en las normativas que contemplan al animal como “persona no humana”, buscando principalmente evitar el trato cruel hacia estos. V.B- Conciencia robótica asimilable a la conciencia humana V.B.1- Definición de conciencia robótica similar a la humana Luego de tratar el posible impacto en el ámbito jurídico de la conciencia artificial asimilable a la conciencia no humana, debemos proseguir el análisis con aquellas conciencias robóticas que alcancen el nivel de procesamiento requerido para su asimilación con la conciencia que posee el ser humano. De este modo, y según lo ya analizado en puntos anteriores, consideraremos que un ente robótico posee una conciencia de origen no biológico asimilable a la del ser humano cuando la tecnología aplicada a la robótica permita la reproducción total de los procesos que constituyen la conciencia humana (los procesos C0 o inconscientes , C1 o de disponibilidad global y C2 o de automonitoreo), y su sinergia. V.B.2- Personería jurídica de la conciencia robótica asimilable a la conciencia humana 31 Habiendo ya especificado lo ateniente en cuanto a la personalidad jurídica de los entes robóticos cuya conciencia será menos compleja en comparación a la humana, corresponde ahora desarrollar la capacidad jurídica de aquellos robots cuya conciencia será asimilable a la humana. Y nuevamente el panorama parece claro, pues si actualmente el derecho no solo concede la personería jurídica, sino que confiere la categoría de sujeto de derechos pleno a los seres humanos en tanto entes con conciencia suficientemente desarrollada para lograr la libertad o voluntad de sus actos, nada obsta a que esta categoría sea la que revistan aquellos entes robóticos cuya conciencia sea producto de una asimilación. Sin embargo, puede surgir un interrogante que permita el debate sobre la condición de persona jurídica de estos; ¿El origen no biológico de la conciencia robótica es condicionante para revestir a quien la posee de la condición de persona jurídica o de la categoría de sujeto de derechos pleno? Existen diversos modos de afrontar esta pregunta. Desde una perspectiva sociológica hasta una filosófica, cada una de las ramas del conocimiento humano podría aportar una respuesta a este interrogante. Dentro del derecho, una posible respuesta podría resultar del análisis de la condición del ser biológico que hoy brinda la ciencia jurídica, y su comparación con la posible existencia de entes robóticos de origen no biológico. También, en menor medida, del estudio histórico sobre esta cuestión. Pero este trabajo se enfocará en responder esta pregunta a través del estudio de las nociones primordiales que componen la ciencia jurídica, sus elementos fundamentales, para comprender si en verdad se trata de un condicionante a la existencia de estas nuevas categorías jurídicas o, por el contrario, se trata de un motor fundamental para la creación de nuevos paradigmas dentro de la ciencia del derecho. V.B.3- Obligación y responsabilidad Jurídica en la Conciencia robótica asimilable a la conciencia humana Para desarrollar la posible existencia de una personería jurídica plena destinada a aquellos entes que posean una conciencia robótica asimilable a la conciencia humana, 32 debemos comenzar por diferenciar los elementos primordiales que componen tanto el acto jurídico como a la teoría de imputación en tanto principio fundamental del derecho. Y para ello utilizaremos las definiciones propuestas por el destacado doctrinario Hans Kelsen en su obra “Teoría Pura del Derecho”, siendo esta un intento de desarrollar una teoría de la ciencia del derecho pura, entendida como libre de cualquier otra influencia estrictamente ajena a la definición de derecho. De esta teoría podemos notar la particular importancia que revisten dos nociones básicas, la obligación jurídica y la responsabilidad jurídica, en tanto elementos constitutivos de la norma jurídica positiva. Sin ellos no podría hablarse de acto jurídico, pues no habría norma que fundamente su acto de creación o aplicación. Sin acto jurídico y sin norma jurídica positiva, no podría sostenerse el principio de imputación. Así, La obligación jurídica nace de la conducta determinada por la norma. Específicamente, se trata de aquella obligación de conducirse de una manera determinada cuando la conducta opuesta es la condición de una sanción. A su vez, existirá responsabilidad jurídica del individuo cuando a una conducta determinada y contraria a la norma, ya sea producto del mismo individuo (y llamaremos responsabilidad directa) o de otro (y llamaremos responsabilidad indirecta), le es dirigida una sanción. Mientras que la obligación jurídica atañe al hecho ilícito, la responsabilidad se relaciona con la sanción, siendo ambos conceptos relacionados en las reglas del derecho por el principio de imputación. Pero aun diferenciándolos, de ambas definiciones se desprende un requisito fundamental para su existencia, la posibilidad del individuo de dirigir su propia conducta. Ya sea para conducirse según lo ordenado por la norma, como para comprender que se le aplicará una sanción si no sigue con esta conducta, la libertad o voluntad de actuar se erige como elemento primigenio de cualquier categoría jurídica. Es por esto por lo que podemos concluir que, así como desde el punto de vista de la neurología se requiere del desarrollo e integración de los distintos procesos cognitivos para constituir una conciencia desarrollada similar a la del ser humano; se podría 33 sostener que, para la ciencia del derecho se constituye la asimilación de la conciencia humana en un ente robótico cuando este tenga la capacidad de actuar en forma voluntaria. Asimismo, de esta conclusión se desprende también la irrelevancia sobre el origen de la conciencia, pues si esta es capaz de integrar los procesos necesarios para el desarrollo de una conciencia compleja susceptible de conducir sus actos de manera voluntaria no existe motivación alguna que excluya al ente que la posea para constituirse en un verdadero sujeto de derechos. V.B.4- Dimensión ética y moral en la Conciencia Robótica asimilable a la conciencia humana Teniendo en claro que la asimilación tanto fisiológica como jurídica entre una conciencia artificial y una conciencia humana requiere de la existencia de una libertad o voluntad de actuar, podemos deducir por consiguiente que esta conciencia artificial asimilada a la humana también es susceptible de ser objeto de estudio por parte de la ética en tanto ciencia encargada del estudio de las reglas de libertad, y de la moral como subrama racional de esta. Asimismo, no se puede negar el importante aporte de la ética al mundo jurídico pues de ella nace, entre otros aportes, el concepto de legitimidad material de la norma en el derecho. Este concepto, que viene a complementar al riguroso concepto de legalidad de la norma, establece que más allá de la validez determinada por el derecho positivo para la existencia de una norma formal, existe una dimensión no prevista por ningún instrumento u órgano legalque hace al cumplimiento de esta por parte de los obligados. Esta dimensión radicada en la moral apela a la idea de que toda norma tiene como sustento una necesidad fundamental, usualmente asociada con bienes jurídicos tales como la justicia o la libertad, la cual le otorga su validez. Pues bien, para comenzar este análisis es prudente enunciar un postulado primordial para el estudio de la fundamentación última de toda norma, que sostiene que “…una ley, para valer moralmente, como fundamento de una obligación, tiene que llevar consigo una necesidad absoluta”, asimismo “…el fundamento de la obligación no debe 34 buscarse en la naturaleza… o en las circunstancias del universo… sino a priori exclusivamente en conceptos de la razón pura”. Así, este postulado no hace mas que enunciar los requisitos fundamentales que debe cumplir la ley moral considerada fundamento de cualquier tipo de obligación, incluyendo también las atenientes al universo jurídico: - Su origen debe radicarse en la razón, pues el valor moral reside en el principio de la voluntad, y no en el propósito que se quiera alcanzar mediante el acto voluntario. - Se encuentra a priori en la razón, excluyendo toda influencia cuyo origen se encuentre en la experiencia del individuo o en la naturaleza. - Contiene en su esencia una necesidad absoluta, válida para toda entidad. Podemos concluir entonces que, del análisis de las características anteriormente nombradas, se deriva un principio sobre el cual descansa el verdadero principio supremo de la moralidad. Un concepto que aúna la racionalidad requerida, la independencia de cualquier tipo de experiencia empírica y el alcance absoluto de una necesidad. Es en la universalidad donde se asienta el principio supremo de la moralidad, fundamento último de toda acción voluntaria, puesto que “se debe obrar de modo que pueda querer que mi máxima deba convertirse en ley universal20”. V.B.5- Conflicto sobre el carácter universal entre la conciencia robótica compleja y la conciencia humana. Ahora bien, de este concepto de universalidad surge un interrogante que resultará fundamental para el presente análisis; Siendo el ser humano actualmente la única especie capaz de obrar voluntariamente, ¿es este principio fundamental realmente universal o se trata de un principio centrado en la racionalidad del ser humano? Una posible respuesta a este interrogante podría sugerirnos que efectivamente existe un principio fundamental de alcance universal, aplicable tanto a los entes cuya 20 Siendo esta definición una de las múltiples utilizadas por E. Kant para la definición del imperativo categórico. 35 conciencia sea resultado de un proceso biológico como a los que no, y por consiguiente todas las acciones voluntarias encuentran en este su justificación moral última. De ser así no cabría cuestionamiento alguno dentro del universo jurídico, pues no existiría conflicto sobre la legitimidad material de las normas entre entes con conciencias de distintos orígenes. Pero una segunda respuesta nos podría adentrar aún más en el análisis de la dimensión ética y moral dentro de las ciencias jurídicas, pues la inexistencia de una ley universal de carácter moral nos colocaría en una dificultosa situación con respecto a la legitimidad material del plexo normativo positivo. V.B.5.1- El relativo alcance de la universalidad en relación con la irrupción de la consciencia de origen no biológico. Sus consecuencias sobre la ciencia jurídica La búsqueda de una ley moral válida como fundamento primordial para cualquier acto voluntario realizado por la totalidad de entidades capaces de actuar en forma libre nos ha llevado a postular la existencia de una necesidad absoluta como elemento ineludible, pues es lógico emparentar a la necesidad con el concepto de obligación de los actos21. Asimismo, el hecho de que el ser humano sea actualmente la única especie que tiene la capacidad cognitiva para lograr actuar en forma voluntaria, y consecuentemente la única especie susceptible a una valoración moral, ha facilitado la identificación de las necesidades comunes basadas en bienes esenciales compartidos por la totalidad de la humanidad, logrando estas el carácter de universales. Pero la irrupción de nuevos tipos de entidades capaces de actuar en forma voluntaria cuyo origen no resulta de la biología nos permite indagar sobre el verdadero alcance de estas necesidades denominadas universales, y preguntarnos si esta pretendida universalidad no es solo aparente, resultado de una apropiación antropocéntrica de los bienes esenciales específicos del género humano22. 21 Si entendemos a la necesidad como aquella condición sin la cual un bien no podría ni ser ni llegar a ser, y esta, a su vez, resulta ser absoluta, alcanzando a la generalidad de los sujetos; la obligación de llegar a cumplir esta condición y la necesidad absoluta se muestran como dos caras de una misma moneda. 22 Consideremos, por ejemplo, la preservación de la vida. Siendo que la existencia del ser humano es finita, pudiendo afirmar incluso que la muerte define la misma existencia de este, surge la necesidad de que se preserve su vida. Considerando a esta máxima como un bien general, pues todos los humanos mueren, 36 De ser así existiría un conflicto entre aquellos entes que poseen una consciencia compleja de origen biológica y aquellos que poseen una consciencia compleja de origen no biológica, pues las leyes que son universalmente válidas para constituirse como ley moral para un grupo de entidades pueden no serlo para el otro, o incluso puede suceder que ambas leyes universales sean incompatibles. Desde un punto de vista jurídico, esta situación se constituiría en el primer gran conflicto producto de la irrupción de la consciencia artificial compleja como un nuevo sujeto de derechos. La diversidad de fundamentación moral entre sujetos de derechos de origen biológico y de origen no biológico traería consigo un conflicto, en principio irreconciliable, ateniente a la legitimidad material que da sustento a las normas. Así, una norma jurídica que respalda su fundamentación moral en un bien jurídico originado en una necesidad absoluta exclusiva de uno de los grupos de entes conscientes podría no poseer la fundamentación moral suficiente como para que su cumplimiento sea inobjetable por parte del otro grupo de entidades conscientes, pues carecería del elemento universal. Incluso podría darse el caso en el cual la existencia de una norma jurídica cuya legitimidad material esta dada por la protección de un bien jurídico exclusivo de un grupo de entidades conscientes entre en conflicto directo con una ley moral universal propia del otro grupo de entidades conscientes23, produciéndose en consecuencia una tensión que excede el ámbito moral, impactando directamente en el universo jurídico. V.C- Conciencia robótica superior a la conciencia humana V.C.1- Definición de conciencia de origen no biológico superior a la humana puede decirse por consiguiente que esta necesidad se torna absoluta. Y cumpliendo entonces con este requisito de generalidad, no hay duda en afirmar que la preservación de la vida se torna en ley moral universal. Pero si consideramos a su vez la irrupción de la inteligencia artificial compleja y a los entes que la poseen como susceptibles de ser valorados moralmente debido a la voluntariedad de sus actos, y afirmamos que en ellos no pesa la condena de una muerte biológica, podemos afirmar que estos no tienen la necesidad de preservar la vida. Sin esta necesidad, no es posible aplicar la categoría de bien general a la preservación de la vida, y por tanto la necesidad absoluta requerida para la constitución de una ley universal. 23 Continuando con el ejemplo anterior, una norma cuya legitimidad material se fundamente en el bien jurídico ateniente a la conservación de