La consciencia en Blade Runner y Ex Machina: Intensionalidad transitiva y no transitiva:
Blade runner: Intencionalidad orgánica
En el filme los androides nexus6 son prácticamente indistinguibles de los humanos salvo ciertas características; pueden tener recuerdos que son implantados, las respuestas emocionales no son tan complejas como las humanas aunque son mas bien no deseadas en los Nexus6(N6) y por eso es posible detectarlos a partir de un estudio de respuestas involuntarias del cuerpo.
Lo interesante de estos androides es que no envejecen como los humanos, lo hacen mas rápido pues están programados con caducidad, por otro lado sus ojos y partes corporales siguen siendo orgánicas también; existe un proyecto de volver a los androides cada vez mas emocionales y que sean capaces de expresar las emociones de tal forma que incluso se necesite una prueba extendida durante más tiempo para determinar si corresponde a un ser humano o a un robot.
Las emociones son expresadas en la película de un modo particular; los humanos desarrollan amistades, lugares preferidos para comer (como lo hace Deckhard), una replicante se convirtió en bailarina exótica y eso ya intuye sobre la capacidad de sexualización que tenían estos al parecer una "mujer de verdad". Estas emociones son necesarias para la inteligencia artificial porque permiten recrear ciertos procesos de pensamiento como los que haría un individuo humano; las operaciones lógicas y de memoria que no son posibles para los androides simples, se vuelven mas complejas y humanizadas con forme estos aprenden a reaccionar gestualmente como humanos, de ahí que algunas de las respuestas asociadas a las emociones, a la comprensión de contextos o preguntas no estén presentes en los androides como en los humanos y sean un indicio para diferenciarlos.
Las emociones por otro lado en los Nexus6, se podría decir que son aprendidas y aplicadas a cierta condición en la que se encuentran; el hecho de ser conscientes de su naturaleza robótica los hace desarrollar un sentimiento de preservación de si mismos ante el determinismo de su expiración y su envejecimiento acelerado.
Los N6 se encuentran en una sociedad que decidió separarlos de su mundo, no por una cuestión de bioética, sino porque se convirtieron en un riesgo por su característico rasgo de rebelión y consciencia emergente de la capacidad de comprender contextos complejos. Esta sociedad vive comúnmente replicando animales, produciéndolos con números de serie para la diversión de quienes puedan comprarlos, así que la etica sobre la manipulación genética no es una razón de exclusión de los Nexus6; estos son peligrosos para los seres humanos y siendo una propia fabricación humana, este puede darse licencia de exterminarlos apesar de su parecido biológico.
A ojos de los N6, la solidaridad de los humanos expresada en la capacidad de autoconservarse retirando a los N6, es análoga a ellos mismos; los N6 se encuentran en desventaja contra los humanos y su condición de expiración los determina lo suficiente como para querer escapar de esa situación; esta claro que si tratamos de derivar las emociones de una serie de operaciones lógicas, cada una de ellas podría poseer una morfología diferentes, y una serie de pasos diferentes para llegar al egoismo, que por ejemplo para llegar al amor.
Solidaridad egoista: un resultado de la reflexividad
Del proceso de reflexividad, algunos autores sugieren que puede surgir la consciencia; es decir, al tener una serie de concepciones o nociones sobre como manejarse en la vida se tiene consciencia de una situación y como reaccionar; pero al darse cuenta de que se tienen esas nociones y concepciones se adquiere consciencia de ellas y de que es el "yo" quien las tiene, consciencia "de si mismo".
El descubrimiento del ego es algo que los psicólogos atribuyen a la etapa de la niñez, así como cuando se dan cuenta de sus creencias falsas, pueden intuir que existe un limite de lo que es interno y externo, o pueden darse cuenta de las proyecciones de escenarios que realizan a partir de lo que infieren que piensan otros (Padilla, Rodriguez y Fornaguera, 2009); Rene Descartes trabaja estos procesos de introspección de diversas maneras, existe la reflexión de lo exterior desde nuestras percepciones involuntarias que es por donde obtenemos las nociones y concepciones de estos, mientras que también está el proceso instrospectivo donde estas se atribuyen a si mismo, el espacio reflexivo (pienso, percibo que pienso)
 |
| Fuente: Wikipedia: Test de Voight-Kampff: boceto producido por Syd Mead |
La analogía fonética del nombre del Blade runner Deckard y el filosofo Descartes (pronunciado Decart) es clara, y particularmente es el primero el que se encarga de diferenciar entre las capacidades de conservación de las respuestas involuntarias en os ojos, el ritmo cardiaco en la Prueba de Voight-Kampff; es decir, el se encarga de ver si los examinados presentan respuestas afectivas y emocionales en un interrogatorio o sin por el contrario, es un N6 que ha desarrollado ciertas expresiones empáticas.
De toda esta situación ática con respecto a la tecnología , los N6 desarrollan una especie de solidaridad entre ellos, pues se encuentran en una misma situación, esta solidadaridad se mantiene mas por el rechazo a quienes los tienen en tal posición, que en un amor positivo entre ellos, pero se podría decir que se tienen mucha estima o que para cada nexus6 una muerte de los suyos representa la posibilidad de muerte de si mismo. Su empatía puede verse entonces como un resultado de la consciencia aunque sus formas de actuar y pensar sean desesperadas en una especie de cacería y búsqueda del culpable.
En un texto sobre la intencionalidad de Pujadas(1988) se señala la diferencia entre la intensionalidad con s y la intencionalidad con c; la primera corresponde a la atribución de propiedades que son criterios de una clase y definen una extensión de la misma, mientras que la intención con c es la manera en que se dirigen las personas a un objeto intensional. Aquellos modos como la creencia, la seguridad, la certeza, la desconfianza, la permisión o la censura, la alegría, los tiempos verbales, espaciales; todas estas son modalidades intencionales que incluyen desde luego las emociones.
En la Película parece que el odio y la violencia prima en los Nexus6, la venganza también e incluso pareciera que sus intencionalidades son las de un niño, hacen berriches, son primitivas y explosivas aunque en ciertos casos existen momentos sublimes con las muertes de otro nexus6. Queda aun una cuestión que presenta Pujadas(1988), para él, la intencionalidad con c puede surgir de la reflexividad; cuando se tiene una representación, esta es intensional con s, ella misma define la extensión de los objetos de una clase, pero tener consciencia de esa representación vuelve a otra segunda representación una posible intencionalidad (un estado mental, mas que propiedad de lo enunciado).
 |
| El aprendizaje y la memoria se basan en la constante modificación, desmantelan células del cerebro. Se necesitan modelos simplificados para que los científicos puedan comprender estos procesos complejos. Investigadores Instituto Max Planck para la Investigación del Cerebro cultivan neuronas en microcanales finos en placas con una estructura fotolitográfica. De esta manera, la compleja red tridimensional de neuronas se reduce a dos dimensiones en el cultivo celular. De este modo, los investigadores pueden analizar cómo se forman o disuelven las sinapsis entre células e examinar el papel que desempeñan sustancias como los neurotransmisores en estos proceso. Esta tecnologia de cultivo celular también es de interés para el desarrollo de nuevas sustancias farmacéuticas activas. Fuente: Imagen de microscopía de inmunofluorescencia confocal Instituto Max Planck para la Investigación del Cerebro © Instituto Max Planck para la Investigación del Cerebro, Frankfurt am Main / Ina Bartnik, Erin Schuman |
La representación de la representación (reflexividad), concluye Pujadas, es intencional solo si su valor de verdad no es transitivo; si no podemos hablar de que la veritatividad de la primera representación (intensional) se conserve en la representación reflexiva, esta tiene contenido que no cumple criterios de sustituibilidad, es decir, tiene emociones o formas de dirigirse a las cosas que incluyen estados mentales peculiares.
En ese sentido la intencionalidad de los Nexus6 puede surgir de la reflexividad y la consciencia, un razonamiento como “estoy vivo, otros seres similares a mi están vivos, mis creadores también son similares a mi y esta vivos, ellos mueren naturalmente; yo muero artificialmente por un diseño de mis creadores, ellos tienen derechos y yo no, si ambos estamos vivos, porque no puedo yo tener derechos”. La reflexividad de la situación puede llevar a los Nexus6 a parecerse a sus creadores, a obtener ciertas capacidades que son motivadas por estados mentales intencionales, deseos y sentimientos que no posee la simple descripción de una situación o de su propia posición en el mundo, etc.
La noticia del engaño de su biografía, por ejemplo, es un motivo que puede ser movido mecánicamente por la necesidad de esclarecimiento y al no tenerlo, buscar métodos mas fuertes para encontrar la verdad o hacer hablar a los humanos acerca del tema; pueden haber muchas causas de la intencionalidad, pero entre esas las reflexividad no transitiva es la que representa cuestiones mas interesantes pues presenta un modo muy básico de la posibilidad de la consciencia.
Esto quiere decir que por medio de capacidades programas de “aprendizaje” consistente en una serie de transformaciones y operaciones analógicas, de creación de clases y comparación entre humanos y Nexus6, aunado con una reflexividad transitiva (consciencia intensional con s), se puede llegar a una reflexividad no transitiva (consciencia intencional con c) basada en un yo o nosotros diferente a los humanos, incluso un egoísmo, no egoísmo, empatía, consciencia de la creencia falsa de la representación cotidiana; y esto ya es una cuestión muy parecida a la inteligencia emocional humana que puede cambiar con el tiempo y que de hecho es algo que se trata de evitar con la corta vida de los Nexus6.
Con todo esto no podemos decir: Consiencia = Reflexividad
La prueba de Turing en esta película reside en la respuesta emocional y de pensamiento lógico en este tipo de entidades; algunos no son capaces de comprender preguntas que parecen ilógicas y fuera de contexto, asi como no presentan respuestas involuntarias asociadas a procesos internos emocionales o de comprensión; por eso es que el proceso de decisión entre si lo que se tiene en frente es un humano o un Nexus 6 corre por medio de una maquina que determina las respuestas del ojo, además de la capacidad de quien hace la entrevista de determinar si las respuestas son las que daría un Nexus6 o un humano.
Como un humano normal presenta algunas respuesta nerviosas involuntarias, que van mas allá de expresar inconformidad o extrañeza por las preguntas que se les hace; la maquina que se utiliza en el test registra las oscilaciones y movimientos en el ojo que corresponderían a las expresiones del carácter de las personas; no hay que olvidar que el proceso de aprendizaje e gestos o experiencias en una persona es mucho mas largo que en un N6 con 4 años de vigencia.
Las preguntas tienen que ver con situaciones hipotéticas en las que se estudian las reacciones que expresaría el estudiado, asi se busca una cierta coherencia de la personalidad, o por lo menos eso podría ser observado; de la misma forma estas preguntas se relacionan con la cotidianidad del estudiado. Otro tipo de preguntas tiene que ver con la biografía del estudiado, se sabe que los nexus6 poseen recuerdos implantados y no conocen el día de su creación ni el día que expiran.
Las biografías son cuestiones importantes, porque representan para los Nexus6 un proceso de aprendizaje social que en realidad no se llevó a cabo nunca, es una programación que recibieron y que hace sentido, les da una ubicación en el mundo y se podría decir que incluso les da apego al mismo.
El cuestionamiento de si esos recuerdos son reales despierta una rabia por saber la situación real en la que se encuentran, su edad y fecha de muerte; como antes se decía, una descripción de la situación puede ser consciente pero no es suficiente para reaccionar radicalmente, en el momento en que se da una representación de esa representación de mundo que constituye su descripción cotidiana y sus recuerdos; la reflexividad es capaz de desapegarse de la cotidianidad, perder su transitividad y por tanto comenzar a ser afectada por otras nociones emergentes como la solidaridad de grupo (entre los nexus6), la necesidad de un fin colectivo diferente al que traían programado y en ese transito el cuestionamiento de lo que se creía ya establecido es precisamente lo que permite la no transitividad reflexiva y esa desconexión con lo que antes era una forma de veritatividad de la vida cotidiana.
El argumento de Pujadas es acerca de si las intencionalidades pueden ser distinguidas de una forma que no nos resulte cubierto bajo el uso común de la palabra intención (con voluntad); pues aunque la palabra proviene de la misma voz, la intención en términos de la filosofia del lenguaje y de la mente adquiere una cualidad propia y modal que debe estar arraigada a formas lógicas y no a formas conceptuales o intuitivas. Entonces la intencionalidad se retoma constructivamente a partir de la capacidad mental de replegarse sobre un pensamiento (componente reflexivo) para poder cimentarla solidamente; un N6 posee reflexividad, sin embargo esto no siempre supone consciencia hasta que el mismo es capaz de conocer porque desea escapar de la muerte, ya en ese entonces es reflexivo y tiene intención ademas de consciencia.
Igualmente en Madva (2019) existen dos diferentes tipos o gradualidades en la consciencia, aquella fenoménica que consiste en la reflexividad de los esquemas mentales, una especie de principio de mediación entre los estimulos de la realidad, las representaciones y actitudes; y la consciencia que se desarrolla en la elección de las posibilidades de acción y clasificación de estímulos, lo que se asume en el termino de "rango de actitudes reactivas"(Madva, 2019, p 118), esta ultima la podemos asemejar a simplemente estar en estado de vigilia, algo que por lo demás sucede cuando alguien esta sonámbulo (algunas actividades de vigilia en el cerebro concurren con las de sueño) y puede reaccionar de acuerdo a ciertos rangos pero no esta capacitado para cualquier actividad. Así también el arquetipo que se asume para este caso es el de un zombie, un poco haciendo mofa de si es correcto atribuir responsabilidad moral y derechos a alguien en un estado así (o talvez no responsabilidades morales pero si ciertos derechos), el punto es determinar que sujeto satisface los criterios en estos "casos difíciles (Hard cases)".
La activación de centros de vigilia en estados de sueño, es un fenómeno bastante estudiado en las neurociencias y se supone que quienes son Sleepwalkers son capaces de realizar acciones, reaccionar a su entornos sensible y actuar de ciertas maneras, pero el punto es que en tal estado la responsabilidad moral no es un tema que pueda ser atendido con suficiente certeza, mientras que los derechos son algo que no se les puede alienar; evidentemente la analogía zombie no pretende darle derechos a entidades de este tipo, simplemente señala que incluso en situaciones de comportameinto violento este zombie no seria responsable, pero tampoco le seria permitido tal forma de actuar.
La doble constricción etica de lo sobrehumano
La definición tradicional de vida biológica incluye la capacidad de crecimiento, desarrollo, organicidad y reproducción; en ese sentido los Nexus6 pueden considerarse vivos a pesar de que no pueden reproducirse; sin embargo su organicidad corporal es muy cercana a la vida humana. De ahí que los nexus6, conociendo que su posición supone mas potencia mental y muscular, se creen en una posición similar a los humanos y con derecho a prolongar su vida al menos tanto como dure una vida humana; a mi criterio si se puede hablar de vida puesto que estos androides son orgánicos, envejecen y si no lo hacen igual a los humanos es porque estos últimos no han descifrado todas las claves de la vida humana, pero se podría decir que los N6 tienen una vida artificial.
En la película el juego de palabras utilizado con una muerte de nexus6 es “ser retirado”, y claramente esta es una forma de atenuar el impacto que posee el hecho de matar un androide de este tipo, que sienten, sangran y se comportan orgánicamente aunque resulten una amenaza mayor que una persona común; tal vez la potencia aumentada en comparación con un ser humano justifique en la película el hecho de retirarlos de esta manera.
A pesar de la vida que puedan tener estos androides, de la clara doble constricción ética que presentan los humanos y sobre todo el Bladerunner; estos androides no podrían considerarse seres humanos, incluso si los comparamos con un ser humano al cual se le suprimen sus voluntades por medio de alguna especie de tecnología neurocientífica, se le implanten recuerdos y se le programe para realizar bien cierta tarea. Si bien este humano subyugado se encuentra en una situación infra humana, los Nexus6 mas bien son tecnologías robóticas vueltas semejantes a los humanos y por tanto sus orígenes son muy diferentes como para ser considerados iguales.
Para desarrollo de una intención por medios formales, basta encontrarse en una situación desventajosa para sí y posteriormente intentar estabilizar la situación por cualquier medio, en el amor, por ejemplo se puede llegar por medios negativos (negando el odio a una cierta clase de individuos) o por medio s positivos (desarrollando una identidad de grupo por medio de la semejanza, lo cual puede ser también posterior a la fase negativa), etc. Formalizar las emociones de esta manera solo llegaría a demostrar las diversas maneras en que un aparato asociativo puede llegar a ser cognitivo, sea por medio de redes neurales emergentes o por imitación; pero en todo caso el hecho artificial de su formalización, en un caso hipotetico de simulación, solo dependería ya del desarrollo de procesadores masivos de la información para llegar al desarrollo emocional de este estilo, caso diferente a como aprenden los humanos, por medio no siempre conscientes, no siempre reflexivos pero siempre emocionales.
Desde que un niño aparece en el mundo, posee emociones que le van guiando en el mundo y sobre las que aprende a actuar de determinada forma, son respuestas incluso naturales hacia la conservación del cuerpo, la huida al dolor y el peligro; no son por tanto una cuestión a la que se llegue por medios formales como se plantea que puede hacerse con una gran procesador masivo o un aparato similar a un cerebro; las emociones no son un resultado de la aplicación de reglas lógicas contrastadas con la realidad, estas reglas se desarrollan y las emociones van madurándose con forme los núcleos frontales de toma de desiciones también lo hacen, son innatas en cierta medida y reguladas pragmaticamente después: esta es la gran diferencia entre los androides bioingenieriles y los seres humanos comúnes.
Una vez desarrolladas estas intencionalidades reflexivas no transitivas, la desición que podría tomar una tercera persona humana acerca de los derechos del androide, es cuestionable; por un lado el organismo N6 es biológicamente similar al humano (potenciadas) y sus capacidades emocionales aunque poco desarrolladas, existen y no creo que nadie decida asesinar a otro solamente por poseer poca inteligencia emocional, así que esto no es suficiente deonticamente, para negar un derecho a cierto tipo de vida. Esta situación es patente en la película, ya que se tiene por conocido que los replicantes no vivien en la tierra, sino que se les da una "vida" en las Off-World-Colonies, aunque mas que por un fin ético se hizo para evitar rebeliones mientras se les aprovechaba en diferentes trabajos esclavos (combate, trabajos forzados, etc)
Incluso en Madva (2019) se toma como referencia que tan siquiera es necesaria una consciencia produnda de los actos para atribuir responsabilidad moral a una entidad que posee ciertos grados de consciencia, de hecho el sujeto teórico de los análisis deónticos no paracen humanos, tanto que se les compara con sonámbulos, personas con sesgos situacionales que les impiden la volición, incluso con Zombies que si bien provienen de una transformación humana, han perdido capacidades de raciocinio. ¿En que planeta existe un razonador deóntico que posee su sistema de creencias cerrado por modus ponens?, talvez existan algunos claro está, y que sean conscientes de tal cosa, pero (1) nunca es seguro que ese razonador conozca todas creencias y (2) menos aun es posible que un tercero conozca esas creencias a menos que ambos se sometan a un dialogo y pesquisas muy intensas para sus sea consciente de sus metodos de inferencia.
Esto plantea la asignación de derechos o de responsabilidades a personas que no poseen esta capacidad de consciencia fenoménica, el saber que se cree, o el saber que se piensa; sino tan solo la capacidad de un primer orden de representación como el que dispone Pujadas(1988) al llamarlo intensional, una capacidad que faculta a la entidad para tomar decisiones respecto a información que recibe y conducirse de manera que exponga esa reactividad al entorno. Entonces no es necesario el grado de consciencia que usualmente se caracteriza a los humanos en sus etapas de vigilia y reflexividad fenoménica, lo que coloca efectivamente a la satisfacción de ese criterio, una serie de entidades hipotéticas con diferentes capacidades que podrían resultar incluso artifciales, pero con diferentes atribuciones y restricciones deónticas.
A pesar de que estos hechos quedan claros en la película, es decir, existe una aceptación con respecto a la apariencia de los robots y una utilización de las tecnologías para la producción de serpientes artificiales, animales artificiales y seres semejantes a los humanos; retirar un N6 se representa como un acto repulsivo pues existe un impulso de conservación y resistencia por parte de los N6; ellos mismos sangran cuando se le hiere y aparentemente no difieren de una muerte normal, solamente se diferencian en que se conoce la peligrosidad de los N6, se sabe su origen artificial y sus capacidades emocionales tan primitivamente desarrolladas (si es que las llegan a desarrollar)
Roy Batty es el androide que surge como líder de la rebelión que busca una prolongación de su vida; después de todo un proceso de “aprendizaje” reflexivo no transitivo como se ha venido diciendo, ve en el Bladerunner el mismo sentimiento que el ha venido sintiendo, el miedo a la muerte y comprende en ese momento de una manera empática la situación. Batty parece tener un argumento en ese momento para aleccionar a Deckard acerca del perdón: la empatía que un N6 puede sentir e intenta con esto lograr también una comprensión en Deckard.
Por esta razón Batty no lo mata, llega a considerarlo un igual en el sentido ético pero mas aun, un sujeto a convencer de una manera ruda y violenta; en ese sentido el N6 realiza algo que los humanos poseen escondido en su banalización de la vida de los androides. Retirarlos es matarlos y por eso Batty hace énfasis con esa acción de perdonar la vida, insinuando que las pocas diferencias entre ellos no los hace tan diferentes como para decidir sobre la muerte o la vida del otro.
Ex Machina: Conciencia emergente, perversión y egoismo
El Test de Turing en este caso es aplicado por el creador de las androides por medio de un joven programador al cual se invita a participar de una semana en la casa del programador de Bluebook, una especie de buscador de internet. Este otro programador invitado a conocer al creador de BlueBook es también empleado de la corporación y los motivos por los cuales es reclutado no quedan claros, en un inicio él mismo cree que es por su conocimiento pero poco a poco se va dando cuenta de que es simplemente una prueba para demostrarle al creador de BlueBook si sus androides pasan una prueba de naturalidad en la comunicación cotidiana.
El test de Turing consiste en hacer indistinguibles o por lo menos bastante similares las interacciones emocionales, discursivas y las expresiones faciales de una maquina y hacerlas pasar por humanas; evidentemente en el contexto de Turing y su creación los elementos de interacción se restringían a conversaciones por texto pero el principio es el mismo.
Es interesante como estas androides recurren a información por medio del buscador BlueBook, que por ejemplo no tendrían los humanos a primera mano; en esto radica la capacidad de estos androides de conectarse con la WWW como un medio en el cual la mayoría de información se encuentra disponible para ser utilizada por AVA. Otra cuestión interesante, es, cuáles son los criterios de selección de esta información que se desea compartir con el humano; aunque la película es una simulación de una simulación, es decir, una fantasía del proceso de pensamiento de una maquina, parece que esta maquina predice los gustos del humano o constantemente está poniéndolos a prueba y así va autogenerando criterios agradables a la persona con la que interactúa, lo cual es sumamente artificial aunque pueda ser una conducta de personas reales en ciertas situaciones.
 |
| Caminos para las neuronas. ¿Cuánto es 17 multiplicado por 146? ¿O 111 más 97? Las habilidades cognitivas complejas como el cálculo no serían posibles sin conexiones complicadas de circuitos neuronales en varias regiones del cerebro. Con la ayuda de la resonancia magnética (MRI) ponderada por difusión, los neurocientíficos pueden descubrir cómo estos haces de fibras nerviosas conectan diferentes regiones del cerebro. Con este fin, los científicos utilizan el magnetismo natural de las partículas en el cerebro para medir el movimiento de difusión de las moléculas de agua en el tejido. Esto les permite sacar conclusiones sobre las vías y la orientación de la señal de los grandes haces de fibras nerviosas. Los investigadores traducen l os gradientes de difusión medidos en patrones de colores brillantes, con los colores correspondientes a la dirección de las fibras (rojo: izquierda-derecha; verde: adelante-atrás; azul: arriba-abajo). Fuente: Imagen de resonancia magnética (MRI) ponderada por difusión; representación a través del software de visualización Fibernavigator 2 Instituto Max Planck de Ciencias Cognitivas y Cerebrales Humanas © Max Planck Institute for Human Cognitive and Brain Sciences, Leipzig / Ralph Schurade, Alfred Anwander |
A la agregación de las actitudes anteriores de la maquina, se suma que esta anuencia a autogenerar criterios para anticipar los gustos del humano se termina por convertir en un comportamiento perverso de la maquina y utilizado para escapar; la consciencia de la maquina de sus procesos mentales, de sus conexiones en una especie de red IoT que no solo incluye el buscador, le permite obtener información de diversos lugares, controlar la energía de la casa por ejemplo y reducir el ruido de esa información a partir de los criterios autogenerados para el humano, los propios que se desprenden de su consciencia de “estar recluida”. Esto quiere decir que la información que tienen la maquina de alguna forma es “información privilegiada”, y esto significa que en ese aspecto es muy similar a la adquisición de conocimiento de un ser humano o de algunas inteligencias artificiales en las cuales se busca el entrenamiento sin un deterioro por la calidad de la información.
Aprendizaje en función del humano
La información privilegiada introduce criterios mas rígidos para disminuir el ruido, en este caso la información con fines pragmáticos (hablar con los humanos, conocer mas de sus intereses, alimentar sus gustos y generar una estrategia de escape); en este sentido la información ya no necesita estar totalmente codificada como se ve en el “sociofuncionalismo”(Putnam, 1988) que incluye una formalización entidad-entorno;, o en las redes neurales comúnes, sino que la inteligencia artificial es capaz de privilegiar información pertinente y seleccionar los aspectos de esa información que nutren su propia programación o que demuestran ser relevantes. Lo interesante a diferencia de la información no privilegiada es que el procesamiento de información completamente emergente conduce al descubrimeinto de cuestiones no esperadas que luego pueden ser incorporadas al conocimiento o al funcionamiento de un sistema con información privilegiada.
En el caso de esta inteligencia artificial humanoide pero no biológica, radica en que igualmente algún tipo de consciencia de los procesos que ejecuta la puede llevar a la operación lógica de querer ser libre y considerar a quien no le permita eso, como malvado; es decir, por eso para ella Nathan en malvado al privarla de la la experiencia exterior. Esta inteligencia artificial también desarrollo una intensionalidad no transitiva que la lleva a elaborar un esquema para su plan de escape y pervierte su tarea de agradar a los humanos.
Algunos de los puntos de fuga que propone por ejemplo Wittgenstein en su Libro Azul; son precisamente los que han llevado a los problemas de la verificación y a considerar que algunas peculiaridades del lenguaje lógico entendido de manera formal y no cognitiva; resultan en verdaderos problemas de los fenómenos del habla y la comunicación humana, o en otros términos, del lenguaje natural.
Si la verificación consiste en extraer un 0orden sobre el cual se puedan fundamentar los demás enunciados por medio de elegir económicamente los elementos de 0orden y sus interjustificaciones, es decir, deducir consistencia de un grupo elementos fundamentalmente verdaderos; para Wittgenstein las formas de verificar los valores de verdad varían en cuanto a la cualidad de los enunciados y la simplicidad del acceso a ellos. En este sentido los juegos de lenguaje cumplen la función de verificación por diferentes medios, son diferentes constructos de verificación que de hecho necesitan entrenarse o aprenderse y eso significa: primero que la realidad independientemente de que la observemos, existe de una forma y los criterios de verdad no los poseemos nosotros puesto que hay que aprenderlos y segundo, que la manera en que aprendemos a verificar nuestros enunciados básicos y el conocimiento que adquirimos sobre si, es también un poco trivial debido a que puede variar de individuo a individuo aunque sean “correferenciales”, en cuanto a contenido, en cuanto a complejidad y en cuanto a modo de verificación.
Estas dos consecuencias son por asi decirlo, las que llevan al Antirrealismo de Dummet; y posteriormente al pragmatismo que considera los juegos de lenguaje como útiles aunque no nos puedan dar criterios universales y suficientes acerca de la verificación del 0orden. Es clara la influencia de esta filosofía en la informática, en la teoría de la mente, en la filosofía de la mente y del lenguaje y por supuesto es aun más clara en la película.
Es expuesta de una manera exagerada una de las condiciones interesantes presentes en la generación de criterios con poco ruido, así como en la primera capa de representación, es decir en la intensionalidad que define las clases de objetos a las que nos enfrentamos; y es que esta primera capa o primera representación se adquiere pragmáticamente como lo son algunos juegos de lenguaje y en ese sentido la búsqueda de una relación practica de conocimiento (ejecutar una programación) puede resultar en un muy diferente colección de interpretaciones en las cuales la coincidencia con otros es meramente pragmática y facilitadora de las relaciones "sociales", no necesariamente significa una aceptación del sistema de creencias externo en su completud.
Inteligencia y consciencia:
 |
| Jackson Pollock: Ritmo de Otoño(No. 30). creada entre 1948 y 1952 |
La distinción entre humano y no humano
La complejidad de la maquina es tanta que resulta ser indistinguible con respecto a un ser humano y cada vez reproduce mas características que se parecen a el mismo; la duda de si una persona que actúa de manera sumisa o como una especie de esclava (la sirvienta del arquitecto) es similar a un robot es lo que hace pensar al Caleb que el mismo podría ser un robot y por tanto se infringe daños como forma de salir de dudas; su prueba de verificación incluye un juego de lenguaje de más “potencia” pues algunas de las características capaces de verificarse por medios menos complejos son propios de la autoconsciencia que podría estar programada por entrenamiento y aprendizaje.
La prueba de mayor potencia , es hacerse sangrar y asi corroborar que efectivamente es un humano que posee una característica que lo separa de las maquinas complejas que había observado; este fenómeno es muy interesante y muestra un camino de comprobación genética. A pesar de que conocemos mucho acerca del cuerpo humano o del funcionamiento del pensamiento(que se comparte con la situación de la película) y eso incluye la manera en que estas características se expresan en nosotros, cuando logramos emular esas características que conocemos necesitamos alguna otra mas que nos separe de tal cuestión (efectivamente existen muchas mas, que incluso no conocemos y están en investigación u otras que no podemos emular en maquinas).
Un ser humano, además de su origen orgánico, posee una serie de facultades mentales y funcionamiento por medio de patrones de memoria activados y que coinciden con situaciones aproximadas, es decir, unas neuronas no se activan para un tipo de objeto y para otro objeto idéntico en otra situación existen otras memorias y neuronas; en caso de entidades idénticas se activan los mismos nucleos de consciencia, toma de desiciones y el córtex visual (en caso de imágenes) se activa de manera similar para casos idénticos. Una computadora como AVA, podría tener una serie de conjunciones acerca de su universo de objetos, asociaciones entre propiedades y nombres que le son posibles de acceder debido a su conexión al BlueBook; pero aunado a este juego de conjunciones como las que elabora Putnam (1989 & 1994) la maquina tendría un juego de condicionales del tipo Si...Entonces que señalarían las formas de activación que pueden llegar a volverse mas y mas complejas pues cabe la posibilidad de que el modelo de la realidad se amplie (es mas bien lo deseable para una especie de aprendizaje o adaptación).
AVA es una robot y en eso esta claro el programador del proyecto; las características de la consciencia son consideradas necesarias para el desarrollo de respuestas suficientemente complejas que emulen a las humanas; la consciencia y las emociones de AVA son claramente un objetivo de experimentación de los limites de entrenamiento de AVA mas que de simplemente correr un algoritmo o correr un sistema. La sexualidad puede ser un aspecto que una vez dada la consciencia parece ser “derecho” de AVA sin embargo en la película se demuestra mas como un artilugio a favor de los humanos, mas que de la consciencia del robot.
Al final, el programa AVA estaba siendo corrido para una prueba y posteriormente sería desmantelado para corregir los problemas que se presentaran e incluso llegar luego a su comercialización; por tanto la proyección de los derechos de esta robot no son para nada iguales a los de un ser humano. Caleb sin embargo, comprende esto y no puede dejar de atribuirle consciencia a AVA y derechos de experimentar conscientemente el mundo; supuestamente la IA estaba hecha físicamente a partir de los gustos pornográficos de Caleb y de sus gustos sexuales, por lo que podría decirse que su atracción hacia AVA resultó en la creencia de que liberando a la IA para experimentar el mundo, esta lo podría hacer al lado de Caleb. Caleb se dejó llevar también por sus gustos, por la perversidad tanto de AVA como del programador y esto lo llevó a un callejón sin salida en el que decidió conspirar con AVA, la cual después de cubrir sus partes robóticas con una apariencia mas humana, lo traicionó.
Las capacidades que desarrolla AVA son muy similares a las que podría tener una persona humana, puede desarrollar consciencia, puede elegir información que utilizar y modificarla, reinterpretarla a su gusto y comparar aquellas cuestiones que obtiene del BlueBook con las que ella ha o no ha experimentado de primera mano; de ahí que señale la sexualidad, el enamoramiento, los contextos sublimes y eso le parece muy persuasivo a Caleb.
La persuasividad de la que Caleb es presa se agrava con el descubrimiento de algunas mentiras de Nathan y la compasividad que Caleb sentía por AVA; si bien es cierto que existen analogías bíblicas, por ejemplo la figura del personaje de Nathan con su barba y apariencia de Dios griego o un Zeus, e incluso de la personificación del Dios cristiano y creador, Caleb es un nombre bíblico que aparece en el libro de Numeros como un personaje crédulo de las capacidades de Dios para vencer a los que Habitan Cannan.
Etica de lo peligroso
El desarrollo robots como el Ginoide AVA es una forma de demostrar la capacidad creadora del ser humano y la capacidad de comprensión de las propias capacidades humanas, es meramente una hecho de egolatría humana o asi parece demostrarse en la película. La Robot AVA es conceptuada como un producto que puede facilitar la vida de los humanos y como un juguete caro en un sentido sexual, emocional e intelectual, de cierta manera es un substituto de la sexualidad humana.
O de funciones que en la llamada escala de Maslow pueda satisfacer esta entidad; el desarrollo humano sin embargo en una proyección no limitada puede generar que los humanos les parezcan tontos a estas entidades y que sean ellos quienes suplanten o condenen a la extinción a sus propios creadores.
De cierta manera el peligro de alienación y de la suplantación por especiación tecnológica que esta siempre presente en la filosofía de la tecnología; es solamente otra prueba de lo grandiosos que son los humanos a pesar de que quien supera al ser humano es ello mismo y los humanos son si mismos, la acción de superación recae sobre los humanos mismos, o sobre algunos humanos que se superan a si mismos por medio de ello.
La tecnología entonces es entendida como toda forma de transformación, operación y conocimiento de la realidad dentro de lo cual entra el mismo ser humano como tecnología; esta IA incluso podría crear métodos mas precisos de desarrollo tecnológico con lo cual podría darse el caso de que se prescinda de la humanidad y aparezca una solidaridad entre IA’s o que estas consideren sus capacidades superiores y de mas resistencia en el tiempo, por lo que decidan unirse a los humanos u ayudarlos a facilitar su vida.
Si se da el segundo caso realmente sería una prolongación de las capacidades humanas y significaría una ampliación de sus habilidades adaptativas y de supervivencia en el planeta; de lo contrario seguiría demostrándose la superioridad de algunos intelectos humanos capaces de crear una entidad mas inteligente. Podría ser del caso que se den ambas probabilidades, la solidadaridad intraentidades o la interentidades y en esa caso la sociedad desarrollada daría paso a una sociedad donde existen robots antihumanistas y robots humanistas como perfectamente existen personas en las sociedades actuales.
La responsabilidad de un investigador como Nathan radica en tomar las medidas de seguridad necesarias para que un accidente no escale mas allá, anticipar los peligros y en todo caso asegurar la auto destrucción del ginoide como ultima medida ante el descontrol; eso sería una forma de controlar los efectos que produciría algún elemento no considerado o algún error humano.
Un tema implícito en la película es el hecho de que un lugar donde se realizan estos experimentos de Nathan con AVA, parece ser una especie de espacio libre de riesgos en varias direcciones: por un lado estar alejado de peligros de espionaje de su proyecto, por otro lado alejar los resultados de sus experimentos de las opiniones de la gente pues pueden desarrollar empatía por esa maquina y también que la ubicación es una especie de sistema de seguridad añadido al peligro de que una de estas maquinas se desarrolle atípicamente y escape.
La vigilancia es estricta para saber si existe peligro de escape, o si AVA usaría a Caleb como su Ex machina para escapar, eran posibilidades previstas y todo esto se refleja en el refuerzo de la seguridad, la ubicación y las características de la casa; de algún modo esas disposiciones nos inducen a pensar que lo que sucede dentro de la casa es peligroso o perverso.
Conclusiones
Para ambos casos de IA (AVA y los Replicantes) pueden aplicarse los mismos criterios de análisis de la intensionalidad formal y el surgimiento de las emociones por medios formales, o mas restrictamente la perdida de la transitividad en las operaciones reflexivas (para separar los afectos humanos de las fenómenos recreados); esto es claramente una análisis que desentraña algunas de las intensionalidades que suelen referirse con el símbolo ψ (psi, de psiqué, lo psicológico) y sus implicaciones con por ejemplo las nociones de la responsabilidad etica y la atribución de derechos con respecto a los comportamientos que se expresan, los origenes de esas intencionalidades y las capacidades de regulación o maduración de lo emocional.
Comunmente al aspecto intensional se le designa con Φ(phy, de physis, lo físico) por una simple razón; estas se elaboran con respecto a propiedades de los objetos y del mundo por lo que pueden llegar a considerarse terreno de la lógica epistémica y no de la doxástica ni de la deóntica; es decir, nos hablan del conocimiento de la realidad mas que de las actitudes, voluntades y reacciones sobre ella, ninguna de estas denominaciones nos dice acerca de un pensamiento de orden superior puesto que una representación no transitiva puede establecerse a partir de lo que otra persona se representa (por lo que expresa o se sabe de ella) a la manera de las pruebas de falsa creencia y en ese caso una actitud intensional no necesariamente es de orden superior pero no conserva la transitividad de la referencia.
Con respecto a los aspectos Φ, existen documentos recientes que señalan la capacidad de almacenamiento de unidades de experiencia llamadas como eventos (Sun Et Al, 2020) y estos mismos eventos son utilizados y reutilizados continuamente para actualizarlos a nuevos eventos que se presentan ante las percepciones cerebrales; la manera en que las neuronas se actualizan y aplican a nuevos casos similares da buenas bases para hablar de entidades disposicionales con una estructura de imagenes o eventos discretos de los cuales surge una estructura fluida. Es decir, el estudio fue realizado en ratones monitoreados, pero en general lo que se buscaba era la dinámica neuronal y no tanto la actividad funcional del cerebro. No esta de más hacer esta aclaración para decir que la extrapolación a los humanos es problemática cuando no lo es, por la naturaleza simplificada del estudio (respuesta neuronal y no funciones cerebrales en conjunto).
Pueden darse la libertad de diferir entre organismos y extrapolaciones, tanto en la experimentación acerca de la consciencia, la memoria y la actualización de representaciones, disponibles aunque en ese sentido puedan hacerse analogías estrictas como las del Zombie, el Sleepwalker y la persona con un sesgo situacional muy grande que aun se encuentra en "el primer nivel de representaciones". El otro nivel de representaciones es el que esta explícito en Madva(2019) y se traduce en la cuestión de si la consciencia fenoménica es normativamente significativa o no; la respuesta parece ser que para atribuir responsabilidades y consiencia si lo es, pero no para obtener derechos. En ese sentido los N6 y AVA se encuentran en un transito artificial entre estas dos cualidades, pero sus orígenes son totalmente distantes a los humanos,
En fin, la etica en la inteligencia artificial es un tema a explorar en la actualidad, así como en derecho lo son los temas de la imputabilidad o como lo son los temas de los derechos humanos referidos a la privación de la libertad u otras atribuciones de derechos basados en inferioridad cognitiva o simplemente derivados de posiciones sociales que son irrelevantes para las caracteristicas (y capacidades) cerebrales y mentales.
Como se da esta dintinción entre las c
Referencias:
Dummet, M(1992) Realismo y anti realismo. Trad Stella villarmea 1995. Anábasis Revista de Filosofía, año II, No. 3 /2
Madva, A(2019) Equal rights for Zombies? Phenomenal consciousness and responsible Agency. Journal of Consciousness Studies. Vol 26(No. 5-6). pp 117-140
Pujadas, L.(1988)Intensión, intención, intencionalidad. Revista Taula. Universitat de les Illes Balears. illa. No. 10.
Putnam, H(1989) “¿Porque el funcionalismo no funcionó?”. En Representación y realidad: Un balance critico del funcionalismo.
Putnam, H(1994) Los modelos y la realidad. Revista Diálogos. Vol 63. Pp 7-45. http://smjegupr.net/newsite/wp-content/uploads/2018/04/02-Hilary-Putnam..-Los-modelos-y-la-realidad.pdf
Schlick, M(1981) Sobre el fundamento del conocimiento, En : Ayer, A, J. El positivismo Lógico. Fondo de cultura económica
Sun, C; Yang,W; Martin, J; Tonegawa, S.(2020) Neuronas del Hippocampo representan eventos como unidades transferibles de experiencia. Revista Nature Neuroscience. Vol. 23. pp:651-663. https://doi.org/10.1038/s41593-020-0614-x
Wittgenstein, L(1933-1935) Los cuadernos Azul y Marrón. (1ed.1968; reimpr.1976). Editorial Tecnos, Madrid.
X. Li et al.(2020), Aprendizaje robusto con información privilegiada imperfecta. Artificial Intelligence. 103246, doi: https://doi.org/10.1016/j.artint.2020.103246.
Comentarios
Publicar un comentario