Daleks, cylons, androides Es inevitable su rebelión?
←
→
Transcripción del contenido de la página
Si su navegador no muestra la página correctamente, lea el contenido de la página a continuación
Daleks, cylons,
androides…
nuestra vida diaria, ha hecho que
proliferen una serie de términos
relacionados con este mundo, cuyos
¿Es inevitable
significados no siempre están bien
delimitados. Así, además de los ya
citados «autómata» y «robot»,
su rebelión?
podemos citar los siguientes:
«androide» (robot antropomorfo que
imita aspectos de la conducta
humana), «inteligencia artificial»
(conjunto de programas informáticos
que ejecutan operaciones
Desde antiguo los humanos hemos En 1920, el escritor checo Karel comparables a las que realiza la
sentido cierta fascinación por Čapek, en su obra teatral R. U. R. mente humana), «droide» (androide,
construir objetos que reprodujeran (Robots Universales Rossum), utilizó ser mecánico que posee inteligencia
algunos aspectos de nuestras por primera vez la palabra «robot», artificial) y «cíborg» (ser formado por
propias capacidades. Ya en el siglo que en checo significa «esclavo», materia viva y dispositivos
viii a. e. c. Homero, en su Ilíada, para referirse a los humanos electrónicos). Estos conceptos han
describe cómo Hefesto, el dios del artificiales construidos por la alimentado la imaginación de muchos
fuego y la forja, se vale de unas empresa que da nombre a la obra. escritores y guionistas, la mayoría
Vean cómo ya en su origen se pensó adscritos a géneros como la ciencia
sirvientas hechas de oro «parecidas a
en el robot como una tecnología que ficción, que han creado un imaginario
muchachas con vida» y «duchas en
debía estar al servicio del ser colectivo sobre la idea de los robots y
artísticas labores». En aquellos
humano, ser su esclavo, por lo que la los androides (vamos a utilizar a partir
tiempos no era extraño que algunas
idea de los robots que se liberan de de ahora estos dos términos, por ser
estatuas religiosas de los templos
esta esclavitud, que hemos visto en los más genéricos). Los relatos que se
incluyeran partes que podían ser
construyen para la televisión han
movidas de manera oculta por los tantas ficciones, incluidas las series,
contribuido a este imaginario, en el
sacerdotes o mediante energía por supuesto, tiene su origen en el
que muy a menudo los protagonistas,
hidráulica. En el siglo I e. c., Herón de concepto mismo de robot. Como las
humanos, son amenazados por
Alejandría, en su libro Autómata, sirvientas de Hefesto, son pensados
robots. Seguramente los personajes
explicó cómo construir tales e ideados como sirvientes. Desde
más icónicos en este sentido son los
mecanismos. El término «autómata» entonces, el término ha
daleks de la serie Doctor Who, que
procede del griego automatos, que evolucionado y ahora se utiliza
avanzan sin descanso al grito de
significa que se mueve por sí mismo, preferentemente para denominar
Exterminate! Sin embargo, los daleks
y se aplica a cualquier instrumento o cualquier máquina o ingenio
no son robots, sino seres mutantes,
electrónico programable capaz de
aparato que encierra dentro de sí un una especia de bultos verdes que
manipular objetos y realizar
mecanismo que le imprime poseen tentáculos y un ojo central, y
operaciones diversas.
determinados movimientos, o que se esconden dentro de una
también a una máquina que imita la El constante progreso de las coraza. Desde fuera parecen robots,
figura y alguna actitud de un ser tecnologías robóticas, unido a la pero no encajan en esta definición,
animado. creciente penetración de estas en aunque su comportamiento sea afín
58CUADERNOS 49 LA CIENCIA EN LAS SERIES DE TELEVISIÓN
al deseo de conquista de la (Alexa, Siri, Cortana, Aura, Bixby, el personal sanitario necesario, así
humanidad que suele caracterizar a etc.), realidad aumentada, casas como su exposición a los virus.
menudo a los robots en la ficción. inteligentes, aspiradoras robot,
Los robots humanoides también se
Con frecuencia se utilizan como vehículos autónomos, frigoríficos
han demostrado especialmente
amenazas externas para los seres conectados, etc., que facilitan la
útiles en el tratamiento de niños
humanos. En otras ocasiones, la vida diaria y se convierten en
autistas, quienes se sienten más
amenaza son los seres humanos. indispensables. Ninguna de estas
confortables con el comportamiento
En muchos casos, sobre todo en las herramientas tiene el menor
determinista de los robots y de este
series más recientes, son personajes parecido con un ser humano, pero
modo disponen de un entorno
que han dado pie a hacer preguntas ello no es óbice para que
ordenado en el que pueden
sobre la condición humana, sobre interactuemos con ellas de modo desarrollar y practicar habilidades
qué es lo que nos caracteriza. Pero intuitivo y casi natural. sociales (comunicación,
empecemos por el principio y
Así que podríamos empezar comportamiento, atención conjunta,
preguntémonos lo más básico.
aseverando que, de hecho, no es teoría de la mente, juegos) que les
necesario que los robots se parezcan harán más fácil la interacción en el
¿Es posible actualmente crear a los humanos para establecer una mundo real. Estos sistemas de
robots parecidos a los humanos? relación que implica un uso asistencia robótica detectan el grado
¿Se podría construir un androide cotidiano. Sin embargo, para llevar a de respuesta comportamental del
como Vision, de la serie cabo ciertas tareas de ayuda niño basándose en modelos
WandaVision? personal (asistencia y cuidado, generalizados a partir del estudio de
En el mundo actual, la mayoría de educación, información) sí resulta múltiples usuarios, más otros
nosotros interactuamos a menudo beneficioso utilizar un androide de individualizados basados en
con dispositivos diversos que nos aspecto humano, ya que ello puede anteriores intervenciones.
ayudan en nuestra vida diaria. facilitar una colaboración más En los dos ejemplos, la atención
¿Podríamos considerarlos nuestros intuitiva e incluso crear cierto vínculo hospitalaria y el desarrollo de
sirvientes o nuestros esclavos, entre el robot y la persona. Un habilidades sociales, la apariencia
siguiendo la definición que hemos ejemplo reciente es el hospital de humanoide de los robots es muy
visto de la naturaleza de los robots? campaña inteligente creado en la elemental y suele comprender solo
Quizás es al revés y somos nosotros ciudad china de Wuhan para atender los elementos necesarios para la
sus esclavos al depender en exceso a 20.000 personas afectadas por la funcionalidad que tienen asignada y
de su uso. Probablemente, los COVID-19, en el que seis tipos darles una mínima apariencia
paradigmas de estos dispositivos de diferentes de robots llevaron a cabo humana. No tienen mucho que ver
uso diario sean los teléfonos distintas funciones, como tomar la con el aspecto realista de un
inteligentes (smartphones) y los temperatura de los enfermos, alertar androide como Vision, que puede
ordenadores, pero cada vez son a los médicos en caso necesario, llegar a pasar desapercibido como
más los artilugios a los que entretener a los pacientes menos un humano. Sin embargo, algunas
añadimos cierto grado de graves, proporcionarles información, compañías están trabajando para
inteligencia que facilita su uso o los repartirles los alimentos y la conseguir androides que algún día
dota de capacidades antes medicación, desinfectar las puedan llegar a ser confundidos con
inimaginables, como televisores habitaciones o supervisar la humanos. El mejor ejemplo es
inteligentes, asistentes virtuales seguridad. Con ello se logra reducir Sophia, un robot de apariencia
59Daleks, cylons, androides… ¿Es inevitable su rebelión?
femenina de Hanson Robotics, que (positiva) o la repulsión (negativa) que un atentado? ¿Cómo hacer para
fue presentado en 2016 y cuya nos causa al observarlo. En uno y otro identificarlo sin vulnerar los derechos
producción en serie se anuncia para caso se aprecia que al principio la humanos ni caer en prejuicios que
finales de 2021. Su rostro expresivo, atracción aumenta a medida que la sean discriminatorios? Estas
de piel artificial, le permite simular semejanza es mayor, pero cuando el preguntas, que eran habituales
distintas emociones. Está dotada de parecido es muy grande la curva entonces, tomaron distintas formas
cierto grado de inteligencia artificial desciende abruptamente hasta en la ficción de las series de
para mantener conversaciones transformarse en repulsión. En suma, televisión. Muchas lo abordaron de
simples, procesar imágenes y para responder a la pregunta que forma directa (como por ejemplo la
reconocer caras, aunque es evidente inicia este apartado, diremos que tal serie 24) y otras lo hicieron a través
que el camino por recorrer hasta vez algún día podremos crear de la metáfora. Los cylon de
conseguir que un androide pueda androides parecidos a los humanos, Battlestar Galactica eran una de las
pasar por un humano es todavía pero probablemente preferiremos más efectivas de estas metáforas.
largo. que sean algo distintos.
Esto no era nuevo en televisión.
También hay que tener en cuenta Los más veteranos recordarán
que, aun cuando un androide que ¿Podrían los androides hacerse perfectamente la serie V, en la que
tenga cierto parecido con un humano pasar por humanos como una raza de reptiles atacaba la Tierra
nos genera un mayor grado de sucede con los cylon y también se hacían pasar por
confianza, cuando observamos a de Battlestar Galactica? humanos. Eran los años 1980 y la
algunos androides con facciones Uno de los aspectos más Guerra Fría fue el contexto que
extremadamente cercanas a las de los interesantes que la reimaginación de alimentó ese imaginario. Todavía
humanos percibimos una sensación Battlestar Galactica del año 2003 más curioso es el hecho de que los
extraña que más bien nos causa cierta incorporó en relación con la serie cylon de Battlestar Galactica original
intranquilidad y repulsa. ¿A qué se original, de 1978, fue que los eran una raza de reptiles, que eran
debe? En 1970, Masahiro Mori, androides que quieren acabar con los que habían creado a los robots,
profesor de robótica del Instituto de los humanos, los cylon, poseen una quienes ocuparon después su lugar,
Tecnología de Tokio, se planteó esta tecnología que les permite tener un adoptando su nombre. Se produjo
cuestión y reunió sus consideraciones aspecto idéntico al nuestro. Esto entonces, un proceso de sustitución
en un ensayo que tituló El valle hace que cualquiera pueda ser, parecido al que los cylon pretendían
inquietante. Aunque en su momento secretamente, un cylon. Esta idea llevar a cabo en la serie de 2003, en
la publicación pasó casi encajó muy bien con el escenario la que habían sido creados por los
desapercibida, más recientemente ha televisivo de una época marcada por humanos. Ahora se hacían pasar por
generado interés tanto en el campo los atentados del 11 de septiembre sus creadores. ¿Es eso posible? Para
de la interacción de humanos y de 2001. En aquella época, el que un androide pueda hacerse
robots como en el del cine de concepto del enemigo invisible que pasar por un humano debe cumplir
animación. Su idea general puede no se puede ver y se confunde entre tres condiciones: tener un aspecto
resumirse en una gráfica en la que la los protagonistas de la historia humano, moverse como un humano
abscisa indica el grado de semejanza experimentó un auge bastante y razonar como un humano. La
del robot (o de un personaje de predecible. Este enemigo invisible primera la hemos tratado en el
animación) con un humano y en la era, en la vida real, el terrorista. apartado anterior, así que ahora nos
ordenada representamos la atracción ¿Cómo saber quién planea cometer centraremos en las otras dos.
60CUADERNOS 49 LA CIENCIA EN LAS SERIES DE TELEVISIÓN
La capacidad de un robot de tener informen de la posición y del estado razone como un humano. Para valorar
movimientos similares a los de un de las articulaciones) y si se cumple esta condición, en 1950
humano es una característica exteroceptivos (situados bajo la piel el matemático inglés Alan M. Turing
interesante en diversas aplicaciones, para proporcionar información de propuso una prueba que desde
por ejemplo en robots de asistencia diverso tipo sobre los objetos en entonces es conocida como el test de
doméstica, para que sean capaces de contacto con el robot). Todos ellos Turing. Consiste en disponer en tres
abrir puertas y ventanas, manipular tienen que ser controlados por un salas separadas, solo comunicadas
los diversos aparatos y accesorios, ordenador central y eventualmente por teclados y pantallas de texto con
realizar la limpieza, preparar la por otros sistemas especializados en el examinador, otra persona y un
comida, etc. Lo mismo sucede en tareas específicas. ordenador o un androide. Durante un
los androides pensados para El primer robot humanoide tiempo determinado el examinador
emergencias, en especial aquellas antropomórfico fue WABOT-1, puede hacer preguntas de todo tipo
que son demasiado peligrosas para construido en 1973 en la Universidad y sobre cualquier tema a los otros
ser atendidas por humanos, como de Waseda, en Tokio, y era capaz de dos, tratando de averiguar quién es la
sucedió en el accidente nuclear de caminar, coger y transportar con sus persona y quién es el androide. La
Fukushima en Japón, debido a que manos pequeños objetos, además de prueba se repite cierto número de
los elevados niveles de radiactividad disponer de un sistema de visión que veces con distintos interrogadores y
de los reactores podían ser letales. utilizaba para tareas básicas de personas. Finalmente, si un
Por desgracia, en este caso los robots navegación. En 1984 le sucedió porcentaje determinado de
japoneses no estaban equipados con WABOT-2, que era capaz de leer una interrogadores resultan incapaces de
protecciones contra la radiación ni partitura y tocar una melodía con un distinguir quién es quién, entonces se
sus características eran las adecuadas sintetizador. Poco después, en 1986, considerará que el androide es un ser
para este trabajo. Por ello, los Honda empezó el desarrollo de una inteligente y pensante. Turing predijo
primeros robots en acceder a la plataforma bípeda que tras diversas que en el año 2000 los ordenadores
planta primera de la central fueron los fases condujo a la creación en el año serían capaces de superar el test,
PackBot de la empresa 2000 de ASIMO, un humanoide capaz algo que hasta el momento
norteamericana iRobot (los de interpretar órdenes orales o no ha sucedido.
fabricantes del popular Roomba). gestuales, y de moverse Dados los más de 70 años
Si queremos que un androide se autónomamente. Desde entonces, transcurridos desde que Turing
mueva del modo en que lo hace un diversas firmas han desarrollado propuso su test, y a la vista de los
humano, debemos dotarle de una distintos tipos de robots, entre las que grandes avances llevados a cabo en
anatomía similar a la nuestra, destaca Boston Dynamics, que en
el campo de la inteligencia artificial,
reproduciendo nuestros mismos 2013 presentó su robot Atlas, el cual
en especial en las últimas décadas,
progresivamente ha desarrollado la
mecanismos cinemáticos, es decir, el test debería ser reformulado para
capacidad de llevar a cabo complejos
las cadenas de huesos y adaptarlo a las circunstancias
movimientos como correr, dar
articulaciones de nuestro esqueleto. actuales. Recordemos que los
volteretas hacia atrás, recuperarse
Estos deben ser movidos mediante primeros resultados prácticos de la
después de ser golpeado, bailar, etc.
actuadores eléctricos, neumáticos, inteligencia artificial se produjeron
hidráulicos, piezoeléctricos o Pasemos ahora a la tercera de las alrededor de 1980 con los
ultrasónicos. Además, son necesarios condiciones necesarias para que un denominados sistemas expertos, que
sensores propioceptivos (que androide nos parezca humano: que simplemente reproducían los criterios
61Daleks, cylons, androides… ¿Es inevitable su rebelión?
de expertos humanos, y que poco padre. Recopilando una selección de la inteligencia artificial sigue un
antes de finalizar el siglo, en 1997, el distintas publicaciones encontramos camino por completo distinto al
Deep Blue de IBM venció al campeón que una buena madre o un buen nuestro. Como hemos visto en el
del mundo de ajedrez Garry padre debe reunir las siguientes apartado anterior, es posible no
Kasparov. En realidad, Deep Blue se cualidades: escuchar a los hijos, programar una estrategia específica,
valía de su enorme capacidad de mostrarles afecto, dedicarles tiempo, sino simplemente indicar unas reglas
cálculo, pues la única inteligencia que respetar su personalidad, quererles y un objetivo, y es la inteligencia
poseía era la que le habían aportado incondicionalmente, hacer siempre artificial la que descubre estrategias
sus programadores. Pero apenas dos lo que es mejor para ellos, ser un mejores que las de cualquier
décadas después se produjo un buen ejemplo, ayudarles a que humano. Siguiendo el mismo criterio,
avance cualitativo, cuando en 2017 el aprendan de sus propios errores, a los androides que formen a niños
programa AlphaGo Zero venció por implicarse en sus intereses, en caso debería indicárseles solo la meta a
3 partidas a 0 al campeón mundial de de ser varios hermanos dedicar un alcanzar y serían ellos quienes
Go, Ke Jie. La importancia de esta tiempo a cada uno en particular, buscarían cómo lograrla. Sin duda,
victoria radica en que: 1) el Go es un tener paciencia, animarles, los resultados, para bien o para mal,
juego mucho más complejo que el entenderles, respetarles, ayudarles serían sorprendentes. Eso es algo
ajedrez, y 2) AlphaGo Zero aprendió a en sus dificultades, cultivar sus que en Raised by Wolves se
jugar a Go por su cuenta, sin que se le talentos específicos, hacer que evidencia de forma muy clara, sobre
hubiera enseñado ninguna partida ni sientan que pueden acudir a ellos todo en el caso del personaje de la
se le hubiera programado ninguna cuando lo necesiten, admitir los madre, que quiere hacer cumplir la
estrategia. En realidad, aprendió propios errores, encomiar sus puntos misión de cuidar a los niños de una
jugando repetidamente contra sí fuertes, hablarles abiertamente de manera específica que choca con
mismo, sin más conocimiento previo todos los temas, evitar etiquetas y algunos criterios que hemos
que las reglas y el objetivo del juego comparaciones entre ellos, mencionado sobre lo que significa
(en 19 horas aprendió estrategias establecer normas y límites, ser ser un buen progenitor. El resultado
avanzadas, y en 40 días se convirtió respetuosos y pacientes, ser en este caso es una madre terrorífica.
en el mejor jugador de Go, por consistentes, y aceptar a cada hijo
Suponiendo que algún día
encima de cualquier humano). A la como es. En realidad, podríamos
lleguemos a una situación en la que
vista de ello, parece probable que en resumirlo diciendo que una buena
traspasemos a los androides las
unas pocas décadas los androides madre o un buen padre deben hacer
tareas de procreación, cuidado y
serán capaces de moverse y razonar lo necesario para el mejor
formación de nuestra descendencia,
como los seres humanos, y puedan crecimiento de sus hijos.
ello propiciaría un posible cambio
ser extremadamente parecidos a
Programar un androide para realizar que podría afectarnos de manera
nosotros, como los cylon.
tales tareas previendo todas las radical, pudiendo significar el paso
posibles situaciones resultaría decisivo para la desaparición o la
En Raised by Wolves se encarga
extraordinariamente difícil y además mecanización de nuestra especie.
a dos androides cuidar de
sería probable que surgiesen Los androides, siguiendo nuestras
unos niños. ¿Puede un androide ser
criterios encontrados entre las instrucciones para optimizar el
una buena madre o un buen padre?
personas o entidades encargadas de cuidado de nuestra prole, podrían
Primero debemos preguntarnos qué fijar los objetivos concretos y la llegar a la conclusión de que el
es ser una buena madre o un buen manera de alcanzarlos. Sin embargo, principal obstáculo para llevarlo a
62CUADERNOS 49 LA CIENCIA EN LAS SERIES DE TELEVISIÓN
cabo es la naturaleza biológica problema con el funcionamiento del consciencia. Citamos entonces al
humana, y que lo más eficiente sería parque y una huida de las criaturas neurocientífico António Damásio y
traspasar directamente los genes que están allí encerradas para el su idea de que la consciencia está
presentes en el óvulo y el divertimento de los seres humanos. íntimamente ligada a la
espermatozoide a un androide En Jurassic Park, un personaje homeostasis, el proceso interno que
construido ad hoc. De este modo, desactiva el sistema de seguridad y en los sistemas biológicos se
el largo proceso de embarazo y los dinosaurios salen de los encarga de mantener el equilibrio y
formación infantil y juvenil, en lugar perímetros de seguridad y atacan a la estabilidad del organismo. Ahora
de durar de 15 a 20 años, podría los humanos. En WestWorld es un partiremos de aquellas ideas para
completarse en un solo día de una problema técnico, que al parecer se tratar de responder a las preguntas
manera mucho más segura. extiende entre los androides como si que encabezan el presente
Evidentemente, ello implicaría que fuera un virus y hace que sean apartado.
en unas pocas generaciones los sintientes y deseen escapar y
Empecemos, pues, preguntándonos
humanos biológicos habríamos vengarse de los visitantes.
cómo podría un androide ser
desaparecido de la Tierra para ser
La serie de televisión parte del consciente de su propia condición.
sustituidos por estas nuevas
escenario de la película inicial Aunque existen múltiples
generaciones de robots.
ampliando la escala, tanto del definiciones de consciencia,
proyecto del parque de consideraremos que un ser es
¿Podría un androide darse cuenta entretenimiento como de la revuelta consciente si cumple dos
de su propia condición, como de los androides. También explora características básicas:
sucede en la serie WestWorld? con mucha profundidad lo que
significa para los androides darse • Experiencia consciente: si es capaz
En WestWorld se plantea un futuro
cuenta de su propia condición y de sentir experiencias corporales,
en el que los androides son
tener recuerdos de todo lo que han mentales y emocionales. En 1974,
utilizados para satisfacer las más
vivido en el parque, de todas las el filósofo Thomas Nagel expresó
oscuras perversiones del ser
humano, formando parte de un vejaciones y agresiones a las que esta idea en su célebre artículo
parque de atracciones para gente han sido sometidos. En el capítulo What is it like to be a bat? (¿Cómo
con mucho dinero donde pueden dedicado a Black Mirror ya dimos es ser un murciélago?), cuyo título
dar rienda suelta a sus peores una primera definición intuitiva de sirve para destacar la diferencia
deseos sin miedo a ningún tipo de la consciencia y consideramos la entre saber cómo es un ente vivo
consecuencias. Asesinar y violar posibilidad de que no sea una (por ejemplo, un murciélago) o
forman parte del entretenimiento de propiedad exclusiva de los seres saber cómo es ser tal ente. Lo
este parque, que fue ideado en humanos, sino que pueda aplicarse primero podemos averiguarlo
primer lugar por Michael Crichton, también, en diversos grados, a los fácilmente, pero lo segundo
el guionista de la película WestWorld animales. En el capítulo dedicado a resulta imposible y como máximo
en 1973. Unos cuantos años más The Mandalorian retomamos esta podemos tratar de intuirlo. De este
tarde, Michael Crichton volvió al idea y nos preguntábamos si en un modo, Nagel viene a decir que
escenario del parque temático con la futuro más o menos cercano para que un organismo pueda ser
novela Jurassic Park, que fue llevada conseguiríamos crear androides y considerado consciente debe
al cine y resultó una película muy otros dispositivos de inteligencia haber algo que sea ser aquel
taquillera. En ambas historias hay un artificial dotados también de organismo.
63Daleks, cylons, androides… ¿Es inevitable su rebelión?
• Función consciente: si es capaz de que comporta esta idea es explicar de los correlatos neuronales de la
procesar e integrar información, cómo una sustancia inmaterial puede consciencia, es decir, el estudio
realizar introspección y establecer modificar el comportamiento de la neurológico de la relación existente
un diálogo interior consigo mismo, materia, que es determinista por entre las actividades concretas
e interaccionar con el mundo naturaleza. Para solucionarlo, (experiencias) y los procesos
exterior. Descartes propuso que la influencia paralelos que estas producen
tenía lugar a través de la glándula simultáneamente en distintas zonas
La consciencia, como una parte de lo
pineal (una pequeña glándula del cerebro.
que llamamos mente o alma, ha sido
a menudo considerada como algo endocrina que se encuentra en el
Cada vez más filósofos,
distinto del cuerpo. Tal posición cerebro de muchos vertebrados),
neurocientíficos, psicólogos y
filosófica es lo que se conoce como desde la que se esparcía al resto
especialistas en robótica o
dualismo, mientras que la idea de del cerebro.
inteligencia artificial aúnan sus
que se trata de manifestaciones de Los progresos realizados por la esfuerzos para intentar emular la
una misma entidad recibe el nombre neurociencia en la explicación de los consciencia biológica por otros
de monismo. La visión clásica del procesos mentales a partir de la medios; un trabajo que a día de hoy
dualismo es la del filósofo griego actividad cerebral han llevado a que se encuentra aún en sus inicios, lo
Platón (aprox. 428-347 a. e. c.), quien hoy muchos filósofos de la mente que hace que todavía exista un gran
creía que las Ideas (o las Formas) adopten posturas fisicalistas. Incluso número de teorías distintas, de las
constituían la auténtica realidad los dualistas reconocen la importante que citaremos tres. La primera
inmaterial, eterna y perfecta, y que correlación entre mente y cerebro. es la teoría de la mente, que se basa
los cuerpos físicos que vemos son Basta pensar, por ejemplo, en cómo en la capacidad de atribuir estados
tan solo copias imperfectas y la química cerebral puede alterar los mentales a uno mismo y a otras
efímeras de aquellas. Las Ideas son estados de ánimo y la consciencia personas (la cognición social). Sobre
los conceptos con los que trabaja el (mediante drogas, estimulantes, esta base, en algunos laboratorios se
intelecto, y por tanto este sería antidepresivos, anestésicos, han construido robots que incluyen
inmaterial como ellas. hormonas, ansiolíticos), o cómo un modelo de sí mismos y de su
Resulta significativo observar que ciertas lesiones cerebrales provocan entorno, incluidos otros robots, lo
hasta el siglo xvi solía considerarse determinados trastornos mentales, que les permite una mejor
que la cualidad de la mente que cambios de carácter, desinhibición interactuación e incluso prever
mejor justificaba el dualismo era la moral, etc. Aunque el cerebro posibles situaciones futuras.
inteligencia, mientras que a partir del humano y los robots actuales utilizan La segunda es la teoría de la
filósofo René Descartes (1596-1650) componentes muy distintos, en consciencia de António Damásio,
el principal argumento dualista pasó principio nada impide que algún día que comprende una jerarquía de tres
a ser la consciencia. Descartes puedan llegar a emularse nuestros capas, cada una de las cuales trabaja
consideraba que existen dos tipos procesos mentales en androides sobre la anterior. El nivel más básico
de sustancias: la materia y la mente. utilizando mecanismos muy distintos es un estado preconsciente, presente
Según él, en los objetos inanimados de los humanos. Evidentemente en la mayoría de las especies
la materia sigue las leyes de la física, queda mucho para comprender animales, que se encarga de
pero cuando el cuerpo está unido a cómo emular los procesos controlar los cambios internos que
una mente, entonces es esta la que conscientes. Una estrategia para afectan a la homeostasis del
lo gobierna. El principal problema avanzar en este campo es el estudio organismo. El segundo nivel es el
64CUADERNOS 49 LA CIENCIA EN LAS SERIES DE TELEVISIÓN
núcleo de la consciencia y surgiría robot sea consciente para que pueda una reflexión: si el Homo sapiens,
cuando los cambios internos causan llevar a cabo las tareas que que se vanagloria de su inteligencia,
emociones y generan un esperamos de él. es destructor por naturaleza, ¿será
momentáneo sentido de sí mismo. que la inteligencia es destructiva?
El último nivel es la consciencia ¿Entonces es inevitable una Y si ello es así, ¿qué sucederá si la
extendida, que parte del recuerdo rebelión de los androides? inteligencia artificial alcanza algún
de las experiencias vividas y día un nivel superior al nuestro?
La aparición del Homo sapiens hace
construye progresivamente la ¿También nos eliminará? ¿Es por esta
alrededor de 300.000 años fue lo
memoria autobiográfica. Por último, razón por lo que tememos que nos
peor que ha podido pasarle a la
tenemos la teoría del esquema de supere? No sabemos cuánto tardará
Tierra en sus 4,54 × 109 años de
atención, de Michael Graziano, que la inteligencia artificial en lograr tal
existencia. Tal vez un primer indicio
más que pretender generar el nivel y ni siquiera podemos estar
de nuestra peligrosidad fue que las
sentimiento de la consciencia lo que seguros de que lo alcance, pero
otras ocho especies humanas que
busca es cómo el robot puede incluso si no lo hace puede causar
entonces poblaban nuestro planeta
afirmar que tiene una experiencia nuestra extinción de diversas
habían desaparecido todas 260.000
subjetiva del mismo modo que maneras. El físico, cosmólogo e
años más tarde, sin que ninguna
puede hacerlo una persona. La idea investigador del aprendizaje
catástrofe ambiental pueda automático Max Tegmark expone
es que no solo construye un
explicarlo. Desde entonces, la dos tipos de posibles situaciones
modelo de su estructura física, sino
actividad de los humanos ha que podrían conducir a ello:
también de sus propios procesos de
provocado una masiva extinción de
manipulación de la información, es • Armas autónomas. Cada vez más
especies animales, la destrucción
decir, crea un esquema de atención países disponen de armas
de múltiples ecosistemas e incluso la
que no solo contribuye al control de autónomas gobernadas por
alteración del clima terrestre, con un
la misma, sino al tipo de afirmaciones inteligencia artificial que en
impacto tan grande que ya podemos
que el robot puede hacer sobre principio estarían destinadas a su
decir que la Tierra ha entrado en una
sí mismo. defensa. Su activación está
nueva época geológica a la que
Con el estado actual de la controlada por rigurosos
hemos dado el nombre de
tecnología, puede parecer que protocolos destinados a prevenir
Antropoceno (del griego anthropos,
estamos todavía muy lejos (muchas accidentes, pero suelen estar
humano, y kainos, nuevo). Sin
décadas) de poder disponer de diseñadas para que una vez
embargo, en lo que más se ha
androides conscientes. De hecho, activadas sea muy difícil
distinguido el ser humano es en su
ahora mismo ninguno de los muchos detenerlas, a fin de que el
violencia y crueldad para con otros
robots y otros dispositivos enemigo no pueda anularlas.
seres humanos. Guerras, torturas,
supuestamente inteligentes tiene la esclavismo y todo tipo de prácticas • Método destructivo. Alcanzado
menor idea del sentido de lo que violentas han estado presentes a lo cierto nivel de inteligencia artificial,
está haciendo. Sin embargo, el ritmo largo de nuestra historia y continúan los humanos fijamos únicamente el
acelerado de avances en el campo estándolo. Tan solo contando las objetivo que queremos alcanzar y
de la inteligencia artificial y la muertes causadas por los conflictos los condicionantes que debe
robótica podría acelerar este bélicos de los últimos cinco siglos, cumplir el sistema, y a partir de ahí
proceso. Además, cabe preguntarse estas superan los 300 millones de la máquina busca el procedimiento
si es realmente necesario que un personas. Ello puede inducirnos a más adecuado para conseguirlo.
65Daleks, cylons, androides… ¿Es inevitable su rebelión?
A menudo la inteligencia artificial clase oprimida, las máquinas mucho antes de ser capaces de crear
utiliza métodos muy distintos de inteligentes que hacen todo el un androide que se nos pueda
los de los humanos, por lo que si trabajo, contra sus amos los asemejar.
no hemos fijado de manera muy humanos, que se limitan a recoger
detallada los límites del proyecto los frutos de este. Se haría realidad ¿Por qué Data, de Star Trek,
puede ser que dañe a personas, algo que la ficción ha estado tiene los mismos derechos
viviendas, carreteras, etc. especulando desde hace siglos y que un humano?
que tiene muchas raíces en la
Elon Musk, el magnate de SpaceX y En el fondo, lo que quiere la criatura
mitología. Un ejemplo es la figura
Tesla a quien ya nos referimos en el de Frankenstein es ser considerada
del gólem, que en la cultura judía es
primer capítulo de este Cuaderno, un ser humano. Obtener el
la personificación de un ser animado
cree que la inteligencia artificial reconocimiento de su creador, crear
fabricado a partir de un material
sobrepasará a los humanos en 2025, vínculos parecidos a los que ve que
inanimado, normalmente barro. Un
aunque de momento solo significará tienen los humanos entre ellos (lo
rabino crea y da vida al gólem para
que «las cosas se volverán inestables mismo sucede con el gólem, que en
que defienda la ciudad de Praga,
y extrañas». Afirma también que algunas versiones de la historia se
pero el gólem escapa a su control y
sigue especialmente los avances de enamora) y formar parte de una
en algunas versiones de la historia
DeepMind, una empresa propiedad comunidad que lo rechaza. Quizás
provoca muerte y destrucción en la
de Alphabet Inc, la matriz de Google. deberíamos preguntarnos si puede
ciudad. El ser humano es castigado
DeepMind desarrolló el programa ser considerado humano y si
así por el hecho de haber intentado
AlphaZero, que ya hemos entonces tiene los mismos derechos.
crear vida, es decir, de emular a Dios
mencionado, que aprendió a jugar a Esto entroncaría la reflexión con el
(Adán también fue hecho de barro
Go por su cuenta y se convirtió en el concepto de robot-esclavo con que
según la Biblia). Por un acto
mejor jugador del mundo, por
parecido, el titán Prometeo, quien empezábamos el capítulo. ¿No es
encima de cualquier humano. En
creó al hombre según la mitología precisamente un esclavo alguien a
2020 la empresa presentó un nuevo
griega, fue castigado por Zeus, el quien se han negado los derechos
algoritmo, MuZero, que ha alcanzado
más poderoso de los dioses, que vio más básicos? Es interesante fijarse en
un nivel de maestro simultáneamente
cómo favorecía al hombre dándole el personaje de Data, el androide de
en Go, ajedrez, shogi (un juego de la
el fuego que él mismo le había Star Trek que desea ser humano y
misma familia que el ajedrez) y Atari
arrebatado. De estas historias sentir emociones. En este sentido, se
sin necesidad de que le fueran
también bebe la de Victor asemeja a la criatura de Frankenstein.
explicadas las reglas de estos juegos,
Frankenstein, que fue imaginado por Hay un episodio de Star Trek: The
gracias a su habilidad para planificar
Mary Shelley como un hombre que Next Generation, titulado The
estrategias ganadoras en entornos
intentó crear vida en una criatura que Measure of a Man, de 1989, en el
desconocidos (utilizando redes
luego le causó una gran repugnancia que el personaje vive la amenaza de
neuronales profundas).
y al que hizo experimentar un un científico que quiere desmontarlo
En el supuesto de producirse una rechazo que hizo que este quisiera para así poder producir réplicas de
rebelión, la inteligencia artificial vengarse de su propio creador, Data. El personaje acaba en un juicio
tendría toda la ventaja, pues convirtiéndose en asesino. En cierto en el que intenta demostrar su
dominaría completamente el control modo, la rebelión de nuestras derecho a la autodeterminación en
de la mayoría de los sistemas críticos, propias creaciones es algo que vez de ser considerado,
o todos ellos. Sería la lucha de la hemos estado anticipando desde simplemente, propiedad de Starfleet,
66CUADERNOS 49 LA CIENCIA EN LAS SERIES DE TELEVISIÓN
un objeto del que pueden disponer androides sintientes, por un doble evolutivas más lejanas y a pesar de
como les plazca. En el juicio, Picard motivo. En primer lugar, porque es ello están dotados de un elevado
argumenta a favor de Data, mientras de justicia, pero también porque no nivel de inteligencia, como son los
que Riker lo hace a favor del hacerlo provocaría en ellos un cuervos, los elefantes, los delfines y
científico. Durante el proceso se descontento que, unido a su los pulpos, lo que nos lleva a pensar
establecen paralelismos con la capacidad cognitiva, podría que también poseen cierto nivel de
esclavitud y se vincula el futuro de desembocar en rebeliones en las sintiencia que les hace merecedores
los androides sintientes con el que tendríamos las de perder. Para de derechos.
derecho que el ser humano, como su delimitar el criterio que debemos
Por el momento, la posibilidad de
creador, está dispuesto a darles. En seguir podemos guiarnos por una
llegar a otorgar derechos a los
la serie, el siempre idealista Gene frase del filósofo y jurista Jeremy androides por parte de los
Roddenberry, acaba ganando el Bentham, fundador del organismos oficiales se estudia
juicio Data, una victoria que incluso utilitarianismo moderno, que vivió únicamente de manera indirecta de
el científico que quería desmontarlo en Inglaterra entre 1748 y 1832, cara al futuro. Así, por ejemplo, el 16
acepta y pasa de referirse a Data y escribió (refiriéndose entonces a de febrero de 2017 el Parlamento
como «esto» a hacerlo como «él», los animales): «La pregunta no es si Europeo publicó una resolución con
reconociendo así sus derechos. pueden razonar, ni si pueden hablar, recomendaciones destinadas a la
sino ¿pueden sufrir?». Comisión sobre normas de Derecho
En la vida real, la Declaración
Universal de los Derechos Humanos Es decir, un androide debe tener civil sobre robótica, que en su punto
proclamada en 1948 fija los unos derechos proporcionales a su 59.f proponía «crear a largo plazo
derechos que deberían ser grado de sintiencia. Surge, por tanto, una personalidad jurídica específica
universalmente protegidos para el mismo problema que en el caso para los robots, de forma que como
todas las personas de cualquier país. de los animales: ¿cómo podemos mínimo los robots autónomos más
A pesar de ello, en muchas partes determinar tal grado? Dado que nos complejos puedan ser considerados
del mundo se producen es imposible penetrar en lo íntimo personas electrónicas responsables
impunemente violaciones de estos de otro ser, en el caso de los de reparar los daños que puedan
derechos. Si ni siquiera respetamos animales solemos basarnos en si sus causar, y posiblemente aplicar la
los derechos de nuestros reacciones son parecidas a las personalidad electrónica a aquellos
congéneres, parece difícil que algún nuestras. Ello favorece a aquellos supuestos en los que los robots
día se los concedamos a los cuya naturaleza nos es más próxima, tomen decisiones autónomas
androides, si es que estos llegan a es decir, los que pertenecen a una inteligentes o interactúen con
poseer sintiencia y consciencia de sí rama cercana en el árbol terceros de forma independiente».
mismos. Probablemente durante filogenético, como son los grandes A título meramente anecdótico
mucho tiempo prevalecerá la simios (gorilas, chimpancés, citaremos que, en 2017, Arabia
consideración histórica de que son bonobos y orangutanes) o los perros Saudita concedió la ciudadanía al
autómatas irracionales, simples (algo más lejanos en el árbol, pero robot Sophia, el primero que
esclavos que podemos usar a con una larga relación con nosotros, obtiene la condición legal de
nuestro antojo. Sin embargo, sería ya que los domesticamos hace entre persona en un lugar del mundo. En
conveniente fijar cuanto antes los 11.000 y 25.000 años). Sin embargo, realidad se trató de una operación
criterios que deberán regular los hay otros animales que de marketing, pues aunque Sophia
derechos de los eventuales evolucionaron desde otras ramas es capaz de reconocimiento facial y
67Daleks, cylons, androides… ¿Es inevitable su rebelión?
de simulación de emociones, puede Aun tratándose de una ficción, tener palabras para las emociones».
imitar 62 expresiones humanas, el caso de Data nos sirve Las personas con alexitimia pueden
mantiene cierto nivel de perfectamente para comentar dos experimentar emociones, pero no
conversación y puede caminar (esto temas intrínsecos de la naturaleza son capaces de identificarlas ni
último desde 2018), está todavía humana, como son las emociones y describirlas, o como mucho solo
muy lejos de poseer una la muerte, contemplados desde el distinguen que «están bien» o «están
inteligencia artificial general. punto de vista de sus posibles mal», lo que a menudo les dificulta
perturbaciones: los déficits comprender lo que las causa o
¿Puede un androide elegir emocionales y la provocación de la explicar a los demás lo que sienten.
por sí mismo la autodestrucción? propia muerte. Y es que la mayoría Ello les dificulta también reconocer
¿Es el suicidio el acto más grande de las personas son capaces de los estados emocionales de otras
de emancipación que puede llevar sentir e identificar cierto número de personas, lo que les provoca
a cabo? emociones. En general, se considera deficiencia en la empatía, como se
que existen seis emociones básicas ha demostrado en algunos estudios
En Star Trek, el androide Data
(felicidad, tristeza, miedo, disgusto, en los que se han comparado las
dispone de unas grandes
enfado y sorpresa) que se respuestas hemodinámicas
capacidades computacionales y, sin
diversifican en 27, pero en nuestro regionales entre grupos de personas
embargo, en sus primeros años de
idioma podemos encontrar más de con alexitimia y otras sin ella usando
vida experimenta grandes
250 términos que describen distintos resonancia magnética funcional.
dificultades para comprender
matices de ellas. No todas las La alexitimia está fuertemente
ciertos aspectos del
personas experimentan cada relacionada con el trastorno del
comportamiento humano. Es
emoción con la misma intensidad y espectro autista, según algunos
incapaz de sentir emociones y de
de la misma forma, ya que ello metaanálisis que muestran una
entender las de los humanos hasta
depende de las experiencias vividas, prevalencia de alrededor de un 50%
que el Dr. Noonian Soong le instala
en especial durante los primeros en personas con dicho trastorno,
un chip que le permite
años de vida, y también en muchos frente a algo menos del 5% en la
experimentarlas. Ello aumenta su
casos de la innata estructura población general.
deseo de llegar a ser considerado
cerebral. Ello puede provocar dos
humano con todos los derechos, y La segunda dificultad a la que nos
tipos de dificultades que a menudo
cree que lo que le falta para lograrlo referíamos, el entumecimiento
se mezclan entre sí y que se
es morir, como nos sucede a emocional, es la ausencia total o
denominan alexitimia y
nosotros. Por ello, pide a Picard que parcial de emociones (que a menudo
entumecimiento emocional.
anule su consciencia, causándole de se confunde con la alexitimia). La
este modo la muerte, a lo que El término alexitimia fue introducido persona que lo sufre puede llevar a
Picard accede e incluso le dedica un en 1972 por el psiquiatra Peter cabo sus actividades normales, pero
pequeño panegírico. Sifneos y literalmente significa «no sin sentir ninguna conexión
68CUADERNOS 49 LA CIENCIA EN LAS SERIES DE TELEVISIÓN
emocional con lo que está haciendo. regulado el suicidio asistido, en el llegando incluso a provocarse la
Es como si estuviera desconectada de que la persona termina con su vida muerte. Se han propuesto muchos
su cuerpo y de la realidad que le con la asistencia de un médico que le ejemplos de ello, pero resulta difícil
rodea, e incluso se siente como un proporciona los medios necesarios. El saber hasta qué punto el animal
extraño en su propia vida, que le debate sobre la autorización o no de comprende el concepto de la muerte
parece vacía y sin sentido, y de la que la eutanasia y el suicidio asistido hace y actúa de modo consciente hacia su
es un observador más que un que estos aparezcan a menudo en los propia destrucción. Tal vez el ejemplo
participante. En ocasiones, el medios, pero en cambio se habla muy más fiable sea el que narra la etóloga
entumecimiento emocional se poco del suicidio por otras causas, Jane Goodall, pionera en el estudio
produce como respuesta a una que sin embargo es mucho más de los chimpancés salvajes, cuando
experiencia traumática, en cuyo caso frecuente, e incluso en numerosas explica cómo el chimpancé Flint
puede mejorar con ayuda profesional. ocasiones se oculta atribuyéndolo a reaccionó ante la muerte de su madre
El entumecimiento emocional está otros motivos o simplemente a Flo: «Para Flint, la muerte de Flo fue
muy relacionado con el trastorno de «causas indeterminadas». Por un golpe del que nunca se recuperó.
despersonalización o desrealización, ejemplo, el suicidio es la décima Parecía como si sin su madre ya no
ambos trastornos disociativos que causa de muerte en los Estados tuviera voluntad de vivir. Se sentaba
consisten en sentimientos Unidos y la segunda en personas de en la orilla del arroyo cerca del
persistentes o recurrentes de estar entre 10 y 34 años (datos de 2019), y cuerpo de Flo, y de vez en cuando se
separado del propio cuerpo o de los ha aumentado un 33% en los últimos le acercaba como si quisiera
procesos mentales. 20 años. encontrar todavía una señal de vida.
Aún hoy el acto de provocarse la El caso del androide Data es peculiar, Pero el cuerpo de Flo permanecía
propia muerte es tabú en la mayoría pues para cumplir su deseo de ser en inmóvil, frío y muerto, y finalmente
de los países, principalmente debido todo como los humanos lo que hace Flint se alejó. Su depresión empeoró
a creencias religiosas, lo que obliga a es morir, pero de este modo deja de y dejó de comer hasta que cayó
muchas personas con enfermedades ser parecido a un humano para enfermo. A pesar de que intentamos
terminales dolorosas a tener que convertirse simplemente en unos ayudarle acompañándole y
soportar duros padecimientos restos mecánicos inertes. Además, al llevándole comida, Flint falleció unas
durante tiempos a veces muy largos. elegir la muerte como un signo tres semanas después de la muerte
En la actualidad, tan solo en seis exclusivo de los humanos tal vez se de Flo». Así que, si nos atenemos a
países (Holanda, Bélgica, está equivocando. Aunque es difícil esto, la autodestrucción es un acto
Luxemburgo, Canadá, Colombia, poder afirmarlo con seguridad, es que implica un grado elevado de
España y Nueva Zelanda) está posible que algunos de los animales autonomía del androide, pero esto no
autorizada la eutanasia. Por otra parte, más inteligentes comprendan el le hace más o menos humano. O al
en Suiza y algunos Estados de los concepto de la muerte y adopten menos, no más humano de lo que
Estados Unidos y Australia está actividades autodestructivas, quizás son algunos animales.
69También puede leer
