Utopía o Distopía digital: consecuencias éticas de la irrupción de la IA

¿Los pasajes alienantes de “1984″, las escenas existencialistas de los replicantes en «Blade Runner” y los episodios futuristas de “Black Mirror” son parte de  nuestro acervo cultural o una premonición de la sociedad que nos espera? Las tecnologías de IA han irrumpido silenciosamente en nuestras vidas cambiando muchos hábitos y generando mucha incertidumbre. ¿Cómo habituarnos a ellas? ¿Nos dejamos llevar por el desarrollo exponencial?, ¿nos aferramos a “nuestras” viejas tecnologías o nos enfrentamos a los retos sociales y éticos que se nos vienen encima? Os invito a reflexionar sobre este tema.

Evolución tecnológica

El arranque de este siglo XXI viene acompañado de una ola creciente de optimismo tecnológico que se refleja no solo en los avances técnicos y en los cambios sociales, sino en corrientes de pensamiento futuristas que apuestan por escenarios poshumanistas y cuasi deterministas.

En la última década y en el ámbito de las tecnologías de la información, aunque no solo en éstas, se está experimentando una situación de evolución tecnológica acelerada, que algunos califican como evolución exponencial y que plantea unas expectativas de cambio desconocidas que merece la pena considerar.

En un análisis histórico del avance de las tecnologías desde el inicio de la civilización, se puede observar cómo a partir de finales del siglo xix el ritmo de aparición de nuevas tecnologías con impacto transformador en la sociedad y en la economía ha sido creciente, alcanzado en la actualidad un ritmo aparentemente exponencial.

En los últimos años han aparecido numerosos estudios que reflejan el modo en que han surgido los avances científicos-técnicos a lo largo de la historia de la humanidad y el modo en que han impactado y transformado a la sociedad. De dichos estudios se extrae que la evolución tecnológica se comporta de un modo exponencial, de lo que se deduce que los cambios tecnológicos, y su impacto, serán cada vez más rápidos y más disruptivos, tal y como observamos en las últimas décadas.

Estas gráficas comparan la aparición de tecnologías relevantes a lo largo de la civilización. En ellas se observa que la creación tanto de conocimiento, como de herramientas y de tecnologías, ha ido incrementando a un ritmo cada vez mayor, evidenciando la existencia de una “ley” de evolución exponencial que predice que la aparición de aquellas se producirá a un ritmo cada vez más elevado.

Tecnologías disruptivas

En la actualidad, y según algunos autores, el período de evolución exponencial se está produciendo por la convergencia de las llamadas tecnologías emergentes NBIC: Nanotecnología, Biotecnología, tecnologías de la Información y tecnologías Cognitivas. Estas tecnologías están suscitando la promesa de numerosos avances tanto a nivel técnico como social, planteando la aparición de nuevos escenarios de crecimiento y progreso que supondrán desafíos importantes a la humanidad.

La nanotecnología es la tecnología que trabaja en el rango de los nanómetros y, por tanto, en el entorno del tamaño de los átomos, permitiendo la creación, modificación y manipulación de la materia a nivel atómico y molecular. Esta tecnología permite crear materiales con propiedades muy específicas, abriendo infinitas posibilidades en el campo de la electrónica, de las energías renovables y de la salud, entre otros.

Actualmente la nanotecnología se está aplicando en la creación de nuevos materiales: como en textiles, para incluir elemento de sensorización, o en material de embalaje y envasado de alimentos para mejorar la preservación de estos. También se está utilizando en la administración de fármacos, creando sistemas más precisos para la liberación de los principios activos. La promesa de aplicaciones futuras es muy extensa y sugerente, sobre todo en su conjunción con la robótica y la biotecnología.

La biotecnología se refiere a toda aplicación tecnológica que utilice sistemas biológicos y organismos vivos o sus derivados para la creación o modificación de productos o procesos para fines específicos. Dependiendo del ámbito de aplicación de las tecnologías se habla de: biotecnología roja (en procesos médicos), biotecnología blanca (en proceso industriales), biotecnología verde (procesos agrícolas), biotecnología azul o marina y biotecnología gris (aplicada al mantenimiento de la biodiversidad). En el caso de que se traten con organismos modificados genéticamente, estaremos hablando de ingeniería genética.

Se denomina ciencia cognitiva al estudio científico de la mente. Se trata de un campo interdisciplinario cuyo objeto es describir y entender los mecanismos detrás de la cognición y los fenómenos psicológicos en general. Más específicamente se habla de facultades como la conciencia, la percepción y la emoción, la atención, la memoria, el razonamiento, la conducta, la comunicación y el lenguaje.

Es el estudio científico de la mente y del cerebro basado en un enfoque sistémico de carácter multidisciplinario que incluye la neurociencia, la psicología cognitiva, la lingüística, la filosofía de la mente y la inteligencia artificial.

Por último, las tecnologías de información, que son de sobra conocidas por todos nosotros, están experimentando una época expansiva por la convergencia del aumento de las capacidades computacionales y de comunicación. La propagación de las tecnologías cloud, los nuevos avances en comunicación, 4G y el prometedor 5G. Junto con la irrupción de la Inteligencia artificial en diversos ámbito de la sociedad y la industria están generando avances y cambios importantes como, por ejemplo, en la industria con la aparición del paradigma de industria 4.0 .

La convergencia de estas tecnologías permite vislumbrar escenarios que algunos califican de excelencia tecnológica y vital donde se prometen soluciones a todos los problemas:

• Mundo digitalizado e hiperconectado con inteligencia artificial que simplifique procesos y mejore las experiencias personales y profesionales en cualquier ámbito.
• La invasión de robots y sistemas automáticos en las cadenas de producción, vehículos inteligentes que revolucionarán el transporte y asistentes personales que mejorarán nuestras experiencias vitales, sobre todos para las personas dependientes.
• Aparecerán nuevos materiales inteligentes con capacidades asombrosas que facilitarán el desarrollo de una economía sostenible, circular y ecológica.
• El desarrollo imparable de la medicina personalizada que permitirá, si no la erradicación de las enfermedades, el desarrollo de una medicina preventiva ya medida que multiplicará la esperanza de vida en todo el planeta

En definitiva, se vislumbra la aparición de un escenario prodigioso, un cielo digital donde gracias a las tecnologías emergentes todos los problemas actuales tendrán solución y el futuro estará plagado de retos asombrosos e inesperados.

Interpretaciones: Transhumanismo

La aparición de todas estas tecnologías disruptivas está generando unas corrientes de pensamiento que pronostican una transformación radical de la sociedad en lo económico y en lo político. Este optimismo tecnológico se manifiesta en la aparición de un movimiento cultural e intelectual que promueve la transformación de la condición humana mediante el uso de tecnologías avanzadas que ayuden a mejorar y a superar las limitaciones humanas. Dicho movimiento se llama transhumanismo y tiene, entre otros, como exponentes relevantes a los filósofos Nick Bostrom, David Pierce y Max More.

El transhumanismo es un movimiento intelectual y cultural que afirma la posibilidad y la deseabilidad de mejorar fundamentalmente la condición humana a través de la razón aplicada, especialmente desarrollando y haciendo disponibles tecnologías para eliminar el envejecimiento y mejorar en gran medida las capacidades intelectuales, físicas y psicológicas.

El transhumanismo aboga por un solucionismo tecnológico que se apoya en el optimismo generado por la convergencia de las tecnologías emergentes NBIC.

Como los humanistas, los transhumanistas dan prioridad a la razón, al progreso y a los valores centrados en nuestro bienestar, más que en una autoridad religiosa externa. Los transhumanistas entienden el humanismo a través de un cuestionamiento de los límites humanos por medio de la ciencia y la tecnología combinadas con el pensamiento crítico y creativo.

Como ha dicho el físico Freeman Dyson: «La humanidad me parece un magnífico comienzo, pero no la última palabra». No aceptamos los aspectos indeseables de nuestra condición humana. Cuestionamos los límites naturales y tradicionales de nuestras posibilidades. […] Reconocemos el carácter absurdo que tiene contentarse con aceptar humildemente los límites llamados «naturales» de nuestras vidas en el tiempo. Prevemos que la vida se extenderá más allá de los confines de la Tierra —la cuna de la inteligencia humana y transhumana— para habitar el cosmos. “ ( Max More Ferry, Luc. La revolución transhumanista )

La confianza en las técnicas genéticas y en la biotecnología abre la puerta a los estudios sobre la inmortalidad y al objetivo de trascender los límites de la vida humana actual. La robótica y la nanotecnología se presentan como herramientas para superar dichos límites a través de la hibridación hombre -maquina. Y en la creencia del progreso de la ciencia cognitiva se apuesta por generar una copia virtual del cerebro humano, rompiendo las barreras físicas de la evolución. En definitiva, se plantea ir más allá de la visión antropocéntrica y de especie. La evolución no tiene por qué pararse en el homo sapiens.

Singularidad Tecnológica

Entre las diferentes corrientes transhumanistas cabe destacar la teoría de la singularidad impulsada, entre otros, por el tecnológo Ray Kurzweil, director de ingeniería de Google, el cual, apoyándose en la “ley de rendimientos o retornos acelerados” que predice un incremento en la tasa de progreso tecnológico, plantea el siguiente escenario:

“.. En el plazo de unas pocas décadas, la inteligencia de las máquinas sobrepasará la inteligencia humana, llevándonos a la singularidad (cambios tecnológicos tan rápidos y profundos que representen una ruptura en la estructura de la historia humana). Las consecuencias incluyen el surgimiento de inteligencia biológica y no biológica, software inmortal basado en humanos y niveles de inteligencia ultra-elevados que se expandirán hacia el universo a la velocidad de la luz. Raymond Kurzweil”

En definitiva, lo que Kurzweil pronostica, en base al crecimiento exponencial de la capacidad computacional, es que la inteligencia artificial sobrepasará la inteligencia humana y que los humanos seremos superados y/o sustituidos por máquinas autónomas y por una inteligencia colectiva superior a la de la humanidad actual.

En este caso, sería conveniente hablar de un posthumanismo, dado que es una corriente que aboga no por una mejora de la humanidad, sino por una especie diferente. Según plantea el filósofo “Luc Ferry”, podríamos decir que el transhumanismo es el trayecto, mientras que el posthumanismo es el objetivo; el uno es el camino o el proceso, el otro es el resultado o el punto de llegada.

Consecuencias sociales y éticas

Los diferentes escenarios futuristas que manejan estas ideologías se podrían agrupar en tres grandes categorías tecnológicas: la super inteligencia artificial, el universo ciborg o robótica y el mejoramiento humano. Vamos a revisar, brevemente, la promesa de esas categorías: “las luces”  y los riesgos que entrañan: “las sombras”.

Inteligencia artificial

La inteligencia artificial ha irrumpido con fuerza en la última década y de forma sutil y silenciosa va ocupando espacios cada vez mayores en la industria, en los servicios y en la administración: tenemos IA en los motores de búsqueda que empleamos todos los días, en los sistemas de reconocimiento de voz, en los sistemas de etiquetados de imágenes de nuestras redes, en los motores de recomendación de nuestras tiendas on-line…

La tecnología actual se puede clasificar como inteligencia débil o ANI (artificial narrow Intelligence), que son sistemas capaces de realizar una tarea concreta (reconocer el habla, reconocer imágenes, procesar texto…) incluso mejor que un humano, pero solamente esa tarea. El objetivo actual es alcanzar lo que se conoce como Inteligencia artificial fuerte o AGI (Artificial General Intelligence), tecnología que será capaz de realizar cualquier tarea cognitiva desarrollada por el ser humano (múltiple, adaptable, flexible, eficiente, incremental). Y, por último, de acuerdo con los defensores de la singularidad y del crecimiento exponencial, la evolución tecnológica conducirá a la aparición de los sistemas Superinteligentes o ASI (Artificial Superintelligence) sistemas que tendrán un inteligencia superior a la humana en todos los campos posibles: creatividad, sociabilidad e inteligencia colectiva.

El progreso de la IA ha ido de la mano del desarrollo de las tecnologías de grandes cantidades de datos, Big Data, impulsada ésta por el incremento de la digitalización tanto a niveles empresariales (industria 4.0) como a niveles particulares (redes sociales), favorecido todo esto por la multiplicación de los teléfonos inteligentes a escala mundial.

Estos sistemas afectan a varias facetas de nuestra vida actual y son aparentemente inocuos, pero, poco a poco, se van incorporando sistemas que además de analizar e informar, empiezan a decidir. Los sistemas de aproximación de los aviones están ya supervisados de forma automática. En EEUU, los sistemas de análisis de riesgos para la concesión de préstamos personales se fundamentan en motores de IA a partir de información personal de las redes sociales y de otros entornos.

Los sistemas de IA utilizan, fundamentalmente, técnicas de aprendizaje automático que necesitan de una cantidad importante de información para la ejecución de sus algoritmos. La potencia de la IA está basada en la información que se posee y en el aprendizaje que se hace de la misma. Por tanto, una información sesgada, con inclinaciones hacia una tendencia preestablecida, puede generar resultado y predicciones orientados que perjudiquen de una forma u otra a determinados segmentos de la sociedad. Los propietarios de la información y de la tecnología tienen en sus manos una capacidad de influencia y de control sobre gran parte de la sociedad, capacidad que va creciendo a medida que, de forma espontánea, vamos volcando más y más información a los sistemas que, aparentemente nos dan más libertad, pero que van reduciendo nuestros dominios de actuación.

A través de la oferta de servicios aparentemente gratuitos, las empresas tecnológicas, y en concreto las empresas líderes conocidas como GAFA (Google, Apple, Facebook y Amazon), recogen continuamente información sobres sus usuarios favoreciendo el aprendizaje y la eficiencia de sus algoritmos. Dichos algoritmos permiten a las empresas, por ejemplo, conocer mejor los hábitos de las personas, adelantarse a sus necesidades, orientar sus gustos e, incluso, favorecer determinados comportamientos.

• Sistemas de compras y de consulta que analizan tu comportamiento y pasan información de tus hábitos a numerosos actores sin tu conocerlo
• Los sistemas de navegación que monitorizan tus movimientos y comparten los mismos con empresas sin tu consentimiento
• Las redes sociales que filtran noticias, relaciones y publicidad en base a información recogida en otros medios o mediante campañas personalizadas dirigidas por personas o empresas desconocidas
• los sistema de videovigilancia que registran tus movimientos y pueden etiquetar tus imágenes

Hay autores que ponen de manifiesto esta situación de monopolio mundial por parte de las grandes compañías tecnológicas, que mediante la potencia multiplicadora de las TI “extraen” conocimiento, información y riqueza de los usuarios en su entorno de “Arcadia feliz”.

Por otra parte, cada vez más, surgen voces denunciando los efectos negativos que tiene el fenómeno de aumento de la información, conocido como dataísmo. Por un lado, las redes sociales, los sites de comercios electrónicos, los buscadores y los dispositivos móviles recogen una cantidad ingente de datos personales; registrando hábitos y compartimiento, contactos etc.

Por otra parte, el contenido de los algoritmos, las hipótesis, los modelos conceptuales y el proceso de ejecución de estos se percibe como una “caja negra” sin transparencia al usuario final y con un riesgo potencial que se vislumbra como nocivo. Como dice Cathy O’Neil en su libro Weapons of Math Destruction: “Los modelos son opiniones embebidas en matemáticas; matemáticas de destrucción masiva”

Esta situación plantea grandes problemas sobre la libertad individual: problemas sobre la privacidad y el uso de información personal; dudas sobre la propiedad del dato y la explotación del mismo; dificultades para la gestión del llamado “derecho al olvido digital”; los sesgos y prejuicios imbuidos en los algoritmos; los sistemas adictivos, etc.

Por tanto, el desarrollo de la IA genera unas sombras en el panorama del cielo digital que afecta tanto al desarrollo empresarial y económico como a la libertad individual y al desarrollo de los derechos colectivos, planteando grandes incógnitas en el futuro inmediato.

Robótica

La robótica está igualmente experimentando un desarrollo acelerado gracias a la mejora de los sistemas de computación, a las nuevas tecnológicas sensóricas ( IoT)  y al avance de los sistemas inteligentes que permiten dotar a los robots de capacidad de análisis, toma de decisión y mayor ámbito de actuación.

Las fabricas se están transformando con la aparición de numerosos robots tanto en la cadena de producción como en la logística interna, que permiten multiplicar la eficiencia, aumentado la calidad y facilitando una fabricación más flexible y automatizada. Asimismo, los sistemas de transporte se están reconvirtiendo preparándose para la llegada de los sistemas autónomos, más eficientes, de menor consumo y adaptables a las necesidades de producción.

La robótica, junto a la digitalización de las fábricas, con el impulso de la inteligencia artificial y el desarrollo de la fabricación aditiva, han abierto el camino para la aparición del paradigma de fabricación de la década: “la industria 4.0”.

No obstante, diversas “sombras” ennegrecen los buenos augurios: numerosos estudios alertan de la desaparición de muchos puestos de trabajo como consecuencia de la aparición de robots: en la fabricación, en el transporte de mercancías, en la logística de repartos. Para combatirlo se propone la reconversión de millones de empleados a los nuevos paradigmas tecnológicos, los actuales y los futuros, planteando un futuro laboral incierto donde la reconversión, la precarización y la adaptación permanente será la única certeza.

Además, la creación de robots con aspecto humano, androides, genera igualmente mucho rechazo, alertando sobre escenarios distópicos donde se pone en peligro la existencia propia de la humanidad, ya que se abren mundos de vínculos emocionales desconocidos.

Por último, estos cambios numerosos de automatización y de simplificación de tareas plantean muchas dudas con respecto a la dependencia física e intelectual. Determinados estudios alertan sobre el riesgo de debilitamiento físico y debilitamiento intelectual por el uso continuado de los “gadgets” tecnológicos.

Biomejoramiento

• • ¿Quién controla esos desarrollos?, ¿a qué objetivos se encamina la investigación y por qué razones?, ¿qué intereses se satisfacen prioritariamente?, ¿qué garantías de seguridad se ofrecen?, ¿qué criterios son empleados en la elección?Los avances de la biomedicina están generando fabulosas expectativas para la curación de enfermedades congénitas, para la erradicación de epidemias o para el control de enfermedades endémicas como el cáncer.  Las investigaciones en genética, la pujanza de la biología sintética y la aparición de las técnicas de Big Data e Inteligencia Artificial para la mejora de diagnósticos plantean un escenario de optimismo en el control de la vida humana.

    No solamente se persigue curar enfermedades, sino tal y como plantean los transhumanistas, aprovechar todos los conocimientos para mejorar las capacidades físicas o mentales:

    • Selección de rasgos genéticos predominantes.
    • Tratamientos para potenciar capacidades físicas
    • Tratamientos para potenciar memoria, rapidez de cálculo,
    • Integración de tecnologías con el cuerpo para fortalecerlo, sistemas híbridos
    • Alargamiento de la vida
    • Copia virtual de la mente para prolongar la vida..

    El biomejoramiento humano parece ser el objetivo: eternamente jóvenes, buenos y brillantes

     

    Aunque en el ámbito de la biotecnología parece que aún hay mucho camino por recorrorer hasta abordar el biomejoramiento, estos planteamientos ambiciosos generar muchas dudas y muchos miedos dado que estamos hablando del primer valor fundamental: “la vida”

    Estas prácticas suscitan muchos problemas éticos, morales y políticos. Son muchas dudas las que se plantean:

  • ¿Quién controla esos desarrollos?, ¿a qué objetivos se encamina la investigación y por qué razones?,  ¿qué intereses se satisfacen prioritariamente?, ¿qué garantías de seguridad se ofrecen?, ¿qué criterios son empleados en la elección?
  • ¿Podemos jugar a ser Dios?, ¿se pueden cuestionar los límites de la vida?, ¿quién pone el control a la investigación?, ¿dónde están los límites de la naturaleza humana si no se cree en un fin ?

Consecuencias sociales y éticas

Resumiendo, las tecnologías que están en desarrollo y en plena expansión conllevan la aparición de una serie de riesgos potenciales, unos más factibles que otros, que hay que poner de manifiesto.

La digitalización masiva está generando consecuencias a niveles de privacidad, de libertad individual y de responsabilidad social. Los sistemas inteligentes, los robots plantean dudas éticas sobre la autonomía personal y colectiva. Las aspiraciones de biomejoramiento nos alertan sobre el peligro de la eugenesia y la carrera por el alargamiento de la vida nos pone ante la tesitura de dónde esta el límite de la vida. Si se cumplen las previsiones transhumanistas se abre la posibilidad de aparición de una especie homo, el homo deus u homo tecnológico con un riesgo muy de alto de una humanidad quebrada en dos castas muy diferenciadas.

Propuestas éticas

Muchas voces han salido en contra de estas ideologías utópicas, algunas poniendo de manifiesto la imposibilidad técnica de sus planteamientos y otras cuestionando la moralidad de los mismos. Por ejemplo, y con respecto al desarrollo de la Inteligencia Artificial, expertos de la talla Stpehen Hawkins, Elon Muski, junto con cientos de científicos y tecnólogos, han alertado sobre el riesgo de la AI y abogan por el desarrollo de una AI segura y controlada.

Al igual que a finales del siglo XX surgió la preocupación ética sobre los avances de la genética y sus futuras aplicaciones, en los últimos años diversos organismos han propuesto marcos de actuación éticos y basados en valores humanos que permitan un desarrollo de la tecnología orientado al respeto a los derechos humanos.

Preguntas abiertas

Toda esta euforia tecnológica está planteada como inevitable, como una evolución natural del progreso tecnológico al cual debemos adaptarnos sí o sí. Sin embargo, en estos planteamientos, se echan en falta diversas perspectivas: ¿cómo afecta esta evolución a la distribución de la riqueza?, ¿qué impacto tiene en las desigualdades sociales y territoriales a lo largo del mundo?, ¿en qué lado de la ecuación quedan las dificultades a las que nos enfrentamos con el cambio climático?; ¿cómo afectará la escasez de materiales , tierras raras, a los nuevos desarrollos tecnológico?; ¿cuál será el impacto en la sociedad del futuro con menos trabajo, más dependiente y menos esforzada física e intelectualmente?

Entre las objeciones al transhumanismo, y en concreto a la visión del biomejoramiento y a los planteamientos de la inmortalidad, filósofos como Fukuyama y Sandel han cuestionado los mismos porque ponen en peligro a la humanidad misma, dado que la mortalidad es lo que nos define y nos pone los límites como seres vivos. Por otra parte, los planteamientos de mejora genética suponen, por un lado, una eugenesia encubierta, y pueden producir la creación de castas sociales, incluso de dos especies humanas diferentes.

Se demanda una reflexión ética sobre el futuro de la sociedad, preguntarse el porqué y para qué de los cambios que se vaticinan, reclamando una visión holística del progreso y del desarrollo humano.

Reflexión personal

Para concluir, y a modo de resumen, quisiera compartir unas reflexiones personales sobre el desarrollo tecnológico y cómo pienso que debemos actuar con respecto a los movimientos utópicos que se están abordando desde diferentes frentes.

En primer lugar, pienso que los ciudadanos debemos participar en el debate sobre el futuro: es un debate del que no se nos puede sustraer; hay que sacarlo de los consejos de dirección de las grandes empresas y de la Academia para debatirlo en la plaza pública. Hemos de demandar a nuestros lideres políticos y académicos que nos traten como adultos y nos permitan participar dinámicamente en el desarrollo tecnológico del futuro.

Para ello creo firmemente que  la educación es relevante: las tecnologías son complejas, las ciencias son complejas, las humanidades son complejas, la vida es compleja y la complejidad se trabaja con la educación, con la formación y con la participación. No podemos permitir que las “cajas negras” nos rodeen y no saber cómo funcionan.  Debemos, como sociedad, quitarnos la pereza y aprender sobre la complejidad que nos rodea para poder dominarla y ser plenamente autónomos. Por eso es importante que como nación abordemos sin dilación la soberanía tecnológica: como sociedad tenemos que ser soberanos y eso implica conocer, desarrollar y dominar la tecnología.

 

Pienso que debemos poner en valor el concepto de Tecnología democrática: la evolución tecnológica no se puede parar, el hombre es una especie tecnológica, como decía Ortega; por eso es fundamental que la tecnología sea dirigida y orquestada por todos, democráticamente. Y para ello es fundamental reconocer que es la política la que debe liderar el progreso tecnológico: es la política, el arte en el gobierno de la sociedad, la que debe liderar el progreso y el desarrollo; no la visión economicista de la sociedad

Y para poder desarrollar y crear esas utopías sociales es importante cultivar una mirada holística sobre la naturaleza, sobre la ciencia: la tecnología se debe aplicar de una forma holística, observando el porqué y el para qué, los efectos a corto y a largo plazo, con una mirada global. Y en todo momento debemos no perder de vista una Tecnología orientada a lo humano: no debemos perder el alcance y el valor de lo humano en el desarrollo de la tecnología.

Por último, es muy importante recordar y asumir que la Naturaleza importa: somos parte del ecosistema, la conservación de la naturaleza nos debe preocupar y ocupar; sabemos del impacto de lo humano en el ecosistema global; debemos orientar el desarrollo tecnológico con una visión ecológica y sostenible.

Bibliografía recomendada

Utopía digital

• Transhumanismo- Antonio Diéguez
• The singularity is near- Ray Kurzweil
• Mejoramiento humano – Nick Bostrom
• Future of Mind- Michio Kaku

Distopía digital

• Internet is not the answer – Andrew Keen
• Sapiens – Yuval Nah Harari
• Homo Deus – Yuval Nah Harari
• 21 lecciones para el siglo XXI – Yuval Nah Harari
• The master Algortithm – Pedro Domingos
• Weapon of Math Destruction- How Big Data Increas Inequality and Threatens Democracy – Cathy O’neil
• Tecnología vs Humanidad – Gerd Leonhard
• Mundo Orwell – Ángel Gómez de Agreda

Reflexión humanística y/o ética

• La revolución transhumanista – Luc Ferry
• Enlightement now – Steven Pinker
• From bacteria to Bach and Back – Daniel C. Dennet
• Ciencia, filosfia y racionalidad – Jesús Mosterín
• Neuroética y Neuropolítica – Adela Cortina
• Sociofobia – César Rendueles
• Datanomics- Paloma Llanera
• Ética para máquinas – José Ignacio Latorre