ABC
| Registro
ABCABC de SevillaLa Voz de C√°dizABC
Blogs Alejandra de Argos por Elena Cué

Entrevista a Nick Bostrom

Entrevista a Nick Bostrom
Elena Cué el

 Autor: Elena Cu√©

 

  

  

Nick Bostrom. Photo: Allen McEachern

 

Hablar de transhumanismo es considerar la posibilidad de mejorar la condici√≥n humana f√≠sica, emocional y cognitivamente, utilizando el progreso de la ciencia y la tecnolog√≠a. Para ello se han inventado t√©cnicas, que incluyen entre otras el cultivo de tus propias c√©lulas para crear √≥rganos y tejidos vivos de reemplazo mediante la bioimpresi√≥n 3D. Secuenciar el ADN para conocer y tratar nuestra disposici√≥n gen√©tica a sufrir enfermedades concretas. El uso de integraci√≥n de tecnolog√≠a en tu cuerpo mediante interfaces (zonas de comunicaci√≥n) hombre-m√°quina. La preservaci√≥n de seres humanos, despu√©s de muertos a bajas temperaturas, a trav√©s de la criogenizaci√≥n para su posible reanimaci√≥n en el futuro; o la nanotecnolog√≠a que permitir√≠a la fabricaci√≥n de nano m√°quinas que una vez introducidas en nuestro organismo podr√≠an reparar tejido da√Īado, desatascar arterias o atacar directamente c√©lulas tumorales o agentes pat√≥genos all√° donde se encuentren. Su reducido tama√Īo les permitir√≠a actuar a nivel celular y podr√≠an llegar a auto-replicarse. La nanotecnolog√≠a permitir√≠a erradicar muchas enfermedades y ayudar√≠a no solo a extender nuestra expectativa de vida sino tambi√©n a mejorar su calidad.

Hablo de este movimiento intelectual, cientifico y cultural con el fil√≥sofo Nick Bostrom (Suecia, 1973), fundador junto a David Pearce de la Asociaci√≥n Transhumanista Mundial y uno de los pensadores mas influyentes en superinteligencia. Actualmente dirige el Instituto del Futuro de la Humanidad y el Programa de Gobernabilidad de la Inteligencia Artificial en la Universidad de Oxford. Es autor de m√°s de 200 publicaciones destacando entre ellas, sus libros en espa√Īol: Mejoramiento humano (Teel Editorial) o Superinteligencia, caminos, peligros, estrategias (Teel Editorial), bestseller del New York Times y recomendado encarecidamente por Bill Gates y Elon Musk. 

 

¬ŅQu√© le llev√≥ a crear la Asociaci√≥n Transhumanista Mundial?

Bueno, esto sucedi√≥ en los a√Īos 90. En aquel entonces, me parec√≠a que no hab√≠a un foro adecuado para discutir los impactos del nacimiento de futuras tecnolog√≠as y la manera en las que √©stas podr√≠an afectar a la condici√≥n humana. En ese momento se enfatizaba, sobre todo, lo negativo. La mayor√≠a de los temas relevantes no se discut√≠an en absoluto, y las escasas discusiones sobre bio√©tica acad√©mica, se centraban siempre en inconvenientes como la posible deshumanizaci√≥n por la aplicaci√≥n de la tecnolog√≠a para mejorar las capacidades humanas. Por ello, creo que era necesario que hubiera otra voz. La Asociaci√≥n Transhumanista Mundial fue un esfuerzo para tratar de crear una plataforma para cumplir ese cometido.

¬ŅY en la actualidad? 

Ahora ya no participo en ella desde hace muchos a√Īos y la organizaci√≥n ha cambiado desde entonces. A principios de la d√©cada de 2000 estos problemas que fueron discutidos principalmente en listados de distribuci√≥n de correo electronicos de la Asociaci√≥n Mundial Transhumanista, encontraron eco y fueron desarrollados en el √°mbito acad√©mico. Y por eso, la organizaci√≥n que cumpli√≥ su objetivo y sirvi√≥ para iniciar el debate dej√≥ de ser una necesidad.

Se habla de que la Inteligencia Artificial esta tratando de conseguir una inteligencia con consciencia, para aprender de la misma manera que los humanos. ¬ŅQu√© nos puede decir?

Creo que gran parte de la expectaci√≥n en los √ļltimos ocho a√Īos se debe a los avances en el aprendizaje profundo; este es un enfoque particular de la IA. Esta manera de procesar la informaci√≥n es similar en muchas maneras a como lo hace nuestra mente humana. La expectaci√≥n se crea porque parece ser una forma m√°s “general” de estructurar la inteligencia, un tipo de algoritmo que tiene la capacidad general de aprender de los datos (big data), aprender de la experiencia y construir representaciones a partir de un patr√≥n presente en dichos datos que no ha sido expl√≠citamente pre-programado por humanos. Este nuevo concepto apunta a la Inteligencia General Artificial (AGI).

¬ŅPuede poner un ejemplo?

El mismo algoritmo que puede aprender a jugar un solo juego de Atari puede aprender a jugar una gran cantidad de otros juegos de Atari. Con peque√Īas modificaciones, puede aprender a jugar al ajedrez, aprender a jugar a Go, aprender a reconocer a gatos en im√°genes y aprender a reconocer el habla. A pesar de que hay l√≠mites a lo que se puede hacer hoy, hay indicios de que podr√≠amos estar llegando al tipo de mecanismo que proporcione una flexibilidad similar a la de la inteligencia humana, una especie de capacidad general de aprendizaje. 

Sin embargo, algunas voces son más escépticas.

Si observa los sistemas que realmente se utilizan en la industria, todavía son una especie de híbridos. En algunos casos, estos sistemas de aprendizaje profundo modernos se utilizan específicamente para reconocimiento de imágenes y reconocimiento de voz, pero muchos otros sistemas empleados por las empresas siguen siendo en su mayoría sistemas expertos en aplicaciones para un proposito específico siguiendo el estilo de la vieja escuela. Creo que esto contribuye a crear la confusión. Al final, obtenemos percepciones bastante diferentes sobre lo que es la inteligencia artificial dependiendo a quien preguntemos.

En su opini√≥n, ¬Ņcu√°ndo cree que la nanotecnolog√≠a molecular ser√° una realidad para acabar con la enfermedad y prolongar la vida?

Es una buena pregunta… Creo que la nanotecnolog√≠a probablemente ser√° viable tras el desarrollo de la superinteligencia artificial. Lo mismo ocurre con otras muchas tecnolog√≠as avanzadas, que se podr√≠an desarrollar poniendo esa superinteligencia al servicio de la investigaci√≥n y desarrollo. Pero se podr√≠a dar el escenario en que la nanotecnolog√≠a molecular se desarrollase antes de que la inteligencia artificial despegase. En ese caso, las primeras aplicaciones presentan riesgos a los que tendr√≠amos que sobrevivir, y si tenemos √©xito, entonces tendriamos que sobrevivir a los riesgos ligados a la superinteligencia, una vez se desarrollase esta. Por lo tanto, en la medida en que pudieramos tener una influencia sobre el orden de desarrollo de ambas t√©cnologias, el objetivo ideal ser√≠a obtener la superinteligencia antes que la nanotecnolog√≠a molecular.

Otro modo de prolongar la vida ser√≠a la criogenizaci√≥n: m√°s de 300 personas tienen su cuerpo crioconservado o sus cerebros neuropreservados en nitr√≥geno.  Usted que ha contratado este servicio, ¬Ņqu√© expectativas le han animado a ello?

Bueno, en realidad, en los contactos que he tenido con los medios, nunca lo he confirmado. Mi postura siempre ha sido que mis arreglos funerarios son un asunto privado. S√© que ha habido especulaciones por parte de alg√ļn peri√≥dico hace dos a√Īos… Tambi√©n es cierto que algunos de mis colegas son clientes cri√≥nicos, y lo han hecho p√ļblico, como el Dr. Anders Sandberg, por ejemplo, que es uno de nuestros investigadores aqu√≠.

Con una diversidad cultural y c√≥digos morales diferentes como los que existen en el mundo, ¬Ņc √≥mo se puede llegar a un consenso global sobre los l√≠mites √©ticos en la investigaci√≥n gen√©tica? 

Por el momento, la humanidad no tiene realmente un solo plan coordinado para el futuro, hay muchos pa√≠ses y grupos diferentes, cada uno de ellos persiguiendo sus propias iniciativas. La mayor parte ha estado funcionando bastante bien hasta el momento, pero siempre hay preocupaciones. De hecho, actualmente estoy trabajando en un art√≠culo sobre este tema; explora la posibilidad de que se identifique alg√ļn tipo de vulnerabilidad en el futuro, donde el mundo necesitar√° adoptar un enfoque coordinado para poder sobrevivir. 

Por lo que dice, se hace imprescindible la previsión.

Si piensa, por ejemplo, en el desarrollo de las armas nucleares hace unos 70 a√Īos, resultaba dif√≠cil fabricar una bomba nuclear. Se necesita uranio altamente enriquecido o plutonio, que son muy dif√≠ciles de conseguir y se necesitar√≠an centrales el√©ctricas de tama√Īo industrial para fabricarlas. Adem√°s de una gran cantidad de electricidad, tanta que puedes verla desde el espacio. Es un proceso dif√≠cil, no es algo que podr√≠as hacer en tu garaje. Pero supongamos que no fuera as√≠, supongamos que hubieran descubierto una forma realmente f√°cil de liberar la energ√≠a del √°tomo; eso podr√≠a haber supuesto el final de la civilizaci√≥n humana, ya que hubiera sido imposible de controlar.

Pensarlo inquieta.

S√≠, y en el futuro, creo que existe cierta preocupaci√≥n de que descubramos, por ejemplo, alguna forma realmente f√°cil de producir destrucci√≥n masiva. Ser√≠a con estos casos que tal vez la humanidad tendr√≠a que tratar de adoptar medidas para llegar a una posici√≥n en la que tengamos una mayor capacidad de coordinaci√≥n global; en caso de que surja tal vulnerabilidad o surja una nueva carrera armamentista. Mientras m√°s poderosas sean nuestras tecnolog√≠as, mayor ser√° la cantidad de da√Īo que podemos hacer si las usamos de manera hostil o las usamos imprudentemente. En este momento, creo que √©ste es un gran punto d√©bil para la humanidad y solo esperamos que las tecnolog√≠as que descubramos no se presten a aplicaciones f√°ciles y destructivas. 

Estudios recientes realizados por un proyecto emblem√°tico de la Uni√≥n Europea,  que ha invertido 1.000 millones de euros,  han demostrado que el grafeno, una sustancia compuesta por carbono puro, puede interactuar efectivamente con las neuronas. ¬ŅQu√© piensa de los avances en el desarrollo de interfaces cerebro-m√°quina que usan grafeno?

Creo que es algo emocionante desde el punto de vista de la medicina y para personas con diversas discapacidades. Para pacientes con da√Īo en su m√©dula espinal, tiene varias aplicaciones muy prometedoras como neuro-pr√≥tesis. Sin embargo, soy un poco esc√©ptico sobre que mejore la funcionalidad de una persona humana sana, lo suficiente como para que valga la pena asumir los riesgos, los dolores y los problemas de una intervenci√≥n quir√ļrgica.

¬ŅCree que no vale la pena en una persona sana?

Creo que es bastante difícil agregar funcionalidad adicional a una mente humana sana, que no pudieras obtener de manera similar, interactuando con una computadora fuera de tu cuerpo, simplemente escribiendo cosas en un teclado, o recibiendo entradas a través de tus globos oculares al mirar una pantalla. Ya tenemos canales de entrada y salida con un alto ancho de banda para el cerebro humano, por ejemplo, a través de los dedos o mediante el habla; así que no estoy seguro de que el rendimiento del cerebro humano esté realmente limitado principalmente por las restricciones de salida o de entrada. Creo que es mucho más relevante dar solución a como acceder, organizar y procesar la gran cantidad de información disponible con las limitaciones de nuestro cerebro humano. Creo que ese es el cuello de botella a resolver y donde se debería enfocar el desarrollo.

Comenta en su libro Superinteligencia que el proyecto de investigaci√≥n de la Inteligencia Artificial comienza en Dartmouth College en 1956. Desde entonces ha habido periodos de entusiasmo y de retroceso. En la actualidad, parece ser que el m√°ximo defensor en la creaci√≥n de una IA post-humana es Ray Kurzweil, fundador de Singularity University y financiada por Google. ¬ŅCree que esta vez se alcanzar√° el objetivo?.

No creo que est√© de acuerdo con que Ray Kurzweil sea el l√≠der en la investigaci√≥n de la IA. Existe una gran comunidad de investigaci√≥n que trabaja en el aprendizaje autom√°tico. En las dos grandes conferencias que se realizan una vez al a√Īo (ICML y NIPS) se puede constatar el gran n√ļmero de investigadores involucrados en la actualidad. Creo que en la √ļltima conferencia NIPS hab√≠a entre 5000 y 6000 investigadores, est√° creciendo a√Īo tras a√Īo, tal vez un 40%. As√≠ que hay una gran comunidad de investigaci√≥n global con mucha gente relevante que hace contribuciones importantes en el aspecto t√©cnico y no creo que se pueda considerar que √©l juegue un papel significativo en la mayor√≠a de ellas.

¬ŅEstar√≠an dichas investigaciones orientadas a replicar el cerebro humano incluyendo la consciencia?

La inteligencia artificial trata principalmente de encontrar formas de hacer que las m√°quinas resuelvan problemas dif√≠ciles. Ahora bien, si lo hacen emulando, asimilando o inspir√°ndose en el cerebro humano o no, es una decisi√≥n m√°s t√°ctica. S√≠ hay conocimientos √ļtiles que se puedan extraer de la neurociencia ser√°n aprovechados, pero el objetivo principal no es tratar de replicar la mente humana. 

Pense que ya exist√≠a un proyecto post-humano…

Si te refieres al Proyecto del Cerebro Humano, entonces s√≠. Podr√≠a estar un poco m√°s cerca de tratar de emular varios detalles y niveles de la condici√≥n humana. Mi impresi√≥n, es que inicialmente comenz√≥ con una visi√≥n muy ambiciosa y probablemente con excesivas espectativas, empez√≥ con modelos muy detallados de una columna cortical. Pero tras varias voces disonantes se ha convertido finalmente en canales de financiaci√≥n para varios proyectos de neurociencia. 

Ha comentado que con la superinteligencia (nivel humano) se obtendr√°n resultados muy buenos pero tambi√©n con el riesgo de la extinci√≥n humana. 

Bueno, creo que la superinteligencia ser√≠a una especie de tecnolog√≠a de prop√≥sito general, porque permitir√≠a inventar otras tecnolog√≠as. Si eres s√ļper inteligente puedes hacer un trabajo cient√≠fico o de ingenier√≠a mucho m√°s r√°pido y de manera m√°s eficaz de lo que lo pueden hacer los cient√≠ficos e ingenieros humanos. As√≠ que imagine todas las cosas que los humanos podr√≠an lograr si dispusi√©ramos de 40,000 a√Īos para trabajar en ellas, tal vez desarrollar√≠amos colonias espaciales, mejoras en nuestro organismo, curas para el envejecimiento y realidades virtuales perfectas. Creo que todas esas tecnolog√≠as y otras que a√ļn no hemos imaginado podr√≠an ser desarrolladas por m√°quinas con superinteligencia y probablemente en un per√≠odo relativamente corto despu√©s de su llegada. Esto nos da una idea de la gran cantidad de beneficios potenciales.

Y, ¬Ņcu√°les ser√≠an los “riesgos existenciales” a los que nos enfrentar√≠amos con la Inteligencia Artificial?

Veo dos clases de amenazas, la primera surge por problemas en la alineaci√≥n de objetivos. Est√°s creando algo que ser√≠a muy inteligente y que podr√≠a ser tambi√©n muy poderoso. Si no somos capaces de resolver como controlarlo, podr√≠amos dar lugar a la existencia de un sistema s√ļper inteligente que podr√≠a dar prioridad a alcanzar sus propios valores en detrimento de los nuestros. Un gran n√ļmero de riesgos potenciales emanan de esto.
Otro riesgo es que los humanos, a√ļn logrando resolver el problema de alineaci√≥n, usemos esta poderosa tecnolog√≠a de forma maliciosa o irresponsable, al igual que lo hemos hecho con muchas otras tecnolog√≠as a lo largo de nuestra historia. Las utilizamos no solo para ayudarnos unos a otros y con fines productivos, sino tambi√©n para librar guerras u oprimirnos unos a otros. As√≠ que esta ser√≠a la otra gran amenaza con una tecnolog√≠a tan avanzada.

Stephen Hawking postulaba “expandirnos hacia el espacio” y la empresa Space X de Elon Musk espera enviar, a corto plazo, humanos a Marte con el proyecto ‚Äú Mars Colonial Transporter‚ÄĚ. ¬ŅCu√°les son las causas por las que nos vamos a ver obligados a emigrar a otros planetas? ¬ŅPodr√°n vivir ya los humanos en Marte?

En este momento, Marte no es un buen lugar para vivir. Creo que la colonización del espacio de manera significativa ocurrirá después de la superinteligencia. A corto plazo parece muy poco atractivo y será más fácil crear un hábitat en el fondo del mar o en la cima del Himalaya que hacerlo en la Luna o en Marte. Hasta que hayamos agotado ese tipo de espacios, es difícil ver el beneficio práctico de tratar de hacerlo en Marte.
Pero a largo plazo, por supuesto, el espacio es sin duda un objetivo; la Tierra es una peque√Īa migaja flotando en una extensi√≥n casi infinita de recursos.

 

 

 

 Nick Bostrom

 

 

 

– Entrevista a Nick Bostrom –                                    – Alejandra de Argos –

Otros temas

Elena Cué el

Entradas m√°s recientes