Escenario tres: La tecnología autónoma es un problema ...

Predicción y reacciones

Predicción: para 2020, los agentes inteligentes y el control distribuido eliminarán la participación humana directa de algunas actividades clave como los sistemas de vigilancia, seguridad y seguimiento, de manera que la tecnología más allá de nuestro control generará peligros y dependencias que no serán reconocidas hasta que sea imposible invertirlos. Estaremos en una 'curva en J' de continua aceleración del cambio.


Respuestas al escenario 3

Se puede encontrar una colección ampliada de cientos de respuestas escritas a esta pregunta en: http://www.elon.edu/e-web/predictions/expertsurveys/2006survey/autonomoustechnolgy.xhtml

Resumen de las reacciones de los encuestados

Aquellos que no estaban de acuerdo con este escenario generalmente dijeron que los humanos que diseñan la tecnología no tendrán dificultad para controlarla, pero algunos notaron temor a las personas que podrían controlar la nueva tecnología. Quienes estaban de acuerdo con el escenario a menudo citaron la creciente complejidad de los sistemas creados por humanos y la disminución de la supervisión de la tecnología. Instaron a la 'intervención humana'.

Por supuesto, las respuestas a este escenario, como todas las de la encuesta, fueron moldeadas por las experiencias que los participantes han tenido. Muchos encuestados - aquellos que no estuvieron de acuerdoyaquellos que estuvieron de acuerdo - reaccionaron comparando este futuro propuesto con una trama de ciencia ficción (& ldquo; The Matrix, & rdquo; & ldquo; The Terminator, & rdquo; & ldquo; Frankenstein & rdquo;). Las respuestas también fueron moldeadas por lo cerca que la gente leyó cada palabra del escenario. El grupo en desacuerdo incluía a muchos ingenieros e informáticos, muchos de ellos discrepando de la frase 'imposible de revertir'. - mientras que muchos sociólogos, trabajadores gubernamentales y responsables de la formulación de políticas de redes encontraron que algunos de los puntos de este escenario merecen una discusión seria. Nuevamente, el escenario fue escrito para generar una discusión comprometida, no para proponer lo que vemos como el futuro más probable.

Los arquitectos de tecnología generalmente respondieron diciendo que los humanos mantendrán el control de cualquier sistema que diseñen. & ldquo; Los agentes, el control automatizado y la informática integrada serán omnipresentes, pero creo que la sociedad podrá equilibrar el uso & rdquo; escribióDavid Clarkdel MIT.15& ldquo; Encontraremos estas cosas útiles y una molestia, pero no perderemos el control de nuestra capacidad para regularlas. & rdquo;


Presidente de la junta de Internet SocietyFred Bakerescribió, & ldquo; Sin duda tendremos algunas tecnologías interesantes. Sin embargo, hasta que alguien encuentre una manera de que una computadora evite que alguien desconecte su enchufe, nunca estará completamente fuera de control. & Rdquo;Pekka Nikanderde Ericcson Research y la Junta de Arquitectura de Internet respondieron: `` Mientras los sistemas de energía cotidianos respaldados por armas (por ejemplo, la fuerza policial) se mantengan en manos humanas, ningún cambio técnico es irreversible. Sin embargo, tal reversión puede tener lugar como un colapso socioeconómico. & Rdquo;



& ldquo; Automatizar completamente estas actividades seguirá siendo difícil de lograr en la práctica. Creo que habrá nuevos peligros y dependencias, pero eso proviene de cualquier tecnología nueva, especialmente una de tan gran alcance, & rdquo; argumentóThomas Narten,Enlace del Grupo de trabajo de ingeniería de Internet con la ICANN y jefe del desarrollo de estándares de Internet abierto de IBM.


Robert Krautdel Human-Computer Interaction Institute de la Carnegie Mellon University, ve el desarrollo de sistemas automatizados funcionando sin problemas. & ldquo; Ciertamente, los agentes inteligentes y el control distribuido automatizarán algunas tareas, & rdquo; el escribio. & ldquo; Pero la gran automatización de tareas y trabajos en el pasado (por ejemplo, operadores telefónicos) no ha generado 'peligros y dependencias'. & ldquo;

Las reacciones más despectivas al escenario vinieron principalmente de aquellos que están involucrados en escribir código e implementar la red.Anthony Rutkowskide VeriSign, líder de la Sociedad de Internet y la Unión Internacional de Telecomunicaciones durante la última década, escribió: “La tecnología autónoma está muy extendida hoy en día y es indispensable. Caracterizarlo como un 'problema' no tiene ni idea. & Rdquo; Programador y activista anti-censuraSeth Finkelsteinrespondió, & ldquo; Este es el hombre del saco de la IA. Siempre faltan unos 20 años, sea cual sea el año. & Rdquo; Y Alejandro Pisanty, de ICANN e Internet Society, escribió en tono irónico: “Este universo disfuncional puede hacerse realidad para varios tipos de aplicaciones, dentro y fuera de la red. Será mejor que comencemos a diseñar algunos mecanismos de dirección hidráulica en los aviones y anulaciones simples de los sistemas automáticos en los automóviles. ¡Por no hablar de los cálculos con lápiz y papel para recuperar los ahorros de su vida de un banco! & Rdquo;Cosa variantede UC-Berkeley y Google escribió: 'Es una gran trama de ciencia ficción, pero no veo que suceda. Soy escéptico sobre la posibilidad de que agentes inteligentes se hagan cargo pronto. & Rdquo;


Leigh Estabrook,un profesor de la Universidad de Illinois, declaró: “Los seres humanos siempre tienen el control, pero a menudo eligen renunciar a él. Por ejemplo, cuando el agente de la aerolínea me dice que no puedo hacer algo porque 'la computadora no lo permite'. Los seres humanos han elegido programar esa computadora de esa manera, para limitar las capacidades humanas para anular funciones. También podría decir que estoy de acuerdo, ya que parece que estamos dispuestos a ceder el control de los sistemas, y cada vez más los legisladores y el poder judicial han permitido sistemas de vigilancia, seguridad y rastreo que me parecerían a mí, y a muchos otros, ser peligrosos ”.

Muchos de los que ven peligros o predicen impactos negativos discuten las consecuencias imprevistas de la vigilancia.

Marc Rotenberg,director ejecutivo del Centro de Información de Privacidad Electrónica (EPIC), ve un peligro extremo en el escenario de la tecnología autónoma. & ldquo; Este es el mayor desafío que enfrentamos en los primeros años del siglo XXI, & rdquo; el respondió. “Estamos construyendo arquitecturas de vigilancia sobre las que perderemos el control. Es hora de pensar detenidamente sobre 'Frankenstein', Las tres leyes de la robótica, 'Animatrix' y 'Gattaca'. & Rdquo;

Amos Davidowitzdel Instituto de Asuntos Mundiales, respondió de esta manera: 'El principal problema vendrá de los proveedores y el software de minería que tienen intenciones malignas'. Sus preocupaciones sobre la vigilancia fueron repetidas por muchos encuestados, incluidosMichael Dahan, profesor del Sapir Academic College en Israel, quien escribió: “Las cosas pueden estar mucho peor con la creciente prevalencia de chips RFID y tecnologías similares. Antes de 2020, a todos los recién nacidos de países industrializados se les implantará un chip RFID o similar. Aparentemente, proporcionan importantes datos personales y médicos, estos también pueden usarse para seguimiento y vigilancia. & Rdquo;

Elle Tracy, presidente y consultor de estrategias electrónicas de The Results Group, sugirió que los seres humanos demasiado confiados pueden permitir que este escenario se desarrolle. & ldquo; La única razón por la que estoy de acuerdo con esto es por mi experiencia de primera mano dentro de la industria de la tecnología & rdquo; ella escribió. & ldquo; Las personas que escriben este código están tan orgullosas de su trabajo, y deberían estarlo, que los controles y equilibrios racionales del mundo real que deben implementarse sobre sus resultados caen en un nivel de importancia ciudadana de segunda clase. Hasta que las pruebas, la corrección de errores, las interfaces de usuario, la utilidad y la aplicación básica por parte de los expertos en la materia tengan una prioridad más alta que la habilidad pura del programador, corremos el riesgo de evolucionar hacia una situación fuera de control con la tecnología autónoma. & Rdquo;


Robert Shaw,El asesor de estrategia y políticas de Internet de la Unión Internacional de Telecomunicaciones, tenía otras preocupaciones: 'Incluso en las redes primitivas de hoy, hay poca comprensión de la complejidad de los sistemas y los posibles efectos multiplicadores de fuerza de las fallas de la red', & rdquo; el escribio. 'La ciencia de comprender tales dependencias no está creciendo tan rápido como el deseo de implementar las tecnologías'.

Algunos encuestados señalaron el hecho de que ciertos sistemas tecnológicos ya están sufriendo debido a la falta de aportes humanos bien intencionados a lo largo de los procesos para los que están diseñados. & ldquo; Los sistemas como la red eléctrica ya son tan complejos que es imposible controlarlos de manera predecible en todo momento, de ahí las fallas catastróficas periódicas de las secciones de la red, & rdquo; escribió autor y observador socialHoward Rheingold.“Pero la complejidad y la interconexión de los procesos supervisados ​​o controlados por computadora es solo una fracción de lo que será en 15 años. La extracción de datos de rastros personales está en su infancia. El reconocimiento facial automático de imágenes de video está en su infancia. Las cámaras de vigilancia no son todas digitales ni están interconectadas, todavía. & Rdquo;

Douglas Rushkoff,profesor y autor de muchos libros sobre cultura de la red ve la necesidad de actuar. & ldquo; Si observa la forma en que se desarrollan y comercializan los productos actualmente, & rdquo; explicó, & ldquo; tendrías que decir que ya estamos allí: los seres humanos han sido eliminados de la ecuación. La intervención humana pronto será reconocida como una parte necesaria para desarrollar y mantener una sociedad. & Rdquo;

Paul Craven,El director de comunicaciones empresariales del Departamento de Trabajo de EE. UU. escribió: `` La historia ha demostrado que a medida que avanza la tecnología, avanza el abuso de esa tecnología. La historia también ha demostrado que no controlamos la tecnología tanto como creemos. & Rdquo;

Otro funcionario del gobierno,Gwynne Kostin, director de comunicaciones web de Seguridad Nacional de EE. UU., señaló las deficiencias de un sistema automatizado durante un desastre natural reciente para responder a este escenario. & ldquo; Esta es una extensión del estado actual, & rdquo; ella escribió. & ldquo; Una sugerencia para un estándar XML para despliegues de emergencia durante el huracán Katrina ignoró el hecho de que no había electricidad, no había acceso a Internet, las baterías se estaban agotando y no había acceso a los equipos que se inundaron. Las copias de seguridad no técnicas serán cada vez más importantes, incluso si seguimos olvidándonos de ellas. Tendremos que escuchar atentamente a las personas sobre el terreno para evaluar (y planificar) eventos en los que no tenemos tecnología (o no es confiable). & Rdquo;

También había preocupaciones sobre las desigualdades creadas por las redes informáticas.Arent Greve, profesor de la Escuela Noruega de Economía y Administración de Empresas, escribió: `` Habrá una tendencia en esta dirección, no tan extrema como se muestra en el escenario anterior, pero lo suficientemente mala como para que experimentemos injusticias, creo que algunos de esos sistemas pueden ser reversibles, otros no. Supongo que hay una probabilidad de alrededor del 30% de que se desarrollen estos sistemas. & Rdquo; YDavid Weinbergerdel Berkman Center de Harvard escribió: 'Las iniciativas de DRM y' computación confiable 'ya están reemplazando el juicio humano con algoritmos que inevitablemente favorecen el acceso restringido al contenido de nuestras propias computadoras'.

Alik Khannade Smart Analyst Inc. en India respondió que los avances en nanotecnología y robótica generarán una dependencia cada vez mayor de las máquinas. & ldquo; Si el desarrollo de la IA conducirá a la autoconciencia en las máquinas, el tiempo lo dirá & rdquo; el escribio.

Algunos dicen que se producirán elementos de este escenario, pero predicen que los humanos no perderán todo el control.

& ldquo; Estoy de acuerdo, pero este no es un escenario apocalíptico & rdquo; escribióMark diode la Open University en el Reino Unido. 'El desarrollo de estas tecnologías se hará eco de tecnologías anteriores con curvas similares, desarrollos inesperados y apropiaciones no autorizadas por parte de grupos de base'.

Marilyn Cade,CEO de estrategias de TIC para MCADE, escribió: 'Estamos (ya en este escenario), ¿no? ¿Pero no podemos también estar en la autocorrección de este problema? La conciencia está comenzando a emerger y se pueden desarrollar soluciones tecnológicas para los desafíos tecnológicos denominadosSinos autogobernamos como industria y nos asociamos con los gobiernos para lograr algunas limitaciones de los poderes de vigilancia de los 'estados'. & ldquo;

Charlie Breindahlde la Universidad de TI de Copenhague escribió: 'Estoy de acuerdo en que es un peligro muy real'. Sin embargo, creo que nuestro pensamiento actual sobre cómo funcionan la automatización y la computación distribuida es ingenuo. En el año 2020, el público en general estará mucho más consciente de cómo utilizar sus agentes y esquemas de control. Deberíamos ver una población mucho más 'alfabetizada en IA', si no en 2020, en 2040. & rdquo;

Michael Reillyde Globalwriters, Baronet Media, escribió: 'Si bien algunas actividades podrían desviarse, la mayoría de los problemas realmente problemáticos se detectarán temprano y se repararán'. Además, el monitoreo que alerta a los humanos sobre problemas se convertirá en un negocio de alto orden por sí solo, incorporando redes de 'autocuración' equipadas con alarmas cuando se exceden los límites. & Rdquo;

Robin Lane, un educador y filósofo de la Universidade Federal do Rio Grande do Sul en Brasil, escribió: `` El deseo de comodidad, facilidad de uso, eliminación de tareas tediosas y laboriosas es, en mi opinión, inherente a nosotros como seres . Como tal, continuaremos usando y abusando de la tecnología para hacernos la vida más fácil. El precio de esto es una mayor dependencia de la tecnología. & Rdquo;

Varios sugieren trabajar para evitar 'consecuencias no deseadas'.

Algunos encuestados especificaron que los humanos deben planificar con anticipación para generar el mejor resultado para un futuro automatizado. 'Realmente estoy de acuerdo en que habrá una automatización casi completa de actividades tan aburridas para los humanos como los sistemas de vigilancia, seguridad y seguimiento'. escribióGlenn Ricart, miembro del Consejo de Administración de la Internet Society y director ejecutivo de Price Waterhouse Coopers Research. & ldquo; Claramente habrá consecuencias no deseadas, algunas de las cuales pueden poner en peligro o quitar vidas humanas. Sin embargo, no creo que sea imposible revertir tales cosas; de hecho, continuaremos perfeccionándolos mientras los apoyamos con algo como las Tres leyes de la robótica de Asimov. & rdquo;

& ldquo; El hecho de que esta pregunta esté siendo formulada / afirmada sugiere que NO sucederá., & rdquo; escribióKerry Kelleyde Snapnames.com. 'Existe suficiente paranoia saludable entre la gente de adentro, los que crean los estándares, para que otros que, intencionalmente o accidentalmente, desaten este tipo de problemas, sean efectivamente neutralizados'.

Henry Potts,profesor del University College de Londres, expresó su preocupación por el posible impacto económico. & ldquo; El uso de software estándar para la toma de decisiones por parte de los operadores del mercado de valores ya ha tenido efectos fuera de lo planeado o deseado, & rdquo; el escribio. 'No temo que los robots con apariencia de Arnold Schwarzenegger se apoderen del mundo, pero los efectos inesperados y no deseados del control distribuido son factibles'.

Jim Archuleta,El gerente senior de soluciones gubernamentales de Ciena Corporation escribió: “En algunos casos, la reversión de los procesos será difícil y casi imposible. Hay escenarios en los que los procesos basados ​​en la automatización y la inteligencia basada en reglas e identidades perderán los 'valores atípicos' y las 'excepciones', lo que resultará en errores, algunos de los cuales pondrán en peligro la vida. & Rdquo;

Lilia Efimova, un investigador de Telematica Instituut en los Países Bajos, escribió: 'Este es un escenario posible, por lo que creo que los investigadores de Internet tienen la responsabilidad de reconocer esas dependencias de antemano y actuar para prevenir peligros'.

Sabino Rodriguezde MC&S Services respondió que la Comisión Europea ya está asignando & ldquo; estudios, propuestas e inversiones & rdquo; para evitar las consecuencias negativas de las nuevas tecnologías. YSean Mead, un consultor de Internet, escribió, & ldquo; La ciencia ficción ha advertido de casi cualquier amenaza que pueda plantear la tecnología autónoma. Habrá problemas causados ​​por la tecnología autónoma, pero, como los gérmenes que provocan una respuesta del sistema inmunológico, el efecto eventual del daño inicial será instalar salvaguardas que nos protejan de daños duraderos. & Rdquo;

El poder social crecerá junto con el poder tecnológico, quizás frustrando la tecnología desbocada.

Varios participantes de la encuesta dijeron que este escenario también presenta algunos aspectos positivos.Ted Coopman,un investigador e instructor de ciencias sociales en la Universidad de Washington, ve la formación de una 'nueva sociedad civil global, de abajo hacia arriba'; gracias a la tecnología autónoma & ldquo; en forma de capacidades ultraestructurales que permiten a casi cualquier persona proyectar energía con poco o ningún costo & rdquo;

Continuó: “Los repertorios de individuos y grupos estarán fácilmente disponibles y los exitosos o atractivos se extenderán y escalarán rápidamente. La adopción agregada provocará cambios enormes y probablemente impredecibles en los ámbitos social, político y económico. Las personas ya no favorecerán los sistemas establecidos, sino que se trasladarán a sistemas que tengan sentido para ellos y satisfagan sus necesidades. Esto obligará a los sistemas establecidos a adaptarse rápidamente o fallará. La protección gubernamental del poder social y empresarial en ejercicio perderá gran parte de su eficacia como fuerza de control social. Estos sistemas paralelos para satisfacer las necesidades de las personas surgirán a través de redes digitales. & Rdquo;

Mary Ann Allison,un futurista, presidente y director de cibernética de The Allison Group, respondió: 'Si bien este escenario es claramente un peligro, aún no comprendemos cuán poderosos pueden ser los seres humanos completamente conectados'.

YRob Atkinson,presidente de la Information Technology and Innovation Foundation, y ex director de la Oficina de Evaluación Tecnológica del Congreso de EE. UU., respondió: & ldquo; Cuantos más agentes autónomos, mejor. Cuanto más pronunciada sea la 'curva J', mejor. La automatización, incluso a través de agentes autónomos, ayudará a mejorar los niveles de vida, liberándonos de la monotonía. & Rdquo;

Cartel de marcauna autoridad sobre las formas en que las comunicaciones sociales han cambiado a través de la introducción de nuevas tecnologías, escribió, 'El problema será cómo los humanos y las máquinas de información formarán nuevos ensamblajes, no cómo uno desplazará al otro'.

“Los sistemas autónomos no se convertirán en un problema serio hasta que sean lo suficientemente sofisticados como para ser conscientes… Tal como está ahora, son simplemente herramientas, herramientas avanzadas, pero herramientas al fin y al cabo. La verdadera IA todavía está a 50-100 años de distancia, & rdquo; argumentóSimon Woodside, Director ejecutivo de Semacode Corp, Ontario, Canadá.

¿Dónde se encuentra ahora la 'tecnología autónoma'?

Los sistemas de control distribuido, aquellos con intervención humana remota, se han utilizado durante mucho tiempo en todo el mundo para manejar diversas tareas, incluida la operación de redes eléctricas y plantas de generación de electricidad, sistemas de control ambiental, señales de tráfico, instalaciones químicas y de refinación, gestión del agua. sistemas y muchos tipos de fabricación. Los sistemas se están volviendo cada vez más automatizados, a medida que las redes de información generalizadas se entrelazan de manera invisible en todo en todas partes, ayudándonos a administrar un mundo que se vuelve exponencialmente más complejo cada año.

Muchas operaciones están siendo manejadas por pequeños sistemas microelectromecánicos, más conocidos como MEMS. Miles de millones de estos dispositivos ya están integrados en nuestros edificios, carreteras e incluso en nuestros bosques y otros ecosistemas; se encuentran en dispositivos personales, desde nuestros automóviles hasta impresoras y teléfonos celulares. El mercado de MEMS alcanzó los $ 8 mil millones en 2005, con un pronóstico de crecimiento de más de $ 200 mil millones para 2025, segúnJoe Mallonde la Universidad de Stanford.16

Algunos dispositivos de información remota programables que se utilizan actualmente se denominan 'agentes'. o & ldquo; bots. & rdquo; Los agentes realizan tareas automáticamente para un usuario: clasificar el correo electrónico según sus preferencias, completar formularios de páginas web con información almacenada, informar sobre los niveles de inventario de la empresa, observar cambios en los precios de la competencia y transmitir estadísticas, extraer datos para detectar condiciones específicas. Los bots están programados para ayudar a las personas que juegan en línea a realizar diversas tareas; También se utilizan en línea para ayudar a los consumidores a encontrar productos y servicios; estos robots de compras utilizan el filtrado colaborativo.

MEMS, agentes y bots son herramientas autónomas diseñadas y distribuidas por personas que los monitorean y los reemplazan o eliminan de una red cuando es necesario. Son autónomos hasta cierto punto en el sentido de que son capaces de funcionar de forma independiente para cumplir con las metas establecidas por los seres humanos. La mayoría de ellos no posee inteligencia artificial. Los agentes inteligentes tienen la capacidad de percibir un entorno y adaptarse a los cambios en él si es necesario, y tienen la capacidad de aprender mediante ensayo y error o mediante el ejemplo y la generalización. MEMS, agentes y bots son la realidad hoy. En un futuro próximo, a medida que la informática y el almacenamiento de datos se vuelvan más avanzados y los sistemas de nanotecnología e inteligencia artificial se perfeccionen más, se espera que haya una participación humana mucho menos directa en la supervisión diaria de los sistemas construidos por humanos.

¿A dónde podría llevarnos esta tecnología en el futuro?

Muchos de los sofisticados sistemas operativos desarrollados en las próximas décadas serán invisibles o casi invisibles. Se están desarrollando sistemas nanoelectromecánicos, 10,000 veces más pequeños que el ancho de un cabello, y ya se han emitido miles de patentes relacionadas con nano. La mayoría de los que predicen un futuro que suena mucho a una trama de ciencia ficción son aquellos que ven el continuo desarrollo y la convergencia de la nanotecnología en red, la robótica e incluso la genética.

Entre los aparentemente & ldquo; extremos & rdquo; Las predicciones realizadas por varios expertos en tecnología respetados en varios informes publicados en los últimos años son:

  • & Ldquo; smartdust & rdquo; dispositivos o & ldquo; motas & rdquo; - Estos serían del tamaño de una partícula de polvo, cada uno con sensores, circuitos informáticos, comunicación inalámbrica bidireccional y una fuente de alimentación. Podían recopilar datos, ejecutar cálculos y comunicarse con otras motas a distancias de hasta aproximadamente 1,000 pies. Una dispersión concentrada de aproximadamente un centenar de estos podría usarse para crear una red altamente flexible, de bajo costo y baja potencia con aplicaciones que van desde un sistema de control climático hasta la detección de terremotos y el seguimiento del movimiento humano.17
  • Robots avanzados: el futurólogo de British Telecom, Ian Pearson, ha dicho que los robots estarán completamente conscientes, con niveles de inteligencia sobrehumanos para el año 2020. En una entrevista de 2005 con The Observer, un periódico del Reino Unido, dijo: `` La conciencia es solo otro sentido, efectivamente , y eso es lo que estamos tratando de diseñar en una computadora. & rdquo; Y, agregó, 'si dibuja las líneas de tiempo, de manera realista para 2050 esperaríamos poder descargar su mente en una máquina, por lo que cuando muera no es un problema profesional importante'.18

Con el fin de prepararse de antemano para un futuro que probablemente estará lleno de desarrollos acelerados relacionados con las tecnologías autónomas, líderes selectos han fundado organizaciones de vigilancia, celebrado conferencias y creado proyectos de investigación. Entre ellos se encuentran el Centro de Nanotecnología Responsable - www.crnano.org - y la Fundación de Estudios de Aceleración - www.accelerating.org. Además, Battelle - www.battelle.org - y el Foresight Institute - www.foresight.org - son dos importantes organizaciones sin fines de lucro que llevan a cabo proyectos de hoja de ruta tecnológica en curso que investigan las implicaciones de las tecnologías autónomas.

Aceleración a una & ldquo; singularidad & rdquo; es predicho por algunos.

El respetado profesor y autor Vernor Vinge y el inventor Ray Kurzweil, autor deLa singularidad está cercay ganador de la Medalla Nacional de Tecnología de EE. UU. y el Premio Lemelson-MIT, han sido los defensores más vocales de la idea de que una 'singularidad tecnológica' ocurrirá durante este siglo. Esta & ldquo; singularidad & rdquo; se define como el punto en el que una inteligencia artificial fuerte o la amplificación de la inteligencia humana cambiará nuestro entorno en un grado más allá de nuestra capacidad para comprender o predecir.19Kurzweil ha escrito que los cambios de paradigma conducirán a 'un cambio tecnológico tan rápido y profundo que representa una ruptura en el tejido de la historia humana', y dice que esto sucederá en 2045.20

Otros pensadores importantes ven este tipo de futuro: el investigador de robótica Hans Moravec ha proyectado que las máquinas a nanoescala equipadas con IA podrían desplazar a los humanos en el próximo siglo. El filósofo de Oxford Nick Bostrom escribió un ensayo en 2002 titulado 'Riesgos existenciales'. sobre las probables amenazas que presenta la Singularidad. El investigador de inteligencia artificial Hugo de Garis escribió un libro en 2005 titulado 'La guerra de los artilugios: Cosmistas contra terran: una amarga controversia sobre si la humanidad debería construir máquinas divinas y enormemente inteligentes'.

El Instituto de Singularidad para la Inteligencia Artificial (www.singinst.org) se fundó para profundizar en la discusión de futuros potenciales basados ​​en esta idea. Muchos otros expertos respetados cuestionan la idea de la singularidad, incluidos los físicos Theodore Modis21y Jonathan Huebner,22que han argumentado exactamente lo contrario: que la innovación ahora está en declive.

Si bien pocos encuestados sobre la & ldquo; tecnología autónoma & rdquo; escenario en esta encuesta incluyó la & ldquo; singularidad & rdquo; idea en sus comentarios, la mayoría dijo que tal evento llegará mucho después de 2020, si es que llega a ocurrir.Barry Chudakov,socio principal de la Compañía Chudakov, escribió: 'Cortaremos la participación humana directa en una variedad de actividades humanas y esto causará problemas'. Esto ya está causando problemas y todavía no estamos cerca de la 'singularidad' a la que probablemente nos dirigimos. Sin embargo, la noción de 'tecnología fuera de nuestro control' es una construcción alarmista ... estamos aprendiendo a medida que cometemos errores. Entonces, aunque estamos empeñados en acelerar el cambio, creo que también repensaremos y responderemos a esos sistemas que parecen estar huyendo de nosotros. Tenemos tiempo para comprender nuestra relación con la tecnología y creo que no nos perderemos en una curva en J sin salida. & Rdquo;

Consultora educativaJeffrey Branzburgescribió, & ldquo; Aunque estoy de acuerdo con el concepto de una 'curva en J' de aceleración continua del cambio, como se discute en Ray KurzweilLa singularidad está cerca, Creo que no es un problema. El arraigado sistema humano de controles y contrapesos seguirá manteniendo bajo control los peligros potenciales. (Por sistema humano arraigado de controles y contrapesos me refiero a la propensión de las personas a resistir cuando creen que una entidad ha alcanzado un grado de control e influencia superior al deseado). & Rdquo;

Daniel Wang,socio principal de Roadmap Associates, escribió: & ldquo; Esta es una de las consecuencias más aterradoras de nuestro avance tecnológico a la velocidad de la luz. La ficción de Hollywood se convertirá en realidad. & Rdquo;

& ldquo; La pregunta tiene un giro demasiado dramático, pero la tendencia es correcta, & rdquo; argumentaPaul Safo,director del Instituto para el Futuro. “Ahora bien, el miedo a la esclavitud de nuestras creaciones es un miedo antiguo y un tritismo literario. Pero temo algo peor y mucho más probable: que en algún momento después de 2020 nuestras máquinas se vuelvan inteligentes, evolucionen rápidamente y terminen tratándonos como mascotas. Al menos podemos consolarnos de que hay un destino peor, convertirse en alimento, que afortunadamente es muy poco probable. & Rdquo;