¿Deberíamos temer el ascenso de los robots inteligentes?

¿Deberíamos temer el ascenso de los robots inteligentes?

Como investigador de inteligencia artificial, a menudo se me ocurre la idea de que muchas personas tienen miedo de lo que la IA pueda aportar . Tal vez no sea sorprendente, dada la historia y la industria del entretenimiento, que tengamos miedo de una toma de posesión de los robots inteligentes que nos obligan a vivir encerrados, como Matrix, como una especie de batería humana .

Y, sin embargo, me resulta difícil mirar los modelos evolutivos de computadora que utilizo para desarrollar la inteligencia artificial , para pensar cómo las criaturas virtuales inocentes en mi pantalla podrían convertirse en los monstruos del futuro.

¿Podría convertirme en » el destructor de mundos «, como se lamentó Oppenheimer después de encabezar la construcción de la primera bomba nuclear?

Me llevaría la fama, supongo, pero quizás los críticos tengan razón. Tal vez no debería evitar preguntar: como experto en IA, ¿qué temo acerca de la inteligencia artificial?

El miedo a lo imprevisto

La computadora HAL 9000, ideada por el autor de ciencia ficción Arthur C. Clarke y traída a la vida por el director de cine Stanley Kubrick en «2001: A Space Odyssey», es un buen ejemplo de un sistema que falla debido a consecuencias no deseadas.

En muchos sistemas complejos, el RMS Titanic, el transbordador espacial de la NASA, la planta de energía nuclear de Chernobyl, los ingenieros combinan muchos componentes diferentes. Los diseñadores pueden haber sabido bien cómo funcionaba cada elemento individualmente, pero no sabían lo suficiente sobre cómo trabajaban juntos.

Eso dio lugar a sistemas que nunca podrían entenderse completamente y podrían fallar de manera impredecible. En cada desastre, el hundimiento de un barco, la explosión de dos lanzaderas y la propagación de la contaminación radiactiva en Europa y Asia, un conjunto de fallos relativamente pequeños se combinaron para crear una catástrofe.

Puedo ver cómo podemos caer en la misma trampa en la investigación de AI. Nos fijamos en las últimas investigaciones de la ciencia cognitiva, traducimos eso en un algoritmo y lo agregamos a un sistema existente. Intentamos diseñar la IA sin entender primero la inteligencia o la cognición.

Los sistemas como Watson de IBM y Alpha de Google equipan las redes neuronales artificiales con un enorme poder de cómputo y logran logros impresionantes. Pero si estas máquinas cometen errores, pierden en «¡Peligro!» o no derrotar a un maestro.

Estas no son consecuencias que cambian el mundo; de hecho, lo peor que puede pasarle a una persona normal como resultado es perder algo de dinero apostando a su éxito.

Pero a medida que los diseños de IA se vuelven aún más complejos y los procesadores informáticos aún más rápidos, sus habilidades mejorarán. Eso nos llevará a darles más responsabilidad, incluso a medida que aumenta el riesgo de consecuencias no deseadas. Sabemos que «errar es humano», por lo que probablemente sea imposible para nosotros crear un sistema verdaderamente seguro.

Miedo al mal uso

No estoy muy preocupado por las consecuencias no intencionadas en los tipos de IA que estoy desarrollando, utilizando un enfoque llamado neuroevolución . Creo entornos virtuales y evoluciono criaturas digitales y sus cerebros para resolver tareas cada vez más complejas.

Se evalúa el rendimiento de las criaturas; Aquellos que realizan el mejor son seleccionados para reproducir, haciendo de la próxima generación. A lo largo de muchas generaciones, estas criaturas mecánicas desarrollan capacidades cognitivas.

En este momento estamos dando pequeños pasos para desarrollar máquinas que puedan realizar tareas de navegación sencillas, tomar decisiones simples o recordar un par de bits. Pero pronto desarrollaremos máquinas que pueden ejecutar tareas más complejas y tener una inteligencia general mucho mejor. En última instancia, esperamos crear inteligencia a nivel humano.

En el camino, encontraremos y eliminaremos errores y problemas a través del proceso de evolución. Con cada generación, las máquinas mejoran en el manejo de los errores que ocurrieron en generaciones anteriores.

Eso aumenta las posibilidades de que encontremos consecuencias no deseadas en la simulación, que pueden eliminarse antes de que ingresen al mundo real.

Otra posibilidad que está más abajo es usar la evolución para influir en la ética de los sistemas de inteligencia artificial. Es probable que la ética y la moral humanas, como la confiabilidad y el altruismo , sean el resultado de nuestra evolución y un factor en su continuación.

Podríamos configurar nuestros entornos virtuales para dar ventajas evolutivas a las máquinas que demuestran amabilidad, honestidad y empatía. Esta podría ser una forma de garantizar que desarrollemos más sirvientes obedientes o compañeros de confianza y menos los robots inteligentes asesinos despiadados.

Si bien la neuroevolución puede reducir la probabilidad de consecuencias no deseadas, no evita el uso indebido. Pero esa es una cuestión moral, no científica. Como científico, debo cumplir mi obligación con la verdad, informar lo que encuentro en mis experimentos, me gusten o no los resultados.

Mi enfoque no es determinar si me gusta o apruebo algo; solo importa que yo pueda desvelarlo.

Miedo a las prioridades sociales equivocadas.
Sin embargo, ser científico no me absuelve de mi humanidad. Debo, en algún nivel, reconectarme con mis esperanzas y temores. Como ser moral y político, debo considerar las posibles implicaciones de mi trabajo y sus posibles efectos en la sociedad.

Como investigadores y como sociedad, todavía no hemos llegado a tener una idea clara de lo que queremos que haga o se haga la IA. En parte, por supuesto, esto se debe a que todavía no sabemos de qué es capaz. Pero necesitamos decidir cuál es el resultado deseado de la IA avanzada.

Una gran área a la que la gente está prestando atención es el empleo. Los robots ya están haciendo un trabajo físico como soldar partes de un automóvil . Un día pronto también podrán realizar tareas cognitivas que una vez pensamos que eran únicamente humanas.

Los autos que conducen solos podrían reemplazar a los taxistas ; Aviones de vuelo propio podrían reemplazar a los pilotos.

En lugar de obtener asistencia médica en una sala de emergencias atendida por médicos potencialmente agotados , los pacientes pueden obtener un examen y diagnóstico de un sistema experto con acceso instantáneo a todos los conocimientos médicos que se hayan recopilado, y someterse a una cirugía realizada por un robot incansable con una mano perfectamente estable. . »

El asesoramiento legal podría provenir de una base de datos legal que lo sepa todo ; Asesoramiento de inversión podría provenir de un sistema de predicción de mercado .

Quizás algún día, todos los trabajos humanos sean realizados por máquinas. Incluso mi propio trabajo podría hacerse más rápido, con una gran cantidad de máquinas que investigan incansablemente cómo hacer que las máquinas sean aún más inteligentes .

En nuestra sociedad actual, la automatización hace que las personas dejen de trabajar, lo que hace que las personas que poseen las máquinas sean más ricas y que todos los demás sean más pobres .

Eso no es una cuestión científica; Es un problema político y socioeconómico que nosotros, como sociedad, debemos resolver . Mi investigación no cambiará eso, aunque mi yo político,

junto con el resto de la humanidad, puede ser capaz de crear circunstancias en las que la IA se vuelva ampliamente beneficiosa en lugar de aumentar la discrepancia entre el uno por ciento y el resto de nosotros.

Miedo al escenario de pesadilla

Hay un último temor, encarnado por HAL 9000, el Terminador y cualquier número de otras super-inteligencias ficticias: si la IA sigue mejorando hasta que supera la inteligencia humana, ¿un sistema de super-inteligencia (o más de uno de ellos) encontrará que ya no necesita seres humanos? ¿Cómo justificaremos nuestra existencia.

Ante una super-inteligencia que puede hacer cosas que los humanos nunca podrían hacer? ¿Podemos evitar ser borrados de la faz de la Tierra por máquinas que ayudamos a crear?

La pregunta clave en este escenario es: ¿Por qué debería una super-inteligencia mantenernos cerca?

Yo diría que soy una buena persona que incluso podría haber ayudado a lograr la super-inteligencia en sí misma. Me gustaría apelar a la compasión y la empatía que tienen los robots inteligentes para mantenerme viva, una persona compasiva y empática.

También diría que la diversidad tiene un valor en sí misma, y ​​que el universo es tan ridículamente grande que la existencia de la humanidad probablemente no importa en absoluto.

Pero no hablo por toda la humanidad, y me resulta difícil hacer un argumento convincente para todos nosotros. Cuando nos miramos a todos juntos, hay muchos errores: nos odiamos. Nos libramos la guerra el uno al otro.

No distribuimos alimentos, conocimientos o asistencia médica por igual. Contaminamos el planeta. Hay muchas cosas buenas en el mundo, pero todas las malas debilitan nuestro argumento para que se nos permita existir.

Afortunadamente, todavía no tenemos que justificar nuestra existencia. Tenemos algo de tiempo, entre 50 y 250 años, dependiendo de qué tan rápido se desarrolle la IA . Como especie, podemos unirnos y dar una buena respuesta de por qué una super-inteligencia no debería simplemente aniquilarnos.

Pero eso será difícil: decir que abrazamos la diversidad y en realidad hacerlo son dos cosas diferentes, como lo es decir que queremos salvar el planeta y hacerlo con éxito.

Todos, individualmente y como sociedad, debemos prepararnos para ese escenario de pesadilla, aprovechando el tiempo que nos queda para demostrar por qué nuestras creaciones deben permitirnos seguir existiendo. O podemos decidir creer que nunca sucederá, y dejar de preocuparnos por completo.

Pero, independientemente de las amenazas físicas que presenten los robots inteligentes, también representan un peligro político y económico. Si no encontramos una manera de distribuir mejor nuestra riqueza , habremos alimentado el capitalismo con trabajadores de inteligencia artificial que prestan servicio a muy pocos que poseen todos los medios de producción.

Leave a Reply