Riesgos algorítmicos*

Yuval Noah Harari

Riesgos algorítmicos*
La era del conocimiento y la acelerada innovación tecnológica perfilan escenarios muy variados. Los retos, las oportunidades y las disyuntivas éticas que nos deparan los años por venir son materia ya de importantes debates. En su más reciente libro, Homo Deus: Breve historia del mañana, Harari se suma a la discusión. Ofrecemos aquí un extracto, a la vez ameno e inquietante, relativo a la automatización del trabajo y la inteligencia artificial.  

En septiembre de 2013, dos investigadores de Oxford, Carl Benedikt Frey y Michael A. Osborne, publicaron el informe The Future of Employment, en el que exploraban la probabilidad de que diferentes profesiones quedaran a cargo de algoritmos informáticos a lo largo de los 20 años siguientes. El algoritmo que desarrollaron Frey y Osborne para hacer los cálculos estimó que el 47% de los puestos de trabajo de Estados Unidos corren un riesgo elevado. Por ejemplo, hay un 99% de probabilidades de que en 2033 los televendedores y los agentes de seguros de vida pierdan su puesto de trabajo, que será ocupado por algoritmos. Hay un 98% de probabilidades de que lo mismo ocurra con los árbitros deportivos, un 97% de que les ocurra a los cajeros, y el 96% de que les ocurra a los chefs. Camareros: 94%. Procuradores: 94%. Guías de viajes organizados: 91%. Panaderos: 89%. Conductores de autobús: 89%. Obreros de la construcción: 88%. Ayudantes de veterinario: 86%. Guardias de seguridad: 84%. Marineros: 83%. Camareros: 77%. Archivistas: 76%. Carpinteros: 72%. Socorristas: 67%. Y así sucesivamente. Desde luego, hay algunos empleos seguros. La probabilidad de que en 2033 los algoritmos informáticos desplacen a los arqueólogos es de solo el 0.7%, porque su trabajo requiere tipos de reconocimiento de pautas muy refinados, y no produce grandes beneficios. De ahí que sea improbable que las empresas o el Gobierno inviertan lo necesario para automatizar la arqueología en los próximos 20 años.

Naturalmente, para cuando llegue el año 2033, es probable que hayan aparecido muchas profesiones nuevas, por ejemplo, la de diseñador de mundos virtuales. Pero es también probable que dichas profesiones requieran mucha más creatividad y flexibilidad que nuestros empleos corrientes, y no está claro que las cajeras o los agentes de seguros de cuarenta años sean capaces de reinventarse como diseñadores de mundos virtuales (¡imagine el lector un mundo virtual creado por un agente de seguros!). E incluso si lo hacen, el ritmo del progreso es tal que en otra década podrían tener que reinventarse de nuevo. Después de todo, bien pudiera ser que los algoritmos también superen a los humanos en el diseño de mundos virtuales. El problema crucial no es crear nuevos empleos. El problema crucial es crear nuevos empleos en los que los humanos rindan mejor que los algoritmos.

Es posible que la prosperidad tecnológica haga viable alimentar y sostener a las masas inútiles incluso sin esfuerzo alguno por parte de estas. Pero ¿qué las mantendrá ocupadas y satisfechas? Las personas tendrán que hacer algo o se volverán locas. ¿Qué harán durante todo el día? Una solución la podrían ofrecer las drogas y los juegos de ordenador. Las personas innecesarias podrían pasar una cantidad de tiempo cada vez mayor dentro de mundos tridimensionales de realidad virtual, que les proporcionarían mucha más emoción y compromiso emocional que la gris realidad exterior. Pero esta situación asestaría un golpe mortal a la creencia liberal en el carácter sagrado de la vida y de las experiencias humanas. ¿Qué hay de sagrado en holgazanes inútiles que se pasan el día devorando experiencias artificiales?

Algunos expertos y pensadores, como Nick Bostrom, advierten que es improbable que la humanidad padezca dicha degradación, porque cuando la inteligencia artificial (IA) supere a la inteligencia humana, sencillamente, exterminará a la humanidad. Es probable que esto lo haga la IA ya sea por miedo de que la humanidad se vuelva contra ella e intente cerrarle el grifo, ya sea en busca de algún objetivo insondable propio. Porque sería muy difícil que los humanos controlaran la motivación de un sistema más inteligente que ellos.

Incluso preprogramar el sistema con objetivos aparentemente benignos podría resultar horriblemente contraproducente. Una situación hipotética popular imagina que una empresa diseña la primera superinteligencia artificial y la pone a prueba de manera inocente: le hace calcular pi. Antes de que nadie se dé cuenta de lo que está sucediendo, la IA se apodera del planeta, elimina a la raza humana, emprende una campaña de conquista hasta los confines de la galaxia y transforma todo el universo conocido en un superordenador gigantesco que, a lo largo de miles de millones de años, calcula pi cada vez con mayor precisión. Después de todo, esta es la misión divina que su Creador le dio.  

 

 

Yuval Noah Harari es historiador y escritor. Profesor en la Universidad Hebrea de Jerusalén, su libro anterior es Sapiens, una breve historia de la humanidad.

 

* Este texto es un fragmento del libro Homo Deus: Breve historia del mañana, de Yuval Noah Harari (Debate, México, 2016, pp. 357-359). Agradecemos a la editorial el permiso para reproducirlo.

 

1 Carl Benedikt Frey y Michael A. Osborne, The Future of Employment: How Susceptible Are Jobs to Computerisation?, 17 de septiembre de 2013, consultado el 12 de agosto de 2015 . 

2 E. Brynjolfsson y A. McAfee, Race Against the Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy, Digital Frontier Press, Lexington, 2011.

3 Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, Oxford, 2014.