“Tal vez los gobernantes deberían recordar que sus electores prefieren estar vivos, no muertos” (Stuart Russell).
En 1983, Ronald Reagan vio la película Juegos de guerra, una ficción basada en el momento en que las computadoras toman el mando de los sistemas que controlan el enjambre de comunicaciones de los comandos para la defensa y el contrataque en el caso de un ataque nuclear enemigo –para el caso los rusos. Profundamente desconcertado ante la posibilidad de que la ficción se convirtiera en realidad, reunió a su gabinete de seguridad y algunos miembros del Congreso a discutir una estrategia nuclear de defensa. Al final de la reunión, Reagan preguntó al general que coordinaba las fuerzas armadas si era posible que la ficción ilustrada en la película se convirtiera en realidad. Una semana después, el general regresó con su repuesta: “Señor presidente, el problema es mucho peor de lo que usted piensa”. En consecuencia, firmó un decreto para salvaguardar los sistemas del gobierno en infraestructura de comunicaciones, y posteriormente el Acta en contra del Crimen Cibernético.
Decenas de películas similares han mostrado la forma en que la creatividad de la ciberciencia puede derivar en catástrofes, algunas de ellas bellas metáforas, como Odisea 2001; otras más paranoicas como Dr. Strangelove. Pero lo que no se puede descartar es el mensaje no tan subliminal que estima la posibilidad de que las máquinas tomen el volante y decidan el camino a seguir: seguridad y bienestar o un barranco del que no sobreviva nadie. Un querido amigo me recordó la frase de Samuel Beckett: “si ocurre un desastre nuclear, que no quede nada”.
Desde hace tiempo se discuten las ventajas de la inteligencia artificial (IA)como medio para obtener mayores ganancias, pero no como arma de destrucción masiva. Pero algunos cayeron en cuenta de que es necesario trascender la ambición y ganancia a la que son tan afectos algunos de los modernos robber barons de Silicon Valley, en la Bahía de San Francisco.
Jason Clayton, científico de 27 años, prendió las alarmas sobre la posibilidad de que la IA, por sí misma, al margen del control humano, pudiera crear las condiciones para la destrucción de la humanidad. El genio salió de la lámpara y existe 10 por ciento de probabilidad de que tome control la IA y cause una hecatombe nuclear o biológica, concluyó. Dario Amodei, director de Anthtropic (empresa líder en la IA), coincidió con Clayton, aunque trató de matizar sus tiempos y alcances en el corto plazo. Lo interesante es que algunos de los directores de importantes corporaciones competidoras coincidieran con Amodei y Clayton en la necesidad de encontrar el balance entre el desarrollo desbocado de la IA. Comentó la imposibilidad de frenar los billones de dólares que se invertirán en una industria cuyas ventajas son evidentes para el desarrollo, pero también que es menester una pausa para reflexionar sobre la forma de evitar que destruya a la humanidad.
En una entrevista se le preguntó al presidente de EU si estaba preocupado por la posibilidad de que la IA fuera causante de la extinción humana. Con su infantilismo característico, respondió: “no tengo ninguna” y agregó “mi preocupación es que, si no ganamos la IA, vamos a estar en mala posición”. Argumentó que América es líder en su desarrollo y frenarlo sería darle a China la oportunidad de ganar terreno. Lo que para Reagan fue un motivo de reflexión y preocupación, hoy para Trump es una muestra más de su ignorancia e indolencia. Para la comunidad científica, motivo de alarma. Más y más científicos, entre ellos el físico que ganó el Premio Nobel por el diseño de la IA, discuten la forma de afrontar el problema. El inconveniente es que quienes pudieran recomendar al presidente reflexionar seriamente sobre el asunto temen contrariarlo y sufrir sus represalias ,o peor aún, sus venganzas. Tal vez prefiera que no existan electores.
En este contexto, parece una broma que empresarios como Mark Zuckerberg, David Ellis, Jeff Bezos y otros símiles hablen de construir búnkeres, montañas, islas y regiones en las que creen sobrevivirán la distopía anunciada. Habrá que preguntarles cuánto tiempo estarán encerrados y qué harán cuando salgan de sus cavernas y regresen a un mundo que ellos ayudaron a destruir. Vale recordarles otra película, El planeta de los simios.
