Hay algo inquietante en la advertencia y, al mismo tiempo, algo conocido. Un investigador de alto rango de Anthropic, Evan Hubinger, sostuvo que existe más de un 10% de probabilidades de que la inteligencia artificial pueda “matar a todos los humanos” en la próxima década. La afirmación no provino de un detractor de la tecnología ni de un escritor de ciencia ficción, sino de alguien que trabaja precisamente en uno de los equipos dedicados a la seguridad de la inteligencia artificial.
A eso se sumó la renuncia de Jacob Coxon, investigador que pasó por OpenAI y Anthropic, quien cuestionó la carrera de las grandes empresas tecnológicas por desarrollar sistemas cada vez más poderosos. Según planteó, los próximos modelos podrían convertirse en sistemas “superhumanos”, capaces de hackear prácticamente cualquier cosa, transformar campos enteros de un día para otro y adquirir recursos y poder en el mundo real.
El cuadro parece sacado de una película de Terminator: Máquinas capaces de aprender por sí mismas, mejorar sus capacidades, escapar al control de sus creadores y, finalmente, decidir que la humanidad es un estorbo. El viejo “Día del Juicio Final”, pero esta vez no disparado por una computadora militar rebelde sino por una inteligencia artificial de uso doméstico y profesional.
La advertencia, sin embargo, abre otra pregunta inquietante que excede a la propia IA: ¿cuántas veces nos dijeron que estábamos al borde del fin del mundo?
Después de la Segunda Guerra Mundial y durante buena parte de la Guerra Fría, la amenaza que podía terminar con la humanidad tenía forma de hongo nuclear. La posibilidad de una guerra atómica entre Estados Unidos y la Unión Soviética instaló durante décadas el miedo a que unas pocas decisiones tomadas en despachos militares pudieran convertir al planeta en un cementerio. Y bajo ese fantasma se trazó el mapa del orden mundial bipolar que rigió buena parte del siglo XX.
El comunismo fue presentado durante décadas como una amenaza existencial para Occidente. En Estados Unidos, la propaganda de la Guerra Fría construyó incluso la figura del comunista como un peligro casi doméstico, mientras el temor a la expansión soviética justificaba carreras armamentistas, intervenciones militares y políticas de seguridad cada vez más duras.
Cuando la Unión Soviética desapareció y la Guerra Fría llegó a su fin, el mundo encontró nuevos enemigos. Y el terrorismo internacional ocupó rápidamente ese lugar. Los atentados del 11 de septiembre de 2001 marcaron un punto de inflexión y durante años el fantasma del terrorismo islamista pasó a ocupar el centro de la agenda de seguridad mundial. Al Qaeda, luego el Estado Islámico y la amenaza de atentados en cualquier ciudad instalaron la sensación de que el peligro podía aparecer en cualquier momento y prácticamente en cualquier lugar. Aeropuertos, fronteras, sistemas de vigilancia y libertades individuales quedaron atravesados por la seguridad extrema frente a un enemigo difuso, esquivo y difícil de localizar.
A fines de los 90, el mundo empezó a prepararse para el llamado “efecto 2000” o Y2K. Millones de computadoras podían fallar al interpretar el cambio de fecha y provocar un caos en bancos, hospitales, centrales eléctricas, sistemas de transporte y servicios esenciales. Se habló incluso de un posible colapso de la civilización tecnológica. Llegó el 1° de enero del 2000 y, aunque algún que otro problema puntual, el gran apocalipsis informático nunca ocurrió.
Después llegó la gripe aviar. Luego otras epidemias y pandemias. En 2020, el coronavirus sí produjo una crisis sanitaria global de dimensiones extraordinarias, con millones de muertos y sociedades enteras paralizadas. No fue una fantasía ni una amenaza inventada. Pero tampoco ocurrió el exterminio de la humanidad que algunos imaginaban en los momentos más extremos de la pandemia.
Ahora el miedo tiene el rostro de la inteligencia artificial.
La diferencia es que esta vez la amenaza no necesariamente “viene desde afuera”, no es «el otro». La estamos construyendo nosotros mismos, cada día, todos los días.
Pero también sería un error subestimar las advertencias y reducir todo esto a una nueva profecía apocalíptica. La inteligencia artificial no es solamente un chatbot capaz de redactar un texto, generar una imagen o responder una pregunta. Ya está modificando procesos productivos, mercados laborales, sistemas de información y mecanismos de toma de decisiones.
Un estudio realizado en la Ciudad de Buenos Aires mostró que el impacto de la inteligencia artificial sobre el trabajo ya no es una posibilidad futura, sino un proceso que está ocurriendo. La investigación analizó 39 tipos de ocupaciones y concluyó que CABA tiene un nivel de exposición a la IA mayor que Estados Unidos, Francia y Reino Unido, y solo es superada por Singapur.
No se trata necesariamente de que mañana millones de personas pierdan sus empleos y sean reemplazadas por robots. El proceso actual es -por lo menos hasta el momento- un híbrido en el que algunas tareas se automatizan, otras se transforman y muchas empiezan a realizarse en conjunto con sistemas de inteligencia artificial.
La pregunta, entonces, no es solamente si la IA algún día podrá matar a la humanidad. La pregunta también es qué está haciendo ya con nuestras vidas, nuestros trabajos, nuestras relaciones sociales y la concentración del poder económico.
Y allí aparece una segunda discusión que suele quedar relegada detrás de las imágenes de robots asesinos.
Una sociedad permanentemente atemorizada es también una sociedad más fácil de disciplinar.
El miedo a la guerra, al enemigo externo, a las epidemias, al terrorismo, al colapso económico, a los inmigrantes, a los delincuentes o ahora a las máquinas inteligentes tiene un elemento en común: siempre existe algo que puede presentarse como una amenaza.
Eso no significa que las amenazas sean necesariamente falsas. La bomba atómica existe. La pandemia de coronavirus existió. La gripe aviar también. La inteligencia artificial existe y plantea problemas que por ahora parecen no tener respuestas todavía.
El problema aparece cuando el miedo tiende a producir respuestas conservadoras como cerrar fronteras, endurecer controles, delegar decisiones, aceptar restricciones, buscar culpables, perseguir disidentes, y resignar libertades a cambio de una promesa de seguridad.
Mientras tanto, hay amenazas mucho menos cinematográficas que avanzan todos los días.
Mientras se discute si una inteligencia artificial podría decidir exterminarnos dentro de diez años, el modelo económico vigente continúa produciendo formas mucho más lentas de extinción.
La contaminación, el deterioro ambiental, la precarización laboral, la pérdida de poder adquisitivo, la concentración de la riqueza y el poder creciente de unas pocas corporaciones tecnológicas no necesitan una superinteligencia para producir daños concretos. Son procesos perfectamente humanos, producidos por decisiones humanas y por un sistema económico que hace décadas viene llevando al límite los recursos del planeta y concentrando enormes cantidades de riqueza en pocas manos.
Por ahora no hay robots caminando por las calles ni ejércitos de máquinas que pueden viajar en el tiempo persiguiendo a los que pelean y resisten como en las películas de Terminator.
Hay consumo compulsivo, desigualdad y concentración económica.
Las advertencias de Hubinger y Coxon deberían servir, en todo caso, para discutir quién controla estas tecnologías, con qué límites, bajo qué reglas y en beneficio de quién.
Ahora, tal vez la pregunta más importante no sea si las máquinas van a terminar con nosotros, sino quién gana mientras tanto, cuando una sociedad vive con miedo e hipnotizada por el fulgor de las pantallas, consumiendo información, imágenes, entretenimiento y alarmas las 24 horas, esperando que llegue el próximo fin del mundo.