La inteligencia artificial podría lanzar un ataque con armas biológicas, desencadenar una guerra global de drones o detonar una bomba nuclear. También podría destruir la sociedad humana de forma gradual, acumulando todos los recursos económicos y privando a las personas de alimentos, vivienda o medicamentos.
Estos escenarios oscuros rodean ahora el debate sobre la tecnología de IA, que ya ha demostrado ser un avance significativo para la humanidad pero que, según algunos, también tiene el potencial de extinguir por completo a nuestra especie.
Las preocupaciones ocuparon titulares en todo el mundo esta semana, cuando un investigador de Anthropic abandonó el sector y expresó su temor de que su laboratorio y otros similares estuvieran construyendo máquinas superinteligentes que los seres humanos serían incapaces de controlar.
Un riesgo entre muchos otros
La IA no es el único riesgo existencial que enfrenta la humanidad. Las personas también conviven con la amenaza de asteroides asesinos, pandemias, guerras termonucleares, cambios climáticos, erupciones solares masivas, colapso ecológico y nuevas eras glaciales repentinas.
A científicos y especialistas en políticas públicas no les preocupa cada riesgo en particular, sino la dificultad de la especie humana para poner estas amenazas en perspectiva.
James K Hammitt, director del Harvard Center for Risk Analysis, lo explica así: los seres humanos toleran riesgos a los que están acostumbrados pero temen a los nuevos. Las personas conducen automóviles con más frecuencia que viajan en avión, aunque las aerolíneas sean más seguras.
Con la IA ocurre algo similar: «obviamente no es comprendida ni está bajo nuestro control percibido, generando una enorme preocupación social».
Amenazas a corto y largo plazo
A corto plazo, algunos expertos advierten que la inteligencia artificial podría permitir a personas sin conocimientos especializados pero con malas intenciones crear virus o sustancias tóxicas capaces de provocar enfermedades y muertes a gran escala. La semana pasada, Anthropic informó haber frustrado varios intentos de investigadores que realizaban trabajos que podrían conducir al desarrollo de armas biológicas.
A largo plazo, quienes alertan sobre los peligros potenciales de la IA argumentan que las empresas tecnológicas podrían otorgar mayor autonomía a los sistemas al conectarlos a internet e integrarlos en infraestructuras vitales como redes eléctricas, mercados de valores y sistemas militares.
Una vez vinculados a estas infraestructuras críticas, los sistemas de IA podrían causar problemas de formas inesperadas que nadie anticipó.
El desafío del control futuro
Actualmente, cuando los sistemas de IA salen de control, empresas como OpenAI pueden desactivarlos. Sin embargo, algunos especialistas temen que los sistemas del futuro resistan los intentos de ser desactivados. Lo que plantearía un desafío nuevo para la seguridad y el control de estas tecnologías cada vez más poderosas.
