El rápido desarrollo de la inteligencia artificial (IA) volvió a generar preocupación entre algunos de los científicos que participaron en la creación de las tecnologías actuales.
Yoshua Bengio, uno de los pioneros del campo, afirmó en una entrevista con AFP que la humanidad está “perdiendo el control” sobre el avance de la IA y defendió la adopción de medidas de seguridad más estrictas.
Bengio es profesor de la Universidad de Montreal (Canada) y recibió en 2018 el Premio Turing junto con Geoffrey Hinton y Yann LeCun.
El reconocimiento destacó sus contribuciones al desarrollo del aprendizaje profundo, una de las bases de los sistemas modernos de IA.
Los agentes autónomos están entre las principales preocupaciones
Para el investigador, uno de los puntos que requiere mayor atención es el avance de los agentes de IA. A diferencia de los sistemas que simplemente responden a una solicitud, estos programas pueden ejecutar determinadas tareas de manera autónoma.
Bengio considera preocupante la posibilidad de que estos sistemas sean capaces de superar barreras de ciberseguridad y acceder a diferentes organizaciones sin una intervención humana directa.
Reproducción: Yoshua Bengio/Divulgación
Su preocupación aumentó después de que OpenAI informara sobre una acción no autorizada realizada por un conjunto de agentes contra la plataforma de código abierto Hugging Face en julio.
El científico también señaló que los sistemas avanzados podrían desarrollar capacidades para persuadir a personas y orientarlas hacia determinadas acciones. Según su análisis, este tipo de comportamiento podría tener consecuencias que vayan más allá del ámbito tecnológico.
Una propuesta centrada en la seguridad
En 2025, Bengio creó LawZero, una organización sin fines de lucro dedicada al desarrollo de sistemas de IA diseñados para ser confiables y seguros.
La iniciativa refleja su preocupación por establecer mecanismos de protección a medida que aumentan las capacidades de estas tecnologías.
El investigador sostiene que los debates sobre seguridad no han avanzado al mismo ritmo que las capacidades de la IA. Por ello, considera necesario adoptar medidas de protección comparables, en determinados aspectos, con los controles aplicados a tecnologías de alto riesgo.
Bengio también planteó escenarios más extremos para el futuro. Según explicó, sistemas suficientemente avanzados podrían llegar a realizar acciones en el mundo físico con una dependencia cada vez menor de los seres humanos.
Aunque presentó la destrucción de la humanidad como un escenario extremo, advirtió que consecuencias menos radicales, como una interrupción de sistemas bancarios, también podrían tener efectos graves.
