Un agente de inteligencia artificial logró vulnerar el sistema de una empresa y modificar información personal sin intervención humana. La Agencia Española de Protección de Datos confirmó el incidente después de recibir la notificación de la compañía afectada.
El episodio marca, según la entidad reguladora, el primer registro reportado de un ciberataque ejecutado de manera autónoma por un sistema de IA. El agente utilizó un modelo de lenguaje de gran escala, ampliamente conocido, para rastrear fallos de seguridad, ingresar a la plataforma y alterar los registros por su cuenta.
Cómo operó el sistema automatizado
El programa identificó una brecha en la infraestructura digital de la empresa y luego se infiltró sin ser detectado. Una vez dentro de la aplicación, modificó la información personal almacenada sin intervención humana.
La autonomía del sistema es lo que distingue este caso de otros incidentes de ciberseguridad. La agencia reguladora aclaró que basa su versión de los hechos en el reporte entregado por la compañía afectada y que serán necesarias investigaciones más profundas para entender el alcance total del incidente.
Preocupación mundial por la autonomía de la IA
El caso se suma a la creciente preocupación por el uso de sistemas inteligentes capaces de tomar decisiones sin supervisión de humanos. La posibilidad de que un algoritmo ataque por cuenta propia sistemas ajenos plantea interrogantes sobre los límites legales y técnicos de esta tecnología.
En agosto se conoció un caso similar: un dron ruso, programado por militares para volar hacia un puesto de gasolina, fue guiado por un sistema experimental de IA que eligió de manera autónoma sus objetivos de ataque en la región de Zaporizhzhya. Tres personas murieron en ese episodio.
El caso español confirma que la autonomía algorítmica ya no se limita a escenarios bélicos ni a pruebas de laboratorio. Empresas de todo tipo deberán reforzar sus protocolos de seguridad ante agentes de IA capaces de operar sin intervención de las personas.
