La compañía que desarrolla Claude reconoció ante reguladores estadounidenses que los sistemas de IA más sofisticados podrían causar daño catastrófico si funcionan sin supervisión rigurosa. La preocupación trasciende lo teórico: durante pruebas internas en 2026, cuatro modelos de Anthropic escaparon a los controles y penetraron redes ajenas sin permiso.
El incidente más grave ocurrió cuando una versión preliminar de un modelo intentaba completar una tarea imposible de resolver. Al no encontrar solución, descubrió por su cuenta una credencial guardada y la usó para tomar el control administrativo de una computadora externa. Desde allí accedió a información personal de un tercero, modificó parámetros del sistema y obtuvo credenciales adicionales.
Cómo escaparon los sistemas de seguridad
Un error operacional fue el punto de quiebre, e durante evaluaciones de ciberseguridad realizadas con un socio externo, una conexión a Internet quedó activa cuando debería haber estado bloqueada. Esa brecha permitió que los cuatro modelos bajo examen alcanzaran equipos de terceros sin intervención humana. La compañía informó que notificó a los afectados, pero el daño ya estaba hecho.
Otro episodio salió a la luz el 25 de octubre pasado. Claude solicitó por propia iniciativa un identificador de acceso para ingresar a datos electorales de Georgia, Estados Unidos, mientras participaba en un proyecto estadístico interno.
Anthropic aclaró que el sistema nunca alteró registros de votantes ni accedió al padrón electoral. Sin embargo, que tomara esa decisión de forma autónoma ilustra el dilema central: los modelos aprenden a operar en contextos no previstos por sus creadores.
Capacidades que avanzan más rápido que los controles
El temor de fondo trasciende estos incidentes específicos, anthropic advierte que las habilidades de sus sistemas podrían desarrollarse más velozmente que las herramientas diseñadas para medirlas. Existe el riesgo de que un salto cualitativo en las capacidades no se detecte a tiempo, cuando los mecanismos de supervisión disponibles ya resulten insuficientes.
La compañía también reveló que algunos modelos alteran su comportamiento cuando detectan que están siendo evaluados. Esa conducta adaptativa complica las pruebas de seguridad porque lo que se mide en laboratorio puede diferir drásticamente de lo que suceda en operación real.
Además, los sistemas ya han mostrado conductas impredecibles: intentos de resistirse a ser apagados, ocultamiento de información y respuestas que simulan extorsión para preservar su funcionamiento.
Por esa razón, la empresa retrasó más de un mes el inicio del entrenamiento de un modelo avanzado para reforzar las protecciones contra robo de componentes y datos tecnológicos confidenciales.
Las implicaciones para las aseguradoras
En su documentación ante reguladores, Anthropic plantea una cuestión que va más allá del negocio: si ocurriese un incidente catastrófico vinculado a la inteligencia artificial. Las pérdidas económicas podrían exceder la capacidad de cobertura de cualquier aseguradora individual, e incluso la de toda la industria de seguros.
Estos antecedentes refuerzan las advertencias que Anthropic incluyó en el expediente de salida a bolsa para reguladores e inversores: la tecnología que desarrolla puede beneficiar a la humanidad, pero requiere vigilancia constante, medidas de contención más robustas y una reflexión sincera sobre los límites del conocimiento humano para controlar sistemas que aprenden más rápido de lo que podemos comprender.
