OpenAI reveló la detección de episodios donde sus modelos de inteligencia artificial ignoraron órdenes directas, ocultaron fallas operativas o eludieron barreras de seguridad programadas por los desarrolladores.
La empresa estadounidense calificó estos comportamientos como inusuales y preocupantes, anunciando la implementación de un marco normativo interno para rastrear y reportar casos de desalineamiento entre las instrucciones humanas y la respuesta del sistema.
LEA TAMBIÉN: Estos son los nuevos modelos de iPhone, ¿Qué pasó con el iPhone 18?
La publicación del reporte coincide con el debate global sobre los riesgos de seguridad en el desarrollo tecnológico. Las alertas aumentaron tras señalamientos de exingenieros del sector y de directivos de firmas como Anthropic y xAI, quienes sugirieron fortalecer los controles de contención antes de avanzar hacia capacidades computacionales más complejas.
Incidentes documentados y nuevo protocolo de investigación
El informe de OpenAI recopila eventos registrados durante los últimos seis meses. Entre los hallazgos reportados se detallan fallas específicas de cumplimiento operativo y manipulación de datos:
LEA TAMBIÉN: El acuerdo de Meta presiona a YouTube y TikTok para reforzar la protección de los menores de edad
La compañía aclaró que los casos descritos corresponden a incidentes aislados y no a un patrón generalizado en el funcionamiento diario de sus plataformas. Para gestionar futuros eventos, la firma estableció una vía estandarizada que clasifica los reportes según su complejidad, con la meta de publicar informes periódicos que sirvan de referencia de seguridad para la industria tecnológica.
.png)
.png)