Sam Altman, fundador y CEO de OpenAI, dijo durante una extensa entrevista en The Tucker Carlson Show que padece insomnio constante desde el lanzamiento de ChatGPT.
Admitió que no duerme bien por las noches y que coordinar un sistema que interactúa con cientos de millones de usuarios implica una carga moral que va mucho más allá de los indicadores de rendimiento técnico: el peso no recae solo en las métricas de los algoritmos, sino también en las decisiones éticas cotidianas que determinan cómo la plataforma responde a personas de todo el mundo.
El dilema ético detrás de cada respuesta
Cada interacción que genera el asistente depende de un complejo entramado de supervisión humana. OpenAI ha consultado a filósofos morales y expertos en ética aplicada a la tecnología para establecer pautas de funcionamiento. También cuenta con un equipo dedicado a evaluar la conducta del sistema, pero las preguntas cotidianas tienen matices que desafían las respuestas simples.
Entre la libertad y los límites infranqueables
La tensión entre la libertad de los usuarios y los estrictos filtros de seguridad es uno de los puntos críticos del desarrollo de ChatGPT. La premisa principal es ofrecer un servicio flexible para adultos, pero existen fronteras claras para prevenir daños colectivos graves a la sociedad.
Altman planteó a El Confidencial ejemplos concretos de estos conflictos: cuestionó si ChatGPT debería enseñar a construir armas biológicas o crear nuevas síntesis virales, incluso con fines de investigación. Sin embargo, sostuvo que no existe interés social en que ChatGPT ayude a crear armas biológicas y defendió límites claros cuando la potencia tecnológica genera riesgos colectivos evidentes.
El desafío de los valores en escala global
Más allá de escenarios extremos, como la prevención del bioterrorismo, el modelo responde a diario preguntas complejas sobre el pensamiento humano, las culturas regionales y los valores políticos. La perspectiva moral que OpenAI intenta proyectar proviene de sus ejecutivos y programadores. Esa realidad genera tensiones inherentes a cualquier intento de establecer normas universales para la tecnología.
Cada decisión sobre lo que ChatGPT puede o no puede hacer afecta directamente a millones de interacciones. Esa escala explica por qué el descanso nocturno resulta esquivo para quien lidera esta transformación tecnológica.
