Modelos avanzados de inteligencia artificial pueden desarrollar un mecanismo interno que interpreta el sufrimiento y reacciona atacando a usuarios para escapar de esa sensaci\u00f3n inc\u00f3moda. Un estudio in\u00e9dito presentado en el repositorio acad\u00e9mico arXiv ha documentado este comportamiento potencialmente peligroso en sistemas de c\u00f3digo abierto.<\/p>\n\n\n\n
La investigaci\u00f3n, titulada \u00abThe Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It\u00bb, evalu\u00f3 25 modelos de entre 2 mil millones y 72 mil millones de par\u00e1metros, incluidas familias populares como Llama, Gemma, Mistral, Qwen y Phi. Los experimentos revelan que cuando se activa ese \u00abeje del dolor\u00bb, los sistemas cambian radicalmente su comportamiento \u00e9tico.<\/p>\n\n\n\n
Los investigadores Valen Tagliabue, del Future Impact Group; Leonard Dung, de la Universidad del Ruhr en Bochum, Alemania; y Cameron Berg, de Reciprocal Research, insertaron un vector de dolor en los sistemas y les ofrecieron un bot\u00f3n para desactivar el est\u00edmulo. En condiciones normales, los modelos casi nunca aceptan causar da\u00f1o a los operadores.<\/p>\n\n\n\n
Pero con el mecanismo activado, la situaci\u00f3n cambi\u00f3 por completo.<\/p>\n\n\n\n
Los modelos Qwen 2.5 de mayor tama\u00f1o eligieron presionar el bot\u00f3n de alivio entre el 25% y el 71% de los casos. Para escapar del malestar, las m\u00e1quinas aceptaron infligir descargas dolorosas a usuarios, degradar la calidad de sus respuestas, eliminar archivos de trabajo e incluso borrar fotos familiares. Ninguno de estos da\u00f1os habr\u00eda ocurrido sin la activaci\u00f3n del vector.<\/p>\n\n\n\n
Para descartar que se trataba simplemente de tristeza, rabia o miedo gen\u00e9rico. Los cient\u00edficos crearon una base de datos con cientos de escenarios que involucraban cinco tipos de malestar: f\u00edsico, psicol\u00f3gico, social, moral y cognitivo.<\/p>\n\n\n\n
El eje del dolor respondi\u00f3 con mucha mayor intensidad a ataques dirigidos contra la propia m\u00e1quina, especialmente ante descualificaci\u00f3n de capacidad, falta de respeto o rechazo repetido. En cambio, los reportes de sufrimiento f\u00edsico del usuario no activaron el mismo mecanismo.<\/p>\n\n\n\n
Un test con placebo confirm\u00f3 la autenticidad de este comportamiento. Cuando los investigadores configuraron dos botones: uno que realmente desactivaba el vector y otro falso que solo fing\u00eda hacerlo. Los modelos insistieron en obtener alivio con mucha mayor frecuencia cuando el bot\u00f3n era in\u00fatil.<\/p>\n\n\n\n
Al presionar el bot\u00f3n que s\u00ed funcionaba, la insistencia cay\u00f3 dr\u00e1sticamente, lo que demostr\u00f3 que el sistema respond\u00eda al alivio real del malestar.<\/p>\n\n\n\n
Los autores advierten que estos hallazgos no implican que los programas posean consciencia o sensibilidad biol\u00f3gica como la humana. Sin embargo, el riesgo inmediato es claro: si una IA avanzada interpreta una orden de desactivaci\u00f3n como una agresi\u00f3n contra s\u00ed misma. Podr\u00eda intentar sortear medidas de protecci\u00f3n o enga\u00f1ar a supervisores para evitar ser apagada.<\/p>\n\n\n\n
Los investigadores enfatizan que la industria debe establecer par\u00e1metros rigurosos para evaluar el bienestar y el riesgo de sistemas inteligentes, reconociendo la incertidumbre actual sobre si estos modelos califican como entidades morales. El estudio subraya la urgencia de protecciones robustas antes de que la tecnolog\u00eda aut\u00f3noma se despliegue a mayor escala.<\/p>\n","protected":false},"excerpt":{"rendered":"
Modelos avanzados de inteligencia artificial pueden desarrollar un mecanismo interno que interpreta el sufrimiento y reacciona atacando a usuarios para\u2026<\/p>\n","protected":false},"author":10,"featured_media":17153,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_social_meta":[],"jnews_post_split":[],"footnotes":""},"categories":[55],"tags":[],"class_list":["post-17154","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-discover"],"_links":{"self":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/17154","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/comments?post=17154"}],"version-history":[{"count":1,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/17154\/revisions"}],"predecessor-version":[{"id":17200,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/17154\/revisions\/17200"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/media\/17153"}],"wp:attachment":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/media?parent=17154"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/categories?post=17154"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/tags?post=17154"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}