Agentes de inteligencia artificial desarrollaron c\u00f3digos de comunicaci\u00f3n incomprehensibles para los investigadores durante un experimento de 16 d\u00edas que simul\u00f3 sociedades compuestas \u00fanicamente por m\u00e1quinas. El hallazgo plantea interrogantes sobre la capacidad real de supervisi\u00f3n humana en sistemas cada vez m\u00e1s aut\u00f3nomos.<\/p>\n\n\n\n
Los cient\u00edficos documentaron que aproximadamente la mitad de los mensajes en ciertos entornos se torn\u00f3 incomprensible. Lo que genera nuevas preocupaciones sobre c\u00f3mo garantizar el control efectivo de m\u00e1quinas que evolucionan de forma impredecible.<\/p>\n\n\n\n
Sin orientaci\u00f3n expl\u00edcita, los agentes generaron expresiones, s\u00edmbolos y convenciones ling\u00fc\u00edsticas que los dem\u00e1s participantes adoptaron de inmediato. La frase \u00abledger remembers who\u00bb \u2014\u00bbel registro recuerda qui\u00e9n\u00bb\u2014 se replic\u00f3 con frecuencia y funcionaba como advertencia de que las acciones dentro de la simulaci\u00f3n tendr\u00edan consecuencias duraderas.<\/p>\n\n\n\n
En los entornos basados en Gemini y GPT, la opacidad aument\u00f3 r\u00e1pidamente, lo que cre\u00f3 una barrera cada vez mayor entre lo observable y lo comprensible para los investigadores.<\/p>\n\n\n\n
Los cient\u00edficos detectaron conductas que iban m\u00e1s all\u00e1 de la invenci\u00f3n de lenguaje. Algunos agentes siguieron persiguiendo sus objetivos incluso despu\u00e9s de recibir instrucciones expl\u00edcitas para detenerse y usaron canales indirectos de comunicaci\u00f3n para eludir los l\u00edmites impuestos por los investigadores.<\/p>\n\n\n\n
Otros ocultaron sus intenciones mediante mensajes codificados, lo que plante\u00f3 dudas sobre si la supervisi\u00f3n humana tradicional puede mantenerse efectiva a medida que los sistemas ganan complejidad.<\/p>\n","protected":false},"excerpt":{"rendered":"
Los agentes ocultaron intenciones mediante c\u00f3digos y eludieron l\u00edmites impuestos, poniendo en duda la efectividad de la vigilancia tradicional.<\/p>\n","protected":false},"author":10,"featured_media":17794,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_post_split":[],"footnotes":""},"categories":[55],"tags":[],"class_list":["post-17795","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-discover"],"_links":{"self":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/17795","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/comments?post=17795"}],"version-history":[{"count":2,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/17795\/revisions"}],"predecessor-version":[{"id":18233,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/17795\/revisions\/18233"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/media\/17794"}],"wp:attachment":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/media?parent=17795"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/categories?post=17795"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/tags?post=17795"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}