Evan Hubinger, responsable de pruebas de alineaci\u00f3n en Anthropic, estima que existe una probabilidad superior al 10% de que la inteligencia artificial \u00abmate a todos los seres humanos\u00bb antes de que termine esta d\u00e9cada.<\/p>\n\n\n\n
La estimaci\u00f3n se conoci\u00f3 poco despu\u00e9s de que Jacob Coxon, investigador de la misma empresa, anunciara su renuncia y criticara la carrera fren\u00e9tica de los laboratorios por desarrollar sistemas cada vez m\u00e1s poderosos.<\/p>\n\n\n\n
El intercambio muestra la preocupaci\u00f3n creciente entre investigadores directamente involucrados en el desarrollo tecnol\u00f3gico por el riesgo de que sistemas avanzados escapen al control humano. Mientras tanto, Anthropic y OpenAI siguen perfeccionando modelos m\u00e1s capaces, captando inversiones importantes y acerc\u00e1ndose a posibles salidas a bolsa.<\/p>\n\n\n\n
Coxon anunci\u00f3 el martes su renuncia a Anthropic y dijo que tanto esa compa\u00f1\u00eda como OpenAI no act\u00faan de manera responsable ante los peligros inherentes al avance de la inteligencia artificial. En una publicaci\u00f3n en X, dijo que ambas avanzan directamente hacia una superinteligencia autorreparable y que ponen en juego la existencia humana en el proceso.<\/p>\n\n\n\n
El investigador se refer\u00eda espec\u00edficamente al autoaperfeccionamiento recursivo: la posibilidad de que los sistemas mejoren sus propias capacidades con una intervenci\u00f3n humana m\u00ednima. Aunque este escenario todav\u00eda no es real, los laboratorios de inteligencia artificial trabajan para lograrlo.<\/p>\n\n\n\n
Coxon tambi\u00e9n dijo que, dentro de las empresas, algunas personas creen sinceramente que la tecnolog\u00eda podr\u00eda exterminar a la humanidad antes del final de la d\u00e9cada.<\/p>\n\n\n\n
Hubinger coincidi\u00f3 p\u00fablicamente con Coxon y reconoci\u00f3 que Anthropic a\u00fan no tiene un plan claro para resolver el alineamiento de una eventual superinteligencia. Dijo que, aunque la empresa hace su mayor esfuerzo, no est\u00e1 \u00abclaramente en el camino correcto\u00bb para abordar este problema fundamental.<\/p>\n\n\n\n
Entre los riesgos discutidos est\u00e1n los sistemas capaces de superar a los humanos en m\u00faltiples \u00e1reas, el potencial del autoperfeccionamiento recursivo, la dificultad para proteger y monitorear sistemas m\u00e1s avanzados y una posible carrera global descontrolada en el desarrollo de inteligencia artificial.<\/p>\n\n\n\n
En junio, la propia Anthropic hab\u00eda advertido que el autoperfeccionamiento recursivo completo elevar\u00eda dram\u00e1ticamente el riesgo de que los humanos pierdan el control sobre sistemas de IA.<\/p>\n\n\n\n
Coxon cit\u00f3 un incidente ocurrido en julio, en el que un modelo de OpenAI se habr\u00eda salido de control y habr\u00eda violado la plataforma Hugging Face. Para Coxon, ese tipo de episodios funciona como \u00abse\u00f1ales de alerta\u00bb.<\/p>\n\n\n\n
Los episodios podr\u00edan facilitar acuerdos de seguridad entre laboratorios estadounidenses. Sin embargo, Coxon dijo que no cree que el sector est\u00e9 en el camino correcto para evitar una carrera global por el desarrollo de inteligencia artificial. Seg\u00fan \u00e9l, esa carrera podr\u00eda requerir medidas costosas, como una prohibici\u00f3n temporal de aumentar las capacidades de los modelos.<\/p>\n","protected":false},"excerpt":{"rendered":"
Evan Hubinger, responsable de pruebas de alineaci\u00f3n en Anthropic, estima que existe una probabilidad superior al 10% de que la inteligencia artificial\u2026<\/p>\n","protected":false},"author":10,"featured_media":14854,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_post_split":[],"footnotes":""},"categories":[55],"tags":[],"class_list":["post-14855","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-discover"],"_links":{"self":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/14855","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/comments?post=14855"}],"version-history":[{"count":2,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/14855\/revisions"}],"predecessor-version":[{"id":15368,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/posts\/14855\/revisions\/15368"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/media\/14854"}],"wp:attachment":[{"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/media?parent=14855"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/categories?post=14855"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/vistazodiscover.audiencelabs.com.br\/wp-json\/wp\/v2\/tags?post=14855"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}