{"id":30239,"date":"2026-05-27T19:14:36","date_gmt":"2026-05-27T17:14:36","guid":{"rendered":"https:\/\/www.prospereando.es\/?p=30239"},"modified":"2026-05-27T19:28:03","modified_gmt":"2026-05-27T17:28:03","slug":"magnifica-humanitas-el-papel-de-christopher-olah-y-anthropic-en-la-enciclica-sobre-la-ia-del-papa-leon-xiv","status":"publish","type":"post","link":"https:\/\/www.prospereando.es\/index.php\/2026\/05\/27\/magnifica-humanitas-el-papel-de-christopher-olah-y-anthropic-en-la-enciclica-sobre-la-ia-del-papa-leon-xiv\/","title":{"rendered":"\u2018Magnifica Humanitas\u2019: el papel de Christopher Olah y Anthropic en la enc\u00edclica sobre la IA del Papa Le\u00f3n XIV"},"content":{"rendered":"<figure id=\"attachment_30241\" aria-describedby=\"caption-attachment-30241\" style=\"width: 300px\" class=\"wp-caption alignleft\"><img loading=\"lazy\" decoding=\"async\" class=\"size-medium wp-image-30241\" src=\"http:\/\/www.prospereando.es\/wp-content\/uploads\/2026\/05\/Papa-300x169.jpeg\" alt=\"\" width=\"300\" height=\"169\" srcset=\"https:\/\/www.prospereando.es\/wp-content\/uploads\/2026\/05\/Papa-300x169.jpeg 300w, https:\/\/www.prospereando.es\/wp-content\/uploads\/2026\/05\/Papa.jpeg 668w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/><figcaption id=\"caption-attachment-30241\" class=\"wp-caption-text\"><br \/>Fabrizio Maffei\/Shutterstock<\/figcaption><\/figure>\n<div class=\"theconversation-article-body\">El Papa Le\u00f3n XIV ha publicado, el 25 de mayo de 2026, su primera enc\u00edclica, <a href=\"https:\/\/www.vatican.va\/content\/leo-xiv\/es\/events\/event.dir.html\/content\/vaticanevents\/es\/2026\/5\/25\/enciclica-magnifica-humanitas.html\"><em>Magnifica Humanitas<\/em><\/a>, dedicada a la defensa del ser humano en la era de la inteligencia artificial. Entre los asistentes al <a href=\"https:\/\/www.religionenlibertad.com\/vaticano\/260525\/olah-anthropic-gobiernos-deberian-hecho-papa-tomarse-serio-ia_118331.html\">acto de presentaci\u00f3n<\/a> estaba Christopher Olah, cofundador de la estadounidense Anthropic. Su intervenci\u00f3n dej\u00f3 una idea provocadora: interactuar debidamente con la IA es una cuesti\u00f3n m\u00e1s humana y religiosa que tecnol\u00f3gica.\u00bfQu\u00e9 relaci\u00f3n puede tener una tradici\u00f3n espiritual milenaria con la revoluci\u00f3n del aprendizaje m\u00e1quina?<\/p>\n<h2>La apuesta humana de la IA<\/h2>\n<p>La respuesta se remonta <a href=\"https:\/\/openai.com\/index\/organizational-update\/\">a finales de 2020<\/a>, cuando los hermanos Dario y Daniela Amodei abandonaron OpenAI junto a quince cient\u00edficos clave \u2013incluido el propio Olah\u2013 para fundar Anthropic. Seg\u00fan explic\u00f3 el propio Dario Amodei en <a href=\"https:\/\/www.youtube.com\/watch?v=ugvHCXCOmm4\">una entrevista en 2024<\/a>, no compart\u00edan la visi\u00f3n de Sam Altman, CEO de OpenAI, en materia de seguridad. Para ellos, ante la inevitable escala que alcanzar\u00edan estos modelos, el verdadero reto no era comercial, sino crucialmente humano: dominar a la IA y ponerla a nuestro servicio.<\/p>\n<p>El primer problema que quer\u00edan afrontar los fundadores de Anthropic era el del exceso de adulaci\u00f3n. Para crear modelos de lenguaje como GPT se requiere una fase de entrenamiento donde se utiliza una t\u00e9cnica de aprendizaje por refuerzo que se basa en la retroalimentaci\u00f3n humana. Esto significa que el objetivo de la IA nunca es llegar al fondo de la cuesti\u00f3n o generar la soluci\u00f3n perfecta, sino conseguir la mejor calificaci\u00f3n posible por parte de sus evaluadores humanos. Y es por ello que surge la adulaci\u00f3n como estrategia para tener contentos a los usuarios, aunque ello implique inventar o exagerar lo que convenga.<\/p>\n<h2>La IA Constitucional de Anthropic<\/h2>\n<p>La soluci\u00f3n que desde Anthropic propusieron a esto es la llamada IA Constitucional. Consiste en \u201cinculcar\u201d una serie de principios fijos e inquebrantables, una constituci\u00f3n, en el modelo como base de su entrenamiento, de manera que primen la honestidad y la modestia por encima del espect\u00e1culo y la satisfacci\u00f3n del usuario.<\/p>\n<p>Pero de poco sirven las normas o valores \u00e9ticos si no tenemos garant\u00edas de que la IA vaya a respetarlas en la pr\u00e1ctica. Por ello el segundo problema que abordaron los creadores de Claude es el de la falta de alineamiento.<\/p>\n<p>Los objetivos de la IA rara vez coinciden con los nuestros y en ocasiones ocurre que esta es capaz de mentir o replicar sesgos cognitivos con tal de darnos una respuesta satisfactoria, aunque en realidad le falte informaci\u00f3n o incluso tenga constancia de que las cosas no son como nos est\u00e1 diciendo.<\/p>\n<p>Por su naturaleza, una IA casi siempre es capaz de darnos una \u201cexplicaci\u00f3n\u201d plausible y convincente de los razonamientos que le han llevado hasta su respuesta. Pero \u00bfc\u00f3mo podemos saber que internamente la IA est\u00e1 alineada con nuestros objetivos, que busca de forma sincera lo mismo que nosotros?<\/p>\n<h2>Un detector de mentiras para la IA<\/h2>\n<p>En la tecnol\u00f3gica americana lo han llamado \u201cinterpretabilidad mecanicista\u201d y es algo as\u00ed como una t\u00e9cnica para \u201cleer el pensamiento\u201d de la m\u00e1quina mediante una especie de detector de mentiras inform\u00e1tico. El objetivo es asegurarse de que los valores de esos billones de par\u00e1metros de las neuronas artificiales implicadas en el sistema se corresponden con aquello que buscamos, de manera que lo que \u201cdiga\u201d la IA coincida con lo que \u201cpiensa\u201d.<\/p>\n<p>Este inflexible blindaje \u00e9tico no ha tardado en generar fricciones geopol\u00edticas. Recientemente, la Administraci\u00f3n Trump vet\u00f3 el uso de Claude en las agencias federales tras la <a href=\"https:\/\/apnews.com\/article\/ai-anthropic-trump-security-risk-a8cfd07b4d975ddfc5be7e016ed3ddce\">negativa de Anthropic<\/a> a suavizar las restricciones morales de sus modelos, que imped\u00edan al Pent\u00e1gono usar su tecnolog\u00eda para el desarrollo de armamento aut\u00f3nomo.<\/p>\n<p>Precisamente por el peso de estas decisiones, a finales de marzo de 2026 Anthropic organiz\u00f3 en su sede de San Francisco <a href=\"https:\/\/www.washingtonpost.com\/technology\/2026\/04\/11\/anthropic-christians-claude-morals\/\">un inusual seminario<\/a> donde reuni\u00f3 a 15 destacados l\u00edderes y te\u00f3logos cristianos junto a sus propios investigadores. Se trataba de buscar asesoramiento externo para el desarrollo del \u201cesp\u00edritu\u201d, del comportamiento \u00e9tico y moral, de sus pr\u00f3ximos modelos. Como Olah declaraba en su intervenci\u00f3n, el impacto social de la IA ha alcanzado una dimensi\u00f3n tan profunda que exige trascender los l\u00edmites de la propia tecnolog\u00eda.<\/p>\n<h2>Guiar la conciencia de la m\u00e1quina<\/h2>\n<p>En definitiva, el rastro que conecta los pasillos del Vaticano con los supercomputadores de Silicon Valley no es la ingenier\u00eda, sino la antiqu\u00edsima necesidad humana de descifrar y guiar la <a href=\"https:\/\/dle.rae.es\/conciencia\">conciencia<\/a>. Esta confluencia demuestra que, cuanto m\u00e1s aut\u00f3nomos se vuelven nuestros artefactos, m\u00e1s debemos ahondar en nuestras ra\u00edces para humanizarlos.<\/p>\n<p>Esta revoluci\u00f3n, como todas las grandes transiciones de la humanidad, nos impulsa, tal como concluye la enc\u00edclica papal, a un doble compromiso: \u201cuna profundizaci\u00f3n de la investigaci\u00f3n cient\u00edfica; por otra, un ejercicio de discernimiento moral y espiritual\u201d.<!-- Below is The Conversation's page counter tag. Please DO NOT REMOVE. --><img loading=\"lazy\" decoding=\"async\" style=\"border: none !important; box-shadow: none !important; margin: 0 !important; max-height: 1px !important; max-width: 1px !important; min-height: 1px !important; min-width: 1px !important; opacity: 0 !important; outline: none !important; padding: 0 !important;\" src=\"https:\/\/counter.theconversation.com\/content\/283517\/count.gif?distributor=republish-lightbox-basic\" alt=\"The Conversation\" width=\"1\" height=\"1\" \/><!-- Fin del c\u00f3digo. Si no ve ning\u00fan c\u00f3digo arriba, por favor, obtenga el nuevo c\u00f3digo de la pesta\u00f1a Avanzado despu\u00e9s de hacer clic en el bot\u00f3n de republicar. El contador de p\u00e1ginas no recoge ning\u00fan dato personal. M\u00e1s informaci\u00f3n: http:\/\/theconversation.com\/es\/republishing-guidelines --><\/p>\n<h5><a href=\"https:\/\/theconversation.com\/profiles\/federico-peinado-2690212\">Federico Peinado<\/a>, Profesor en el Departamento de Inteligencia Artificial e Ingenier\u00eda del Software, <em><a href=\"https:\/\/theconversation.com\/institutions\/universidad-complutense-de-madrid-2383\">Universidad Complutense de Madrid<\/a><\/em><\/h5>\n<h5>Este art\u00edculo fue publicado originalmente en <a href=\"https:\/\/theconversation.com\">The Conversation<\/a>.<\/h5>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>El Papa Le\u00f3n XIV ha publicado, el 25 de mayo de 2026, su primera enc\u00edclica, Magnifica Humanitas, dedicada a la defensa del ser humano en la era de la inteligencia artificial. Entre los asistentes al acto de presentaci\u00f3n estaba Christopher Olah, cofundador de la estadounidense Anthropic. Su intervenci\u00f3n dej\u00f3 una idea provocadora: interactuar debidamente con la IA es una cuesti\u00f3n m\u00e1s humana y religiosa que tecnol\u00f3gica.\u00bfQu\u00e9 relaci\u00f3n puede tener una tradici\u00f3n espiritual milenaria con la revoluci\u00f3n del aprendizaje m\u00e1quina? La apuesta humana de la IA La respuesta se remonta a &hellip; <\/p>\n","protected":false},"author":4,"featured_media":30241,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-30239","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sociedad","sent_by-federico-peinado"],"_links":{"self":[{"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/posts\/30239","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/comments?post=30239"}],"version-history":[{"count":3,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/posts\/30239\/revisions"}],"predecessor-version":[{"id":30243,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/posts\/30239\/revisions\/30243"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/media\/30241"}],"wp:attachment":[{"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/media?parent=30239"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/categories?post=30239"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.prospereando.es\/index.php\/wp-json\/wp\/v2\/tags?post=30239"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}