Actualizado
Si alguien ha conseguido robar algún foco al Papa León XIV durante la publicación de su primera encíclica papal ese ha sido Christopher Olah. El hasta ayer casi desconocido cofundador de Anthropic tuvo un rol destacado en la presentación del texto papal tanto por el contenido de su discurso, en sintonía con las palabras del Sumo Pontífice, como por su mera presencia en el evento.
Olah fue el único representante de las que en su propio texto el Papa denomina las empresas que «monopolizan el conocimiento, la experiencia, los datos y la capacidad de tomar decisiones» en el mundo de la IA, las que «definen las condiciones para el acceso, la visibilidad, las formas en las que se interactúa» e «incluso las oportunidades económicas» que derivan de esa tecnología ,en palabras del propio Leon XIV, que señala que se trata de un poder que no tiene nada por encima. .
Que entre todas ellas esté Anthropic es todo un éxito para la estrategia de comunicación de la empresa y la defensa de los valores humanistas que pregona. Fuera de la mesa queda que otras tecnológicas como Microsoft o IBM hayan firmado los códigos éticos tecnológicos que promueve la Iglesia, y la startup no.
Tanto Olah como su más mediático cofundador Dario Amodei, CEO de Anthropic, fueron trabajadores de OpenAI que fundaron la nueva compañía al considerar que la empresa en la que trabajaban se estaba desviando de su misión original y dejando de lado la seguridad en la tecnología.
Aunque concebida desde el principio como una empresa, su objetivo ha sido enarbolar la bandera con la que se creó OpenAI y encabezar la creación de una IA positiva para la humanidad y bajo control.
Por eso, si una empresa tenía que estar junto al Papa en la presentación de Magnifica Humanitas (el título de la encíclica), todos los caminos apuntaban a la compañía creadora de Claude.
La intervención de Olah no decepcionó y, sin duda, no habría salido de la boca de un directivo de OpenAI, Amazon o, desde luego, SpaceX. El directivo, al frente del equipo de interoperabilidad de la firma, ya había sido anteriormente partícipe de otros encuentros con representantes de la fe en nombre de su empresa. El pasado marzo acogió en las oficinas de la compañía a una delegación de líderes protestantes y católicos para debatir sobre la relación entre tecnología y religión y cómo Claude podía ayudar a los feligreses a su desarrollo espiritual, según publicó The Washington Post.
Ni a la tecnológica se le escapa el rol que puede jugar la Iglesia como prescriptora, ni a la Iglesia el que puede jugar la IA en un entorno digital que está habilitando nuevas formas de interactuar con la religión y eliminando barreras físicas.
De este modo, el discurso de Olah no ha sido rompedor frente al del Papa, y se unió al llamado a una mayor regulación tecnológica, con tirón de orejas a los gobiernos por su inacción incluido. «Necesitamos que más sectores del mundo (...) hagan lo que su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y ayudar a orientar los acontecimientos hacia una mejor dirección», subrayaba el directivo en alusión a la clase política.
Este apuntó en su discurso a la existencia de «incentivos» perversos para los laboratorios como la necesidad de estar a la vanguardia o generar rendimiento comercial o incluso el ego por ser los mejores científicos que pueden llevar a nublar la visión sobre lo que está bien o no en el mundo de la IA.
«Por más sinceramente que cualquiera de nosotros intente hacer lo correcto -y creo que muchos lo hacemos- siempre estaremos influenciados por esos incentivos», subrayaba Olah.
Las palabras del cofundador de Anthropic llegaron ni una semana después de que Donald Trump se negara a firmar una regulación sobre la IA por temor a que Estados Unidos quedara atrás en la carrera por liderar esta tecnología con China. Precisamente, Anthropic se encuentra enfrentada con el Gobierno estadounidense, ya que le retiró acceso a su tecnología al considerar que no estaba preparada para usar armas autónomas y vetar su utilización en labores de vigilancia masiva. El conflicto se ha judicializado con el ejecutivo norteamericano amenazando a la empresa de dejarla fuera de todo contrato federal.
Precisamente, este es uno de los temas cruciales de Anthropic que han dejado huella en la encíclica, ya que el Papa también se posiciona contra estas armas autónomas y el uso de IA a nivel masivo en los conflictos. «El desarrollo y uso de la IA en la guerra se debe desarrollar bajo las restricciones ética más rigurosas (...) para evitar una guerra armamentística", apunta León XIV.
Por otro lado, la encíclica encierra varias menciones a la necesidad de que la IA esté bajo control de poderes por encima de las empresas y se desarrolle con estrictos controles para garantizar que su avance trae progresos y mejoras para la humanidad, no nuevos peligros.
En esos párrafos es imposible no ver una alusión a la situación que es está viviendo con Mythos, el gran modelo de ciberseguridad de Anthropic, tan poderoso que la empresa decidió no publicarlo ante las peticiones de numerosas empresas por miedo a que este pudiera acabar siendo utilizado para realizar ciberataques.
El pasado viernes, la compañía reveló que los 50 socios que han tenido acceso a al programa han desvelado en pocas semanas más de 10.000 fallos de seguridad, miles de ellos de carácter crítico, La propia Anthropic utilizó el modelo para analizar software de código abierto y encontró otros 5.000 agujeros en la ciberseguridad de programas estructurales para millones de empresas. Aún así, la compañía sigue sin dejar a empresas europeas tener acceso al modelo.
En el aspecto económico, el Sumo Pontífice se muestra especialmente preocupado por la destrucción de trabajos que la IA acarreará, otro aspecto sobre el que Anthropic ha sido la empresa que más ha estudiado el fenómeno y que más vehementemente ha advertido sobre el futuro impacto que tendrá en eliminación de puestos de trabajo, una preocupación que el Papa comparte y a la que ninguna de las partes le encuentra una solución en sus textos, más allá de la necesidad de adaptación de las habilidades de los trabajadores a la nueva etapa.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。