Los líderes de las compañías más influyentes de la inteligencia artificial parecen tener una capacidad casi sobrehumana para maravillarnos y ponernos los pelos de punta al mismo tiempo. Anthropic, la compañía liderada por Dario Amedei, es una de ellas. Después de frenar el lanzamiento global de Mythos, ahora propone que la industria disponga de un botón de pausa para frenar el desarrollo de la IA.
Anthropic plantea un dilema que cada vez suena menos teórico. Frenar el desarrollo de la inteligencia artificial podría ayudar a la sociedad a prepararse para una tecnología con consecuencias difíciles de prever. Pero también existe el riesgo de que una pausa solo sirva para que los competidores más agresivos recorten distancias. Por eso, aboga por un mecanismo de coordinación global. “Nada de esto es necesariamente imposible en principio” apunta el desarrollador.
El mundo ha establecido regímenes de verificación para otras tecnologías complejas como las armas nucleares, pero esos regímenes tardaron décadas en construir tanto la infraestructura como la confianza. Y, “no disponemos de tanto tiempo” insisten.
El tiempo de los humanos en el desarrollo de la inteligencia artificial podría tener los días contados. La ventaja humana reside en el criterio y el buen juicio en la investigación, incluyendo la elección de qué problemas importan, en qué resultados confiar y cuándo un enfoque no lleva a ninguna parte. Pero puede no ser suficiente.
Anthropic asegura que Claude ya está a punto de igualar a los programadores de la compañía. "A finales de 2025, el código escrito por Claude era algo peor que el de nuestros ingenieros. Hoy está prácticamente a la par y esperamos que sea claramente mejor a lo largo de este año", explica la empresa.
Si esa predicción se cumple, el trabajo de los desarrolladores podría cambiar radicalmente. En lugar de escribir código, pasarían a supervisarlo. Y ni siquiera ese papel parece garantizado a largo plazo.
Las cifras ayudan a entender por qué. Los ingenieros de Anthropic implementan hoy ocho veces más código por trimestre que entre 2021 y 2025 gracias a la ayuda de la IA. Al mismo tiempo, la duración de las tareas que los sistemas pueden completar de forma autónoma y fiable se está acelerando: si antes esa capacidad se duplicaba cada siete meses, ahora lo hace aproximadamente cada cuatro.
El problema es que llegará un momento en el que los humanos ya no puedan revisar el código con la misma velocidad con la que las máquinas lo generan. Cuando eso ocurra, sostienen, las personas dejarán de ser un apoyo para el desarrollo de la IA y se convertirán en su principal tapón para su desarrollo.
Y ahí es donde la historia se vuelve realmente perturbadora.
Anthropic contempla un futuro en el que los sistemas de IA no solo ayuden a construir nuevos modelos, sino que participen activamente en el diseño de sus propios sucesores. Dicho de otra forma: máquinas creando máquinas cada vez mejores. "Si esto sucede, las futuras versiones de Claude podrían ser mejoradas continuamente por el propio Claude", admite la empresa.
La promesa es tan seductora como inquietante. La compañía cree que esta tecnología podría multiplicar la productividad humana hasta niveles difíciles de imaginar y acelerar avances en ciencia o medicina. Pero, las implicaciones reales aún no están claras, pero "una IA capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología, con un potencial enorme para el mundo en ciencia, salud, pero también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA" apunta la compañía de Dario Amodei. Y es que, a medida que las capacidades de los sistemas de IA superen ampliamente las humanas, estos modelos no solo participarían en la economía, sino que podrían llegar a estructurarla, expandiéndose hasta ocupar progresivamente funciones en las que hoy el trabajo humano sigue siendo esencial.
En ese punto, incluso las categorías económicas tradicionales empezarían a difuminarse. Si el trabajo humano deja de ser competitivo, advierte Anthropic, resulta difícil prever cómo se redefinirían conceptos como producción, valor o actividad económica.
Esta publicación de Anthropic no es la primera vez en la que se pide una pausa en el desarrollo relacionado con la inteligencia artificial. En 2023, el Future of Life Institute, una organización sin fines de lucro centrada en mitigar los riesgos de la tecnología, solicitó una pausa de al menos seis meses advirtiendo sobre posibles efectos catastróficos. Elon Musk firmó la petición junto con más de 1000 investigadores y ejecutivos.
El ex director ejecutivo de Google, Eric Schmidt, advirtió que la pausa beneficiaría a los competidores en China, país inmerso en una guerra comercial tecnológica con Estados Unidos. Anthropic anuncia que organizará conversaciones con responsables políticos, investigadores y otras empresas de IA para debatir una estructura de "coordinación y deliberación" y que publicará los resultados. ¿Conseguirán ponerse de acuerdo en esta ocasión? Eso sí que parece ciencia ficción.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。