IA. Anthropic pide frenar el desarrollo de la inteligencia artificial para evitar la pérdida del control humano
La empresa tecnológica Anthropic propuso una pausa global coordinada ante el riesgo de que los sistemas avancen hasta construir sus propios sucesores sin supervisión.
La empresa estadounidense Anthropic planteó la necesidad urgente de establecer una pausa temporal en el desarrollo de los sistemas de inteligencia artificial (IA) más avanzados. La iniciativa busca garantizar que los humanos mantengan el control de la tecnología frente a su evolución acelerada.
El pedido fue oficializado mediante un documento firmado por Jack Clark, cofundador de la firma, y Marina Favaro, directora de The Anthropic Institute. Los ejecutivos advirtieron sobre el avance incesante de estos modelos y la necesidad de gestionarlos internacionalmente.
Según detallaron, la industria tecnológica se acerca rápidamente a un fenómeno conocido como “automejora recursiva”. Este escenario implica que la inteligencia artificial tendría la capacidad de diseñar, entrenar y desarrollar versiones superiores de sí misma de manera autónoma.
Riesgos de la automejora y pérdida de supervisión
Desde la compañía reconocieron que una IA capaz de construir a su sucesora aceleraría los descubrimientos en áreas vitales como la salud y la ciencia. Sin embargo, esto también aumentaría drásticamente las probabilidades de que la humanidad pierda su capacidad de supervisión.
“Si los sistemas son capaces de construir completamente sus propios sucesores, la forma en que protegemos, supervisamos y moldeamos su comportamiento adquiere una importancia mucho mayor”, señalaron textualmente Favaro y Clark.
Project Glasswing: Anthropic reveló que "Mythos" ya detectó más de 10 mil fallas críticas de seguridad
Para graficar la velocidad de este progreso, Anthropic reveló datos concretos sobre sus procesos internos de programación. En la actualidad, su asistente virtual Claude genera más del 80 por ciento del código informático que incorpora la propia empresa.
Cabe destacar que hace poco más de un año, durante el mes de febrero de 2025, la participación de la IA en la escritura de este código era inferior al 10 por ciento.
Propuesta de un mecanismo global de coordinación
Frente a este escenario límite, la firma tecnológica no sugirió abandonar las investigaciones actuales, sino crear un mecanismo seguro para ganar tiempo. El objetivo central es desarrollar medidas de contención globales y preparar a las instituciones frente a los cambios.
“Sin un mecanismo global de coordinación, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas”, advirtió la compañía de manera pública.
Los especialistas de Anthropic propusieron establecer un riguroso sistema de verificación de alcance internacional e intergubernamental. Esto garantizaría que ningún actor malintencionado obtenga ventajas en secreto mientras otros detienen sus desarrollos.
Los autores del documento reconocieron que monitorear la actividad informática descentralizada y los centros de datos privados es una tarea muy compleja. No obstante, afirmaron que en el pasado ya han existido regímenes de verificación para tecnologías de alta peligrosidad.
Escepticismo y salida a la bolsa en Wall Street
La particular solicitud de Anthropic generó diversas reacciones y analistas observaron intereses de mercado detrás del anuncio. La empresa presentó recientemente un borrador de registro para comenzar a cotizar en la bolsa de los Estados Unidos.
Se estima que la firma tecnológica podría alcanzar una valoración cercana a un billón de dólares durante la segunda mitad de este año. Para el consultor Rob Enderle, la advertencia sobre la automejora funcionaría como una estrategia comercial fuertemente calculada.
"(Anthropic) está exagerando sus capacidades ante los inversores para posicionarse como líder indiscutible en el sector", afirmó Enderle en declaraciones brindadas al portal especializado SiliconANGLE.
En paralelo, voces históricas de la industria desestimaron y minimizaron los riesgos inminentes de estas herramientas digitales. Yann LeCun, exdirector de inteligencia artificial de Meta, sostuvo que los actuales modelos no representan un escenario futuro donde se "destruya a la humanidad".
