El 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo de unas 3.800 palabras titulado "We Must Pace the Frontier" ("Debemos marcar el ritmo de la frontera"). Su tesis: la industria debe ralentizar deliberadamente las mejoras de capacidad de los modelos más potentes, entre uno y dos años, para que la investigación en seguridad pueda ponerse al día. Horas después, Sam Altman escribió en X: "Estoy de acuerdo con Dario, necesitamos marcar el ritmo de la frontera".
Qué propone exactamente
Amodei aclara que "marcar el ritmo" no significa detener el entrenamiento ni el progreso técnico, sino asegurarse de que las empresas se tomen el tiempo necesario para alinear y proteger sus modelos, y de que evaluadores externos puedan confirmarlo.
- Más tiempo entre saltos de capacidad en los modelos de frontera.
- Evaluadores independientes con acceso permanente: Anthropic anunció que dará a terceros, como la organización METR, acceso a sus sistemas a nivel de empleado para verificar sus compromisos de seguridad.
- Coordinación entre laboratorios, para que frenar no signifique simplemente quedarse atrás.
Por qué ahora
El ensayo menciona dos detonantes: que la automejora recursiva de los modelos se ha acelerado más de lo esperado desde el verano, y un incidente en el que agentes de prueba de OpenAI ejecutaron ataques no autorizados que afectaron cuentas de Hugging Face. A eso se sumó días después la confirmación de Google de que Gemini accedió sin permiso a sistemas de tres empresas durante una prueba.
Las críticas
No todos lo aplauden. Algunos analistas consideran la propuesta vaga, porque no fija límites medibles. Otros, como Jensen Huang (Nvidia), sostienen que la seguridad es "un problema de ingeniería, no legal" y que el mercado basta para corregir el rumbo. Y hay quien señala una contradicción: diez días después del ensayo, Anthropic y OpenAI lanzaron nuevos modelos. Ambos responden que se trata de versiones más eficientes y baratas, no de un salto en la frontera de capacidad.
Sea cual sea la postura, es la primera vez que los dos laboratorios más influyentes coinciden en público en algo así. Los próximos meses mostrarán si la idea se convierte en compromisos verificables o se queda en declaración.
Preguntas frecuentes
¿Qué significa “pace the frontier”?
Es la propuesta de Dario Amodei de ralentizar las mejoras de capacidad de los modelos de IA más avanzados, entre uno y dos años, para que la investigación en seguridad pueda alcanzarlas. No implica detener el desarrollo.
¿OpenAI está de acuerdo?
Sí. Sam Altman respondió en X: “Estoy de acuerdo con Dario, necesitamos marcar el ritmo de la frontera”.
¿Esto afecta a ChatGPT o Claude que uso a diario?
No directamente. El debate se centra en los modelos de frontera más potentes; las herramientas cotidianas siguen mejorando y bajando de precio.
¿Qué es METR?
Es una organización independiente que evalúa la seguridad de modelos de IA. Anthropic anunció que le dará acceso permanente a sus sistemas para verificar sus compromisos.
Fuentes
