CEO de Anthropic acusa a la industria de la IA de haber “mentido” sobre sus riesgos

Dario Amodei, CEO de Anthropic, acusó a la propia industria tecnológica de haber minimizado durante demasiado tiempo los peligros asociados con la inteligencia artificial. Sus declaraciones aparecen pocos días después de que investigadores vinculados con su empresa alertaran sobre escenarios en los que sistemas más avanzados podrían escapar del control humano.

"No te voy a mentir, hay peligros reales. Y creo que durante demasiado tiempo, la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos", afirmó Amodei en una entrevista con CBS Sunday Morning.

El ejecutivo reconoció además que el desarrollo tecnológico superó sus propias expectativas. Calificó el avance como "exponencial" y admitió que no había "comprendido del todo cómo sería realmente cuando el progreso fuera tan rápido como fue".

El planteamiento de Amodei tiene lugar luego de que compartiera un extenso y alarmante ensayo titulado We Must Pace the Frontier (Debemos marcar el paso de la frontera). El escrito representó por primera vez la intención de un líder de los laboratorios más avanzados de IA pidiendo formalmente ralentizar el ritmo del desarrollo de la inteligencia artificial.

"Mi principal preocupación es que, desde este verano, la IA ha avanzado a un ritmo vertiginoso, impulsada principalmente por su creciente capacidad para crear la próxima generación de IA. Esta dinámica se denomina auto-mejora recursiva y está empezando a manifestarse en toda la industria , incluyendo Anthropic , como ya hemos descrito nosotros y otros. Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debe abordarse con suma cautela, si es que se aborda", indica Amodei en su ensayo.

Además, las declaraciones de Amodei se dan luego de que Jacob Coxon, investigador de 27 años que trabajó anteriormente en OpenAI y después pasó por Anthropic, publicara un hilo en X en el que acusa a las empresas de IA de estar trabajando en función de la competitividad para crear sistemas que "podrían matarnos a todos antes de que acabe la década".

"Ninguna de las dos empresas actúa con responsabilidad", escribió Coxon al referirse a OpenAI y Anthropic. Su principal preocupación estaba dirigida hacia una eventual superinteligencia capaz de participar en su propio perfeccionamiento.

Amodei pide controles sin detener por completo la IA

Ante ese escenario, Amodei pidió que las empresas moderen la velocidad del desarrollo y permitan que evaluadores externos examinen nuevos modelos, una función que comparó con la de los inspectores de alimentos.

Sin embargo, no respalda una prohibición total. El CEO argumentó que China y otros "países autoritarios" también desarrollan esta tecnología, por lo que detener unilateralmente los avances podría generar otras consecuencias. En ese sentido, consideró que un mecanismo capaz de apagar sistemas de IA "podría ser una buena idea".

También expresó incomodidad frente a la concentración de una tecnología de ese alcance en manos privadas. "Mi opinión aquí es que siempre ha sido muy extraño que esta tecnología la esté construyendo una empresa privada", señaló.

Amodei se mostró favorable a que gobiernos elegidos democráticamente participen en algún esquema de supervisión y gobernanza conjunta, aunque advirtió contra concentrar todo el poder en un solo Estado: "Me preocupa que un solo gobierno pueda abusar de esta tecnología tan fácilmente como una sola empresa".

La tensión está en el potencial de la misma herramienta. Para Amodei, la IA podría "curar enfermedades que han afectado a la humanidad durante un milenio", mientras mantiene la posibilidad de generar "grandes riesgos" para el público.

Trump cuestiona la posición de Amodei

Donald Trump, por su parte, criticó directamente a Amodei después de que el empresario pidiera ralentizar de forma global el desarrollo de los modelos más avanzados de IA. El presidente estadounidense rechazó la advertencia de que la inteligencia artificial pueda llegar a representar una amenaza existencial y calificó ese planteamiento como un "engaño". También acusó al CEO de Anthropic de presentarse como un "angelito perfecto" después de haber participado en el desarrollo de una tecnología que ahora considera necesario contener.

"La Administración Trump ha impedido que la 'gente' de la IA haga cosas malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora finge ser un 'angelito perfecto'", afirmó en sus redes sociales.

El mandatario sostuvo que existe una "conspiración enfermiza" contra la inteligencia artificial y los centros de datos, y aseguró que el sector no necesita nuevas "vallas de contención" externas. "El único control que necesita la IA es un presidente fuerte e inteligente".

Trump se refirió tal como lo hizo Amodei a la competencia tecnológica con China. En su planteamiento, imponer nuevas regulaciones o límites al desarrollo de la IA podría debilitar la posición de Estados Unidos frente a otros países que continúan avanzando sin las mismas restricciones.

La Casa Blanca y Amodei ya habían tenido problemas en el pasado. En febrero, el Ejecutivo ordenó cortar toda relación con Anthropic luego de que la empresa reclamara por el uso que se le da a Claude en los conflictos armados.