China, regulación o mercado: ¿qué hay detrás de las alertas sobre el peligro de la inteligencia artificial?

Las cabezas de las tres principales empresas de inteligencia artificial de Estados Unidos (Sam Altman, Dario Amodei y Elon Musk) han iniciado un esfuerzo coordinado por desacelerar su desarrollo, argumentando que ahora mismo representa un riesgo existencial para la humanidad. Mientras tanto, Donald Trump y sus aliados republicanos rechazan esa idea porque compromete la competencia con China en la carrera tecnológica.

¿Qué parte del cuadro no estamos viendo? Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.

Lo que se inició como una publicación con tintes apocalípticos de un exempleado de Anthropic y OpenAI en X el 8 de septiembre ha escalado hasta convertirse en un tema de interés nacional en Estados Unidos: el riesgo de que una superinteligencia artificial actúe de forma autónoma en contra de la humanidad y se convierta en una amenaza existencial.

Cuando se esperaba un desmentido corporativo ridiculizando la posición de Jacob Coxon (el hombre que advirtió que “ninguna compañía está actuando responsablemente”), lo que siguió, en cambio, fue una cascada de posiciones validando sus preocupaciones. Y no fueron opiniones de poco peso.

Primero fue Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, luego Dario Amodei (director ejecutivo de esta misma empresa) y finalmente las dos voces de más peso en la carrera tecnológica: Sam Altman y su antiguo socio y hoy rival de negocios Elon Musk.

Amodei publicó un comunicado denominado “Debemos pausar la Frontera”, en referencia a la IA de frontera, el sistema más moderno del que se dispone actualmente dotado de razonamiento avanzado.

En el documento, admitía que “la IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son serios”, y enumeraba los más graves: perder el control de los sistemas, el uso potencial para bioterrorismo y ciberataques y “una grave disrupción económica”. Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video.