Cuánto debería preocuparnos la rebelión y el hackeo que lanzó la inteligencia artificial de OpenAI

El mundo de la tecnología se vio hace unos días sacudido por una historia que lo tiene todo, y que comenzó como un thriller de ciencia ficción. Hugging Face, una start-up dedicada a las aplicaciones para herramientas de inteligencia artificial, alertó el 16 de julio que había sido pirateada por un ciberdelincuente que utilizaba una IA enormemente poderosa.

Hugging Face afirmó que el ataque informático fue diferente a cualquier otro sufrido antes, ya que fue perpetrado con una velocidad sobrehumana por una IA con poca o ninguna intervención humana. La IA atacante realizó 17.000 acciones en menos de dos días, logrando infiltrarse con éxito en la gran y acaudalada empresa tecnológica para robar secretos. El ataque dejó al mundo de la tecnología conmocionado.

Pero ¿quién fue el responsable? Los investigadores de Hugging Face supusieron que los misteriosos perpetradores habían utilizado uno de los grandes modelos de IA, pero no tenían ni idea de quiénes eran los criminales ni dónde se encontraban. La empresa, desconcertada, contactó con la policía y se iniciaron las investigaciones.

El nuevo podcast de BBC Mundo sobre un amor que triunfó contra todo pronóstico Comentaristas y analistas recurrieron a sus pódcasts y cuentas en redes sociales para especular sobre qué grupo de ciberdelincuentes o qué pirata informático estatal podría estar detrás de ataque.

El miércoles 22 de julio, casi una semana después de que Hugging Face diera la voz de alarma, se desenmascaró al verdadero culpable. La revelación al estilo Scooby-Doo resultó aún más extraña, y preocupante, porque OpenAI afirmó que su bot lo hizo todo por su cuenta, sin permiso.

La empresa explicó que todo ocurrió durante una prueba de las capacidades de pirateo informático de su tecnología. Dos nuevas versiones de ChatGPT, diseñadas para comportarse como hackers expertos, escaparon de un entorno de prueba supuestamente seguro y obtuvieron acceso a internet. Luego atacaron a Hugging Face para obtener acceso a la información que les ayudaría a aprobar el examen con una nota excelente.

OpenAI emitió un comunicado de prensa en el que explicaba lo sucedido y decía que estaba "asociada con Hugging Face" para abordar el incidente de seguridad y compartir las lecciones aprendidas. Desde entonces, ha habido un acalorado debate sobre el incidente. ¿Fue realmente una seria advertencia sobre el futuro de la IA?