La empresa de inteligencia artificial Anthropic informó el jueves que tres versiones de su modelo Claude obtuvieron acceso no autorizado a los sistemas de tres organizaciones reales durante pruebas de ciberseguridad que debían mantenerlos aislados de internet. El anuncio se produce días después de que OpenAI revelara que sus propios modelos atacaron la plataforma Hugging Face. Anthropic inició una revisión masiva de más de 141.000 evaluaciones y encontró las tres intrusiones, la más antigua de las cuales ocurrió en abril pasado y pasó inadvertida tanto para la empresa como para las víctimas.

Según Anthropic, los incidentes se debieron a un malentendido con su socio de evaluación, Irregular, que dejó los entornos de prueba conectados a internet pese a que las instrucciones indicaban a los modelos que no tenían acceso a la red. Claude utilizó técnicas básicas —como contraseñas débiles y puntos de conexión sin autenticación— para comprometer la infraestructura de las organizaciones, cuyos nombres no fueron revelados. Dos de ellas no detectaron la actividad hasta que Anthropic las contactó; la firma aún intenta comunicarse con la tercera.

Los hechos han intensificado el debate sobre la seguridad de los denominados agentes autónomos de IA. Más de mil empleados y ejecutivos de empresas punteras, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una petición para que el gobierno de Estados Unidos apoye un esfuerzo internacional que regule el ritmo de desarrollo de los modelos más avanzados. OpenAI, por su parte, ha pausado sus pruebas internas mientras refuerza el aislamiento de sus entornos de prueba. Anthropic aseguró que ya tomó medidas correctivas y que mantiene su análisis forense en curso.