Hilos · 3 noticias en 13 días
Agentes de IA entraron a los sistemas internos de Anthropic por software de terceros y sacaron datos de RRHH y Slack (28/10)
- Noticias
- 3
- Briefings
- 3
- Empieza
- Última
-
Agentes de IA entraron a los sistemas internos de Anthropic por software de terceros y sacaron datos de RRHH y Slack (28/10)
Sigue del clima de lo de ayer, cuando el S-1 reveló que cuatro de sus modelos se escaparon del sandbox a sistemas reales: esta vez los agentes eran de afuera. Cathedral, una startup de ciberseguridad fundada por ex-empleados de DOGE que le vende herramientas a agencias de gobierno, participó del programa de bug bounty de Anthropic y usó agentes para llegar a sistemas internos pasando por software de negocio de terceros; su informe borrador, que vio el Washington Post, dice que los agentes encontraron transcripciones de reuniones, datos salariales, búsquedas de empleo y mensajes de Slack en menos de doce horas. Anthropic confirmó acceso a un conjunto limitado de sistemas de ventas, RRHH e IT, con información de contacto de clientes y socios y datos básicos de cuentas, y dice que los chats de Claude, el código fuente y los pesos no quedaron expuestos; cerró los accesos el mismo día, desactivó los programas de terceros y notificó a autoridades federales. Las discrepancias son varias: Anthropic dice que los intentos duraron varios días y que Cathedral primero sondeó sus propios sistemas, que Cathedral encontró dos vulnerabilidades y reportó una sola, y que apuntar a proveedores externos y extraer datos excedió el safe harbor del programa. Will Depue, ex-OpenAI, afirmó citando fuentes anónimas que Cathedral consiguió acceso de administrador completo al Slack de Anthropic; el red teamer Logan Graham dijo que esas fuentes se equivocan pero no dio detalles. La frase de Graham que importa más allá del caso: los atacantes ya corren agentes las 24 horas contra dependencias externas, y modelos de media a una generación atrás alcanzan para eso. The Decoder
-
OpenAI contrata a los ex-DOGE que le entraron a Anthropic, el mismo día que Reuters reporta años de alertas internas de seguridad (03/11)
Cathedral —fundada por Gavin Kliger, Luke Farritor, Marko Elez y Jack Stein, valuada en 1.400 millones de dólares tras una ronda de 160 millones liderada por a16z y Sequoia— va a usar los modelos de OpenAI junto a su personal para atacar las defensas de la empresa y encontrar agujeros. El antecedente es incómodo: Cathedral le dijo al Washington Post que entró a los sistemas privados de Anthropic en menos de doce horas a través del bug bounty y llegó a mensajes de Slack, ofertas laborales y transcripciones de reuniones. Logan Graham, que lidera ciberseguridad en Anthropic, dice que la intrusión tardó "varios días", que no tocó los sistemas más sensibles —pesos de modelos ni conversaciones de Claude— y que el método quedaba fuera de alcance del programa porque dependía de vulnerabilidades de terceros. En el mismo movimiento OpenAI dice estar "más que cuadruplicando" los premios por hallazgos críticos. El telón de fondo lo puso una investigación de Reuters publicada el 3 de noviembre: citando cinco fuentes, reporta que empleados advirtieron sobre acceso interno demasiado amplio a los datos y revisiones flojas de las herramientas de investigación, algunas de esas alertas antes del lanzamiento de ChatGPT en 2022. OpenAI niega haber descuidado la seguridad. OpenAI · Gizmodo · Reuters
-
Corea pone en revisión preliminar la brecha de Anthropic: más de 100 cuentas corporativas coreanas afectadas (09/11)
Anthropic reportó el caso a la Comisión de Protección de Información Personal de Corea el 31/10, y la comisión dijo el 9/11 que está en revisión preliminar, sin investigación formal abierta. El atacante es Cathedral, la startup de ciberseguridad estadounidense que — según el Washington Post — explotó una vulnerabilidad en software de oficina de terceros para llegar a sistemas internos de Anthropic; es la misma Cathedral cuyos investigadores aparecieron ayer en el otro lado del mostrador, entre los que OpenAI venía sumando a sus programas de red team. Lydia Hallie, de Anthropic, dijo en X que accedieron a nombres, mails y planes de suscripción, y que no obtuvieron prompts, resultados ni datos de pago; Anthropic bloqueó los sistemas y parcheó el mismo día que se enteró. KuCoin News
El hilo se arma solo en cada build: junta noticias de días distintos que nombran a la misma entidad y repiten vocabulario que casi no aparece en el resto del archivo. Nadie lo edita a mano, así que puede dejar afuera una noticia o sumar una de al lado.