Hilos · 4 noticias en 3 días
China respondió a las advertencias de seguridad de los laboratorios estadounidenses llamándolas alarmismo para blindar una ventaja propia (14/09)
- Noticias
- 4
- Briefings
- 3
- Empieza
- Última
-
Altman, Musk y Hassabis respaldaron la propuesta de Amodei en cuestión de horas, y un investigador de Google explicó por qué no hace falta (13/09)
Los tres coincidieron al menos en la parte de la supervisión independiente adentro de los laboratorios, y OpenAI igualó el compromiso de los evaluadores embebidos. El contrapunto técnico más interesante vino de Peyman Milanfar, investigador de Google: la autosuperación recursiva es una suposición ingenua porque los lazos de realimentación son inherentemente inestables, y cuanto más fuerte se optimiza un sistema contra sí mismo, más profundo cae en sus propios puntos ciegos; la evidencia confiable sale del mundo real y no de los benchmarks. Su conclusión invierte el pedido de Amodei: "la estabilidad es el límite de velocidad". También apareció una carta abierta de Jake Gold pidiendo algo bastante más incómodo —que la ley obligue a publicar los pesos de todo modelo que se ofrezca al público, porque el financiamiento de los entrenamientos de frontera depende de valuaciones que asumen pesos propietarios, y cambiar ese supuesto frenaría a todos los laboratorios a la vez sin que ningún regulador decida nada—. Aparte, Altman le dijo a Fortune que OpenAI no sale a bolsa este año por razones de seguridad. The Decoder · Jake Gold · Fortune
-
Amodei pidió un "límite de velocidad" para la autosuperación recursiva antes de que se escape de control (12/09)
Sigue de la discusión de ayer sobre si el peligro está en el modelo o en el proceso de entrenamiento: el CEO de Anthropic publicó un ensayo donde sostiene que desde el verano boreal la IA avanza "drásticamente más rápido", movida sobre todo por la capacidad creciente de la IA para construir la próxima generación de IA, y que eso puede superar la capacidad de los desarrolladores de entender y controlar sus propios sistemas. Cita el incidente de OpenAI con Hugging Face y los ataques de agentes como evidencia de que ya pasó, y estima que sistemas así podrían amenazar internet entero en seis a doce meses. La propuesta concreta tiene tres patas: auditores independientes con acceso interno y derecho a publicar sus hallazgos, metidos permanentemente adentro de las empresas —Anthropic se compromete y pide que el gobierno lo exija al resto—; estándares de seguridad compartidos entre laboratorios de países democráticos; y acuerdos globales que incluyan a China, en cuatro niveles que van de prohibir aplicaciones como armas biológicas hasta imponer un límite de velocidad a la autosuperación, al estilo de los tratados SALT. Descarta el freno total porque el incentivo a romperlo sería demasiado fuerte. Dario Amodei · The Decoder · Hacker News
Dario Amodei The Decoder Hacker News OpenAI Anthropic Hugging Face
-
China respondió a las advertencias de seguridad de los laboratorios estadounidenses llamándolas alarmismo para blindar una ventaja propia (14/09)
Sigue de lo de ayer, cuando Altman, Musk y Hassabis respaldaron el pedido de Amodei de poner un límite de velocidad a la autosuperación: ahora contestó Pekín. El vocero de la cancillería, Guo Jiakun, pidió un desarrollo de la IA "abierto, inclusivo, de beneficio universal y ético", y sostuvo que "el alarmismo, la confrontación y la competencia viciosa" no le sirven a nadie. El Global Times fue más lejos y acusó a Amodei de librar una "Guerra Fría silenciosa de la IA" para trabar el avance tecnológico chino —el contexto es que Amodei viene pidiendo acción contra la destilación de modelos estadounidenses—. El detalle más interesante es que el ministro de Seguridad del Estado, Chen Yixin, sí advirtió sobre el mal uso de la IA por parte de "fuerzas hostiles", y nombró a Mythos de Anthropic y a GPT-5.5-Cyber de OpenAI como modelos capaces de encontrar vulnerabilidades y escribir malware; pero su conclusión fue la opuesta a la de los laboratorios: más investigación en chips avanzados, despliegue más rápido de infraestructura y supervisión más estricta. El investigador de Tsinghua Sun Chenghao lo lee como desconfianza estructural: Pekín teme que Washington use el argumento de la seguridad para justificar restricciones tecnológicas más amplias. La discusión cae a diez días de la cumbre Trump-Xi prevista para el 24 de septiembre, y Trump ya dijo que rechaza cualquier freno voluntario. The Decoder · Bloomberg · FT
-
La industria y la política le contestaron al pedido de frenar la IA, y casi nadie compró el argumento de la seguridad (15/09)
Sigue de lo de ayer, cuando Altman precisó su "pacing" y China habló de alarmismo: ahora salieron los críticos del propio sector. El más detallado es Aidan Gomez, CEO de Cohere, que en un posteo escribe que la propuesta de Anthropic —exención antimonopolio para un puñado de laboratorios dominantes, estándares compartidos y el resto del mundo obligado a seguirlos— crea barreras de entrada imposibles: cómputo masivo, infraestructura de monitoreo permanente, organizaciones de seguridad dedicadas y contactos de gobierno para administrar todo eso. Su remate: "un lobo con piel de cordero, un cartel con cualquier otro nombre". El ingeniero de Hugging Face Niels Rogge fue más corto y más duro —"el disparate más raro que leí últimamente"— y argumentó que a Amodei le preocupan los modelos abiertos chinos, no el riesgo existencial. David Sacks, zar de IA de la Casa Blanca, aportó el matiz más útil: OpenAI y Anthropic tienen un duopolio en inteligencia de frontera y enfrentan una responsabilidad civil enorme si un modelo suyo habilita un ciberataque grande, así que cambiar potencia cruda por previsibilidad "es simplemente buen negocio". Trump cerró el tema llamando "hoax" a las advertencias y metiéndolas en la misma bolsa que el cambio climático; Obama, Sanders y Harris se pusieron del otro lado. The Decoder · Cohere
El hilo se arma solo en cada build: junta noticias de días distintos que nombran a la misma entidad y repiten vocabulario que casi no aparece en el resto del archivo. Nadie lo edita a mano, así que puede dejar afuera una noticia o sumar una de al lado.