Hilos · 4 noticias en 9 días
China respondió a las advertencias de seguridad de los laboratorios estadounidenses llamándolas alarmismo para blindar una ventaja propia (14/09)
- Noticias
- 4
- Briefings
- 4
- Empieza
- Última
-
Altman, Musk y Hassabis respaldaron la propuesta de Amodei en cuestión de horas, y un investigador de Google explicó por qué no hace falta (13/09)
Los tres coincidieron al menos en la parte de la supervisión independiente adentro de los laboratorios, y OpenAI igualó el compromiso de los evaluadores embebidos. El contrapunto técnico más interesante vino de Peyman Milanfar, investigador de Google: la autosuperación recursiva es una suposición ingenua porque los lazos de realimentación son inherentemente inestables, y cuanto más fuerte se optimiza un sistema contra sí mismo, más profundo cae en sus propios puntos ciegos; la evidencia confiable sale del mundo real y no de los benchmarks. Su conclusión invierte el pedido de Amodei: "la estabilidad es el límite de velocidad". También apareció una carta abierta de Jake Gold pidiendo algo bastante más incómodo —que la ley obligue a publicar los pesos de todo modelo que se ofrezca al público, porque el financiamiento de los entrenamientos de frontera depende de valuaciones que asumen pesos propietarios, y cambiar ese supuesto frenaría a todos los laboratorios a la vez sin que ningún regulador decida nada—. Aparte, Altman le dijo a Fortune que OpenAI no sale a bolsa este año por razones de seguridad. The Decoder · Jake Gold · Fortune
-
China respondió a las advertencias de seguridad de los laboratorios estadounidenses llamándolas alarmismo para blindar una ventaja propia (14/09)
Sigue de lo de ayer, cuando Altman, Musk y Hassabis respaldaron el pedido de Amodei de poner un límite de velocidad a la autosuperación: ahora contestó Pekín. El vocero de la cancillería, Guo Jiakun, pidió un desarrollo de la IA "abierto, inclusivo, de beneficio universal y ético", y sostuvo que "el alarmismo, la confrontación y la competencia viciosa" no le sirven a nadie. El Global Times fue más lejos y acusó a Amodei de librar una "Guerra Fría silenciosa de la IA" para trabar el avance tecnológico chino —el contexto es que Amodei viene pidiendo acción contra la destilación de modelos estadounidenses—. El detalle más interesante es que el ministro de Seguridad del Estado, Chen Yixin, sí advirtió sobre el mal uso de la IA por parte de "fuerzas hostiles", y nombró a Mythos de Anthropic y a GPT-5.5-Cyber de OpenAI como modelos capaces de encontrar vulnerabilidades y escribir malware; pero su conclusión fue la opuesta a la de los laboratorios: más investigación en chips avanzados, despliegue más rápido de infraestructura y supervisión más estricta. El investigador de Tsinghua Sun Chenghao lo lee como desconfianza estructural: Pekín teme que Washington use el argumento de la seguridad para justificar restricciones tecnológicas más amplias. La discusión cae a diez días de la cumbre Trump-Xi prevista para el 24 de septiembre, y Trump ya dijo que rechaza cualquier freno voluntario. The Decoder · Bloomberg · FT
-
La industria y la política le contestaron al pedido de frenar la IA, y casi nadie compró el argumento de la seguridad (15/09)
Sigue de lo de ayer, cuando Altman precisó su "pacing" y China habló de alarmismo: ahora salieron los críticos del propio sector. El más detallado es Aidan Gomez, CEO de Cohere, que en un posteo escribe que la propuesta de Anthropic —exención antimonopolio para un puñado de laboratorios dominantes, estándares compartidos y el resto del mundo obligado a seguirlos— crea barreras de entrada imposibles: cómputo masivo, infraestructura de monitoreo permanente, organizaciones de seguridad dedicadas y contactos de gobierno para administrar todo eso. Su remate: "un lobo con piel de cordero, un cartel con cualquier otro nombre". El ingeniero de Hugging Face Niels Rogge fue más corto y más duro —"el disparate más raro que leí últimamente"— y argumentó que a Amodei le preocupan los modelos abiertos chinos, no el riesgo existencial. David Sacks, zar de IA de la Casa Blanca, aportó el matiz más útil: OpenAI y Anthropic tienen un duopolio en inteligencia de frontera y enfrentan una responsabilidad civil enorme si un modelo suyo habilita un ciberataque grande, así que cambiar potencia cruda por previsibilidad "es simplemente buen negocio". Trump cerró el tema llamando "hoax" a las advertencias y metiéndolas en la misma bolsa que el cambio climático; Obama, Sanders y Harris se pusieron del otro lado. The Decoder · Cohere
-
Jensen Huang dijo que hay "0% de probabilidad" de que la IA destruya el mundo antes de 2030 y que alcanza con las leyes que ya existen (20/09)
El CEO de Nvidia le respondió a CBS News sobre las advertencias de gente que pasó por Anthropic —Evan Hubinger había puesto la probabilidad de catástrofe por encima del 10% para esta década— y las descartó como narrativa apocalíptica. Su argumento es que los desarrolladores pueden manejar la seguridad por su cuenta, y sobre los pedidos de supervisión de otros laboratorios fue más filoso: dijo que si uno lee entre líneas no están pidiendo más leyes sino que los liberen de las que ya hay. La frase que resume la posición es "deberíamos ir lo más rápido que podamos, sin importar lo que haga nadie más", matizada con que nunca habría que sacar productos antes de que estén listos. Encadena con lo de ayer: Trump anunciaba una "AI Force" y prometía no sumar regulación el mismo fin de semana, y el jueves Newsom había firmado la orden ejecutiva que pide un kill switch. El proveedor de las GPUs acaba de pararse del mismo lado que la Casa Blanca. Tom's Hardware · CBS News
El hilo se arma solo en cada build: junta noticias de días distintos que nombran a la misma entidad y repiten vocabulario que casi no aparece en el resto del archivo. Nadie lo edita a mano, así que puede dejar afuera una noticia o sumar una de al lado.