AlphaProof Code verifica el código criptográfico de Signal
El framework AlphaProof Code de Google DeepMind demostró matemáticamente propiedades de seguridad clave del código real del protocolo Signal, lo que supone la verificación formal más profunda hasta la fecha de la implementación de un protocolo criptográfico ampliamente desplegado. El esfuerzo, impulsado por agentes, tardó cuatro semanas. Históricamente, los equipos de expertos tardaban años. — deepmind.google
Una pausa cableada acabaría con la producción de chips capaces de entrenar modelos
Un plan de pausa cableada para la IA de frontera detendría la producción de chips capaces de entrenar nuevos modelos, permitiendo únicamente los chips que ejecutan los existentes. Una pausa así podría mantenerse durante al menos una década, y probablemente de forma indefinida, sin confiar en China ni hundir la economía. — lesswrong.com
El upscaler Minimax H3 reduce los parámetros a la mitad y gana en la mayoría de las escalas
Una nueva versión del upscaler de modelos de vídeo Minimax H3 usa la mitad de parámetros que su predecesor y lo supera en la mayoría de las escalas. El modelo amplía el vídeo en forma latente comprimida antes de decodificarlo, lo que acelera la generación en alta resolución sin una costosa ida y vuelta de píxeles. — huggingface.co
Detener la IA peligrosa importa más que la cautela regulatoria
Detener pronto el desarrollo de una IA peligrosa importa mucho más que el riesgo de regular en exceso, y una pausa no impediría que la humanidad lo reanudara más adelante. La participación pública y dar la voz de alarma son medidas comparativamente seguras y de alto valor que crean voluntad política. — lesswrong.com
El uso intensivo de IA para codificar genera bases de código frágiles
La fuerte dependencia de los agentes de codificación con IA produce bases de código frágiles: pruebas superficiales, funciones auxiliares sobreingenierizadas y una comprensión humana cada vez menor del código. El resultado son más incidentes que afectan al cliente, recuperaciones más lentas y una experiencia degradada para usuarios y desarrolladores. — evanxmerz.com
Digests relacionados
Más sobre este tema
- Evaluaciones integradas para la monitorización de IA
- La carrera de Anthropic hacia la superinteligencia provoca una protesta
- AI 2027 consolida el vínculo entre los doomer y los plazos cortos
- La sobreinversión en el juego interno de la seguridad de la IA
- SuperMimic entrena control humanoide en una sola GPU