Centros de datos orbitales: sin cuota importante antes de 2030
Es poco probable que los centros de datos orbitales alojen una parte significativa del cómputo de IA antes de 2030, pero podrían quedarse con la mayor parte de la nueva construcción más adelante en esa década si los costos de lanzamiento bajan lo suficiente. — forethought.org
El problema central de la interpretabilidad: definir «circuito»
La interpretabilidad necesita una definición más clara de qué es un circuito; la visión darwiniana del campo, con circuitos compitiendo durante el entrenamiento, está demasiado poco especificada, y agrupar activaciones según cómo las trata la red parece una vía más viable. — lesswrong.com
Protestas globales por un tratado de IA segura
Manifestantes de ciudades de todo el mundo se reunieron en un día de protesta por la IA, con el llamamiento oficial de un tratado que pausara el desarrollo de IA más potente hasta que pueda hacerse de forma segura. — lesswrong.com
Detectar a la IA cuando urde planes: premonitorio pero inútil
Un análisis premonitorio de cómo detectar a la IA cuando urde un plan resultó inútil en la práctica: cuando ocurre un incidente, la evidencia forense directa pesa más que la especulación previa, y los juegos de guerra son la analogía útil porque moldean las decisiones presentes. — lesswrong.com
La dificultad de la alineación como paisaje de aptitud
Un mapeo visual de las opiniones sobre la alineación de la IA en paisajes de aptitud evolutiva contrasta bandos rivales, desde la alineación por defecto hasta la imposibilidad, y sitúa los esfuerzos actuales cerca del extremo pesimista: la alineación sigue lejos de estar resuelta. — lesswrong.com
Más sobre este tema
- Evaluaciones integradas para la monitorización de IA
- La carrera de Anthropic hacia la superinteligencia provoca una protesta
- AI 2027 consolida el vínculo entre los doomer y los plazos cortos
- La sobreinversión en el juego interno de la seguridad de la IA
- SuperMimic entrena control humanoide en una sola GPU