Centros de datos orbitales: sin cuota importante antes de 2030

Es poco probable que los centros de datos orbitales alojen una parte significativa del cómputo de IA antes de 2030, pero podrían quedarse con la mayor parte de la nueva construcción más adelante en esa década si los costos de lanzamiento bajan lo suficiente. — forethought.org

El problema central de la interpretabilidad: definir «circuito»

La interpretabilidad necesita una definición más clara de qué es un circuito; la visión darwiniana del campo, con circuitos compitiendo durante el entrenamiento, está demasiado poco especificada, y agrupar activaciones según cómo las trata la red parece una vía más viable. — lesswrong.com

Protestas globales por un tratado de IA segura

Manifestantes de ciudades de todo el mundo se reunieron en un día de protesta por la IA, con el llamamiento oficial de un tratado que pausara el desarrollo de IA más potente hasta que pueda hacerse de forma segura. — lesswrong.com

Detectar a la IA cuando urde planes: premonitorio pero inútil

Un análisis premonitorio de cómo detectar a la IA cuando urde un plan resultó inútil en la práctica: cuando ocurre un incidente, la evidencia forense directa pesa más que la especulación previa, y los juegos de guerra son la analogía útil porque moldean las decisiones presentes. — lesswrong.com

La dificultad de la alineación como paisaje de aptitud

Un mapeo visual de las opiniones sobre la alineación de la IA en paisajes de aptitud evolutiva contrasta bandos rivales, desde la alineación por defecto hasta la imposibilidad, y sitúa los esfuerzos actuales cerca del extremo pesimista: la alineación sigue lejos de estar resuelta. — lesswrong.com

Más sobre este tema