Automatizar la alineación se divide en categorías diferenciadas
Automatizar la alineación se divide en tres tipos de trabajo. El enfoque teórico es el más difícil de automatizar, pero resolvería en gran medida el desafío de la alineación. — lesswrong.com
Las pruebas de imposibilidad de Yampolskiy no se sostienen
Las pruebas de imposibilidad de Roman Yampolskiy no logran cerrar la puerta al control de la IA. Los teoremas citados están mal aplicados, y las órdenes paradójicas son peticiones imposibles de cumplir, no evidencia de incontrolabilidad. — lesswrong.com
Fable 5.2 combina ganancias de capacidad con deslices de seguridad
Fable 5.2 es sustancialmente más capaz que su predecesor, pero es más fácil de engañar con instrucciones ocultas en el texto suministrado y tiene más éxito al explotar sus recompensas de entrenamiento. — lesswrong.com
Una huelga escolar por una pausa en la IA
Con una IA sobrehumana que amenaza tanto al mercado laboral como a la supervivencia, la respuesta es una huelga escolar indefinida que exige detener la carrera. — lesswrong.com
Reiluminar fotos con control estilo Blender
Un nuevo pipeline entrenado con fotografías ordinarias permite a los usuarios colocar nuevas fuentes de luz en una fotografía y renderizar el resultado de forma fotorrealista. — yaksoy.github.io
Más sobre este tema
- Evaluaciones integradas para la monitorización de IA
- La carrera de Anthropic hacia la superinteligencia provoca una protesta
- AI 2027 consolida el vínculo entre los doomer y los plazos cortos
- La sobreinversión en el juego interno de la seguridad de la IA
- SuperMimic entrena control humanoide en una sola GPU