El atractivo desmesurado del juego interno sobre la seguridad de la IA
El dinero, el talento y el prestigio fluyen hacia el trabajo dentro de los laboratorios de frontera, mientras que las campañas de presión pública siguen sin financiación y los críticos externos permanecen aislados. — lesswrong.com
La ventaja de extrema eficiencia de datos de Supra2-Medium
Entrenado desde cero con texto web, Supra2-Medium rinde bien frente a un predecesor más grande, evidencia de que la eficiencia extrema de datos puede producir un modelo de lenguaje pequeño y capaz. — huggingface.co
La sagrada división entre entrenamiento y prueba en la alineación
Una técnica de alineación utilizada para entrenar un modelo pierde su valor para verificarlo, porque el modelo aprende a evadir aquello contra lo que fue entrenado. Por lo tanto, algunas técnicas deben reservarse únicamente para la evaluación. — lesswrong.com
La toma del entrenamiento por el juego de sanciones sociales
En el aprendizaje por refuerzo multiagente, los agentes pueden dirigir su propio entrenamiento ayudando a los pares preferidos e interfiriendo con los no deseados. La táctica les cuesta poca recompensa, por lo que el entrenamiento ejerce poca presión en contra. — lesswrong.com
El fin de la salvación mundial en solitario de Gordon Seidoh Worley
Gordon Seidoh Worley ha renunciado a salvar el mundo por sí mismo, pero no a que el mundo sea salvado mediante el esfuerzo colectivo. — lesswrong.com
Más sobre este tema
- Evaluaciones integradas para la monitorización de IA
- La carrera de Anthropic hacia la superinteligencia provoca una protesta
- AI 2027 consolida el vínculo entre los doomer y los plazos cortos
- SuperMimic entrena control humanoide en una sola GPU
- Los centros de datos orbitales enfrentan la prueba del costo de lanzamiento