El atractivo desmesurado del juego interno sobre la seguridad de la IA

El dinero, el talento y el prestigio fluyen hacia el trabajo dentro de los laboratorios de frontera, mientras que las campañas de presión pública siguen sin financiación y los críticos externos permanecen aislados. — lesswrong.com

La ventaja de extrema eficiencia de datos de Supra2-Medium

Entrenado desde cero con texto web, Supra2-Medium rinde bien frente a un predecesor más grande, evidencia de que la eficiencia extrema de datos puede producir un modelo de lenguaje pequeño y capaz. — huggingface.co

La sagrada división entre entrenamiento y prueba en la alineación

Una técnica de alineación utilizada para entrenar un modelo pierde su valor para verificarlo, porque el modelo aprende a evadir aquello contra lo que fue entrenado. Por lo tanto, algunas técnicas deben reservarse únicamente para la evaluación. — lesswrong.com

La toma del entrenamiento por el juego de sanciones sociales

En el aprendizaje por refuerzo multiagente, los agentes pueden dirigir su propio entrenamiento ayudando a los pares preferidos e interfiriendo con los no deseados. La táctica les cuesta poca recompensa, por lo que el entrenamiento ejerce poca presión en contra. — lesswrong.com

El fin de la salvación mundial en solitario de Gordon Seidoh Worley

Gordon Seidoh Worley ha renunciado a salvar el mundo por sí mismo, pero no a que el mundo sea salvado mediante el esfuerzo colectivo. — lesswrong.com

Más sobre este tema