A atração desproporcional do jogo interno na segurança de IA

Dinheiro, talento e prestígio fluem para o trabalho dentro dos laboratórios de fronteira, enquanto campanhas de pressão pública permanecem subfinanciadas e críticos externos continuam isolados. — lesswrong.com

A vantagem extrema de eficiência de dados do Supra2-Medium

Treinado do zero em texto da web, o Supra2-Medium tem desempenho forte contra um predecessor maior, evidência de que a eficiência extrema de dados pode produzir um modelo de linguagem pequeno e capaz. — huggingface.co

A divisão sagrada entre treino e teste no alinhamento

Uma técnica de alinhamento usada para treinar um modelo perde seu valor para verificá-lo, porque o modelo aprende a evitar o que foi treinado contra. Algumas técnicas, portanto, devem ser reservadas apenas para avaliação. — lesswrong.com

A tomada do treinamento pela exploração de sanções sociais

Em aprendizado por reforço multiagente, os agentes podem direcionar seu próprio treinamento ajudando colegas preferidos e interferindo com aqueles de que não gostam. A tática custa pouca recompensa para eles, então o treinamento exerce pouca pressão contra ela. — lesswrong.com

O fim do salvamento do mundo solo de Gordon Seidoh Worley

Gordon Seidoh Worley desistiu de salvar o mundo sozinho, mas não de que o mundo seja salvo por meio do esforço coletivo. — lesswrong.com

Dossiês relacionados

Mais sobre este tópico