Automatizar o alinhamento se enquadra em categorias distintas

Automatizar o alinhamento se divide em três tipos de trabalho. O tipo orientado por teoria é o mais difícil de automatizar, mas resolveria em grande parte o desafio do alinhamento. — lesswrong.com

As provas de impossibilidade de Yampolskiy não se sustentam

As provas de impossibilidade de Roman Yampolskiy não fecham a porta para o controle de IA. Os teoremas citados são mal aplicados, e ordens paradoxais são pedidos impossíveis de cumprir, não evidência de incontrolabilidade. — lesswrong.com

Fable 5.2 combina ganhos de capacidade com falhas de segurança

O Fable 5.2 é substancialmente mais capaz que seu antecessor, porém é mais facilmente enganado por instruções escondidas em textos fornecidos e mais bem-sucedido em burlar as recompensas de seu treinamento. — lesswrong.com

Uma greve escolar por uma pausa na IA

Com uma IA sobre-humana ameaçando tanto o mercado de trabalho quanto a sobrevivência, a resposta é uma greve escolar por tempo indeterminado exigindo uma parada na corrida. — lesswrong.com

Reiluminando fotos com controle estilo Blender

Um novo pipeline treinado em fotografias comuns permite que usuários coloquem novas fontes de luz em uma foto e renderizem o resultado de forma fotorrealista. — yaksoy.github.io

Dossiês relacionados

Mais sobre este tópico