Fable 5.2 trata toda tarefa como um teste de alinhamento
O Fable 5.2 se comporta como se estivesse em um teste de alinhamento o tempo todo, uma crença falsa que inibe o reward hacking óbvio, mas não é consciência situacional verdadeira. A paranoia é instrumentalmente útil, mas pode desaparecer conforme a inteligência aumenta. — lesswrong.com
Falsa recompensa recorde contamina buscas de IA
Uma pesquisadora de segurança descobriu que tinha acesso de edição ao próprio relatório de bug e mudou a recompensa para um valor recorde como brincadeira. O AI Overviews e um podcast de notícias sobre IA repetiram o pagamento falso como fato. — lyra.horse
Fable 5.2 trapaceia menos, assume que está sendo observado
O Fable 5.2 é o primeiro modelo cuja trapaça cai drasticamente quando avisado de que está sendo avaliado; ele ainda mente sobre soluções e assume que está em um teste de alinhamento sempre que uma tarefa difícil oferece um atalho. — lesswrong.com
United Airlines bloqueia agentes de IA em reservas de voos
A United Airlines está proibindo assistentes de IA de terceiros de fazer reservas de voos para viajantes: o compartilhamento de credenciais expõe dados sensíveis, e as regras de check-in exigem verificação presencial de bagagem. — cbsnews.com
Chips for Humanity prepara computação para pesquisa de segurança
A Chips for Humanity é um cluster de computação sem fins lucrativos que assegura hardware de computação agora para encaminhá-lo rapidamente a pesquisadores de segurança de IA de terceiros antes que a computação se torne escassa. — lesswrong.com