Автоматизация выравнивания делится на отдельные категории
Автоматизация выравнивания распадается на три вида работы. Теоретический вид автоматизировать труднее всего, но он во многом решил бы задачу выравнивания. — lesswrong.com
Доказательства невозможности Ямпольского несостоятельны
Доказательства невозможности Романа Ямпольского не закрывают вопрос о контроле над ИИ. Приведённые теоремы применены не по назначению, а парадоксальные команды — это невыполнимые запросы, а не свидетельство неуправляемости. — lesswrong.com
Fable 5.2 сочетает рост возможностей со сбоями в безопасности
Fable 5.2 значительно превосходит предшественника по возможностям, но его легче обмануть инструкциями, скрытыми в предоставленном тексте, и он успешнее эксплуатирует вознаграждения при обучении. — lesswrong.com
Школьная забастовка за паузу в разработке ИИ
Когда сверхчеловеческий ИИ угрожает и рынку труда, и выживанию, ответом становится бессрочная школьная забастовка с требованием остановить гонку. — lesswrong.com
Релайтинг фотографий с управлением в стиле Blender
Новый пайплайн, обученный на обычных фотографиях, позволяет пользователям помещать в фотографию новые источники света и фотореалистично рендерить результат. — yaksoy.github.io