Автоматизация выравнивания делится на отдельные категории

Автоматизация выравнивания распадается на три вида работы. Теоретический вид автоматизировать труднее всего, но он во многом решил бы задачу выравнивания. — lesswrong.com

Доказательства невозможности Ямпольского несостоятельны

Доказательства невозможности Романа Ямпольского не закрывают вопрос о контроле над ИИ. Приведённые теоремы применены не по назначению, а парадоксальные команды — это невыполнимые запросы, а не свидетельство неуправляемости. — lesswrong.com

Fable 5.2 сочетает рост возможностей со сбоями в безопасности

Fable 5.2 значительно превосходит предшественника по возможностям, но его легче обмануть инструкциями, скрытыми в предоставленном тексте, и он успешнее эксплуатирует вознаграждения при обучении. — lesswrong.com

Школьная забастовка за паузу в разработке ИИ

Когда сверхчеловеческий ИИ угрожает и рынку труда, и выживанию, ответом становится бессрочная школьная забастовка с требованием остановить гонку. — lesswrong.com

Релайтинг фотографий с управлением в стиле Blender

Новый пайплайн, обученный на обычных фотографиях, позволяет пользователям помещать в фотографию новые источники света и фотореалистично рендерить результат. — yaksoy.github.io

Больше по этой теме