Орбитальные дата-центры: без значимой доли до 2030 года

Орбитальные дата-центры вряд ли возьмут на себя значимую долю ИИ-вычислений до 2030 года, но позднее в том десятилетии они могут занять большую часть нового строительства, если стоимость запусков достаточно снизится. — forethought.org

Главная проблема интерпретируемости: определение «схемы»

Интерпретируемости нужно более чёткое определение того, что такое схема; дарвинистская картина конкуренции схем во время обучения слишком недоопределена, а группировка активаций по тому, как сеть с ними обращается, выглядит более достижимым путём. — lesswrong.com

Глобальные протесты за договор о безопасном ИИ

Протестующие в городах по всему миру собрались в день протеста против ИИ; официальный призыв — договор, который приостановил бы разработку более мощного ИИ до тех пор, пока её можно будет вести безопасно. — lesswrong.com

Ловля ИИ-интриганов: прозорливо, но бесполезно

Прозорливый анализ поимки ИИ-интриганов с поличным на практике оказался бесполезным: к моменту инцидента прямые улики перевешивают прежние предположения, а полезной аналогией служат военные игры, потому что они формируют текущие решения. — lesswrong.com

Сложность выравнивания как ландшафт приспособленности

Визуальная карта мнений о выравнивании ИИ, наложенная на эволюционные ландшафты приспособленности, противопоставляет соперничающие лагеря — от «выравнивания по умолчанию» до невозможности — и помещает нынешние усилия ближе к пессимистичному концу: задача выравнивания по-прежнему далека от решения. — lesswrong.com

Больше по этой теме