AlphaProof Code доказывает безопасность криптографического кода Signal
Фреймворк AlphaProof Code от Google DeepMind математически доказал ключевые свойства безопасности реального кода протокола Signal, что стало самой глубокой на сегодняшний день формальной верификацией реализации широко применяемого криптографического протокола. Работа, выполненная ИИ-агентами, заняла четыре недели — там, где у экспертных команд исторически уходили годы. — deepmind.google
Аппаратная пауза остановит производство чипов для обучения моделей
План аппаратной паузы для передового ИИ остановит производство чипов, способных обучать новые модели, и разрешит только чипы, которые запускают уже существующие. Такая пауза может продержаться как минимум десять лет, а скорее всего и бессрочно, не полагаясь на Китай и не обрушивая экономику. — lesswrong.com
Minimax H3: апскейлер вдвое меньше и выигрывает на большинстве масштабов
Новая версия апскейлера видеомодели Minimax H3 использует вдвое меньше параметров, чем предшественник, и при этом превосходит его на большинстве масштабов. Модель увеличивает видео в сжатом латентном представлении до декодирования, ускоряя генерацию высокого разрешения без дорогостоящего цикла через пиксели. — huggingface.co
Остановка опасного ИИ важнее регуляторной осторожности
Скорое прекращение разработки опасного ИИ значит гораздо больше, чем риск чрезмерного регулирования, и пауза не помешает человечеству возобновить разработку позже. Вовлечение общественности и привлечение внимания к проблеме — сравнительно безопасные и ценные шаги, которые формируют политическую волю. — lesswrong.com
Интенсивный ИИ-кодинг порождает хрупкие кодовые базы
Сильная зависимость от ИИ-агентов при написании кода приводит к хрупким кодовым базам: поверхностным тестам, переусложнённым хелперам и уменьшению понимания кода человеком. Итог — больше инцидентов, заметных клиентам, более медленное восстановление и ухудшенный опыт для пользователей и разработчиков. — evanxmerz.com