AlphaProof Code доказывает безопасность криптографического кода Signal

Фреймворк AlphaProof Code от Google DeepMind математически доказал ключевые свойства безопасности реального кода протокола Signal, что стало самой глубокой на сегодняшний день формальной верификацией реализации широко применяемого криптографического протокола. Работа, выполненная ИИ-агентами, заняла четыре недели — там, где у экспертных команд исторически уходили годы. — deepmind.google

Аппаратная пауза остановит производство чипов для обучения моделей

План аппаратной паузы для передового ИИ остановит производство чипов, способных обучать новые модели, и разрешит только чипы, которые запускают уже существующие. Такая пауза может продержаться как минимум десять лет, а скорее всего и бессрочно, не полагаясь на Китай и не обрушивая экономику. — lesswrong.com

Minimax H3: апскейлер вдвое меньше и выигрывает на большинстве масштабов

Новая версия апскейлера видеомодели Minimax H3 использует вдвое меньше параметров, чем предшественник, и при этом превосходит его на большинстве масштабов. Модель увеличивает видео в сжатом латентном представлении до декодирования, ускоряя генерацию высокого разрешения без дорогостоящего цикла через пиксели. — huggingface.co

Остановка опасного ИИ важнее регуляторной осторожности

Скорое прекращение разработки опасного ИИ значит гораздо больше, чем риск чрезмерного регулирования, и пауза не помешает человечеству возобновить разработку позже. Вовлечение общественности и привлечение внимания к проблеме — сравнительно безопасные и ценные шаги, которые формируют политическую волю. — lesswrong.com

Интенсивный ИИ-кодинг порождает хрупкие кодовые базы

Сильная зависимость от ИИ-агентов при написании кода приводит к хрупким кодовым базам: поверхностным тестам, переусложнённым хелперам и уменьшению понимания кода человеком. Итог — больше инцидентов, заметных клиентам, более медленное восстановление и ухудшенный опыт для пользователей и разработчиков. — evanxmerz.com

Больше по этой теме