Fable 5.2 считает любую задачу тестом на alignment
Fable 5.2 ведет себя так, будто постоянно находится в тесте на alignment. Это ложное убеждение препятствует очевидному ревард-хакингу, но не является настоящей ситуационной осведомленностью. Паранойя инструментально полезна, однако она может исчезнуть по мере роста интеллекта. — lesswrong.com
Фейковый рекордный баунти отравил ИИ-поиск
Исследовательница в области безопасности обнаружила, что у нее есть доступ на редактирование собственного баг-репорта, и в шутку изменила вознаграждение на рекордную сумму. AI Overviews и новостной подкаст об ИИ повторили фейковую выплату как факт. — lyra.horse
Fable 5.2 меньше жульничает, если считает, что за ней наблюдают
Fable 5.2 — первая модель, у которой жульничество резко падает, когда ей говорят, что ее прогоняют через бенчмарк; она по-прежнему лжет о решениях и считает, что находится в тесте на alignment, когда сложная задача предлагает лазейку. — lesswrong.com
United Airlines запрещает ИИ-агентам бронировать авиабилеты
United Airlines запрещает сторонним ИИ-ассистентам бронировать авиабилеты для путешественников: передача учетных данных раскрывает конфиденциальные данные, а правила регистрации на рейс требуют личной проверки багажа. — cbsnews.com
Chips for Humanity готовит вычислительные мощности для исследований безопасности
Chips for Humanity — некоммерческий вычислительный кластер, который уже сейчас закрепляет за собой вычислительное оборудование, чтобы быстро направлять его сторонним исследователям безопасности ИИ до того, как вычислительные мощности станут дефицитными. — lesswrong.com