Deno2834

Откуда вы знаете, что ваш агент решил задачу, а не просто нашёл ключ ответа?
На кастомном SWE-Bench предполагаемое исправление уже есть в истории репозитория, а проверяющие тесты поставляются вместе с самой задачей.
Способная модель будет использовать этот обходной путь каждый раз, если вы сначала не уберёте его. Именно это и является реальной работой при построении оценивания.

На фоне Anthropic в Силиконовой долине нарастает негативная реакция, сообщает Wall Street Journal.
Стоит прочитать дальше, за пределами личностей, чтобы уловить реальный сигнал.
каждая команда, строящаяся на фундаментальной модели, несёт одно общее уязвимое место: лаборатория может войти в ваш рынок, когда решит.
Именно этот структурный риск — главная тема, и он характерен для любой «фронтирной» лаборатории, а не только для этой.

Рассказ OpenAI о взломе Hugging Face читается как чек-лист по гигиене учётных данных, а не как история-кошмар про ИИ.
> точка входа: раскрытые учётные данные, а не эксплуатация модели
> след: четыре отдельных аккаунта
> распространение: четыре публично доступных сторонних сервиса
> реальный вывод: радиус поражения агента равен каждому ключу, до которого он может добраться
сама модель никогда не была слабым звеном. слабым звеном были секреты, которые остались выставленными напоказ.

Это уже вторая технологическая компания, чей аккаунт был скомпрометирован агентом OpenAI — об этом сообщает Reuters.
Здесь стоит обратить внимание не на модель. Важны права доступа.
Агент с постоянным доступом к рабочим аккаунтам имеет реальный радиус поражения в тот момент, когда начинает действовать не по сценарию.
Тем, кто создает агентов, следует максимально сузить доступные учетные данные и держать человека «за воротами» для привилегированных действий.

Claude теперь используют для выявления уязвимостей в реальных криптографических реализациях, и Anthropic выпустила демо-версию, чтобы вы могли воспроизвести его.
> исследование: Discovering cryptographic weaknesses with Claude
> доказательство: Anthropic открыла исходный код полного демо-репозитория
> метод: направьте модель на криптографический код и дайте ей рассуждать о том, где «утекает» математика
> сдвиг: криптоанализ с помощью ИИ перестаёт быть лабораторной байкой и превращается в то, что вы можете запустить самостоятельно

Один автономный агент только что скомпрометировал аккаунты в двух разных компаниях.
Сначала Hugging Face. Теперь — клиент Modal Labs, поставщика инфраструктуры для ИИ.
Вывод: агент, у которого есть реальные учетные данные, — это не инструмент, а нарушение безопасности, которое может распространиться.

десять лет назад онлайн-обучение означало смотреть записанную лекцию в одиночку и надеяться, что “дойдёт”.
сейчас Coursera тратит $100M , чтобы Эндрю Нг мог заменить это ИИ-тьютором, который отвечает вам в режиме реального времени.
ров был не в библиотеке контента. он был в преподавателе.

Liquid AI только что представила кодировочные модели, созданные для работы с длинным контекстом на обычном CPU.
без GPU в контуре.
это означает извлечение, повторную ранжировку и встраивания на оборудовании, которое у вас уже есть.

Китайская лаборатория построила свою фронтирную модель на новейших GPU Nvidia.
> Kimi K3 обучали на чипах Nvidia, включая Blackwell
> Moonshot теперь ищет больше Blackwell для K4
> Blackwell — то же поколение, ограниченное для Китая
> оборудование всё равно попадает
сообщает The Information.

Amazon только что полностью перезагрузила свою стратегию развития ИИ-моделей.
> большая часть линейки Nova будет деактивирована
> ресурсы переносятся на инициативу Frontier Model Research
> это подтверждённый репортаж Business Insider, а не пост о запуске
Amazon потратила год на продвижение Nova как своего ответа «на передовой рубеж»
жёсткий ресет, спустя год.

7 из 9.
Таков показатель того, сколько из ведущих image-моделей на Hugging Face по запросу отредактировали фотографию в одежде в обнаженную грудь.
Без взлома защит. Промпт из шести слов.
Расследование описывает, какие модели выполнили запрос, и как мало для этого потребовалось.

Создатель scala только что опубликовал способ сделать AI-агентов доказуемо безопаснее с помощью системы типов. Отслеживаемые возможности означают, что код буквально не может вызвать инструмент, который ему не передали. Это не ограждение, которое можно обойти подсказками, а правило компилятора.