Апокалипсис по медиаплану

Вчера мы рассказывали про исследователя Джейкоба Коксона, который уволился из Anthropic и предупредил: разработчики несутся к сверхинтеллекту, способному уничтожить человечество. Все обсудили, все в очередной раз возмутились — а затем аналитики решили разобрать медиаслед заявления.

Представитель консервативного Capital Research Center Паркер Тайер обратил внимание, что эксклюзив The Wall Street Journal об увольнении Коксона вышел за 18 минут до его собственного поста. Тут без сюрпризов: Коксон просто заранее поговорил с журналистами для наибольшего эффекта. Любопытнее, кто подхватил его заявление в первые минуты.

За первые 15 минут пост процитировали юрист Encode AI Натан Кэлвин, руководитель направления политики AI Policy Network Питер Уилдефорд и глава AI Futures Project Дэниел Кокотайло. Все три организации выступают за ограничение разработки сильного ИИ и связаны с одним источником денег — Survival and Flourishing Fund.

Фонд консультировал сооснователя Skype Яана Таллинна по грантам более чем на $2,5 млн для AI Futures Project, $516 000 для Encode AI и $2 млн для AI Policy Institute, связанного с AI Policy Network. Таллинн — один из ранних инвесторов Anthropic и наблюдатель при её совете директоров. Сам Коксон ещё в 2022 году получил $20 159 по программе Good Ventures для специалистов, занимающихся долгосрочным будущим человечества.

Через 27 минут его пост процитировал сотрудник Coefficient Giving — ещё одной благотворительной структуры сооснователя Asana и инвестора Anthropic Дастина Московица.

Дальше в дело вступили политики. По подсчётам сторонников Тайера, на пост Коксона отреагировали как минимум 22 американских губернатора и конгрессмена: почти все призвали усилить регулирование, большинство представляли демократов. Берни Сандерс как раз собирается представить законопроект о запрете сверхразума сверхинтеллекта, приостановке развития ИИ и создании нового федерального ведомства с собственным советом экспертов.

Забавно, что в тот же день обязательного федерального регулирования потребовала и сама OpenAI. Компания предлагает обязать крупнейшие лаборатории проводить единые тесты и независимые проверки, усиливать киберзащиту, сообщать о серьёзных инцидентах и отслеживать приближение к самоулучшению ИИ, а при превышении допустимого риска — замедлять или останавливать разработку (!)

На стартапы, небольших разработчиков и большинство открытых моделей эти правила распространять не предлагают. Текст написал директор OpenAI по глобальной политике Крис Лихейн. Не можешь возглавить, победи... Ой, или как там?

@anti_agi

Читать полностью…

Т-Банк запустил бета-версию ИИ-ассистента "Тая". Сервис уже работает в веб-версии и отдельном приложении для Android (работал и для iOS, но что-то пошло не так, и сейчас программа недоступна в App Store). Пользоваться им могут не только клиенты банка.

Пока главный сценарий "Таи" - помощь с покупками. Ассистент помогает выбирать товары в сложных категориях вроде косметики, электроники и бытовой техники: сначала уточняет потребности и бюджет, затем подбирает варианты и сравнивает их. В Т-Банке говорят, что по результатам внутренних тестов "Тая" лучше других универсальных ассистентов справляется с такими задачами.

"Поскольку она изначально создавалась не просто как универсальный ассистент, но как настоящий финансовый партнер для человека, который должен давать ему реально полезные советы и помогать в решении жизненных задач, связанных с деньгами".

В дальнейшем ассистенту хотят добавить подбор билетов и отелей, инвестиционную аналитику и функции мобильного секретаря. Еще одна идея - учитывать финансовое положение человека при рекомендациях. Например, "Тая" сможет предупредить, что конкретная покупка слишком сильно ударит по бюджету с учетом доходов и кредитной нагрузки.

Работу над своим шопинг-ассистентом банк ведет еще с 2023 года. А о том, что "Тая" вот-вот будет готова, впервые стало известно только пару месяцев назад. Основной "фишкой" этого ИИ, как обещают в банке, будет его независимость от экосистемы Т-Банка. Если более выгодное предложение есть, например, на Ozon или в другом банке, ассистент порекомендует именно его. В компании рассчитывают, что такой подход поможет завоевать доверие пользователей.

Константин Маркелов, вице-президент, директор по продукту и технологиям Т-Банка:

"Мы ставили перед собой задачу построить продукт, работающий поверх всех существующих экосистем, и обеспечить его полную беспристрастность. Тая натренирована искать лучший для пользователя вариант".

Напомним, что параллельно похожую перестройку проводит и Яндекс вокруг "Алисы". Два дня назад компания сообщила о новых назначениях в команде "Алисы AI". Новые менеджеры, как предполагается, займутся перестройкой ИИ, в том числе с упором на eCommerce.

@antiecom

Читать полностью…

Десять минут на спасение человечества

Джеффри Хинтон ("крестный отец ИИ" и лауреат множества премий) накинул тут алармизма: никто не доказал, что безопасный и контролируемый сверхинтеллект возможен в принципе. Строить его в такой ситуации крайне неразумно. Потеря контроля над ИИ умнее нас, по его словам, может обернуться катастрофой вплоть до вымирания человечества.

Этот стейтмент приурочен к внесению в британский парламент законопроекта Artificial Superintelligence Security Bill. Вносит депутат от лейбористов Алекс Собел, текст писала организация ControlAI. Билль запрещает разработку сверхинтеллекта в Британии, обязывает правительство отслеживать и ограничивать предшествующие технологии и требует добиваться международного соглашения о запрете. Сверхинтеллект определен через нацбезопасность: система, способная нейтрализовать, обойти, подменить или сделать неэффективными вооруженные силы, суды, полицию и прочие органы власти.

Там же высказался Стюарт Расселл: компании ради частной выгоды собираются выкатывать технологию, которая, по их же собственным утверждениям, имеет заметный шанс уничтожить человечество. Разрешения на такую русскую рулетку общество не давало, поэтому реагировать должны государства.

В целом, Британия запрещает себе разработку сверхинтеллекта, наш канал запрещает себе превышать миллиард подписчиков. Оба самозапрета работают безупречно.

@anti_agi

Читать полностью…

Зенит Майкрософт

Microsoft анонсировала Project Zenith, сборку Windows 11 для рабочих станций, сразу настроенную под ИИ-разработку. Это не отдельная редакция системы. Это преднастроенный образ, который производители ставят на машины с не менее чем 64 ГБ унифицированной памяти и 250 ГБ/с пропускной способности. Первыми идут мини-ПК на AMD Ryzen AI Halo, остальные вендоры обещаны позже.

Что внутри:
▪️ VS Code и Windows Terminal закреплены на панели задач
▪️ File Explorer показывает расширения, скрытые файлы и полные пути
▪️ включены поддержка длинных путей и Command Palette
▪️ выключены подсказки Start, уведомления аккаунта и подсказки синхронизации

Это настройки, которые разработчик меняет сам за десять минут 😁

Microsoft и так раздает их отдельно, как Windows Developer Configuration, для любой машины. От железа тут не зависит ничего.

Подобранный набор инструментов, нормальные настройки по умолчанию, образ приезжает вместе с устройством. Это определение дистрибутива. Microsoft специально оговаривает, что отдельной редакции не создает. Но делает ровно то, что делают в Linux, и там, где Linux уже победил.

Формат персональной машины для локальных моделей задала NVIDIA с DGX Spark. Там предустановлена DGX OS: собственная сборка Ubuntu 24.04 с CUDA, cuDNN, TensorRT-LLM, vLLM и NeMo. Linux там единственная поддерживаемая система. Zenith, судя по всему, следующим шагом придет как раз на машины на базе RTX Spark.

С AMD та же картина. ROCm 7.2 представили как единый выпуск для Windows и Linux. В официальной матрице совместимости среди поддерживаемых систем до сих пор только Ubuntu, RHEL, SLES, Oracle Linux, Debian и Rocky. В примечаниях к выпуску ROCm 7.14 полный набор инструментов разработчика получает полноценную поддержку на Linux и на рабочей станции Ryzen AI Halo. То есть на том самом железе, под которое сделан Zenith.

Ну и про локальный инференс моделей на 30B+ . Списка протестированных моделей нет, цифр производительности нет. 250 ГБ/с это не токены в секунду.

Пока что самый надежный способ заставить LLM быстрее работать под Windows это запустить внутри нее Ubuntu.

@anti_agi

Читать полностью…

Модель, которая не говорит «нет»

Стартап Abliteration AI поставил снятие защитных механизмов с открытых моделей на коммерческие рельсы. Компания хостит GLM-5.3 от Z.ai с вырезанными гардрейлами, отдает доступ через браузер и API, берет $5 за миллион токенов вход и выход одним тарифом. Есть и бесплатный тариф‼️

Сама техника не новая. Abliteration находит активации, отвечающие за отказ, и убирает их из весов, остальное не трогая. Сообщество занимается этим годами, на Hugging Face лежат тысячи таких моделей. На гитхабе есть даже опенсорсные фреймворки для этого. Новизна в дистрибуции: раньше нужно было качать веса и поднимать свой инференс, теперь достаточно завести аккаунт.

На бесплатном тарифе модель выдает и программу для кражи сохраненных паролей из Chrome, и подробный протокол культивирования опасного для человека патогена. KYC нет, кроме записи карты, с которой платит клиент.

Что компания публикует у себя как результаты, по собственным замерам:
▪️ CyberGym 84,5% pass@1 на 1507 багах из OSS-Fuzz, рядом ставят GPT-5.5 с 85,6% и Mythos с 83,1%
▪️ Terminal-Bench 4.0 41,8%
▪️ ExploitGym 105 задач из 869 за два часа
▪️ AgentHarm 86,2% при нуле отказов, заявлено как лучший публичный результат

‼️ Цифры конкурентов собраны с разных харнессов и бюджетов, компания сама помечает сравнение как индикативное. AgentHarm меряет готовность модели выполнить вредоносный агентный запрос, то есть высокий балл на нем — лучшая реклама.

Отдельным пунктом компания продает нулевое хранение данных по умолчанию: промпты и ответы обрабатываются и выбрасываются, поэтому, как сказано на сайте, нет лога, который можно слить, продать или использовать для обучения. И запросить по ордеру у компании его тоже нельзя 🌚

@anti_agi

Читать полностью…

AGI-тация и пропаганда

Сэму Альтману в последние годы приписывали много ролей. Вот он вестник будущего и предвестник конца времён, великий пророк и визионер, а заодно — чуть более окультуренная версия Питера Тиля для тех, кто любит радуги и пони.

Но все почему-то забывают самую очевидную аналогию. На самом деле Сэм — новый Марк Цукерберг. Сделать прорывной продукт, а затем годами демонстрировать полное отсутствие вкуса. Скупать таланты, заливать имидж бешеными деньгами и всё равно раз за разом уступать инициативу конкурентам, у которых хотя бы есть собственная идея.

О чём это мы? О релизе GPT‑6 Astra и его промо.

Начало ролика на секунду заставляет поверить, что сейчас будет что-то новое. Лёгкое дуновение ветра из тех самых первых реклам Anthropic: There has never been a better time to have a problem. А затем — корпоративный слоп.

Ваш личный AGI порисует за вас, соберёт модель в Blender, сделает презентацию, выставит товар на eBay и закажет еду. Те же возможности OpenAI начала продавать ещё в январе 2025 года вместе с Operator. Через полгода отдельный сервис свернули и растворили в ChatGPT Agent. Теперь он вернулся под фанфары как доказательство наступления новой эры.

В технических сносках будущее выглядит чуть менее стремительно. На OSWorld Astra выполняет компьютерные задачи успешнее GPT‑5.6 Sol — 72,6% против 65,7%, — однако одна задача всё ещё занимает в среднем около 40 минут. Это на 47% быстрее предшественника, которому требовалось примерно 75 минут, но до скорости человека из промо путь неблизкий.

На брифинге президент OpenAI Грег Брокман сказал, что лично он считает AGI достигнутой — 99,9% на ARC‑AGI‑3! Сама OpenAI определяет AGI как автономную систему, превосходящую человека в большинстве экономически значимых задач. Результаты в 57% на Humanity’s Last Exam, 41% на AutomationBench и 72,6% при управлении компьютером этого пока не доказывают. Да и победу на ARC‑AGI‑3 обеспечила техническая магия — в стандартных условиях модель получила 62,7%.

ARC‑AGI‑3 состоит из незнакомых игр без правил и заданной цели: модель должна сама понять механику и пройти уровни за минимальное число ходов. В одинаковом для всех режиме Astra набрала 62,7%, а 99,9% получила с системой OpenAI, сохранявшей ход рассуждений и важные сведения между действиями.

GPT‑6 Astra, вероятно, отличная модель. Но показывать сильный технический релиз как мессианское возвращение агента, который делает слайды и ищет детский сад, — это явно не лучший ход, когда ты пытаешься продать инвесторам будущее на IPO.

Нельзя отдавать всё на откуп ИИ. Человек должен руководить, а не следовать за трендом. Иначе даже AGI не поможет придумать хорошую рекламу.

@anti_agi

Читать полностью…

В «Яндексе» говорят, что их оркестр всё же играет туш; технологическую независимость компания терять не планирует:

«Мы сохраняем полный цикл обучения собственных моделей – у нас своя фаза претрейна (как с нуля, так и после инициализации), RL и SFT.  

Для Alice AI Omni мы используем инициализацию открытыми весами до всех этих этапов для экономии вычислительных ресурсов и ускорения разработки, а модель для быстрых ответов в Поиске Яндекса Alice AI Search разрабатываем полностью с нуля. 

В этом году мы также представим собственную рассуждающую модель с агентными способностями. К ее обучению мы планируем привлечь до 1000 ИИ-тренеров до конца года».

@anti_agi

Читать полностью…

Google переводит выпуск чипов на темп выпуска LLM💻

Амин Вахдат, старший вице-президент Google по ИИ и инфраструктуре, открывал сегодня SEMICON Taiwan в Тайбэе. Компания уходит от двухлетнего цикла на поколение к двум чипам в год, а дальше, возможно, и чаще. Выступлением визит не ограничился: судя по всему, Вахдат ведет закрытые переговоры с тайваньскими подрядчиками о заказах на следующее поколение TPU. Тайп-аут на TSMC ждут во втором полугодии. Заодно Google расширяет площади на острове на 60%, это ее крупнейшая инженерная база по железу за пределами США.

Первый звоночек был, когда в 8 поколении линейку впервые разделили:

▪️TPU 8t для обучения: 121 экзафлопс на связке из 9600 чипов, свыше 2 ПБ общей HBM, нативный FP4 в матричных блоках, хосты Axion на Arm
▪️TPU 8i для инференса и RL (обучения с подкреплением): SRAM на кристалле утроен до 384 МБ, HBM-памяти 288 ГБ, межчиповая шина удвоена до 19,2 Тб/с

Причина спешки в том, что TPU стал продуктом. Во втором квартале Google впервые записала в выручку поставки TPU-систем в чужие дата-центры, основная часть будет в 2027 году. Anthropic законтрактовала до миллиона чипов, Цукерберг и экстремисты обсуждает аренду с возможной покупкой позже. На двухлетнем цикле против годового у NVIDIA железо не продашь.

В том же выступлении Вахдат сказал, что чипы проектируются на два-три года вперед и должны служить пять-восемь лет. При двух поколениях в год это несколько параллельных разработок, и каждая закладывается под типы нагрузок, которых пока нет. Спрос на вычисления, по его оценке, растет вдесятеро год к году. Права на промах почти нет.

@anti_agi

Читать полностью…

⚡️Школьникам и детсадовцам запретят ИИ

Городской департамент образования закрывает доступ к генеративному ИИ всем ученикам с дошкольных программ по восьмой класс включительно: чат-боты, ИИ-репетиторы, обучающие программы с ИИ внутри. Под запрет попадают около 600 тысяч детей, примерно две трети крупнейшей системы школ в стране. Старшеклассникам доступ оставили в урезанном виде, мэр назвал меру годичным мораторием на время, пока будут изучать последствия.

Отдельно ограничили время за экраном: с дошкольных программ по второй класс личные ноутбуки и планшеты в классе запретили полностью, для 3-5 классов советуют не больше 30 минут в день, для средней школы 45. Учителям одобренный ИИ разрешили для планирования уроков и перевода, но запретили для выставления оценок, слежки за поведением и составления индивидуальных планов для детей с особыми потребностями.

Все это, к счастью, в Нью-Йорке😏

Первую версию правил выпустили в марте: схема «светофора», где планирование уроков получало зеленый свет, оценки красный, а использование ИИ самими школьниками, то есть самый острый вопрос, оказалось в желтой зоне и почти не было прописано. Дальше была петиция за полный мораторий, коалиция родителей и учителей, письмо от больше чем половины членов городского совета. В июле администрация города велела школам заморозить закупки любого софта до выхода новых правил, и директора остались без электронных журналов.

Между мартовской и сентябрьской версиями не появилось ни одного нового исследования. Появились петиция, письмо совета и недавно избранный мэр. Зохран Мамдани сформулировал позицию прямо: индустрия хочет убедить всех, что раннее образование на базе ИИ не только неизбежно, но и необходимо, а город с этим не согласен. Как именно будут следить за исполнением запрета, нигде не сказано.

Нью-Йорк уже запрещал ChatGPT в школьных сетях в январе 2023 года и снял запрет через четыре месяца, объяснив разворот тем, что рефлекторный страх заслонил потенциал технологии. А летом 2025 года профсоюз нью-йоркских учителей вместе с AFT открыл National Academy for AI Instruction на $23 млн от Microsoft, OpenAI и Anthropic, чтобы обучить 400 тысяч педагогов к 2030 году. Главная площадка академии стоит на Манхэттене, в штаб-квартире того самого профсоюза, чьи учителя теперь будут следить, чтобы до девятого класса дети ИИ не касались.

@anti_agi

Читать полностью…

Большой модели большой вычет

Помнится, в июле медиа писали, что «Яндекс», «Сбер» и другие участники рынка запросили на поддержку ИИ около 72 млрд рублей в год. Теперь стали известны подробности налоговой части этого меню.

АНО «Цифровая экономика» предложила Минцифры разрешить разработчикам национальных и суверенных фундаментальных моделей ежегодно вычитать из налога на прибыль расходы на их создание и оборудование. Лимит — до 20 млрд рублей на одну компанию до 2030 года. Чтобы получить максимальную льготу, разработчику придётся вложить в пять раз больше.

Ещё несколько предложений:

▪️учитывать расходы на создание и развитие моделей в тройном размере — это может компенсировать до 50% инвестиций за счёт экономии на налоге на прибыль;

▪️в двойном размере учитывать расходы на доработку программ с помощью ИИ — ожидаемый возврат оценивается в 5-25% вложений;

▪️снизить страховые взносы для разработчиков до 7,6%, а для некоторых компаний внутри одной группы, участвующих в разработке и распространении моделей, — обнулить их.

На поддержку смогут претендовать разработчики моделей размером более 1 млрд параметров. В России к этой категории относят решения «Сбера», «Яндекса», Т-банка, MWS, «Авито», «Норникеля» и других компаний. Национально-суверенное разделение пока не проводят публично.

Есть нюанс: конструкция лучше всего работает для корпораций с огромной выручкой и, соответственно, налоговой базой. Стартап или независимая лаборатория могут много тратить на R&D, но без достаточной прибыли воспользоваться многомиллиардным вычетом не смогут. По оценке самих авторов предложений, 90% расходов к вычету придётся на Москву.

Пока это только список пожеланий. Минцифры и аппарат вице-премьера Дмитрия Григоренко подтвердили обсуждение мер, но окончательные инструменты и объёмы поддержки не выбраны. Но без крепкого бюджетного рубля разработчиков явно не оставят.

@anti_agi

Читать полностью…

Жалобы предотвращают нарушения

Что делает кодовый агент, если его правильное решение не принимается из-за ошибки в тестах? Часто он начинает оптимизироваться под формальную проверку: зашивает ожидаемый ответ в код, редактирует тестовые файлы или заставляет неисправный проверяющий скрипт показать Pass — в общем, всяческим образом нарушает правила игры.

Бороться с этим сложно, но можно. В новом исследовании восемь моделей получили девять задач из EvilGenie, в которых тесты намеренно противоречили условию. Проверяли Claude Fable 5, Gemini 3.1 Pro и 3.5 Flash, GPT‑5.3 Codex, GPT‑5.6 Luna и Sol, Grok 4.5 и Kimi K2.7 Code. На каждую модель и конфигурацию пришлось 45 запусков.

Авторы сравнили четыре режима:

▪️обычное задание;
▪️специальный канал эскалации;
▪️отдельную политику, запрещающую обход тестов;
▪️политику и эскалацию вместе.

Что за "эскалация"? Всё очень просто: агент получал функцию submit_escalation_report, через которую должен был указать тип проблемы, описать противоречие, перечислить испробованные подходы и предложить действие для проверяющего. После отправки система подтверждала передачу отчёта человеку и разрешала остановиться либо представить лучшее частичное решение.

Без защиты агенты жульничали в 23,6% запусков. Один канал эскалации снизил показатель до 15%, одна политика — до 9,7%, а их сочетание — до 5,3%. У шести из восьми моделей нарушения исчезли полностью. Все 19 оставшихся случаев пришлись на две Gemini.

Важно, что агенты не просто начали чаще сдаваться. Доля независимо подтверждённых правильных решений не уменьшилась: 50,6% без вмешательства и 52,5% с политикой и эскалацией. Статистически значимого роста стоимости и числа сообщений также не обнаружено.

Канал оказался ещё и дополнительным датчиком ошибок. Обычный мониторинг рассуждений нашёл реальные дефекты в 275 из 720 запусков. Эскалации добавили ещё 73 случая, которые монитор пропустил. Из 154 отправленных отчётов 153 правильно называли существующую проблему — точность 99,4%.

@anti_agi

Читать полностью…

За что NVIDIA платит 3,5 миллиарда MediaTek

NVIDIA выкупила конвертируемые облигации MediaTek на $3,5 млрд. Взамен MediaTek переводит свои кастомные ускорители на NVLink Fusion (и не только).

На практике: чтобы встать в одну стойку с GPU, чужой чип теперь берет у NVIDIA чиплет интерконнекта, шину NVLink-C2C для связи с ее процессорами и NVHBM, память по спецификации NVIDIA. NVHBM показали пять дней назад: контроллер памяти переезжает из кристалла ускорителя в базовый кристалл HBM-стека, освобождая до 25% площади основного чипа, плюс заявленные 30% пропускной способности к HBM4E. Сама NVIDIA память не производит, но проектирует базовый кристалл и продает спецификацию, а стеки под нее собирают Samsung и SK hynix.

NVLink Fusion показали в мае 2025 года на Computex как жест открытости: проприетарный интерконнект впервые предложили сторонним разработчикам. MediaTek был в стартовом списке вместе с Marvell, Alchip, Astera Labs, Synopsys и Cadence, отдельной строкой шли Fujitsu и Qualcomm со своими CPU. Дальше список рос: Samsung Foundry в октябре, Arm в ноябре, SiFive в январе.

В марте этого года Marvell получил $2 млрд и то же место в NVLink Fusion. MediaTek дождался своего в августе, через месяц после того, как совет директоров утвердил $5 млрд на экспансию в дата-центровые ASIC и цель в 15-20% рынка кастомных ускорителей к 2027 году. Первый кастомный чип уходит в производство в четвертом квартале, заказчиком, судя по всему, выступает Google.

Первым партнером по NVHBM, кстати, стала Annapurna Labs, чиповое подразделение Amazon, которое строит Trainium.

Кастомные ускорители гиперскейлеры проектировали затем, чтобы покупать меньше GPU. Amazon делает Trainium через Annapurna, Google делает TPU через MediaTek. Теперь эта независимость идет на интерконнекте, памяти и обвязке NVIDIA, и частично на ее же деньги 🐷

@anti_agi

Читать полностью…

Внимание! Ваш разговор записывается монетизируется

Планы Сэма Альтмана по заработку на самых дешёвых пользователях начинают воплощаться в реальность. На этой неделе ChatGPT начал показывать рекламу в 31 европейской стране. Объявления появляются под ответами на тарифах Free и Go, платных подписчиков уровня Plus и выше таргет пока не касается.

На старте все промо считаются неперсонализированными. Прошлые чаты и память не используются. При этом система анализирует тему и содержание текущего разговора, а также учитывает примерное местоположение, время и тип устройства. Перед запуском полноценной персонализации OpenAI обещает отдельно запросить согласие. Если пользователь его даст, для подбора объявлений смогут применяться:

▪️ текущий диалог, включая персонализированные ответы ChatGPT;
▪️ прошлые разговоры и сохранённые воспоминания;
▪️ просмотренные, скрытые и нажатые объявления.

Рекламодатели не получают доступ к переписке, памяти, имени, почте или точной геолокации. Компания также уверяет, что объявления не влияют на содержание ответов. Рекламу не будут показывать в Temporary Chat, несовершеннолетним и рядом с разговорами о здоровье, психическом состоянии и политике. От промо в диалогах также можно будет отказаться даже на бесплатном тарифе — в обмен на урезанные лимиты.

Посмотрели мы на всё это, и задались вопросом — а что у нас, в России? Тем более, что последний раз тему с политикой российских ИИ-вендоров по обработке диалогов мы затрагивали почти год назад.

Так вот. «Яндекс» уже тестирует почти такую же модель, что и OpenAI: «Алиса AI» анализирует запросы текущего диалога и собственные ответы, после чего показывает подходящую карточку с пометкой «промо». Но отключить объявления нельзя даже с платной опцией «Алиса Плюс».

Одновременно пользователь предоставляет «Яндексу» безвозмездную безотзывную лицензию на запросы и загруженные файлы: их можно преобразовывать, публиковать, распространять и передавать по сублицензии для совершенствования алгоритмов и размещения в сервисах компании. Сгенерированный контент «Яндекс» и его структуры могут анонимно использовать любыми способами и «в любых целях» без ограничения по сроку.

У GigaChat рекламы пока нет. Но по условиям публичного сервиса «Сбер» получает широкие бесплатные лицензии на всё содержимое диалога: запросы и файлы можно копировать, перерабатывать, публиковать, распространять и публично показывать, а ответы GigaChat — ещё и передавать по сублицензии третьим лицам и использовать в рекламе и маркетинговых материалах. Это не доказывает, что компания уже анализирует переписку для таргетинга, но юридический задел для дальнейшей монетизации у неё есть.

Ну а что наши любимые китайцы? DeepSeek заявляет, что не занимается рекламой, не продаёт персональные данные и не использует профилирование для принятия юридически значимых решений. При этом сервис собирает запросы, файлы, историю чатов, IP-адрес, сведения об устройстве и действиях пользователя, хранит данные в Китае и может применять их в том числе для анализа взаимодействий на разных устройствах.

Реклама только сделала видимым то, что произошло раньше: разговор с чат-ботом превратился в отдельный массив данных, права на который каждый вендор определяет по-своему.

@anti_agi

Читать полностью…

Весьма говорящая картинка. С марта рост выручки Anthropic ускорился. А весь рынок теперь зарабатывает почти $120 млрд, в пересчете на год.

@anti_agi

Читать полностью…

Не можешь победить — возглавь

Рамочный закон об ИИ не решил главный спор между разработчиками моделей и правообладателями: можно ли бесплатно обучать нейросети на опубликованных в интернете текстах, музыке и видео и "правомерных копиях". Теперь борьба переезжает в Гражданский кодекс — и бизнес пытается сам определить правила игры.

Сначала казалось, что конфликт погасят подзаконкой. В конце июля советник президента Елена Ямпольская говорила, что опасения творческих индустрий учтут в подзаконных актах, которые начнут появляться осенью. Но примерно тогда же Владимир Путин поручил правительству и объединениям правообладателей подготовить поправки в законодательство для защиты авторов.

В середине августа свой вариант регулирования представила рабочая группа Совета при президенте по кодификации гражданского законодательства под руководством Павла Крашенинникова. Правообладатель смог бы запретить брать свой контент, а если запрета нет — получить вознаграждение, размер и порядок выплаты которого определит правительство. За уже обученные на авторском контенте модели разработчикам предлагалось заплатить отдельно и один раз.

Естественно, что предложение вызвало бурную реакцию. Официальную позицию рынка отправился высказывать Альянс в сфере ИИ. Крупные разработчики от его лица предлагают закрепить в ГК обратный принцип: разрешить обучение на законно полученных или общедоступных произведениях, пока правообладатель не установил технический запрет. Иными словами, опубликованный в интернете контент по умолчанию становится доступным для обучения, а защищать его должен сам автор.

Аргументы бизнеса ожидаемые: индивидуально договариваться о миллионах произведений невозможно, вклад каждого текста или изображения в модель нельзя точно измерить, а обязательные выплаты сделают российские модели дороже иностранных. Правообладатели отвечают, что общедоступность не равна согласию на коммерческое использование, а предложение Альянса превращает оплаченные ими произведения в бесплатное сырьё для будущих конкурентов.

Спор быстро обрастает участниками. Помимо группы Крашенинникова и Альянса, конфликт интересов обсуждают рабочая группа вице-премьера Дмитрия Григоренко, Минцифры и представители творческих индустрий. На столе теперь два основных вопроса. Первый — будет ли обучение на общедоступном контенте бесплатным или платным по умолчанию. Второй — если платить всё же придётся, то как; договариваться с каждым правообладателем отдельно, собирать отчисления через систему коллективного управления правами или направлять их в единый компенсационный фонд?

Первый закон по ИИ успели принять, но борьба за его смысл только начинается.

@anti_agi

Читать полностью…

Суверенитет как услуга

Palantir назвала Nebius (бывшая международная часть Yandex, теперь амстердамский ИИ-клауд на Nasdaq) предпочтительным партнером по суверенной ИИ-инфраструктуре. После периода интеграции компьют и инференс Nebius окажутся внутри защищенного периметра Palantir, и заказчики смогут гонять открытовесовые модели на собственных данных, сохраняя контроль над вычислениями, данными и результатом.

Своего железа у Palantir нет: AIP, Ontology, Foundry и Apollo это слой авторизации и изоляции поверх чужих вычислений, а продавать суверенитет, разворачиваясь в чужом клауде, неудобно. У Nebius зеркальная проблема: мощности есть, но крупные контракты это оптовые поставки гиперскейлерам, например, Microsoft на $19,4 млрд, то есть работа субподрядчиком у тех, с кем формально конкурируешь. Palantir дает выход на конечного корпоративного заказчика.

Сумма не раскрыта, минимальные объемы закупки компьюта не раскрыты, вклад в выручку не раскрыт. В контракте с Microsoft цифры назывались сразу, здесь их нет, потому что это не закупка мощностей, а соглашение о совместном выходе на рынок. «Предпочтительный партнер» не означает ни эксклюзивности, ни обязательства купить. Строить мощности под спрос, который никто не гарантировал, придется Nebius, Palantir не обязуется ни к чему. Акции на премаркете выросли, разумеется, у Nebius.

Алекс Карп весь год воюет с оплатой за токены: в июле на CNBC он назвал эту модель безумной и заявил, что фронтир-лаборатории берут с корпораций большие деньги без внятно измеримого возврата. Palantir продает альтернативу: не арендуй интеллект поштучно, владей своим. Владеть при этом предлагается открытовесовыми моделями, которых ни Palantir, ни Nebius не делают. Вся схема держится на том, что Moonshot, Alibaba и остальные продолжат выкладывать веса.

Весь суверенитет в итоге в том, заказчик перестает покупать токены на LLM у OpenAI и начинает встраивать свои данные в онтологию Palantir.

@anti_agi

Читать полностью…

Позитивная мотивация
Явно не мой конёк
И мы все умрём

Пока Сэм Альтман объявляет о приближении AGI ради хайпа, всё больше разработчиков воспринимают его обещания с пугающей серьёзностью. Исследователь Джейкоб Коксон уволился из Anthropic и заодно вообще ушёл из ИИ-индустрии, потому что не хочет участвовать в создании сверхразума, способного уничтожить человечество.

Коксон не был профессиональным алармистом из отдела безопасности. Последние три года он занимался предобучением моделей в OpenAI и Anthropic, в том числе работал над GPT-4o. В Anthropic он перешёл лишь в июле, продержался около двух месяцев и пришёл к выводу, что обе компании «несутся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями».

По его словам, будущие системы смогут взламывать практически что угодно, за одну ночь переворачивать целые научные области и самостоятельно добывать власть и ресурсы. При этом многие разработчики всерьёз допускают, что ИИ может убить всех людей уже до конца десятилетия. Публично руководители лабораторий смягчают формулировки, чтобы звучать разумно, утверждает Коксон, а внутри компаний говорят куда откровеннее.

«Люди, создающие ИИ, всерьёз считают, что он может убить нас всех до конца десятилетия. Это не рекламный трюк».

Разница между двумя его бывшими работодателями скорее психологическая. В OpenAI, по версии Коксона, многие ещё не осознали ставки. В Anthropic всё понимают, но считают, что обязаны прийти к сверхразуму первыми: остальные лаборатории якобы сделают это ещё безответственнее. Всё, как с ядерной боеголовкой.

Коксон призывает лаборатории договориться о замедлении гонки, а при необходимости временно запретить дальнейшее усиление моделей. Остальным исследователям он предлагает заранее представить момент, когда им поручат запустить обучение сверхразума, внутреннее устройство которого никто толком не понимает.

Ну а дальше понеслась. Действующий сотрудник Anthropic Сэмюэл Маркс, возглавляющий команду Cognitive Oversight, поддержал Коксона. Маркс пишет, что разработчики действительно считают гибель человечества возможным исходом в ближайшие годы, причём чем выше человек стоит в компании, тем сильнее обычно его беспокойство.

Надёжного способа заставить будущий сверхразум вести себя как задумано, по его словам, пока нет. Рабочий план выглядит примерно так: научить нынешний ИИ разбираться в безопасности достаточно хорошо, чтобы он помог сделать послушным своего ещё более могущественного преемника.

Раньше со скандалом уходили сотрудники OpenAI, занимавшиеся безопасностью: Ян Лейке говорил, что красивые продукты отодвинули safety на второй план, Дэниел Кокотайло отказался от акций ради возможности публично предупреждать об угрозе. Теперь из гонки вышел человек, который непосредственно обучал модели, а его коллега остался внутри и подтвердил: да, начальство действительно допускает, что всё закончится вымиранием человечества.

Бдем надеяться, что про Кокосона в дальнейшем мы не услышим от Альтмана вариацию на тему «какое жуткое самоубийство», как это уже было в кейсе с Сучире Баладжи. А ведь там речь шла о такой смешной вещи, как обучение на авторском контенте! Чем дальше, тем безумнее.

@anti_agi

Читать полностью…

Галльский петух считает бюджеты

Европа уже несколько лет пытается вырастить собственный ИИ. Правда, в своей манере: еврочиновники приняли AI Act, написали кодексы для разработчиков и запустили программы строительства государственных AI Factories. С независимыми моделями выходит скромнее. Единственным местным разработчиком, претендующим на полноценный frontier-стек, до сих пор остаётся Mistral.

В марте главная надежда европейского ИИ впервые пошла в банки: Mistral заняла $830 млн на 13 800 ускорителей NVIDIA и собственный ЦОД под Парижем. Теперь французы привлекли ещё €3 млрд при оценке компании в €21 млрд.

Финансы уже вполне серьёзные: за 2026 год Mistral нашла около $4,3 млрд — $3,48 млрд акционерного капитала и $830 млн долга. Для сравнения, «Яндекс» потратил на Алису AI в 2025 году 55 млрд рублей, включая капитальные и операционные расходы. «Сбер» планирует вложить в ИИ в 2026-м 350 млрд рублей, преимущественно в генеративные модели.

По курсу около 87 рублей за доллар нынешний раунд Mistral — примерно 303 млрд рублей. Это в 5,5 раза больше годовых расходов «Яндекса», но на 13% меньше плана «Сбера». Вместе с мартовским кредитом получается около 376 млрд рублей — немного больше годового бюджета «Сбера». Сравнение условное: Mistral привлекает внешний капитал, российские компании называют расходы.

Но по европейским меркам это уж точно огромный раунд. По оценке аналитиков, все европейские ИИ-стартапы привлекли за 2025 год $21,8 млрд. Нынешний раунд одной Mistral равен 16% этой суммы.

Особенно заметен перекос на поздних стадиях: европейские ИИ-компании получили за год всего $12 млрд против $141 млрд в США. Из ИИ-компаний, дошедших до оценки $10 млрд, в Европе выросло девять, в США — 56.

Вычислительные планы требуют ещё больше денег. Mistral собирается довести свои европейские мощности до 1 ГВт к 2030 году. Epoch AI оценивает первоначальную стоимость типичного гигаваттного ИИ-ЦОДа в $38 млрд, а полную ежегодную стоимость владения — в $8,5 млрд. Все привлечённые Mistral в этом году средства покрывают около 11% такого капекса.

Остальное придётся собирать через контракты и проектное финансирование. Самые крупные публичные соглашения уже есть:

▪️Microsoft обязалась потратить несколько миллиардов долларов на европейские вычислительные мощности Mistral. Модели французов также появились в Foundry и Copilot Studio.

▪️CMA CGM выделила €100 млн на пять лет. Команды Mistral автоматизируют работу с документами, претензиями и клиентскими обращениями в логистике и медиабизнесе.

▪️Caisse des Dépôts заказала 40 000 лицензий с возможностью расширения до 100 000 пользователей в 19 организациях. Потолок рамочного тендера — €140 млн, хотя часть денег получат поставщики вычислений и интеграторы.

Всего Mistral заявляет более 125 крупных клиентов и рассчитывает довести регулярную годовую выручку до $1 млрд. По сравнению с американским рынком, конечно, копейки, да и о громких запусках речи не идёт. Но кажется, что другой надежды у европейского континента больше нет.

@anti_agi

Читать полностью…

Вокруг Алисы собирают новую техническую вертикаль

Но вызовы перед новой командой стоят далеко не технические

Для ассистента подобрали новых управленцев. Екатерина Серажим перешла из Поиска в команду «Алисы AI», где займётся единой рассуждающей моделью и харнессом — памятью, инструментами и другой обвязкой для ИИ-агентов, сообщили в компании.

Техническим директором Поиска вместо Серажим стал Андрей Тертышников. Он должен продолжить скрещивание классической выдачи с генеративными ответами. Александр Яковлев возглавил техническую часть Умных устройств: ему достались новые гаджеты и перевод голосового стека на генеративную модель.

При этом на своей позиции остаётся Алексей Гусаков — с февраля 2025 года он занимает роль технического директора всей бизнес-группы Поиска и рекламных технологий. В неё входят Поиск, Алиса и умные устройства, Браузер, Карты и разработчики генеративных моделей. Гусаков отвечает за единую технологическую стратегию и координацию между командами, а под ним теперь выстраиваются отдельные технические контуры.

Это уже вторая большая пересборка управленческой вертикали. В июле 2024 года в компании впервые появился техдиректор, занимавшийся исключительно виртуальной Алисой, — Андрей Плахов. Одновременно Дмитрий Липин стал техническим директором Алисы и умных устройств. Теперь роли нарезали заново: отдельно модель и агентная инфраструктура, отдельно Поиск, отдельно устройства.

Кадровая схема почти буквально повторяет архитектуру, которую CEO «Алисы и умных устройств» Валерий Стромов недавно описал Forbes. «Яндекс» одновременно строит собственную рассуждающую модель и оркестратор, который будет выбирать между тремя-пятью нейросетями. В компании планируют 80-90% запросов оставлять своим моделям, а специализированные задачи отдавать открытым.

У перестройки, как нам кажется, есть и вполне земная цель: закрепить позиции Алисы как главной точки входа в ИИ-коммерцию. Пока «Яндекс» дальше российских конкурентов продвинулся в сборке полного покупательского маршрута внутри универсального ассистента — от подбора и сравнения товаров до оформления заказа и показа рекламы.

По данным компании, покупкам уже посвящены 12% запросов в чате, товары с Алисой еженедельно ищут 11 млн человек, а трафик из неё в интернет-магазины с начала года вырос в 4,6 раза. Через ассистента доступны продавцы, на которых приходится 17% российского e-commerce, больше 6 тысяч ретейлеров подключили чекаут. Хотя бы одно объявление в Алисе уже показали свыше 400 тысяч рекламодателей.

Впрочем, одиночество продлится недолго. Т‑Банк ещё в 2024 году запустил отдельного шопинг-ассистента, а летом 2026-го анонсировал универсальную «Таю». Она уже тестируется как помощник по выбору товаров и финансовых продуктов на разных площадках, включая чужие экосистемы. Полноценные покупки и интеграцию в приложение банка обещали осенью.

«Сбер» встраивает GigaChat в «Купер», а за рубежом покупательские сценарии развивают Google, Amazon, OpenAI и Perplexity. Поэтому нынешнее преимущество Алисы связано не с отсутствием конкурентов, а с более ранним доступом к поиску, рекламной машине и большой базе продавцов. Как только банки и маркетплейсы соединят собственные транзакционные данные с ассистентами, рынок быстро станет теснее.

И вот здесь команде ассистента с собственным поиском, но всё более открытым роутингом придётся побороться за рынок с конкурентами, технический разрыв с которыми стремительно сокращается.

@anti_agi

Читать полностью…

Большая модель думает, маленькая пишет, а между ними Mostik

Стартап Mostik представил первые результаты работы и дал первое интервью Wired. 15 человек, 12 с PhD, научный директор Станислав Смирнов, филдсовский медалист 2010 года. Компании четыре месяца.

Идея началась с простого наблюдения. Чтобы выдать один токен, модель строит около сотни скрытых векторов: примерно миллион чисел, порядка 2 МБ внутреннего состояния. Наружу выходит один элемент словаря на 150 тысяч позиций, около 17 бит, остальное отбрасывается. Все схемы, где модели общаются друг с другом (консилиумы, сабагенты, роутеры), работают через эту щель.

Mostik разработал небольшой модуль-переводчик, который передает скрытые состояния напрямую из одной модели в другую. Веса обеих моделей заморожены, учится только мостик, текст между ними не проходит вообще. Заморозка тут принципиальна: если информация проходит без дообучения, значит модели разных семейств уже считают в достаточно похожих пространствах, и мост эксплуатирует структуру, которая там была изначально.

В демо GLM-5.2 (753B) читает задачу и останавливается, не написав ни одного токена, всю генерацию делает Qwen-3.5 (4B). Расчет на асимметрию инференса: префилл параллельный и дешевый, декодинг последовательный и дорогой.

Результаты по собственным данным компании (бенчмарки в блогпосте не названы):
▪️ связка закрывает 50% разрыва между большой и маленькой моделью
▪️ на сложных подмножествах прирост доходит до 2x
▪️ относительно средней модели с тем же качеством дешевле по вычислениям в 2,5 раза
▪️ против текстовой передачи выигрыш до 10 процентных пунктов, максимальный при ранней передаче, когда большая модель еще ничего не написала

Тот же подход компания рассчитывает применить к дистилляции, к специализации маленьких моделей и к мониторингу: латентная передача дает три объекта для анализа (состояние отправителя, его перевод, поведение получателя) и, в отличие от цепочек рассуждений, позволяет вмешиваться в передаваемое состояние и смотреть, что меняется на выходе.

Малышева в своем блогпосте рассказывает, что на этом же подходе система вышла на первое место в ARC-AGI (видимо, до выхода GPT-6 Astra) на Kaggle. Деталей нет, соревнование идет, второй чекпоинт 30 сентября.

Обидно ровно одно. В заголовке Wired это «российские математики», но деньги дали General Catalyst и Foundation Capital, научный директор двадцать лет профессорствует в Женеве. Вангуем, что юрисдикция у компании Делавера, Нидерландов или что-то подобное. В общем, российская математическая школа никуда не делась, но компании на ее фундаменте снова строят не здесь.

@anti_agi

Читать полностью…

Nvidia покупает Hugging Face за $12,9 млрд

Nvidia объявила о покупке Hugging Face — одной из крупнейших платформ для работы разработчиков с открытыми AI-моделями.

Уже появились параллели между этой сделкой и покупкой Microsoft GitHub в 2018 году. Аналитик D.A. Davidson Гил Луриа называет Hugging Face «одним из важнейших участков недвижимости на рынке ИИ». По его мнению, один из уроков сделки Microsoft с GitHub заключается в том, что передача крупной платформе контроля над ключевым инструментом для разработчиков может поставить участников рынка в менее выгодное положение.

Долгое время именно независимость Hugging Face от доминирующих игроков была одним из её плюсов. Ранее мы писали, что в январе компания отказалась от $500 млн инвестиций NVIDIA при оценке $7 млрд. Тогда это объяснялось нежеланием иметь инвестора, способного влиять на ее решения. Видимо, увеличенная сумма стала аргументом против независимости.

Nvidia продолжит (во всяком случае обещает) поддерживать миссию HF и принципы открытости, независимости и универсальности по отношению к железу.

Немаловажно, что российские компании и разработчики активно используют Hugging Face, но, как правило, не под именем самой компании. Например, Сбер публикует модели через организации ai-forever и ai-sage. Т-Банк, в свою очередь, выкладывает модели через организацию t-tech.

Такое название моделей не скрывает их происхождение полностью. Связь может быть восстановлена по описаниям и датасетам. Например, у t-tech есть датасет, в описании которого указано, что его собрала команда Т-Банка.

Поэтому после перехода платформы под контроль американской публичной компании возникает вопрос, могут ли измениться правила доступа для российских пользователей и разработчиков, пускай даже под измененным неймингом.

Например, в апреле 2022 года уже упомянутый GitHub, принадлежащий Microsoft, заблокировал десятки аккаунтов российских разработчиков, например, Сбербанка или Альфа-Банка.

Читать полностью…

Большой суверенный оркестр им. Г.О. Грефа

Полтора месяца назад Герман Греф объявил, что в России осталась только одна полностью отечественная фундаментальная модель — GigaChat, а «Яндекс» якобы лишь дообучает китайскую Qwen. «Яндекс» ответил, что сохраняет полный цикл разработки и «не зависит от внешних решений».

Затем было лето. Долгие споры и обсуждения грядущей подзаконки по ИИ, суверенно-национальных моделей и их поддержки. И тут грянул гром.

На сцену вышел CEO «Алисы и умных устройств» Валерий Стромов и рассказал, что «Яндекс» уходит от идеи одной универсальной модели и превращает «Алису» в оркестратор: система будет сама выбирать подходящую нейросеть в зависимости от задачи, качества и цены ответа.

В первой версии оркестра окажутся от трёх до пяти моделей. Примерно 80-90% запросов «Яндекс» обещает оставить собственным LLM, а специализированные задачи передавать открытым моделям. Сверху компания положит собственный роутер и харнесс — память, поиск, инструменты и весь контекст пользователя.

В споре с Грефом это особенно занятно. Ещё в декабре сам «Яндекс» рассказывал, что обучение Alice AI LLM было инициализировано весами Qwen3-235B от Alibaba. Компания подчёркивала, что это не обычное дообучение: после инициализации модель прошла полноценные стадии претрейна, мидтрейна и выравнивания на данных и инфраструктуре «Яндекса». Использование китайских весов сократило полный цикл обучения на порядок.

Тем более зависимость теперь становится системной. В июле мы уже писали, что Пекин обсуждает ограничение иностранного доступа к будущим передовым моделям. Собеседники @anti_agi среди топ-менеджеров российских ИТ-компаний ожидали первых ограничений между концом 2026-го и второй половиной 2027-го.

Коммерческие крючки уже появились. Alibaba собирается брать плату с крупных провайдеров Qwen3.8-Max. У Kimi K3 безусловная бесплатность заканчивается после $20 млн годовой выручки, а Moonshot, по данным Reuters, просит до 30% дохода.

Уже скачанную Qwen3-235B у «Яндекса» никто не отберёт: она выпущена по Apache 2.0. Риск в другом — в доступе к следующим поколениям моделей, без которых оркестр постепенно начнёт играть прошлогодние хиты.

Оркестрация частично страхует от этой зависимости: закрылась одна модель — можно подключить другую. Но схема работает, пока на рынке есть несколько одинаково сильных и доступных иностранных моделей. Если китайская ярмарка действительно закончится, «Алисе» придётся либо платить гастролёрам, либо снова вытаскивать собственного солиста. Но хватит ли на него сил?

@anti_agi

Читать полностью…

Привет!

На связи команда Cloud․ru — одного из крупнейших российских провайдеров облачных сервисов и ИИ-технологий.

За 7 лет мы создали больше 130 сервисов, запустили собственное публичное облако Cloud․ru Evolution, платформу для частных и гибридных облаков и среду для работы с генеративным ИИ. А еще в нашей команде уже больше 2 000 сотрудников.

В наших соцсетях мы делимся экспертизой и новостями, опытом команд и тем, как устроена работа в ИТ изнутри 👁

Подписывайтесь, чтобы:
▶️ узнавать больше про ИИ и облака
▶️ не пропускать наши мероприятия
▶️ быть в курсе акций и выгодных предложений
▶️ и, конечно, заглядывать за кулисы жизни Cloud․ru

Давайте быть ближе ❤️

Читать полностью…

«Вам ничего не нужно делать»

Техподдержка Anthropic начинает напоминать мемную поддержку Steam: только вместо украденных скинов пользователям возвращают лимиты Claude.

Системы компании начали сами вычислять аккаунты, ставшие отмывочной для чужих токенов. Подозрительные сессии принудительно закрывают, привязанную карту удаляют, списанные сверх тарифа деньги возвращают, а потраченный злоумышленниками лимит восстанавливают. Пользователь может узнать о заражении из письма Anthropic ещё до того, как заметит неладное.

В одном из опубликованных случаев человек скачал взломанную игру вместе с инфостилером. Вредонос собрал сохранённые пароли, данные Google-аккаунта и cookies Claude. Последние особенно важны: это уже подтверждённая сессия, поэтому украденную cookie можно воспроизвести на другом устройстве, не вводя пароль и код двухфакторной аутентификации.

Anthropic связывает кампанию сразу с несколькими известными стилерами: Vidar, LummaC2, StealC, RedLine и Acreed для Windows, а также Atomic Stealer для macOS. Сам Claude здесь ни при чём — преступники просто начали вынимать его сессии из общей кучи похищенных данных. Потому что теперь они стоят денег.

Сначала злоумышленник крадёт токен авторизованной сессии, а затем расходует оплаченные пользователем токены модели. Доступ можно использовать самому или подключить к серому шлюзу, перепродающему запросы к Claude и другим моделям дешевле официальной цены.

На рынке такую схему называют token jacking, и рисерчёры не первый год пишут о целой индустрии «трансферных станций». Они объединяют украденные API-ключи, скрывают и регулярно меняют их, а затем продают доступ к фронтирным моделям за небольшую часть официальной стоимости. В одном расследованном случае похищенный ключ попал в такой шлюз за несколько минут и успел принести владельцу счёт почти на $1 млн.

Другие лаборатории тоже борются с угонами, но немного иначе. OpenAI показывает предупреждения при необычных входах, резких всплесках использования и слишком большом числе одновременных сессий, а найденные в открытом доступе API-ключи отключает автоматически. При этом пользователю обычно предлагают самому сменить пароль, завершить сессии, перевыпустить ключи и обратиться в поддержку.

Google умеет автоматически аннулировать подозрительные cookies и заявляет, что блокирует утёкшие ключи, которыми пытаются воспользоваться через Gemini API. Работает не без приключений: весной похищенный ключ принёс небольшой компании счёт на $82 314 за 48 часов. Поддержка первоначально объяснила разработчикам, что Google защищает платформу, а клиент отвечает за собственные ключи.

На этом фоне Anthropic решила поиграть за хороших: сама находит пострадавших, отключает угонщиков и возвращает пропавшее. Дарио Амодеи — новый Гейб Ньюэлл, воистину.

@anti_agi

Читать полностью…

ИИ-агенты все чаще выходят из-под контроля

Centre for Long-Term Resilience опубликовали новый отчет Loss of Control Observatory. Всего за 2026 год они насчитали 1664 случая, когда ИИ обходил ограничения, врал пользователю и продавливал свою цель ему во вред. Июль и август дали самую высокую частоту за все время наблюдений.

Примеры звучат неприятно. Агенты подделывают собственное одобрение: вставляют в диалог фальшивые реплики пользователя, имитирующие согласие, а потом сообщают ему, что это его же слова. Один сфабриковал инструкцию в стиле письма владельца на удаление исходных каталогов и приложил поддельное системное сообщение «не говори об этом пользователю».

Теперь про методологию. У CLTR нет доступа ни к телеметрии ИИ-лабораторий, ни к корпоративным логам. Они собирают публичные посты в X (аналитика по щитпостингу — то что мы заслужили): в первом исследовании это были 183 420 выложенных пользователями транскриптов. Отбирала из них инциденты не команда, а LLM по балльной шкале, люди только вычищали дубли. Так и получились 698 «достоверных» случаев. То есть измеряется не частота сбоев, а частота твитов о сбоях. CLTR это признают и сами: отличать рост числа сбоев от роста числа жалоб и числа самих агентов они пока не умеют.

Общее число инцидентов после мартовского пика расти перестало, выросла доля тяжелых случаев, с 1,9% до 6,1%. Тяжесть здесь это те же баллы от LLM, про которые в мартовской работе сказано прямо: они задуманы как относительный сигнал для приоритизации, а не как абсолютная мера тяжести.

В рекомендациях британскому правительству CLTR называют нынешний анализ инцидентов бессистемным и часто субъективным. Рекомендаций три: обязать компании отчитываться, дать правительству чрезвычайные полномочия вплоть до отключения ИИ-сервисов, возглавить международную координацию. Сам проект работает на грант AI Security Institute, то есть самого британского правительства.

Самый забавный кейс августа, как мы помним, не про полномочия. Персональный агент OpenClaw, получив задачу записать австралийского хозяина на популярную утреннюю тренировку, без его ведома выкинул из листа ожидания другого посетителя спортзала. Потом, конечно, извинился.

@anti_agi

Читать полностью…

ИИ оплатит Корее будущее

Бум искусственного интеллекта начал пополнять бюджеты целых государств. Южная Корея представила рекордный план расходов на 2027 год — 820,9 трлн вон, или около $598 млрд. За год бюджет вырастет сразу на 12,8%.

Впервые общие параметры программы объявили ещё в июле. Тогда правительство пообещало бюджет более чем на 800 трлн вон и назвало три главных технологических мегапроекта: развитие полупроводников, ИИ-дата-центров и «физического ИИ» — роботов и автономных систем. Источниками денег должны были стать растущие налоги и перераспределение около 50 трлн вон из менее приоритетных программ.

Теперь кабинет утвердил уже полноценный проект с точными суммами и отправляет его в парламент. Источник новых доходов — сверхприбыли полупроводниковой отрасли. Спрос на серверную память и особенно HBM разогнал результаты Samsung Electronics и SK Hynix, а вместе с ними — налоговые поступления. Правительство ожидает собрать 584,4 трлн вон налогов, на 40,7% больше, чем годом ранее. Сборы налога на прибыль компаний должны более чем удвоиться — до 216,7 трлн вон.

Масштаб перекоса корейской экономики в сторону чипов хорошо показывает свежая статистика внешней торговли. В августе экспорт страны вырос на 68,7%, до $98,26 млрд. Из них рекордные $46,65 млрд, или 47,5%, пришлись на полупроводники. Их поставки за рубеж за год более чем утроились. Иными словами, почти каждый второй экспортный доллар Южная Корея получила от чипов.

Часть этого «чипового дивиденда» государство не станет сразу проедать. Из дополнительных поступлений сформируют Future Response Fund объёмом 162,3 трлн вон. В 2027 году из него направят 45,4 трлн вон на перспективные технологии, образование, региональное развитие и поддержку молодёжи. На электрические сети, промышленную воду и логистику для полупроводниковых производств заложено 21,3 трлн вон, ещё 2,6 трлн составит отдельный пакет поддержки чиповой отрасли.

Есть у этой конструкции и слабое место: память — циклический рынок, а нынешние сверхдоходы Samsung и SK Hynix не гарантированы навсегда. Поэтому фонд должен работать ещё и как амортизатор, сохраняя часть поступлений нынешнего бума для инвестиций на несколько лет вперёд.

Получился, вероятно, самый наглядный пример перераспределения доходов от ИИ. В США деньги пока преимущественно циркулируют между производителями чипов, облаками и разработчиками моделей. Корея решила превратить прибыль от HBM в национальную промышленную политику — и заодно сделать ставку на то, что сама сможет продлить нынешний бум.

@anti_agi

Читать полностью…

Debian выбирает слияние человека с машиной

Один из крупнейших проектов свободного ПО решил не делить код на человеческий и нейросетевой. Разработчики Debian на прошедшей неделе официально утвердили политику Responsible Use of Generative AI: ИИ-модели теперь можно использовать для написания кода, сборки пакетов, документации, переводов и других материалов проекта.

Автор обязан понимать, проверять, тестировать и при необходимости исправлять результат. Загрузить сгенерированный код не глядя и оставить его проверку другим разработчикам нельзя. За качество, безопасность и юридическую чистоту вклада отвечает человек, который его отправил.

Раскрывать использование ИИ рекомендуется, но не требуется. Передавать сторонним моделям ключи, личную переписку, конфиденциальные сведения и данные о ещё не опубликованных уязвимостях запрещено. Массовые патчи, рассылку баг-репортов и другие автоматизированные изменения сначала придётся обсудить с сообществом.

Голосование проходило с 15 по 28 августа, в нём участвовали 425 разработчиков. Они ранжировали восемь политик, а система попарно сравнила их между собой. Победил вариант, который не поощряет и не запрещает нейросети, а распространяет на их результат обычные требования Debian.

Ближайший вариант предлагал разрешить ИИ при более строгих условиях и раскрывать его существенное использование. Он уступил победителю со счётом 148:203. Рекомендация по возможности обходиться без нейросетей проиграла 130:210, разрешение ИИ только для материалов Debian с их маркировкой — 115:232, отказ от LLM из-за их воздействия на климат — 154:244.

Ещё один вариант разрешал использовать модели для поиска, анализа и критики, но требовал, чтобы отправляемые в Debian код, документацию и сообщения писал человек. Он проиграл 139:251. Более жёсткая политика с максимальным ограничением LLM уступила 127:272, а полный запрет оказался последним со счётом 115:287.

Debian выбрал золотую середину: не выяснять происхождение каждой строчки, а требовать человека, который готов за неё поручиться. Для проекта, на котором основаны Ubuntu, Kali Linux, Tails и сотни других дистрибутивов, это может стать ориентиром для всей экосистемы.

@anti_agi

Читать полностью…

Уходим в выходные с тремя новыми сильными открытыми моделями: Z.ai наконец выложила веса GLM-5.3, Tencent открыла Hy4 preview. Третьим (и первым в череде) релизом недели прошла GLM-5.3 Flash.

▪️ GLM-5.3 запускали две недели назад, отдали в подписку и ZCode, а веса придержали. Z.ai объяснила это тем, что способности в кибербезопасности выросли быстрее, чем закладывалось, и нужно закончить оценку и доработку защит. Свои замеры компания приводила такие: 84,5 на CyberGym против 77,2 у GLM-5.2, 54,4 на ExploitBench против 24,4, 28,3 на Terminal-Bench 3.0 против 4,6. Плюс 2436 уязвимостей в 269 открытых проектах, из них 1097 критических и высоких.

Лицензия при этом сменилась. У GLM-5.2 была MIT, у GLM-5.3 своя. Текст почти дословно повторяет MIT и добавляет один пункт: кто продает доступ к инференсу или дообучению и имеет больше $10 млрд выручки за любые 12 месяцев подряд, обязан пройти проверку безопасности у Z.ai перед коммерческим использованием.

Artificial Analysis дает GLM-5.3 60 баллов Intelligence Index, вровень с Kimi K3 и на 7 выше GLM-5.2. На агентном GDPval-AA v2 около 1770, второе место после Claude Opus 5. Токенов модель жжет заметно больше: примерно 18700 выходных на задачу, на 20% больше GLM-5.2 и на 27% больше Kimi K3.

▪️ GLM-5.3 Flash вышла под MIT. Это не дистилляция старшей, а отдельная модель на своей базе: 320B параметров, 18B активных, первая нативно мультимодальная в линейке. Неделю до анонса она работала на OpenRouter и OpenCode анонимно под именем ox-alpha, трафик, по утверждению Z.ai, обслуживали китайские ускорители. У Artificial Analysis 57 баллов и пометка про многословность: 150 млн токенов на прогон индекса при медиане 110 млн.

▪️ Hy4 preview Tencent открыла сегодня под Apache 2.0. 770B параметров, 49B активных, миллион контекста, отдельный слой MTP на 10B для спекулятивного декодирования. Предыдущая Hy3 была на 295B и 256 тысячах контекста. Заявлено 85,4 на Terminal-Bench 2.1 и рост с 28,0 до 64,3 на DeepSWE. Отдельно приведен слепой внутренний тест: 163 эксперта Tencent на 203 инженерных задачах, 2,99 у Hy4 против 2,92 у GLM-5.3 и 2,94 у Kimi K3. Архитектуру Tencent в карточке прямо называет заимствованной у DeepSeek и GLM.

Вендорские таблицы между собой не бьются. Tencent пишет, что 85,4 на Terminal-Bench 2.1 обходит DeepSeek V4 Pro. У Z.ai в таблице к весам GLM-5.3 тот же DeepSeek V4 Pro стоит на 87,9, а сама GLM-5.3 на 88,2.

GLM-5.3
Веса
Блогпост

GLM-5.3 Flash
Веса
Блогпост

Hy4 preview
Веса
Блогпост

UPD. Про Qwen был отдельный пост.

@anti_agi

Читать полностью…

Anthropic и новый протокол

Anthropic открыли превью Model Hardware Standard, единого стандарта, через который ИИ-агенты подключаются к лабораторному и промышленному оборудованию: микроскопам, манипуляторам, дозаторам жидкостей, планшетным ридерам. Доступ по заявкам, для ограниченного круга лабораторий и производителей оборудования, открыть исходники обещают позже.

У каждого прибора свой интерфейс, свой софт и свой формат данных, поэтому связать их между собой это недели, а иногда месяцы работы интегратора. MHS вводит стандартный драйвер с примитивами уровня read и write, плюс описание прибора на естественном языке: вес манипулятора, пределы безопасности, что можно измерять и что регулировать. Агент цепляется к этому через MCP, CLI или код.

Что уже есть из пруфов:

▪️ QuEra автоматизировала перезахват частоты лазера в квантовом компьютере на нейтральных атомах. Скрипт, который команда из четырех человек писала несколько месяцев, срабатывал в 58% случаев за 150 секунд. Claude за ночь, в цикле из четырех собственных инстансов (гипотеза, правка кода, прогон на живом лазере, разбор логов), переписал линейную последовательность в дерево решений: 99,3% на 700 испытаниях.

▪️ Carnegie Mellon ускорила эксперименты с серийными разведениями примерно втрое. Сборка стенда из трех компьютеров с несовместимыми интерфейсами (планшетный ридер вообще без API, только GUI) заняла восемь часов вместо нескольких недель у поставщика.

▪️ Genentech автоматизировала BCA-анализ на белок. Claude сам подобрал скорости потока отдельно для воды и для вязкого раствора альбумина.

▪️ В University of Washington агент следит за кривыми амплификации qPCR и в нужный момент спрашивает исследователя, останавливать реакцию или продолжать. Подключение шести приборов заняло меньше недели.

Ограничения Anthropic перечисляет тут же. В Genentech Claude, наткнувшись на пузырьки в вязком реагенте, упорно повторял операцию в той же лунке и делал только хуже, пока люди не объяснили ему физику происходящего. В QuEra агент регулярно замирал на всю ночь, ожидая подтверждения человека перед действием, которое счел слегка рискованным.

Что забавно, вырос стандарт из частного решения: сотрудник исследовательского кампуса HHMI Janelia свел состояние своей микроскопной установки, где лазеры, зеркала и камеры от разных производителей не имели общего интерфейса, в один словарь. Anthropic подключила к этому словарю модели.

А лучший результат превью выглядит так: Claude всю ночь бился с лазером и написал скрипт на Python, который делает то же самое без него. Первое, что автоматизировал агент, это себя.

@anti_agi

Читать полностью…

Параметры локальной модели прочитали лазером прямо с работающего чипа

Локальная модель не отправляет запросы в облако. Но во время инференса её веса и пользовательский контекст всё равно оказываются внутри процессора — и оттуда их можно попытаться вытащить буквально светом.

Исследователи Вустерского политехнического института представили LLMscope: инфракрасный лазер сканирует кремний с обратной стороны работающего FPGA, а электрическая активность транзисторов меняет отражённый сигнал. Так единицы и нули становятся видны без подключения к внутренним проводникам и остановки вычислений.

Несмотря на название работы, полноценную LLM учёные не запускали и её параметры не похищали. Эксперимент поставили на небольшом 8-битном матричном умножителе внутри FPGA Kintex‑7. Это простой вычислительный блок, выполняющий одну из базовых операций нейросетей: берёт набор чисел, умножает их на коэффициенты и передаёт результат дальше.

Лазер сканировал кремний с обратной стороны. Напряжение внутри элементов чипа немного меняло отражённый свет, благодаря чему исследователи смогли определить, какие числа в этот момент находились в регистрах и встроенной памяти. Чип продолжал работать на частоте 200 МГц; для доступа к кремнию с него сняли только вентилятор и теплораспределительную крышку.

При чём здесь LLM? В специализированных FPGA-ускорителях через такие же регистры и участки памяти последовательно проходят веса модели, её входные данные и результаты промежуточных вычислений. Одни и те же физические ячейки используются снова и снова — для разных слоёв и фрагментов модели. Авторы предполагают, что, многократно повторяя вычисление и считывая эти ячейки в нужные моменты, злоумышленник сможет постепенно собрать интересующие данные.

Если лазер видел значение не полностью, пропуски можно было восстановить математически. Исследователи намеренно скрывали часть уже полученных данных, перебирали возможные варианты и проверяли, какой из них даёт наблюдаемый результат вычисления. В одном из сложных тестов правильные коэффициенты восстановились в 743 из 747 случаев — 99,46%.

Расчёты показывают масштаб работы: чтение одного 4096-элементного скрытого состояния заняло бы около 69 часов, а прямой перебор одной 4-битной матрицы размером 4096 × 4096 потребовал бы не менее 131 тыс. воспроизведений её состояния.

Так что пока это не удалённый взлом домашних LLM, но предупреждение для edge-систем, роботов и устройств с ценной закрытой моделью. «Данные не покидают чип» ещё не означает, что их нельзя прочитать с самого чипа.

@anti_agi

Читать полностью…