Просто сделаю ответкой к старому посту. В моем представлении все ещё ничего не изменилось, я все ещё против уничтожения института джунов, тк потом для HITL у вас не останется опытных экспертов. Миддл станут синьорами, сины или уйдут на пенсию, или пойдут дальше. А миддлов без джунов новых не станет.

Поэтому тенденция печальная, особенно, когда это пропогандирует такой игрок на рынке. Пусть даже не специально.

https://www.anthropic.com/research/employment-at-anthropic

Читать полностью…

Немного про то, до чего техника дошла в архитектуре памяти. Как 📦 уже много раз говорил, знаешь базовые блоки, далее микстишь. Вот пример от команды Tencent: тут и экстракт с LLM, и графы с линками, и эмбеды + bm25, и сабагенты для обновления стейта. 😜

Далее "ахолай махолай" и получаем гибрид память для чатов и кодинга. Отмечу идею, которую рассказывал в своих докладах и в канале про блок reconciliation - это место где сабагент смотрит записи в память и решает сделать update информации, или схлопывание. Кстати, противоречия или старые факты не только заменяются на актуальные данные, но и сохраняется с специальной пометкой, как память "ошибок". Так делали ребята из manus. Читаем у меня тут.

Задача убрать противоречия или обновить инфо. Такое лучше делать офф-лайн (после окончания диалога) или асинхронно на лету.

Для extract и reconciliation используется спец модель на 30B A3B параметров, но я бы лучше юзал 4b MemoryQwen. И да, я бы для навигации, light extraction и RAG memory воткнул сюда Decision Models. 🧠 Можно даже FRIDA. 😀

В общем, забирайте для систем дизайна, пригодится 😏

Читать полностью…

MCP-сервер с авторизацией - мы сделали это, чтобы  было безопасно и персонализированно.

Дождались. Мы учли Ваши пожелания и сделали авторизацию, и добавили сопутствующие возможности. Теперь инструмент поиска в тч работает с каталогом, актуальным для адреса пользователя, и учитывает наличие товаров в реальном времени.

Авторизация построена на протоколе OAuth 2.0. При подключении пользователь выбирает, к каким возможностям предоставить доступ ИИ-агенту, а MCP-сервер проверяет эти разрешения при каждом обращении.

Все также доступно по старому адресу. Для авторизации и доступу к полному функционалу присоединяйтесь тут.

Ещё один значимый шаг к агентному каналу b2a экономики. 😏

Читать полностью…

Обучи свой decision model на 🕸colab или своей пекарне 😜 (мак тоже пойдёт).

Сегодня накину ещё про decision models в лице решения анслота для тюна своей модели.

Unsloth позволяет быстро превратить обычную LLM (Qwen, Gemma, Llama) в decision, хоть за базу берут decoder-only модель, но мы все ещё получаем модель, что не генерирует текст, а выбирает из предложенных вариантов и выдаёт вероятность для каждого. Да, тут не энкодер модель, как FRIDA, а декодер модель + голова классификации, это позволяет иметь KV-кэш сахар без ухищрения. 🧠

Что даёт:
· Модель читает вход, оценивает варианты и возвращает выбор с калиброванной вероятностью.
· Точность на бенчмарках вырастает с ~30% (случайный уровень) до 78–81%.
· Обучение занимает 30–50 минут на 4–14 GB VRAM.

Как обучить, кратко:
1. Установи Unsloth (Desktop app или pip install unsloth).

2. Выбери модель (например, unsloth/Qwen3.5-4B) и датасет (LocalLLaMA/typed-decisions).

3. Запусти обучение — Unsloth сам подставит рабочие настройки (LoRA r=16, lr=2e-4, 2 эпохи).

4. Готовую модель можно подключить к Decision API.

В рамках их решения есть целый пулл спец датасетов (13 штук), которые дают возможность закрыть базовые задачи и обучить на них модельку.

Это бесплатно, есть готовый ноутбук на Google Colab, где обучение полностью фри в рамках квоты. Поверьте, квоты вам хватит.😮‍💨

Кому зайдёт? Если нужна не Болталка (хотя и болталку тоже сделать можно), а модель для классификации, маршрутизации тикетов, модерации или любого выбора из вариантов - это быстрый и дешёвый способ. 😏

Читать полностью…

Мы начинаем наш стрим про FRIDA!

https://youtube.com/live/XbmlQvcYc_E – подключайтесь по ссылке

Читать полностью…

Сентябрь ознаменовался бумом decision-моделей.

Всё началось с Jev, который доступен только через API. То есть на передачу данных можно потратить больше времени, чем на работу модели.

Я тоже попробовал decision-модели. Но только те, что работают локально.

А потом узнал, что модель FRIDA Decisions всего на 0.8 миллиарда параметров выбивает в бенчмарках результаты, сравнимые с Jev.

Приятно ещё и то, что мы с создателями модели говорим на одном языке. Так что можно обсудить, как им удалось достичь таких результатов.

А также поговорить о том, как использовать FRIDA Decisions так, чтобы получить от неё наибольший эффект.

Всё это мы сделаем в формате стрима, на который я позвал людей, непосредственно причастных к созданию FRIDA:

Александр Абрамов – автор канала Dealer.AI

Артём Снегирёв – ML Engineer в Sber AI.

Дата и время проведения стрима: Четверг, 8 октября, 18:00 (GMT+3)

Место проведения стрима: kdoronin_blog_ru">мой YouTube-канал

Добавить событие в календарь

Увидимся на стриме! :)

@kdoronin_blog

Читать полностью…

Наш jev? FRIDA-Decisions!


Ребята из ру сегмента тоже не отстают

FRIDA-Decisions makes structured decisions over Russian text in a single encoder pass: pick one of K options, place a text on an ordinal scale, answer yes / no, or rank candidates. The options are written as text inside the request, so a new label set is a new JSON, not a new training run. No generation, no output tokens, no parsing: every answer is one of the declared options, with its confidence.

Через пару часов будет на neuraldeep.ru

Отличное развитие https://huggingface.co/ai-forever/FRIDA (которая у нас тоже есть) от автора канала

https://huggingface.co/ai-forever/FRIDA-Decisions

UPDATE:
https://neuraldeep.ru/models/frida-decisions

https://neuraldeep.ru/docs#decisions

Читать полностью…

Retrieve for train, учим google поиск работать с подзапросами в неявном виде. 💻

Вышла интересная работа в бложике Google, в которой ребятки показывают как можно делать multi hop RAG без явной генерации подзапросов на запрос.

Суть проблемы. Современные поисковые системы должны возвращать на запрос не одну лучшую ссылку, а связный набор взаимодополняющих результатов на первой странице. Например, на запрос "походное снаряжение" – поварешку, миску ложку, два батона колбасы, палатку, спальник, горелку, фонарь. 😁

Для этого используется техника query fan-out: один широкий запрос разбивается на несколько подзапросов, которые составляют полную группу кандидатов на ответ исходного запроса.

Однако научить LLM делать это динамически дорого, ввиду:
- Коллапса парафраз, те без оптимизации под базу данных zero-shot LLM генерируют почти одинаковые по смыслу подзапросы.
-Задержка авторегрессии. LLM вынуждены генерировать сотни промежуточных цепочек рассуждений, чтобы спланировать разбиение. Это дорого + создаёт рост latency. Те время на ответ растёт. 😐

Че делать? Тут и придумали R4T. Идея один раз обучить модель через RL на генерацию нужных подзапросов, а потом сдистиллировать её поведение в лёгкую диффузионную модель, которая работает за один проход. 🧠

Подробнее:
1. RL-обучение. Делают FOLM модель на основе Qwen3 4b или Gemma3 такого же размера. FOLM генерирует подзапросы в виде текста и получает награду по трём критериям:
· Groundedness  подзапрос должен соответствовать реальному объекту в базе поиска. Измеряют через минимальное эмбеддинг расстояние между запросами в базе и подзапросов. Далее вычитают скор из 1. Это и есть награда по оси.
· Diversity  измеряется через оценку семантического разнообразия фраз, зовут это Vendi Score, чтобы не было синонимов. Я бы тут брал угловые расстояние между эмбами подзапросов, нормы векторов и сравнивал это. Но над бы пороги подбирать. А тут красиво, через собственные значения векторов. Что показывает на сколько соноправлены эти вектора + угол. Что я и хотел придумать выше. 🌿
· Alignment привязка к исходному запросу, чтобы не уйти в семантический дрейф и не улететь по теме не туда. Логично, что каждый эмб подзапроса сравнивают с эмбом запроса.

Итого нам не нужна никакая иная модель судья кроме эмбеддера векторной базы знаний. При этом сам эмбеддер мы не меняем, не тюним и тп.

2. Далее крч, на этом учится модель FOLM через RLVR. Потом модель генерирует К траекторий подзапросов. Они эмбеддятся и идут на обучение диффузионного эмбеддера, всего на 53,9 млн параметров. Он учится по паре эмбеддинг запроса → набор целевых эмбеддингов подзапросов. Важно, что FOLM генерирует именно текст, а затем внешний эмбеддер превращает его в векторы. Диффузионная модель уже работает с готовыми векторами.

За счёт этих фокусов мы на проде получаем на запрос в поиск сразу К эмбов подзапросов без промежуточных рассуждений в токенах.

Результат впечатляющий:
· Ускорение в 12–20 раз.
Авторегрессионные подходы до 50 секунд.
R4T доли секунды/несколько секунд.
· Качество выше, чем у zero-shot и Best-of-N.

Естественно приходится за скорость платить пайпом из М шагов обучения. Чудес не бывает. 😏

Читать полностью…

Mimo-v2.6 крокодил от Xiaomi
Слежу пристально за новыми моделями из Китая. Вышло обновление семейства Mimo. Сегодня разберём особенности обучения их RL GAR подхода, и дам некоторые замечания по метрикам. Поехали. 🚙

Для начала, модель MoE размером порядка 1T и A42B параметров, multimodal и жуёт: текст, аудио, визуалы. Работа по классике через модальные энкодеры с маппингом на пространство токенов языковой модели. Жаль, тк вокруг уже omni модели пошли. Но это путь догоняющих, осилит его идущий. 😮‍💨

По вниманию гибрид внимания в окне и глобального внимания, в соотношении 6 к 1. Это даёт уменьшение KV кеша в 7 раз по сравнению с full attention. Есть MTP декодер для спекулятивной генерации.

Про GAR RL, как вариации GRPO.

GAR алгоритм (Groupwise Advantage Redistribution) работает по принципу перераспределения траектории относительно внутренних преимуществ. Делают для каждой задачи 16 траекторий, получают для каждой оценку эффективности (будет ниже), и делают перезвешивание награды. Тк сигнал 0/1 владеет меньшей вариацией, такой подход лучше/хуже работает эффективнее.

16 попыток решения помещаются в общее рабочее пространство, и evaluator-модель оценивает их совместно по пяти измерениям:
1. Соответствие подхода задаче (в тч отсутствие взлома).
2. Точность реализации без лишних fallback-ов.
3. Минимальность изменений.
4. Отсутствие случайных правок вне задачи.
5. Соответствие стилю окружающего кода.

Прошедшие попытки ранжируются: нижние получают меньше положительного подкрепления, верхние - больше. Подтверждённый reward hacking (например, скачивание готового патча) обнуляется и считается провалом до ранжирования. 🛑

Пример. Два решения (1ца в награде) могут оба пройти тесты, но одно будет минимальным и корректным, а другое – обойдёт исключения или скачает готовое решение из интернета, но решит задачу. Оба решения дают в RLVR нужный ответ, но модель не учится отличать хорошее решение от запрещенного, если сигнал одинаков. Данный подход с этим борется.

Интересное наблюдение. Авторы замораживают роутер экспертов на стадии RL тюнинга, иначе, на масштабе данных, тюнинг роутера вызывает коллапс баланса экспертов. Итог - так обучать стабильнее и быстрее. 🧠

Замечания:

- Вопросы воспроизведение метрик. Все результаты получены в одном запуске, внутри одной лаборатории, на одном кластере. 😳

- Смешанные бенчмарки: сравнения с другими моделями включают внутренние оценки и не изолируют вклад RL от архитектуры и пре-трейнинга.
Те мы точно не понимаем, а где инкремент. 😥

- Рост токенов. Улучшения от RL сопровождаются увеличением использования токенов, это же в соседних чатах уже подтвердили коллеги по цеху. 😐

Но в целом, мне интересны были именно RL и как снизили KV через гибрид внимание. Коллеги говорят, что неплохая моделька маленькая (но конечно не конкуренты от топов), но токены улетают слишком быстро. 🤨 Как-то так.

Читать полностью…

Аналитика на естественном языке с DataLens на Yandex Scale 2026.

Вчера мы были на Yandex Scale 2026, как и обещали. Много интересных стендов про AI, безопасность и инфроструктуру. Но больше всего 📦 заинтересовал воркшоп "Нейроаналитик: ИИ‑аналитика без границ с DataLens".

Почему? Все просто в нашем пулле задач есть тема с ИИ агентной аналитикой. Однако, если мы работаем сейчас на уровне семантического слоя, создания обвязки, подбора моделей и mcp шлюза для коннекторов, то ребята из YandexCloud сделали уже все это за вас + ещё и интерфейс нативный вкрутили.

Их решение позволяет уже переиспользовать готовую обвязку, чат взаимодействия с вашим знаниевым слоем. С вас только коннекторы к данным и выбор модели. Все остальное дело prompt техники. Есть, как готовый нейроаналитик (most common сценарии и общие рабочие пространства), так и можно настроить внешнего агента с кастомными скиллами под только ваши задачи. Также скиллы можно расшарить на команду поверх готового harness в рамках общего пространства в Нейроаналитик.

В общем интересное решение для компаний у которых нет желания делать свое, взять коробку и подрубить на свой ландшафт данных для аналитики. Спасибо ребятам за воркшоп, было интересно 🤗

Читать полностью…

Jev, как хорошо забытое старое.

Что тут говорить про jev, я и в чате канала писал, что это или диффузия, или энкодер на трансформере, или T5 like, но с supervised хорошо выверенной задачей на обучении. Просто представьте у вас sturctured/constrained output, ток не генеративка.

Крч, сам не хочу более писать, почитайте лучше коллегу. 🔫

Да и че там писать, ждём тех репорта. ⏰

Читать полностью…

Все что нужно знать о пользе современного ИИ. ШУТКА. 💳

Модель мухи на 160к (примерно 650кб памяти) параметров нейросети. Ребята дотюнили модель на варку пива, теперь у тебя есть готовый пиво-кореш муха.😜

База тут.

#meme, #выходной

Читать полностью…

TTPO обучение моделей без явной разметки.

Представь, LLM сдаёт олимпиаду по математике. Ответов нет. Как ей улучшать себя прямо во время решения?

Команда из Чжэцзянского университета и Alibaba предложила TTPO (Test-Time Policy Optimization) - метод, который позволяет модели самообучаться на тесте без единой метки.

В чём проблема?

Обычно для обучения нужны правильные ответы. В test-time training их нет. Наивный выход - это взять мажоритарное голосование: сгенерировать К решений (к примеру 8), выбрать самый частый ответ и считать его псевдоправильным. Но на сложных задачах такой псевдоответ ошибается в ~85% случаев. Учиться на нём в лоб - значит закреплять ошибку.

Ключевое наблюдение авторов это асимметрия ошибок. Челы заметили, даже когда псевдоответ неверен, ~79% решений, которые с ним не согласны, тоже ошибочны. То есть штрафовать "не согласных" почти всегда правильно, независимо от того, права ли псевдометка.

Как работает TTPO.
Метод делит все решения на две группы и применяет к ним разные сигналы:

• Согласные, где траектории совпали с псевдоответом → дистилляция от учителя. Учитель - это та же модель, но ей подсказали финальный ответ, и попросили привести рассуждения для его получения. Зная финал, она строит рассуждения чётче без мечтаний и тупиков. Ученик перенимает стиль рассуждения, а не ответ - это важно, тк помним про 85%.

• Не согласные траектории, где ответ не совпадает с мажоритарным → штраф GRPO. Наказываем за уверенные ошибки, но не трогаем безобидные токены.

Почему это работает? Фишка в токен-уровневом подходе.
Учат не всё решение целиком, а отдельные токены. Вес большой там, где ученик неуверен, а учитель (с подсказкой) уверен. Где ученик и так совпадает с учителем – не трогают.

По сути, мне это напомнило DPO на минималках, где роль предпочтений играют вероятности учителя, а не разметка человека. Ну и конечно мажоритарные траектории.

Результаты
• Qwen3-1.7B в чистом TTT: 38.0% → 45.2% точности, обгоняет TTRL и self-distillation.
• Без режима размышления прирост +25–36%, что в разы больше, чем у OPSD с метками.

Отмечено, что обучение на одном бенчмарке улучшает другие – значит, модель учит обобщённое рассуждение, а не запоминает задачи. 🧠
Покрайне мере так считают авторы. 👍

Читать полностью…

Ошибка медиа сообщает о том, что переписки в OpenAI читают люди. 🚬

В контексте этой новости про математиков, конечно, далее вот этот инфоповод наводит на мысли..

Внутри OpenAI есть Project Lily - подрядчики вручную читают реальные диалоги пользователей, чтобы оценивать ответы модели.

Фильтр приватности есть, но он не идеален – могут проскакивать личные детали.

📦 все ещё советует делать так: Settings → Data Controls → выключить "Improve the model for everyone". Для чувствительных тем временные чаты (Temporary Chat). Но отключение не удаляет прошлые диалоги из проверки. 😮‍💨

Помним, что источник 404Media вроде надёжное издание с высоким фактчеком, но с левоцентристским уклоном и громкими заголовками. 👍

Upd. Ну и понимаете, что openai такие не одни, другие крупные игроки делают также. 🇨🇩

Читать полностью…

Немного поясню за_looped_transformer 📦

В посте про спекуляции о размере Astra я уже упомянул такое "новое" направление как looped transformers.

На самом, деле, Дядя оч за новые подходы к архитектурам, инженерии, что даёт ап метрик и пробивает текущее плато продуктивности моделей. 💪 Конечно, хотелось бы и парадигму next token prediction сменить. Но об этом будет говорить в рамках поделок Лекуна. 👍

Однако, луп трансформер не новый подход, он ещё известен с моделей albert и ещё раньше. Первые упоминания в UTS (universal transformers) от гугл аж в 2018. 🚬

Идея не сложная. Вместо роста архитектурной глубины по слоями – числу стаков блока трансформера, а также в ширину – размер hidden state, мы делаем реюз базового блока (например в 22 блока трансформера, ширины D). И делаем это как в Альберт, те выходы с базового блока рекурентно отдаём его на вход этого же блока К раз. Таким способом, мы не растим реальную глубину и ширину, увеличивая размер модели в параметрах, подбираем эффективную базовую глубину и число повторений её рекурентного переиспользования.

К примеру, в статье разборе С. Рашка модель Nanbeige 4.2 (3B) имеет 22 стака по 2,что сопоставимо по вычислениям 44 блокам трансформера. В памяти, это конечно поменьше занимает, но по времени same. Также same по времени обучения, а ещё KV параметров больше на число проходов по стаку, тк над хранить qkv для всех проходов. Т.е. выйгрыш только в емкости весов в памяти gpu. 😮‍💨

Тут конечно влетают идеи у Дяди 😎:

1. Использовать принцип palbert с early exit и lambda слоями. Те модель сама решает с какого блока повтора и слоя выйти заранее.

2. Mixture of Recursions. Иметь роутинг по стэкам для каждого токена. Мы решаем сколько каждый токен пройдёт рекурсивных блоков. Исследование показало, что при достаточно большом размере модели MoR может превосходить обычный трансформер при том же вычислительном бюджете. 🤙

Разница в 1 и 2 подходе, что ponder решает ранний выход для всей последовательности, а MoR для отдельных токенов. 👴

И я очень советую лидерам рнд, кто видит этот пост опробовать оба этих метода, особенно, выделяю MoR тк статья от 2025 года, где указано, что такой сетап может быть эффективнее по KV кэшу, скорости инфера и по глубине.

В целом, это все. Ничего особо сложного. 💪

Читать полностью…

Обнова Jev для мультимодалки+bbox фича, ап контекста до 262к. 😜

https://typesafe.ai/blog/jev-1-14

Ждём теперь few shot learning. 😏

Читать полностью…

Когда 📦 думал о концепции AI-peaker (так зовутся агенты для покупок), именно вопрос экономии времени покупки/сбора корзины ставил на первое место. Ведь время – самое важное, что у нас есть. Жизнь одна, как говорится..

Прекрасный подробный пост на хабр, как наши клиенты уже используют MCP ВкусВилл для автоматизации своей рутины - сбора корзины по КБЖУ. 😏

Читать полностью…

🔬 Search или extract? Новое исследование о памяти ИИ-агентов и decision models.

В сообществе разработчиков ИИ-агентов давно спорят: что лучше для долговременной памяти - извлекать факты из диалога с помощью LLM или просто хранить и искать нужные сырые реплики? Новый препринт даёт логичный ответ - выбор зависит от бюджета на контекст.

Со своей стороны изначально знал, что трек RAG и память в нашей работе пересечется (и так оно у нас и вышло). Мы вели разработку как extract методов подобно mem0, так и memory RAG с поиском по заметкам или сырым диалогам. Закономерно, что jev like модель, как развитие поиска (в лице выбора и ранжирования) станет хорошим дополнением для темы памяти.

Но вернёмся к статье...

📊 Суть эксперимента
Авторы сравнили подходы на диалоговых бенчмарках LoCoMo и LongMemEval:
• Turns + Jev - выбираем лучшие сырые реплики за один вызов Jev.
• engram v2 - система извлечения фактов, где LLM извлекает факты, Jev управляет ими (ранжирует/выбирает).
•Turns + cosine (базовое ранжирование).
•Turns + LLM. LLM-ранжировщик gpt4o тут mini, как сабагент для поиска по сырым данным.

🎯 Результаты
1. При строгом бюджете контекста сырые реплики не уступают извлечённым фактам: разница всего 0.5 пункта (77.0% против 77.5%) при чтении контекста в 265 против 251 токена. Это укладывается в заранее установленный зазор метрик в 5 пунктов.
2. Экономия на поиск сырых реплик - решение обходится в 3к (!!!) раз дешевле, чем извлечение фактов ($0.00061 против $1.865 за 1000 реплик).
3. Однако, польза от ранжирования резко падает с ростом бюджета. Если при выборе 3 из 30 кандидатов ранжирование даёт +17.4 пункта на LoCoMo, то при 20 кандидатах - всего +1.5. На LongMemEval: +9.1 и +1.1 соответственно.
4. При большом бюджете системы извлечения а-ля. Engram становятся точнее (82.4% против ~77.6% у Turns + Jev).
5. Jev против cosine ранжирования. Косинусный поиск на своём оптимальном k=6 даёт точность 68.6%, в то время как Turns + Jev — 77.0%.

Выводы. При жёстких ограничениях (короткий контекст до 512 токенов) качественное ранжирование сырых реплик может заменить извлечение фактов, будучи на порядки дешевле. При больших бюджетах преимущество переходит к extract моделям.

Отмечу, что Jev-селектор оказался не хуже LLM-ранжировщика (разница 0.4 пункта), но работал втрое быстрее. И это неплохое развитие rag memory систем дёшево и сердито. 😏

Читать полностью…

Ликвидная multimodal decision model. 🥳

Только сегодня мы обсудили на стриме поворот decision-models в сторону омни или мульти модальности. Так и вот оно уже тут. Модели LiquidAI/d1-3B и 0.6b-omni:

Открытые мультимодальные модели, которые обрабатывают текст, и изображения, и еще аудио. 😜

Модели все также не генерируют токены. Вместо этого они выдают ответ за один прямой проход, что дает экстремально низкую задержку - 8 мс на RTX 4090 и 50 мс даже на Jetson Orin Nano.

Архитектура построена на базе LFM2.5-VL-3B (decoder-only), использует логично энкодер для перевода изображения в эмбеддинги, модель размером 400M из семейства SigLIP2 NaFlex. Далее прокидывает это представление в спец токены текст модели. Контекст 32K токенов и словарь на 128K токенов.

Upd. Омни модель жуёт ещё и аудио. Построена на LFM2.5-Encoder-350M (двунаправленный). 94М визуальный энкодер снова от SigLIP2 и 112M аудио-энкодера FastConformer. Контекст - 16K токенов. Принимает либо текст+изображение, либо текст+аудио (до 30 секунд речи).

Лицензия своя - LFM Open License v1.0, условно бесплатно для коммерческого использования, пока годовая выручка компании не превышает $10 млн. 😳 Ага щазз я буду ещё следить за этим ога... 😐

В целом схема понятная работы, тем более сегодня 📦 называл точно такую же. Вам предлагаю, если хотите подобное сделать, то использовать ModernVBert. Останется только найти датасеты в oss и вашей игровой карты уровня 12-16гб vram вполне хватит, чтобы дотюнить 😏

Читать полностью…

Поздравляю коллег из всеинструменты.ру с своим выходом в b2a. 🤗 Знал, следил, рад. Первые с mcp среди онлайн строймаркетов. 💪

А мы сегодня на форуме "Цифровые решения.РФ" снова поговорим об экономике агентов, почему mcp только вершина айсберга, и что нас ждёт в ближайшие годы. Смотрите трансляцию с 📦 в 13:00 😏

Читать полностью…

Мы на столько преисполнились, что по результатам голосования сделаем стрим. 👇👇👇

Читать полностью…

Спасибо большое. Но родные мои, мои ученики. Их хонор. Именно ими славятся дела. Спасибо. 🤗
Тим @artemsnegirev, sberAI

Читать полностью…

Yandex Scale’26: что мы вынесли с главной конференции Yandex Cloud.

Прошла Yandex Scale’26 – конференция Yandex Cloud про AI, Hybrid Infra & DevOps, Data и Security. День получился плотным, но главное, разумеется, не количество докладов, а выводы:

1. ИИ-агенты становятся рабочим инструментом.
Главный анонс тут это Алиса AI Про для бизнеса - мультиагентная система, где под задачу собирается команда специализированных агентов, а Алиса координирует работу. Уже 120+ навыков и 20 плагинов для интеграции с CRM и документооборотом. Доступно клиентам Yandex AI Studio. 😜

2. Безопасность всему голова. Как 📦 много говорил - уже обязательный слой для ИИ. На мероприятии анонсировали направление Yandex Security - единый мониторинг безопасности не только в облаке Яндекса, но и в гибридных и мультиоблачных средах. Плюс беспарольная авторизация WebAuthn/FIDO2 и адаптивная защита от ботов. Логично, если ИИ-агентам дают доступ к данным, защита должна быть встроенной. 🧠

3. Данные по-прежнему боль.
Показали DataLens Platform: загрузка, хранение, визуализация и ИИ-аналитика в одном месте. Как раз на их воркшопе по ИИ аналитике мы были. Подготовка отчётов ускоряется в 3–5 раз, затраты на аналитику снижаются до 30%. Публичный запуск уже скоро – в начале 2027. 💸

4. Агенты в разработке. Этим конечно не удивишь уже, все крупные игроки в это идут, но все же. В SourceCraft ИИ-агентов можно подключать как участников команды со своей учётной записью. Они пишут код, проверяют безопасность и отдают на ревью. Время на задачи сокращается в среднем на 11,2%, объём переделок – на 6,8%.

Как мы и говорили о трендах
– рынок переходит от экспериментов с ИИ к масштабированию. Но масштабирование не работает без зрелой гибридной инфраструктуры, семантик слоя компании в лице данных и встроенной безопасности. Теперь это фундамент и Yandex Scale’26 показала это лучше всего. 👍

Что хочу изучить подробнее: архитектуру мультиагентных систем в AI Studio 2.0, семантик слой в DataLens Нейроаналитик и защиту ИИ-приложений через SolidWall AI Security Gateway. Вдруг в работе пригодится. 😏

Читать полностью…

Ну и за такие комментарии, и новые знакомства, стоило сходить 🤗

Читать полностью…

Самое интересное, что я
1. Не откликался.
2. Не интересны позиции Team Lead. Upd. Так я даже не успел отклонить тк все в одну минуту.
3. Что за меня, меня зааплаили и отшили.

Как так? Кто-то статку у рекрутеров набивает?

И я такое уже не первый раз вижу.

Че думаете, пишем в комментариях. 👇

Читать полностью…

Мечтают ли нейромухи о нейроде*%ме.(с)

#meme

Читать полностью…

О положении oss vs private LLM.

Открытые модели уже приблизились к фронтирным и отстают максимум на 4 мес.

С таким тезисом вышел аналитический док от команды Mozilla.

Отчёт построен на трёх основных типах данных:

1. Опрос разработчиков Mozilla / SlashData охват около 1 400 разработчиков по всему миру (в первой версии 950+). Используется для оценки adoption, барьеров и практик использования.
2. Данные трафика OpenRouter платформы-агрегатора, через которую маршрутизируются запросы к разным моделям. Это даёт картину реального использования по токенам и запросам.
3. Сторонние бенчмарк-индексы: Artificial Analysis Intelligence Index, Epoch Capabilities Index (ECI), METR (time-horizon), LMArena, Terminal-Bench и другие.

Что внутри:

1. Возможности и цена.
Лучшая открытая модель отстаёт от закрытой на 3 балла и стоит ~60% от неё. В августе 2026 DeepSeek впервые возглавил OpenRouter по недельным запросам. 8 из 10 топ-моделей по токенам открытые, 7 из них созданы в Китае.

2. Забрать легко, но настроить сложно.
Уже 79% используют открытые модели, но только 50% исключительно открытые. В продакшен выходит на 12 п.п. меньше, чем у закрытых. Барьеры, конечно же это: инфраструктура (27%), безопасность (26%), поддержка (24%), сложность развёртывания (23%). В Большом Китае adoption 89%, в Западной Европе - 70%.

3. Почему все хотят веса.
Главная ценность - независимость и опциональность. Кейс "19 тёмных дней", когда Fable 5 отключили на 19 дней, но у кого были веса продолжали работать. Экономия до 56% на задачах. Китай лидирует по скачиваниям: Qwen 942 млн. Vs Llama 476 млн.

4. Деньги ушли на слой выше. Сейчас основной капитал уже на уровне инфры, безопасности и обвязки. При этом Nvidia купила Hugging Face за $12,93 млрд, Stripe взяла OpenRouter за ~$7,5 млрд. В 2025 году 96% выручки на уровне моделей досталось закрытым провайдерам, хотя открытые давали 20% использования.

5. Harness новый фронтир.
Конкуренция сместилась с моделей в ядре на обвязку. Смена harness даёт +21,8 балла на тех же весах. MCP вырос с 2 млн до 110+ млн загрузок SDK. Codex CLI и Grok Build – открытые, Claude Code нет.

6. Блокировка теперь через состояние: кэш, память, дообучение. Ошибка кэша сжигает ~10x больше вычислений. Разброс цен за промах/попадание в кеш достигал 120х. Появились 4 реализации API для дообучения.

7. Шесть основных чаяний: сделать harness заменяемым, универсальные разрешения (беза, роли и тп), владеть весами (модель oss), сломать счётчик (токеномика), владеть циклом агентов (память, контекст, история диалогов), сделать открытое по умолчанию множественным (разнообразие oss моделей).

Mozilla исторически возникла как ответ на попытку одной компании контролировать "входную дверь" в веб, и теперь, по мнению авторов, аналогичный сценарий разворачивается на уровне ИИ-моделей. Отчёт позиционируется как "карта", где открытый ИИ выигрывает, где цифры удивляют даже авторов, и где он уязвим.
Особенно, это важно после покупки NVIDIA ребят из Huggingface. 👍

Читать полностью…

Yandex Scale 2026 научит мыслить об ИИ в масштабе.

Вокруг AI много разговоров про модели, harness, агентов. 📊  Но что происходит после того, как модель выбрали и запустили, обсуждают гораздо реже. 😐
Хотя, на самом деле, соломку было лучше подстелить заранее и уже иметь ответы на эти вопросы. 👍

Как организовать инфраструктуру (онпрем, облако или гибрид), где хранить и обрабатывать данные (холодное или горячее), как обеспечить безопасность (мониторы, гварды, соглашения) и что делать с токеномикой и расходами на вычисления – всё это быстро становится частью не только проекта, но и порой целой AI-трансформации.  😥

На все эти вопросы ответят 24 сентября, и 📦  тоже будет на Yandex Scale’26 – технологической конференции Yandex Cloud в Москве.

В программе четыре направления:AI, Hybrid Infra & DevOps,Data и Security,
онлайн-трек DeepTech, там расскажут, как устроены технологии и разработки команды Yandex Cloud


... а также 30+ выступлений экспертов, клиентов и партнёров с практическими кейсами. 😜

Сам хочу посмотреть, какие решения компании уже используют на практике и что сейчас происходит с AI-инфрой. Ну и пообщаться с Вами 👍. Думаю, будет что обсудить и после конференции.

Приятный бонус: все воркшопы про AI будут доступны как на площадке, так и в онлайне, участвовать может любой .

👉 Регистрация туть.

Читать полностью…

А, кстати, с днем программиста, пока это ещё актуально... 👍😐

Читать полностью…

Вопрос уже не в том, нужен ли ИИ, а в том, как его внедрять и масштабировать
Найдем ответ на бесплатной конференции 8 октября

Все об эффективном и безопасном внедрении ИИ в бизнес расскажут эксперты топовых технологических компаний на конференции Selectel ТехноДень в Москве.

На повестке:

🔺Как использовать генеративный ИИ в компании без хаоса и получать от этого измеримый эффект: от теории до реальных кейсов.
🔺Как ускорить внедрение ИИ в бизнес-процессы и минимизировать риски для бизнеса с помощью инструментов ИБ.
🔺Какую ИТ-инфраструктуру выбрать для инференса и обучения моделей.

Кроме 20 экспертных докладов и 20 интерактивных стендов, в финале вечера вас ждет живая запись подкаста Вселенная Плюс на главной сцене конференции.

Присоединяйтесь к Selectel ТехноДень, чтобы лично задать вопросы экспертам рынка и обменяться опытом. Количество мест ограничено, регистрируйтесь уже сейчас →

Реклама. АО "Селектел". erid:2W5zFG2F6tZ

Читать полностью…