ivan_oseledets | Unsorted

Telegram-канал ivan_oseledets - Ivan Oseledets’ Channel

5333

Личный канал доктора физико-математических наук, профессора РАН, генерального директора AIRI, декана ФИИ МГУ Ивана Оселедца. Для связи: brand@airi.net

Subscribe to a channel

Ivan Oseledets’ Channel

Elsevier обновил базу ТОП-2% учёных мира по цитированиям✔️

7 октября на платформе Elsevier Data Repository вышла версия девятой общедоступной базы данных "Updated science-wide author databases of standardized citation indicators" — одного из самых цитируемых источников для оценки научного влияния в мире.

База подготовлена на основе данных из Scopus на 1 августа 2026 года и включает метрики по цитированиям за 2025 календарный год, а также данные за всю научную карьеру до конца 2025 года. В ней представлены такие показатели, как количество публикаций, число цитирований, индекс Хирша с учётом и без учёта самоцитирования, и ряд других.

От нашего Института в ТОПе:
➡️ доктор физико-математических наук, профессор РАН, генеральный директор AIRI и декан факультета ИИ МГУ Иван Оселедец — 28 157-е место в общем рейтинге за всю карьеру и 3 277-е место за год
➡️ доктор физико-математических наук, руководитель группы «Обучаемый интеллект» AIRI и руководитель Центра ИИ Сколтеха Евгений Бурнаев — 196 789-е место в общем рейтинге за всю карьеру и 48 982-е место за год

Поздравляем Ивана и Евгения сердечками! ❤️

Читать полностью…

Ivan Oseledets’ Channel

Хорошая, качественная, открытая модель

Читать полностью…

Ivan Oseledets’ Channel

Наш препринт про архитектурную модификацию трансформера:

https://huggingface.co/papers/2609.32814
Change the Product, Keep the Parameters: Associative Algebra Layers for Transformers

tl/dr

Исследуем замену GEMM в MLP-слое трансформера на более лёгкую операцию, которая сохраняет билинейность и ассоциативность матричного умножения, но требует меньше вычислений при том же количестве обучаемых параметров.

Лонгрид

Работа состоит из трёх частей.

Часть первая: математическая база

Описывается новый оператор, заменяющий обычное матричное умножение. Формально доказывается, что он билинеен и ассоциативен.

Для оператора над матрицами размера q×q вычисляется билинейный ранг — минимальное число скалярных умножений, необходимых для его вычисления. Для q=2 новый оператор имеет ранг 6. Для сравнения, обычное умножение 2×2 требует 8 умножений, а алгоритм Страссена — 7. Эти числа всплывут в третьей части 👇

Билинейность позволяет заменить линейную проекцию трансформера, не вводя дополнительную нелинейность, а также даёт возможность формально анализировать вычислительную стоимость оператора.

При этом мы не уменьшаем число параметров и не используем sparsity или low-rank compression: сохраняется полный набор обучаемых весов, меняется только закон их умножения на активации.

Часть вторая: синтетические экспы на GPU

Показываем, что реализация нового оператора действительно может использоваться вместо GEMM в качестве линейной проекции трансформера. Приводятся оценки эффективности для нескольких архитектур, включая Qwen и DeepSeek.

Часть третья: оценка end-to-end на декодерной LM

Создаётся небольшая декодерная LM ёмкостью 110M параметров, близкая к GPT-2, но с небольшими модификациями (SwiGLU вместо стандартного FFN) и GPT-2-токенизатором.

Делаем два варианта модели: с классическим GEMM и с новым оператором в MLP. Обе модели обучаются на одном и том же инструктивном датасете с бюджетом около 12.3B токенов и в одинаковом вычислительном окружении.

Эксперимент показывает, что новый оператор остаётся обучаемым в реальных условиях, включая CUDA, floating-point вычисления и автоматическое дифференцирование в PyTorch.
Затем измеряем скорость инференса и качество на downstream-задачах через lm-eval-harness.
Для q=2 модель с новым оператором показывает прирост end-to-end throughput примерно на 7%. Для сравнения, переход от rank-7 алгоритма Страссена к rank-6 оператору сокращает число скалярных умножений примерно на 14.3%. Наблюдаемый выигрыш оказывается примерно вдвое меньше этого арифметического выигрыша, что ожидаемо: MLP составляет лишь часть вычислений модели, а итоговое время также определяется attention, LM head, memory traffic, sampling и другими операциями.

Что дальше: много экспов с другими параметрами (q=3 и 4), настройка ядер и пр. 🤗

👉 hf dailypapers link 👈

Читать полностью…

Ivan Oseledets’ Channel

Объединяем исследователей для обучения ИИ долгосрочному планированию

Владислав Куренков, руководитель научной группы «Адаптивные агенты» Института AIRI, запустил открытое сообщество людей, работающих над системами планирования ИИ, чтобы вместе решить одну из самых неподатливых для искусственного интеллекта игр — NetHack.

У каждого участника будет свой способ получить программу, свои инструменты и своя стратегия, а общая инфраструктура позволит видеть результаты друг друга, сравнивать их между собой и продолжать разрабатывать решения друг друга.

Владислав рассказал, почему NetHack весьма полезна для обучения ИИ:

«Одна партия в NetHack — это десятки тысяч ходов. Жизнь у героя одна, сохранений нет, подземелье каждый раз новое, а игра по дороге ничего не подсказывает. Если вы сыграли плохо, то выясняется это тогда, когда ничего исправить уже нельзя. Когда мы запускаем наших ботов играть, то вторая по частоте причина их "смерти" — голод, потому что они не позаботились о еде за несколько тысяч ходов до финального момента. На таких же ошибках спотыкаются ИИ-агенты, когда пишут код: отдельный шаг они выполняют прекрасно, а на длинную дистанцию держать планку не могут. И NetHack в этом плане становится весьма полезной для обучения ИИ».


📎Подробнее про сообщество, игру и «интеллект» агента — в интервью «Ъ-Науке».

Читать полностью…

Ivan Oseledets’ Channel

Решение проблемы тысячелетия про задачу Навье-Стокса - очень круто!

https://nplus1.ru/material/2026/09/09/openai-x-navier-stokes

Читать полностью…

Ivan Oseledets’ Channel

ИИ делает нас умнее. Или все-таки нет?

Друзья, специально к Дню знаний мы выложили новую серию подкаста 2TOK об ИИ в образовании и науке.

Он уже доступен на YouTube и VK Видео.

В гостях Андрей Себрант, директор по стратегическому маркетингу Яндекса и профессор ИТМО, и Иван Оселедец, гендиректор Института искусственного интеллекта AIRI и декан факультета ИИ МГУ.

С одной стороны ИИ можно использовать как экзоскелет для мозга: он подхватывает усилия, забирает рутину, помогает сделать больше и быстрее, но направление движения все равно определяет человек.

С другой стороны можно превратить его в «инвалидное кресло» для мышления: отдать модели домашку, диплом, презентацию и даже не пытаться вычитать и понять результат.

Выбор остается за человеком.

Что обсудили:

• Проблема домашек не появилась вместе с ChatGPT. До нейросетей школьники искали ГДЗ. Если задание воспринимается как бессмысленное заполнение времени, ученик все равно найдёт кратчайший путь. Запретить ИИ здесь проще, чем разобраться с мотивацией и способом оценки знаний, но вряд ли полезнее.

• Учить «правильным промптам» поздно уже в момент подготовки программы. Технология меняется быстрее учебников. Профессия промпт-инженера, которую в 2023 году объявляли профессией будущего, быстро растворилась в обычном умении работать с моделями. Нужнее навык постоянно переучиваться и спрашивать у агента, как лучше решить конкретную задачу.

• Нейрослоп становится новой формой профессиональной небрежности. Нажать «сделай презентацию» и принести 20 аккуратных слайдов ещё не значит выполнить работу. Бывает так, что презентацию сократили вручную с 18 до 6 слайдов и вычитали, а после очередного прогона через нейросеть она вернулась уже на 21 слайде. Модель ускоряет производство текста, но не берет на себя смысл, вкус и ответственность.

• В науке ИИ уже работает как соавтор. Агент подбирает 50–100 работ, резюмирует их и отмечает фрагменты для самостоятельного чтения. То, что раньше занимало две недели, теперь укладывается в день. Еще интересный пример: студентка за трёхчасовой семинар вместе с Claude сформулировала гипотезу, написала код и подготовила работу, которую затем приняли на конференцию.

В подкасте мы ставим неудобный вопрос перед школами, ВУЗами и нами самими: если модель умеет написать типовую домашку, диплом или научную статью, что именно мы теперь должны считать результатом обучения и работы?

Для меня ответ такой: ценность сейчас смещается от производства текста к постановке задачи, проверке, пониманию и личному суждению. ИИ может сделать нас заметно сильнее. Но когнитивную мышцу, которую перестали напрягать, никакой экзоскелет уже не спасет.


Смотрите новый подкаст, оставляйте комментарии. Ну и скажите, для вас ИИ скорее «экзоскелет для мозга» или «инвалидное кресло»?

#2TOK

💬 ген ии | MAX

Читать полностью…

Ivan Oseledets’ Channel

🫪 Конкурс на новый факультет искусственного интеллекта МГУ составил 127 человек на место

Читать полностью…

Ivan Oseledets’ Channel

В свой день рождения приехал в Екатеринбург. Второй раз за месяц.

Впрочем, Иннопром — одна из самых старых площадок, где помимо того, что поговорить, можно и плодотворно поработать.

Во-первых, мы подписали соглашение между AIRI, Сбером и УрФУ о создании лаборатории по ИИ в промышленности. Где, как не на Урале. Во-вторых, были полезные встречи, нашёл на стендах несколько интересных отечественных компаний.

Делюсь мыслями по итогам дискуссии об ИИ в промышленности. Если посмотреть, что сегодня делают лидеры рынка за рубежом, скажем, как Airbus начинают взаимодействовать с Mistral, что делает Anthropic, то становится очевидно: они идут в очень плотную, практически неразрывную связку с промышленностью. Потому что там находится следующий большой скачок в развитии искусственного интеллекта. Посадили программистов писать код, наблюдали, как они работают, где ошибаются и как исправляют свои ошибки. Это очень важная мысль. Самые ценные данные — это ошибки и процесс их исправления. Когда программисты писали код, ошибались, находили решение и исправляли его, Anthropic фактически записывал этот процесс. Именно благодаря этому появился Claude и именно поэтому компания смогла так далеко продвинуться. В промышленности должен работать такой же подход. Нужно не просто собирать данные, а пытаться решать действительно сложные инженерные задачи — примерно так, как их решает конструктор.

Есть компании, которые работают именно так. Они буквально отправляют инженера на предприятие и смотрят, что делают люди, как принимают решения, как обходят ограничения, где ошибаются и как выходят из сложных ситуаций. Нужно посадить человека рядом, чтобы он ходил, наблюдал и записывал. Без такого погружения практически невозможно понять, как на самом деле устроен процесс. Нужен человек со стороны, но при этом достаточно опытный, чтобы увидеть не только действия, но и логику принятия решений. Поэтому подход «давайте накопим данные за последние тридцать лет, а потом что-нибудь из них вытащим» не сработает.

Нужно цифровизировать экспертов. Цифровизировать способы принятия решений. И, что особенно важно, цифровизировать ошибки. Если построить такую систему, можно действительно кардинально ускорить развитие. Этим сегодня во многом занимается наука. Мы уже поняли, что сама языковая модель может быть не такой уж большой. Главное — всё, что находится вокруг неё: среда, инструменты, агенты. Способ действительно ускорить развитие — пустить таких помощников внутрь реальных процессов, дать им практически полный доступ и перестать бояться ошибок.

Ошибки будут. И это хорошо. Потому что именно на ошибках происходит обучение. На идеальных результатах новые знания практически не появляются. Науке критически нужны партнёрства с реальными производственными процессами. Без этого мы так и останемся либо писать код, либо работать в тех областях, где результат легко проверить. Хороший пример — кибербезопасность. Там сразу понятно: получилось взломать систему или нет. Поэтому туда так активно пошёл Anthropic. Но если мы действительно хотим ускорить производство, сократить сроки и снизить издержки — другого пути нет. Нужно перестать ставить перед собой безопасные задачи и начать формулировать невозможные цели.

Например, сделать какой-то процесс в два раза быстрее. Очень хороший пример — развитие мобильной связи. Нам нужны большие, амбициозные цели, которые требуют кардинального ускорения. Например, сегодня атомная электростанция у нас проектируется и строится около восьми лет, а в Китае аналогичные проекты реализуют примерно за четыре года.

Вот такая цель — понятная цель: сократить срок в два раза. И, возможно, мы все честно понимаем, что не достигнем этого в заявленные сроки, но если мы не поставим перед собой такие цели, то не достигнем их никогда.

Читать полностью…

Ivan Oseledets’ Channel

На прошлой неделе ездил в Питер, выступал на ПМЭФ. Был рад принять участие в нескольких сессиях, спасибо организаторам, модераторам и коллегам за интересные дискуссии. А записи трансляций есть по ссылкам.

1) «Люди для будущего индустрий в мире ИИ» — её организовал Сбер. Поговорили про образование. Рассказал про факультет искусственного интеллекта МГУ, деканом которого являюсь. Считаю, что сейчас на первый план выходит не умение запоминать знания, а реальные навыки и понимание, и на наших программах мы как раз будем учить, в первую очередь, думать и рассуждать.
https://forum-spb.ru/programme/innovation-space/157300/

2) Сессия Минобра «Доступные данные как общественное благо: институциональные условия для прорывных исследований и наукоёмкого предпринимательства в эпоху ИИ» — на ней поговорили, как сегодня корпорации могут участвовать в финансировании систематизации научных данных — что, на мой взгляд, крайне важно, — получая при этом измеримую коммерческую отдачу, и какие модели партнёрства государства и бизнеса здесь уже доказали свою эффективность.
https://vkvideo.ru/video-167915299_456241766

3) «AI First, но не AI Only: новая операционная система мира». Крайне увлекательная дискуссия, которую организовали Авито. Модерировала её, кстати, Ксения Собчак. Высказал мнение, что нам нужно не просто продолжать развивать ИИ и интегрировать его в разлиные процессы, но и делать это более радикально, потому что текущих темпов, на мой взгляд, недостаточно. Если бы мы с такой же осторожностью, как в вопросах, связанных с ИИ, подходили к другим технологиям, то у нас бы до сих пор не было бы, например, авиаперелётов, ведь вначале самолёты очень много падали. И в итоге если мы не будем выходить за пределы, скажем так, обучающей выборки, то у нас никогда не будет прогресса, а нам он нужен, поскольку у человечества есть ещё очень много нерешённых задач.
https://forum-spb.ru/programme/business-programme/156782/

4) В сессии Минздрава «Искусственный интеллект и здравоохранение: старт дан, как извлечь пользу?» обсудили сильный ИИ в медицине. В этой сфере, конечно, мы пока далековато от сильного ИИ, в отличие от той же научной деятельности или написания кода. Пока модели справляются с сопоставлением симптомов и диагнозов, но этого недостаточно: о сильном ИИ в медицине можно будет говорить тогда, когда он научится быстро и качественно помогать в разработке новых лекарств, связывать действительно сложные и редкие случаи заболеваний, уменьшать неопределённость в диагнозе.
https://forum-spb.ru/programme/business-programme/156653/

5) «ИИ в новых материалах: кто заберёт рынок» от Норникеля. Тут говорил о важности целеполагания и правильного подхода к сбору данных. Казалось бы, простая логика: надо заниматься такими материалами, которые наверняка будут синтезированы и полезны бизнесу. Однако большинство тех исследователей, кто занимается поиском новых материалов, делает это просто потому что им нравится. А бизнес при этом не хочет менять отлаженные процессы, если и так всё неплохо работает. Но если текущие процессы не приводят к существенному прогрессу, то их нужно менять. И учёным тоже нужно не бояться браться за сложные задачки. Иначе мы так и будем нуждаться в постройке дома, и при этом создавать только супер-топоры и продвинутые пилы, что в реальности не приведёт к прогрессу.
https://forum-spb.ru/programme/business-programme/156677/

Читать полностью…

Ivan Oseledets’ Channel

Мы с ИТМО открыли две новые лаборатории — соглашение подписали сегодня в Санкт-Петербурге

В одной, цифрового дизайна и моделирования макро- и супрамолекулярных комплексов, учёные будут разрабатывать ИИ-модели, способные предсказывать поведение молекул в составе сложных систем.

В другой, «Мультиагентный интеллект и адаптивные системы», будут разрабатываться «умные» мультиагентные ИИ-системы.

Рады вместе с ИТМО двигать технологии ИИ вперёд и готовить новое поколение исследователей!

Читать полностью…

Ivan Oseledets’ Channel

Сегодня исполнилось 80 лет Александру Петровичу Кулешову!

Александр Петрович, я работал с Вами в течение последних десяти лет, с момента Вашего прихода в Сколтех в качестве ректора. За это время произошло много знаменательных событий, вырос масштаб и уровень решаемых задач, Сколтех заслуженно занял лидирующие позиции по многим направлениям в области ИИ. Особо отмечу Вашу роль в создании и развитии нашего института: более 30% сотрудников AIRI являются студентами, аспирантами и сотрудниками Сколтеха.
 
Мы многому научились у Вас: как строить научные коллективы и управлять ими, как формулировать большие задачи и мотивировать ребят на их решение.

Очень надеюсь на дальнейшее плодотворное сотрудничество. Желаю, в первую очередь, здоровья, и уверен, что Ваш талант и знания ещё долго будут приносить пользу нашей стране.

Читать полностью…

Ivan Oseledets’ Channel

Второй раз получаю премию Билайна AI AWARDS — в этом году в номинации «Личный вклад в развитие ИИ».

Наверное, всё делаем правильно, раз наш вклад и сама нейросеть отмечает. Будем двигаться дальше.

Читать полностью…

Ivan Oseledets’ Channel

Байка 8.
Откуда берутся талантливые администраторы.

Научную карьеру я начал в ИВМ РАН (сейчас имени Г.И. Марчука). Организация процесса была замечательной — отчёты, договоры делались быстро. А почему? Потому что работу организовывал Александр Михайлович Голованов.

Сначала он вроде работал аудитором, а потом стал главным экономистом ИВМ РАН. Проверки РФФИ/прокуратуры отбивались на раз. После одной из таких проверок проверяющий написал замечания, а А.М. написал сверху: «С замечаниями не согласен, будут даны комментарии». Проверяющий орал, ругался, но знал, что в таком случае, комментарии уже придётся давать ему. В итоге, проверка прошла без замечаний. Через полгода силами 0,5 научного сотрудника сделали автоматическую систему заполнения договоров подряда, которая работает до сих пор, и время оформления договора — несколько минут (прошло лет 15).

У меня было несколько аспирантов, один из них — Максим Кузнецов, вроде шустрый, толковый, но с бумажками тоже надо работать. А.М. его заметил, и попросил помочь с задачей «сканирования нескольких сотен договоров для РФФИ». Работа кипела складно, но ещё постоянно была «подкормка» — шоколадка или ещё что-то. Было, что А.М. принёс ему с фуршета бутерброд с икрой и сказал, что надо обязательно что-то давать, если просишь помощи — тогда не смогут отказать. Этот принцип много лет работал. В итоге на Макса свалилась большая часть админ работы по нашим многочисленным грантам, которые пошли бурной рекой. Оказалось, что это у него получалось очень складно, а без этого сложно.

Когда я перешёл в Сколтех, то оказался не готов к полной неорганизованности процессов — то, что в РАН работало минутами, требовало заполнения каких-то идиотских бумажек, согласования и прочего. Попытался помочь: позвонил А.М. на пенсии, привёл в Сколтех, он посмотрел на это, подумал и сказал: «Ну его, не моё, сложно слишком». В итоге, было принято решение делегировать Максима на работу с бумажками. Но как это сделать?

Читатели нашего канала уже поняли, что нестандартные решения — наш конёк. Что является основным атрибутом сотрудника? Конечно же, электронная почта. Пишется письмо, мол, коллеги, заведите почту Максиму, он будет работать в нашем проекте по ГПХ. Выглядело убедительно, почту после пары пинков завели. Ну а дальше дело техники: бумаги стали быстро доходить до бэкофиса. Ну приходит мальчик, ему что-то нужно, вряд ли он тут не работает.

Как-то раз, когда одна дама не подписала бумажку, прибежал я, поорал, в итоге Максим был признан «своим»: ему передавали документы, он их готовил, носил на подпись. В один момент был включён в какую-то рабочую группу по оптимизации процессов (не работая в Сколтехе!). И уже сильно позже, с приходом Максима Фёдорова, его взяли администрировать большую часть наших проектов и CDISE.

Бюрократ (в хорошем смысле этого слова!) вырос идеальный, с хорошим техническим бэкграундом, в юридических, бухгалтерских и иных вопросах — во всём разбирался лучше, чем соответствующие отделы, ну и софт-скиллы. В целом, человек, «решающий любые вопросы». На его плечах держалось администрирование центра ИИ в Сколтехе, ну а сейчас работу AIRI тоже сложно представить без Максима.

Бонусом — колоссальное количество историй и «адхоков». Например, можно было спокойно отправить его (одев в белый халат, +10 к интеллекту) на Первый канал рассказывать про сельское хозяйство.

Читать полностью…

Ivan Oseledets’ Channel

Вчера на Data Fusion мы с Антоном Конушиным устроили прожарку и обсудили, что не так с современной наукой. Перебрали все негативные аспекты, которые обычно звучат от критиков ресёрча. Забыли только поставить над головой табличку «Сарказм», но, вроде как, публика нашу задумку уловила.

В любой шутке есть доля правды, поэтому отмечу, что главная проблема, которой недовольны все, — подмена смысла метриками. Публикации стали не способом делиться знаниями, а валютой. В результате — "publish or perish", салями-слайсинг и тонны работ, которые никто не читает и не может воспроизвести.

Частенько в работах требуют «научную новизну», но по факту поощряют умение убедительно её изобразить. Представьте, сколько докторских было защищено. И что, в каждой прямо было открыто новое направление? А зачем? При этом реальные, работающие решения могут оказаться за бортом просто потому, что их пропустили в потоке.

Система грантов и контрактов тоже не спасает: деньги тратятся не от запроса, а от желания «копать» какую-то тему.

Отдельный парадокс можно наблюдать в образовании. Когда студенты работают фулл-тайм уже с первых курсов, учёба превращается в формальность.

Сошлись на следующем: чтобы наука была прикладной, образ продукта должен влиять на науку, а результат прототипа — на инженерные требования. Но самый главный результат науки — это не статьи, а люди-эксперты.

Да, наука совсем не идеальна, но продолжает иногда выдавать «алмазы» — редкие идеи, которые реально меняют мир. И да, учёные при этом получают удовольствие от процесса. Возможно, это единственное, что пока работает стабильно 🙂

Получилось неплохо, принимаем заявки на стендап для ваших вечеринок. Дорого.

Читать полностью…

Ivan Oseledets’ Channel

Обсудили с коллегами из ИМИСС МГУ и Центром ИИ МГУ эволюцию ИИ и сдвиг, который сейчас происходит. Мы уходим от моделей к агентам, выполняющим задачи.

Рассказал о случаях, когда ИИ-агенты показывают неожиданно высокий уровень «эмпатичного» взаимодействия с человеком.

Секцию о доверенном ИИ для сложных систем в рамках научной конференции «Ломоносовские чтения — 2026» Факультет искусственного интеллекта МГУ провел совместно с Институтом математических исследований сложных систем МГУ и Центром ИИ МГУ при поддержке фонда Олега Дерипаска «Вольное дело».

Читать полностью…

Ivan Oseledets’ Channel

🚀 Мы с командой представляем Kandinsky 6.0 Video Lite и Pro — новое поколение наших моделей генерации видео, теперь с синхронным звуком!

🎬 Video Lite — 3B параметров, акцент сделали на эффективности модели и доступности запуска
🎬 Video Pro — 29B параметров, это флагман с лучшим качеством следования промпту, качеством визуала и динамики

Обе модели понимают мультиязычные запросы и генерируют видео (режим text-to-video) или «оживляют» изображения (режим image-to-video). Разрешение видео — вплоть до FullHD с помощью нашей модели апскейла Kandinsky SR 2.0 Video. Модели поддерживают создание видео до 5 секунд с диалогами, музыкой и звуками окружения. Аудиодорожка синхронизирована с происходящим в кадре, а движения губ персонажей — с их речью

⚡️ Про качество

Модель Kandinsky 5.0 Video Pro более полугода занимала первое место среди открытых моделей в задаче text-to-video на arena.ai и была сопоставима по визуальному качеству с Veo 3. По нашим side-by-side сравнениям флагман новой линейки — Kandinsky 6.0 Video Pro — заметно превосходит Kandinsky 5.0 Video Pro по визуальному качеству, реалистичности движения и следованию запросу и показывает качество на уровне Veo 3.1 Fast. А среди открытых моделей Kandinsky 6.0 Video Pro уступает только MiniMax H3, достигая паритета с LTX 2.5. Больше сравнений и деталей — в техрепорте (кстати, буду рад апвоутам статьи, сейчас мы уже традиционно #1 Paper of the day)

🔧 Немного технических подробностей

🔘Для обучения мы подготовили 50 млн изображений, 20 млн видеосцен, 40 млн аудиотреков и 7 млн видео с синхронным аудио

🔘В основе моделей — CrossDiT с двумя башнями: видео и аудио, с bidirectional audio↔video cross-attention. Видеобашню мы инициализировали моделью Kandinsky 5.0 Video (Lite и Pro, соответственно), аудиобашню обучали сначала с нуля, а затем совместно с видеобашней на качественных видео с синхронным звуком

🔘SFT делали в два этапа: сначала улучшали визуальное качество, дообучая видеобашню с замороженной аудиобашней. Затем размораживали всю модель и совместно дообучали обе башни с фокусом на качество аудио, синхронизацию модальностей и качество липсинка. На обеих стадиях обучали отдельные модели для 11 доменов, а в конце супировали полученные компоненты, усредняя веса в одну модель

🔘Смогли завести RL: на нашем тесте доля ошибок в генерируемой речи (WER) снизилась с 23,5% до 12,4% у модели Pro 💪

🔘Поработали и над ускорением: подготовили дистиллированные версии Lite и Pro с генерацией за 10 шагов. Использовали π-Flow с последующим adversarial-дообучением Sim-LADD. По нашим side-by-side сравнениям в режиме image-to-video дистиллированная Pro сохраняет качество на уровне полной версии, при этом работает быстрее: 402→175 секунд на 5-ти секундное видео для Pro и 157→98 секунд для Lite

🔘Адаптировали и Lite, и Pro для запуска на на RTX 4090, 5060 Ti, 5080, 5090, PRO 6000

Полезные ссылки:

👉 Почитать подробнее: техрепорт
👉 Код и веса: GitHub, Hugging Face, GitVerse
👉 Модель уже доступна через FAL, Diffusers, ComfyUI, SGLang и vLLM-Omni
👉Больше о нашей команде, моделях и исследованиях — на сайте Kandinsky Lab

Попробовать модель Pro можно в ГигаЧат в разделе Видео. Делитесь своими генерациями и обратной связью 🙂

@dendi_math_ai

Читать полностью…

Ivan Oseledets’ Channel

Ещё не написал свою книгу, а уже получил литературную премию, приятно.

Читать полностью…

Ivan Oseledets’ Channel

Мне крайне приятна статья, хотя и сложная

Читать полностью…

Ivan Oseledets’ Channel

Вчера ездил на Practical ML Conf — там мне и Антону Конушину, с которым мы вместе двигаем AIRI и ФИИ МГУ, вручили Yandex ML Prize. Отметили в «Зале славы» — пишут, что это про тех, кто меняет образование, науку и технологии, вдохновляет новые поколения.

В номинации «Начинающие преподаватели» выиграли наши младшие научные сотрудники Альбина Бурлова и Константин Пчелин.

Здорово, когда твою работу и работу твоей команды видят и признают — спасибо коллегам. Продолжим развиваться в том же направлении.

Читать полностью…

Ivan Oseledets’ Channel

📆 Все перевернули календарь?

Под костры рябин возвращаемся в 28 августа – вспоминаем, как прошел наш разогрев перед учебой. Фото и видео – в галерее.

Благодарим за поддержку фонд Олега Дерипаска «Вольное дело» и фонд «Интеллект».

Читать полностью…

Ivan Oseledets’ Channel

«Лето с AIRI 2026» не заканчивается! Делимся лекциями и семинарами ⏯

Мы записали всё, о чём на протяжении двух недель говорили исследователи и эксперты на летней школе. Собрали целый багаж знаний — 76 видео! — из разных областей ИИ и делимся им с вами, чтобы все могли послушать и узнать для себя что-то новое и интересное.

📎Сохраняйте ссылки на плейлисты: VK Видео, YouTube — и пересылайте их тем, кому тоже может быть полезно)

Читать полностью…

Ivan Oseledets’ Channel

Команда Антона Конушина и лаборатория Fusion Brain вместе с  ребятами Сергея Маркова и Игоря Пасечника из SberAI опубликовали крутое обновление в нашей линейке моделей для реверс-инжиниринга!

CADENA: Stepwise CAD Reverse Engineering

Перешли на пошаговое предсказание — модель стала гибче, качество выросло, и чем сложнее датасет, тем больше отрыв. Плюс собрали CADENA-Bench: 3396 реальных механических деталей, разбитых по категориям ЕСКД, чтобы можно было оценивать готовность к практике для отдельных типов деталей.

О постановке задачи для тех, кто пока про нее не слышал: по скану физической детали восстановить её CAD-модель — дерево построений, которое инженер может править и по которому деталь можно произвести. Последовательность CAD-операций пишется питоновским кодом, так что фактически это mesh2code.

Наши прошлые модели предсказывали всю последовательность разом и потому наследовали статистику трейна: если операция B в обучении всегда стоит между A и C, на инференсе она встанет туда же. На сложных и редких деталях это ломалось. В CADENA мы предсказываем по одной операции за раз — модель исполняет то, что уже написала, смотрит на разницу с целью и решает, что делать дальше. Плюс новый генератор, дающий длинные последовательности операций.

Результат: заметный отрыв на всех датасетах, где мы замеряемся. На CADENA-Bench мы лучше в 5 категориях из 6 и в среднем. На BenchCAD, где свои модели меряет в том числе Claude, восстановление объёма 91% против 71% у фронтирных моделей и 75% у специализированных.

На гифке — как модель собирает деталь по операциям.

Paper: https://arxiv.org/abs/2608.00799 · https://huggingface.co/papers/2608.00799

GitHub: https://github.com/zhemdi/cadena

Dataset: https://huggingface.co/datasets/kulibinai/cadena-bench

Model: https://huggingface.co/kulibinai/cadena
Заапвоутить: https://huggingface.co/papers/2608.00799

Читать полностью…

Ivan Oseledets’ Channel

Наши ребята продвинулись в решении одной 30-летней математической задачи (используя ИИ в процессе, конечно). Саму задачу придумал Е.Е. Тыртышников, мой научный руководитель и лауреат научной премии Сбера.

https://www.kommersant.ru/doc/8727455

Читать полностью…

Ivan Oseledets’ Channel

Первый день ПМЭФ подходит к концу. Выпустили сегодня первую версию модели из нашего семейства Optimal Cognitive Core, OCC-RAG. Это компактная SLM для Q&A по контексту. Модель доступна в 2 размерах: 0.6B и 1.7B. Несмотря на маленькое число параметров обе уверенно отвечают на сложные multi-hop вопросы, рассуждают пошагово и корректно, отказываются отвечать, когда контекста недостаточно.

Как мы этого добились?

1. Сложные синтетические данные.

Открытые QA-датасеты, как правило, маленькие и не таргетируют задачу faithfulness. Модели учатся отвечать, но не всегда следовать контексту. Поэтому мы построили собственный пайплайн генерации данных: с помощью метода Wikontic (/channel/Ivan_Oseledets/283) извлекаем граф знаний из текстов и генерируем вопросы по путям в этом графе. Получаются по-настоящему сложные multi-hop задачи, где нужно объединить факты из нескольких источников, например: «В каком городе родился режиссёр фильма, получившего Оскар в год рождения Леонардо ДиКаприо?». Дополнительно пайплайн умеет генерировать вопросы, на которые в контексте нет ответа, чтобы отдельно учить модель отказываться.

В итоге наш метод позволяет генерировать данные из любых неструктурированных документов в почти неограниченном количестве!

2. Mid-training

В качестве базы взяли Qwen3-0.6B-Base и Qwen3-1.7B-Base и провели масштабный mid-training на пороядка 8 млрд токенов. Мы также дополнили данные специальным форматом рассуждения, который цитирует источники прямо в ответе. Это дополнительно повышает faithfulness.

Прогнали OCC-RAG на HotpotQA, MuSiQue и TAT-QA. Добавили ConFiQA, один из самых сложных бенчмарков на faithfulness, где модель должна следовать контексту, даже если он противоречит общеизвестным фактам.

Итого:

Качество на уровне моделей в 2–6 раз больше по размеру; на ConFiQA обходят даже Qwen3-32B; заметно лучше следуют контексту и реже подменяют его внутренними знаниями; среди специализированных малых QA-моделей (например, Pleias-RAG) показывают лучший результат.

Репорт на HuggingFace Daily Papers: https://huggingface.co/papers/2606.00683

Отмечу, что работа по согласованности, четкости и скорости в команде — эпичная. Продолжаем работать над улучшенной версией для tool-calling и Agentic RAG задач.

Ждите обновлений!

P.S. Не успел выйти с форума, уже увидел новости у ТАСС, РГ, в телеграм, Forbes, Код Дурова, много где. Радует, когда наши медиа следят за повесткой, реагируя не только на «что-то новое от Гугла».

Кстати, про значимость малых моделей сегодня как раз хорошо написал Андрей Себрант из Яндекса. Почитайте — https://www.forbes.ru/mneniya/562028-maly-da-udaly-pocemu-vazny-ii-modeli-kotorye-sovsem-ne-na-sluhu

Читать полностью…

Ivan Oseledets’ Channel

Отпуск.
На майские очень хорошо съездили отдохнуть. Концепция поездки была основана на личных предпочтениях (хорошая еда, красивые виды, спокойствие, не холодно, не жарко, поездка на машине). Как спланировать? Конечно же, ИИ! В итоге весь план целиком написал Claude, и получилось это у него прекрасно. Более того, не было никаких агрегаторов: всем письма с просьбой выдать спец. предложения отправлялись по почте — и это работает!

В это время года на первое место вышла Северная Италия. И вот что получилось. Первые 2 дня в самом Милане, через консьержа отеля даже удалось ухватить 2 билета в La Scala на премьеру (что вообще бывает редко, там по сайту ожидание полгода) + ужин в Seta. Посетили несколько музеев. Повезло застать интересные выставки: наследие Армани в сочетании с постоянной экспозицией Пинакотеки Брера и масштабная выставка Кифера «Алхимички».

Дальше ИИ отправил нас во Франчакорту — родину итальянского шампанского, отель L'Albereta. Потрясающий вид на виноградники. Вообще в каждом месте хотелось остановиться, ничего не делать и просто отдыхать.

После — озеро Комо и Grand Hotel Tremezzo с шикарными видами. Гвоздем программы стал Castel Fragsburg, в котором всего 27 номеров, расположенный около Мерано (это уже Южный Тироль): из-за климата здесь растут пальмы, но вид — на Альпы, где еще видны остатки снега.

Ну а в качестве special event ИИ нашёл совместный ужин Norbert Niederkofler + Quique daCosta. Сам ресторан в Top-50 лучших ресторанов мира. У одного 3 звезды Мишлен + 1 зелёная, у второго тоже 3. Формат тоже был новый, как будто пришёл в гости, сначала на улице, потом за общим столом. С шефами говоришь «как в гостях», все были в России много раз, очень тепло отзываются о нашей стране.

Дальше — озеро Гарда (очень красивое место), Villa Cordevigo — снова виноградники, уже сорт вина — Oseleta, (почти Oseledets!), естественно, купили. Ну и обед был полон итальянской классики.

В финале Claude привёл нас в Casa Maria Luigia, и последние 2 места — в Osteria Francescana. Большое спасибо! Этот ресторан признавался лучшим рестораном мира в 2016 и 2018, а сам шеф — Massimo Bottura — лучшим шефом мира. Комбинация замечательная — загородный дом, по которому ходишь как дома, отличный дизайн, музыкальная комната, коллекция мотоциклов и автомобилей. Концепция ресторана — сидим за общими столами и общаемся. С нами было 2 пары: одна из Сан-Франциско, вторая из Сингапура. Оказалось, что первая использовала ChatGPT, вторая — Gemini, ну и мы с Клодом, и в итоге оказались в одном месте. Ну и сами блюда входили в списки «лучшие за 10 лет». Ну а регион — родина уксуса из Модены, пармезана, мортаделлы.

Удивительно, как на достаточно небольшой территории вокруг Милана (2-3 часа на машине) сконцентрировано такое количество интересных мест — культурные, гастрономические, исторические. Огромное наследство досталось. У нас есть места в России, где не хуже и даже лучше, но много ещё предстоит сделать!

Читать полностью…

Ivan Oseledets’ Channel

Исследователи AIRI представили модель, которая может запоминать многое, не увеличивая потребность в вычислениях

Робот часто видит важную информацию задолго до того, как её необходимо использовать. Если система не умеет надёжно хранить и вовремя извлекать данные, ей трудно действовать в сложной и меняющейся среде. Обычные трансформеры решают эту задачу не полностью: одни модели становятся слишком дорогими по вычислениям, другие плохо контролируют, что именно забывается.

В ELMUR каждый слой содержит фиксированное количество слотов памяти, которые параллельно взаимодействуют с основным потоком данных. Система может читать информацию из этих ячеек, когда принимает решение, и записывать туда новые данные. Если память начинает заполняться — обновляются те ячейки, которые использовались реже всего. Это даёт ИИ компактное, но устойчивое хранилище, которое может удерживать важную информацию на протяжении 100 тысяч шагов за пределами обычного окна внимания.

О разработке рассказали на ICLR 2026.

Научная статья | CNews

Читать полностью…

Ivan Oseledets’ Channel

Наконец выпустили модель, названную в честь Гурия Ивановича Марчука. Потенциал таких моделей огромен. Вместе с ней сделали ИИ-метеоролога — систему автоматической генерации текстовых прогнозов.

https://iz.ru/2086882/andrei-korshunov/karmannaya-ii-model-predskazhet-anomalii-pogody-na-mesyac-vpered

Отличная работа Кости Соболева и команды «Генеративный видео ИИ» FusionBrain, а также Данилы Сухорукова и группы «ИИ в промышленности».

Ссылка на работу, ссылка на модель.

Читать полностью…

Ivan Oseledets’ Channel

Сотрудники в канале шутят про какой-то черновик, не знаю про такое, но надо не забыть сегодня рассказать байку

Читать полностью…

Ivan Oseledets’ Channel

Только что на DataFusion с коллегами задались вопросом о том, как в океане тысяч ежедневно публикующихся статей поймать реально интересную. Илья Макаров сказал, что нашел для себя выход — статей не читать. Писать пока не отказался. Теперь ещё и с помощью нашего ИИ-ресерчера. Отличная работа команды!

https://www.rbc.ru/rbcfreenews/69d56d1f9a7947272a452eef

Читать полностью…

Ivan Oseledets’ Channel

Байки не будет, Сколтех перебил новостью.

Читать полностью…
Subscribe to a channel