2047
личный канал про ИИ
я далек от мира музыки, но тут на днях случилось то, что не могло не произойти; как мы помним - люди не способны отличить ИИ-музыку от написанной человеком
и вот 5 дней назад ИИ-композиция, сделанная с помощью Suno, заняла первую строчку чарта iTunes в США и в мире #музыка
я думаю, для многих любителей музыки - это большое потрясение; но правило отбора работает - если есть критерий отбора и поток произведений искусства, то из этого потока будут отбираться со временем все более и более хорошие; Deezer сообщает, что уже сегодня 44% ежедневно загружаемых композиций создано при помощи ИИ; важно отметить, что они не продвигают этот контент, то есть он может популяризоваться только через сарафанное радио, а это очень мощный критерий отбора
я думаю, через какое-то время чарты будут забиты ИИ-композициями, как в свое время предсказывал Оруэлл в "1984"
@valuableai
мне попалась на глаза необычная для меня работа - может быть, в области Human-Computer Interaction она стандартная, но мне было интересно
так вот суть в том, что коллеги выпустили статью, где описали модель мускулатуры, которая задействована в процессе тыканья пальцем в смартфон, а также описали, как обучить эту модель засчет RL
насколько я представляю, такая модель может помочь рассчитывать эргономику интерфейсов мобильных приложений
@valuableai
всем привет, новый выпуск Капитанского мостика от меня и Дмитрия Колодезева с полей AINL из Томска; в гостях у нас Михаил Ожгибесов
#КапитанскийМостик
Обсуждение текущих трендов в индустрии искусственного интеллекта, ценовой политики, доверия к крупным компаниям и будущего развития технологий. Гости делятся своим мнением о влиянии ресурсов, государствах и экономической целесообразности на развитие ИИ. Обсуждение влияния искусственного интеллекта на общество, бизнес и личную жизнь, а также перспективы развития технологий и их этические аспекты.
ODS VK Video
ODS YouTube (будет позже)
мой дзен
@valuableai
довольно широко обсуждается проблема доверия к ИИ (в ИСП РАН есть целый научный центр по этому поводу), а тут коллеги из Израиля решили поставить обратную задачу - как ИИ доверяет человеку
заглавная картинка как раз из этой статьи, интересны на ней две вещи: корреляцию с доверием модели показывают в небольшой степени с благими намерениями, больше с компетентностью и еще больше с тем, что коллеги назвали integrity; это то, насколько убеждения другого человека совпадают c твоими собственными (как они это меряли у моделей можно прочесть в статье)
вторая интересная вещь, это отношение людей - люди обладают гораздо большим разбросом, но массово не верят в добрые намерения
P.S. эта работа еще раз подтверждает, что в LLM какие-то убеждения уже заложены создателями, может быть даже помимо их желания
@valuableai
сегодня поговорим про математику; в каком-то смысле проблема математики состоит в том, что математиков просто мало - я имею в виду, что математика быстрее порождает открытые вопросы, чем их решает
с этим в некотором смысле помогает ИИ, подборка новостей про решение открытых математических проблем:
- был такой легендарный математик Эрдёш, который в качестве наследия оставил более тысячи открытых вопросов; GPT5.4 недавно помогла решить задачу №1202
- группа математиков из OpenAI помогла GPT неуточненной версии решить сначала три, а потом еще пять задач из того же списка
- китайские коллеги из Пекинского университета разработали подход из двух агентов - один рассуждает, а второй перекладывает рассуждения на формальный язык Lean4, который позволяет верифицировать доказательства; c помощью системы они тоже решили известную задачу, но не из списка Эрдёша
P.S. кстати, коллеги из OpenAI не первый раз занимаются задачами Эрдёша
P.P.S. а китайские коллеги выложили код своей системы
@valuableai
у нас тут с коллегами на фоне последних новостей про Стэнфорд произошла дискуссия по поводу ссылок на статьи нежелательных организаций
я придерживаюсь позиции, что ссылаться можно на любые научные работы, хоть из фашистской Германии; китайские биологи со мной, кстати, солидарны (они это правда делают на данных японского Отряда 731, слабонервным не рекомендую переходить по ссылке); на мой взгляд игнорировать данные, которые уже получены, понимая, что они могут принести пользу человечеству - не просто расточительно, но и принижает жертву пострадавших от преступлений людей
интересно, что думает сообщество #этика
@valuableai
вайб-кодинг продолжает будоражить сердца #вайбкодинг #суббота
за картинку спасибо Никите
@valuableai
Google выпустила приложение (внезапно для iPhone, для Android пока только обещают), в котором переносят распознавание речи на локальное устройство; для этого используют свежевышедшую Gemma 4, вероятно, на 4 млрд параметров (она называется E2B, потому что у нее 2 млрд активных); на мой взгляд - это очень сильная демократизация технологии, ждем локальное распознавание речи в каждом китайском чайнике
@valuableai
наткнулся на статью (она за пейволлом, осуждаем), в которой предложен простенький концепт: давайте роботы не будут повторять действия один-в-один, а будут пытаться выполнить высокоуровневую задачу; например, взять со стола скотч и принести человку, неважно, как именно взять и как именно нести; все видосы как раз про это
для того, чтобы высокоуровнево описать действия и поставить задачу используют ChatGPT; так что ИИ уже ставит задачи роботам, имейте в виду
@valuableai
всем привет, новый выпуск Капитанского мостика; ведем как всегда мы, я и Дмитрий Колодезев
#КапитанскийМостик
В этом выпуске мы обсуждаем последние новости в области технологий, включая утечку исходного кода Anthropic, развитие open source, безопасность в AI, а также влияние крупных компаний на рынок памяти и возможные последствия для индустрии. Обсуждение современных технологий, вопросов приватности данных, влияния дата-центров на климат и стратегий крупных корпораций в сфере AI и инвестиций. Обсуждение инвестиций SoftBank, гонки моделей ИИ, а также новые профессии и развитие технологий в сфере сварки и робототехники. Узнайте, как крупные компании используют кредиты для инвестиций и что это значит для рынка ИИ.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
вышла интересная работа от коллег внезапно из Сан-Диего, там они искали визуальные соответствия в эфиопском алфавите (точнее там буквенно-слоговая письменность) и армянском и грузинском алфавитах (2 картинка)
вообще сходство данных систем письма уже давно подмечено, но тут подошли с нашей датасайентисткой точки зрения; обучили CNN-ку (2 картинка) классифицировать знаки эфиопского письма, а потом стали через нее прогонять знаки армянской и грузинской письменностей, получили довольно убедительные показатели сходства (3 картинка)
не первый раз, кстати, такое происходит, недавно была статья про OCR для древнеегипетских иероглифов, так что этот наш датасайенс приносит пользу человечеству
@valuableai
пока я спал произошло то, что рано или поздно должно было произойти
примерно месяц назад активно обсуждалась история про переписывание проектов с т.н. токсичными лицензиями (например, GPL) - имеется в виду пересоздание проекта при соблюдении API, т.н. метод чистой комнаты; вот тут можно причаститься драмы от библиотеки chardet
а вчера ночью произошло то, что было в некотором роде неизбежно после того, как в Anthropic перешли на написание кода с помощью Claude Code - кто-то случайно отправил в свежей версии Сlaude Сode отладочный файл
дальше все было закономерно: за ночь код расковыряли, выложили, юристы пришли и всем надавали по голове и код убрали из открытого доступа, а люди по вышеупомяному методу чистой комнаты сделали аналог; было бы забавно, что с помощью Claude Code же, но нет, использовали Codex
я думаю, что конкурент Claude Code от китайских товарищей бы и так появился, но данный инцидент приблизил это на пару месяцев
@valuableai
сегодня я хочу рассказать про нашу статью Call, Reward, Repeat: Advancing Dialog State Tracking with GRPO and Function Calling; благо есть повод - на EACL SRW она получила награду Outstanding paper
суть работы довольно простая, но сначала надо сделать отступление и рассказать про саму задачу DST - Dialogue State Tracking; идея в том, что при общении с пользователем диалоговая система должна хранить полученные данные, чтобы выполнить потребность пользователя (1 картинка)
еще до нас придумали, что это можно сделать с помощью LLM и function calling; наша инновация заключается в применении к этому процессу GRPO, что позволяет добиваться хороших результатов при небольшом объеме данных, которые для диалогов всегда были проблемой (2 и 3 картинки)
пользуясь случаем, хочу поздравить своих соавторов - Тимура и Аню #моистатьи
@valuableai
коллеги прислали ссылку на статью из журнала "Природа" Nature, которая посвящена тому, чтобы обучить LLM рассуждать байесовски; тут надо сделать отступление и пояснить, что это такое, а то не все в курсе; байесовское принятие решений - это когда субъект делает вероятностное суждение об объекте: например, вдалеке видно какое-то животное, можно предположить, что это скорее всего собака, но может быть и волк (1 картинка)
важно отметить, что а) люди в среднем без специального обучения так рассуждать не умеют, про это написано много литературы, б) как следствие, LLM тоже не умеют; так вот коллеги придумали, как их обучить (2 картинка); интересно, что байесовские рассуждения распространяются за пределы обучаемого домена, то есть модели реально выучивают этот навык
но самый большой недостаток статьи на мой взгляд раскрывает 3 картинка - при взаимодействии с реальным пользователем улучшения против необученной LLM нет; это возвращает нас к началу - люди байесовски думать не умеют и не могут
@valuableai
сегодня мое любимое - про RNN-ки; недавно вышла статья от коллег из Колумбийского университета и IBM Research, где показывается, что можно предсказывать ЭЭГ лучше, если использовать распознавание речи (1 картинка - обзор)
звучит загадочно, но суть простая взяли ЭЭГ и проверили, что с разных регионов мозга можно снимать сигналы коррелириующие с разными аспектами распознавания речи (2 картинка); сделали 7-слойную модель ASR и показали, что слои тоже примерно также коррелируют (3 картинка), а также коррелируют между собой (1 картинка G)
я не особо проникся аргументацией, но сама постановка задачи интересная; похоже, пора вводить новый тег #нейронаука
@valuableai
📣 Набор в высшую лигу ИИ открыт! Стартовал приём заявок на SMILES-2026 в Китае
Сколтех открыл приём заявок на международную Летнюю школу машинного обучения SMILES-2026, которая пройдёт 13–26 июля на кампусе Нанкинского университета в Сучжоу - городе садов и каналов, который нередко называют восточной Венецией.
🎓 В этом году школу совместно проводят Сколтех — лидер среди российских университетов по числу публикаций на конференциях уровня A* — и Нанкинский университет, входящий в топ-9 ведущих исследовательских университетов Китая.
Ключевая тема SMILES-2026 — инженерный искусственный интеллект. Программа охватывает большие языковые модели, мультимодальные и визуально-языковые системы, генеративные архитектуры, мультиагентные системы, цифровые двойники, а также безопасный и надёжный ИИ для сложных прикладных задач.
📖 Но SMILES — это не только лекции. Школа выстроена как полноценная исследовательская траектория: тематические дни, работа в командах, постерная сессия, промежуточная экспертная оценка и финальная защита проектов. Здесь обучение быстро превращается в исследование, а сильный проект — в публикацию. За последние два года на основе проектов участников SMILES созданы четыре статьи, принятые на ведущих конференциях, включая IEEE ICCQ и RANLP.
«В этом году Сколтех проводит уже седьмую по счёту летнюю школу машинного обучения SMILES для тех, кому интересен содержательный и практически значимый искусственный интеллект. Нам важно показать участникам, как из фундаментальных идей вырастают надёжные инженерные решения — от больших языковых и генеративных моделей до цифровых двойников и систем ИИ для критических отраслей», — отметил вице-президент по развитию ИИ Сколтеха, директор Центра ИИ Сколтеха, профессор РАН Евгений Бурнаев.
«Альфа-Банк последовательно инвестирует в развитие как талантов, так и технологий будущего. Партнёрство с международной школой SMILES — это наш вклад в формирование нового поколения специалистов, способных создавать и внедрять передовые решения в области искусственного интеллекта. Мы убеждены, что поддержка таких образовательных инициатив не только укрепляет научное сообщество России и Китая, но и закладывает фундамент для технологического лидерства в глобальной экономике», — отметил Марат Исмагулов, HR-директор Альфа-Банка.
ИИ внедряется во все сферы жизни, пара новостей из пенитенциарной системы:
- в Самарской области в двух колониях появились роботы-надсмотрщики, которые могут патрулировать территорию и выявлять нарушения режима содержания (видео)
- в Москве знаменитую "Бутырку" оборудовали системой видео-аналитики; система способна выявлять отклонения поведения заключенных, например, драки
на мой взгляд, нововведения полезны, т.к. снижают нагрузку на работников, которых постоянно не хватает в этой сфере - психологически работа очень сложная; не берусь судить, ведет ли это к цели исправления человека в таких заведениях, но базовая задача изоляции решается судя по всему лучше
@valuableai
извините
оригинал daniil.khripko/post/DUa3DNFjVGq">тут, за картинку спасибо Жене #суббота
тут мимо меня пробежала новость, что в 65% научных статей есть сгаллюцинированные цитирования; я триггернулся и пошел разбираться; оказалось, что в оригинальном исследовании все несколько не так
там группа журналистов журнала "Природа" взяла тул Veracity от Grounded AI и сделала анализ 4000 случайно выбранных опубликованных работ по биомедицинской тематике; они взяли 100 самых подозрительных по оценке тула статей и проверили их вручную; и вот тут получилось, что 65 статей реально содержали сгенерированные ссылки, но при этом 22 статьи не содержали; еще 13 они не смогли проверить
так что качество предсказаний довольно посредственное, хотя проблемы с цитированием галлюцинаций реально существуют, про это известно с прошлого года
P.S. не первый раз разоблачаю желтые заголовки, пора делать рубрику #охотанауток
@valuableai
вчера говорили про этику, сегодня давайте тоже; я уже как-то писал про российскую компанию Neiry, в тот раз было про голубей, а теперь у них руки дошли и до коров
точнее руки дошли еще осенью, а я про это узнал из новости про дизайн пакетов, который разработан специально для молока от чипированных коров; дизайн разработан нейронкой (иронично, что авторы новости, похоже, про это не в курсе); в новости утверждается, что чип снижает у коров уровень стресса - не знаю, как вы, а мне это чем-то напоминает лоботомию; я все-таки выступаю за химический синтез, если производители не хотят тратиться на содержание коров #этика
@valuableai
всем привет, всех православных с Пасхой, а всех причастных - с днем космонавтики! новый выпуск Капитанского мостика от меня и Дмитрия Колодезева
#КапитанскийМостик
Обсуждение последних новостей в сфере искусственного интеллекта, включая конфликты между крупными компаниями, изменения в политике открытости моделей и влияние геополитики на развитие технологий. Обсуждение последних трендов в области искусственного интеллекта, санкций, китайских решений и социальной ответственности в Японии. Эксперты делятся мнениями о будущем индустрии и вызовах, связанных с технологическими ограничениями и геополитикой. Обсуждение влияния искусственного интеллекта на общество, бизнес и безопасность, а также культурные аспекты и исторические параллели.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
продолжая вчерашнюю тему с ИИ на каждом чайнике, тут разошлась новость про Bonsai 8B - это Qwen 3 аналогичного размера, пожатый до 1 бита; точнее 128 однобитовых значений сопровождаются одним 16-битовым для амплитуды; причем это сжатие динамическое, а не просто для хранения; то есть модель исполняется путем перемножения битовых значений и амплитуды
в качестве результатов они заявляют очень малое падение качества (3 картинка), малое энергопотребление (2 картинка), ну и "интеллектуальную плотность" (1 картинка); последнее - это качество бенчмарков делить на потребляемую память
и тут как всегда - сам себя не похвалишь, никто не похвалит, мы такую метрику придумали еще 5 лет назад в статье с характерным названием Morocco
но я отвлекся, Bonsai мне не нравится тем, что совершенно непонятно, засчет чего они этого добились; аналогичная история была с Mercury от Inception Labs; ждем опенсорсных аналогов
@valuableai
у нас принято смеяться над суверенным ИИ, но вообще говоря наличие "своего" ИИ не лишено смысла; в статье американского социолога Гаррета Баркина (популярное изложение тут), который более 30 лет занимается изучением индонезийского общества, приводится пример общения с ChatGPT на индонезийском языке, где человек пытается обсудить сложную семейную проблему; рекомендация от ChatGPT была в рамках современных западных ценностей - поставить свои интересы выше семейных, прямо заявить свою позицию и, если она не будет принята, порвать с семьей
я не специалист по Индонезии, но что-то мне подсказывает, что там так не принято; поэтому есть несколько вариантов, либо ChatGPT переформатирует их общество через подростков, либо Индонезия найдет способ получить свой суверенный ИИ, либо ограничит использование ИИ только узкими областями
если помните, похожая история была про Иран полгода назад
@valuableai
извините за актуалочку, не мог пройти мимо:
4 апреля в мире отмечали Международный день интернета. Интернет давно стал пространством, от которого зависит и работа, и учеба, и повседневный досуг. Однако чем выше зависимость от сети, тем острее воспринимаются даже незначительные сбои. Проблема в том, что традиционные методы контроля качества — технические замеры и дорогостоящие опросы абонентов — либо не учитывают сложное сочетание параметров сети, либо срабатывают постфактум, когда пользователи уже столкнулись с неудобствами. Исследователи ПНИПУ создали интеллектуальную систему на основе искусственного интеллекта, которая в реальном времени предсказывает недовольство качеством связи еще до того, как абонент сам его заметит. Главные преимущества разработки — точность в 92,7%, отказ от затратных опросов и простая интеграция в существующую инфраструктуру провайдеров, что позволит существенно сократить расходы.
🟣🟪 Новый выпуск подкаста MWS AI «По проводам»
Поговорили с Валентином Малых, руководителем центра разработки больших языковых моделей MWS AI, преподавателем ИТМО и МФТИ, о том, как на самом деле устроены современные ИИ-модели и стоит ли вообще доверять искусственному интеллекту в вопросах государственной важности?
Также обсудили основные ограничения ИИ-моделей сегодня, влияние крупных игроков индустрии на политическую повестку и что такое массовая слежка в современном понимании?
Выпуск уже доступен на платформах:
➡ RuTube
➡ YouTube
Ведущий: @erobubble
за последнее время произошло два события, которые не то, чтобы меняют общую картину борьбы с раком, но скорее показывают нашу неэффективность как общества в борьбе с ним
- сначала очень человек из Австралии нашел не то, чтобы вакцину, но некий препарат для ремиссии рака своей собаки; для этого потребовалось полностью расшифровать геном собаки и ее рака, а потом долго анализировать литературу, чтобы получить формулу препарата
- а потом пришла история из США, где сооснователь GitLab смог добиться ремиссии у себя, также используя анализ научной литературы
оба случая на самом деле про использование ChatGPT для анализа литературы, а также про AlphaFold для генерации формулы препарата; и сами по себе истории очень впечатляющие, единственное, что печально - в первой истории стоимость анализа генома была 3000$, а дальше еще поиск препарата; во втором случае был целый консилиум врачей - боюсь, для большинства больных все это пока недоступно, но зато сейчас такая опция появилась
@valuableai
всем привет, с опозданием на два дня - новый выпуск Капитанского мостика; ВК нещадно тупил, поэтому удалось залить далеко не сразу; несмотря ни на что, ведем как всегда мы, я и Дмитрий Колодезев
#КапитанскийМосктик
В этом подкасте Валентин Малых и Дмитрий Колодзев обсуждают конференцию по обработке текстов в Марокко, достижения в области искусственного общего интеллекта (AGI) и важность взаимодействия между людьми и ИИ. Они также затрагивают тему программирования с помощью LM-агентов и подчеркивают значимость умения слушать в современном мире. В этом разговоре обсуждаются изменения в программировании и управлении с появлением кодовых агентов и цифровых двойников. Участники делятся своим опытом работы с агентами, их влиянием на процесс принятия решений и ролью рационального мышления в управлении. В этом разговоре обсуждаются экологические аспекты дата-центров, их влияние на окружающую среду и сравнение с другими отраслями, такими как гольф.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
я пожалуй воздержусь от комментариев #суббота
за картинку спасибо Жене
@valuableai
коллеги из MIT сделали интересное исследование - факторный анализ, откуда берется качество современных LLM; они рассмотрели 3 фактора - масштабирование вычислительных ресурсов, общий алгоритмический прогресс и частный алгоритмический прогресс, характерный для конкретной компании (1 картинка)
сама по себе методология вызывает некоторые вопросы - они делают регрессию на качество в бенчмарке MMLU и в качестве значимости факторов берут веса из регрессии, но за неимением гербовой, пишем на обычной, других исследований все равно нет; отдельно отмечу то, что примерно половина качества моделей не объясняется (model effects)
на 2 картинке пример того, какие выводы можно сделать при сравнении двух моделей; на 3 картинке - на мой взгляд самое интересное, наглядно показано, как уменьшаются затрачиваемые ресурсы для достижения фиксированного качества; тут важно сделать замечание, что с течением времени бенчмарки просто выучиваются, этот эффект нужно бы отделить от алгоритмического прогресса
@valuableai
что-то тема AGI людей не отпускает, вот и DeepMind выкатил свой тест когнитивных способностей (1 и 2 картинки); точнее не сам тест, а скорее свои пожелания к тому, как он должен выглядеть
на мой взгляд, этот подход является шагом назад по сравнению с подходом, изложенным новой "бандой четырех" во главе с Яном Лекуном; мы его разбирали на Капитанском мостике неделю назад, но на всякий случай еще раз (3 картинка): человеческий разум никогда не был универсальным, он четко заточен под определенные задачи (найти еду и не быть съеденным), все определения AGI - неточны, т.к. этот фундаментальный факт игнорируют; вместо поиска AGI надо сосредоточиться на создании полезного ИИ; как вы уже догадались, второй подход мне ближе
@valuableai