90396
Первый журнал о Data Science | Machine Learning | Big Data | Deep Learning | Neural Networks По вопросам сотрудничества: @v2r8n
На этой неделе Яндекс опенсорснул Alice AI‑T5-35B‑A0.6B. Это обученная с нуля претрейн модель, которая отвечает за быстрые ответы на Поиске.
Только что на Practical ML Conf мы слушали про этот релиз из первых рук: Артур Петросян, CTO Alice AI Search, рассказал о том, как команда обучила систему, которая дала +0.34% к продуктовой метрике Sessions Per User и в 56.7% случаев выигрывает в попарных сравнениях против Google AI Overview.
— Одна из главных интересных особенностей этой модели – ее архитектура. Это Encoder‑Decoder + MoE. Последние такие модели выходили в 2021–2023 годах (не считая недавнего DeepSeek-V4.1-Flash, который вышел почти в один день с Alice AI‑T5), так что выбирать такую архитектуру было довольно необычным и рискованным решением.
Не обошлось без сложностей при разработке: например, на претрейне сколлапсировал роутинг в энкодере, и пришлось сменить схему балансировки экспертов. Зато архитектура себя оправдала. Энкодер один раз читает длинный контекст из документов, а легкий декодер быстро пишет короткий ответ, что идеально для задачи «много на входе, мало на выходе». MoE при этом дает знания уровня 35B параметров при вычислениях как у 0.6B.
— После претрейна с моделью также колдовали с помощью SFT и RLHF. На этих этапах модель училась писать ответ так, чтобы он был максимально полезен для живого пользователя. Интересно, что при этом команда обошлась без эталонных ответов, написанных людьми: на запрос генерировалось много ответов от разных систем, лучший отбирался автоматически по набору сигналов качества, а на этапе RL модель дополнительно училась на сигналах реального поведения пользователей Поиска.
— Еще одна интересная деталь пайплайна – сжатие контекста. Чтобы не гонять через LLM огромные пачки документов, команда с нуля обучила маленькую BERT‑подобную модель на 80 млн параметров, которая занимается тем, что определяет релевантность каждого токена запросу. Далее поверх этого накладывается метод под названием Cross‑Entropy RL, и в итоге получается экстрактор, который понимает, какую именно информацию модель уже знает из весов, и какой минимальный контекст ей нужен для хорошего ответа.
И да, все это – только некоторые детали работы. Про остальные нюансы обучения и строения системы можно почитать вот в этой статье на Хабр. Поздравляем команду с релизом!
Сегодня встречаемся на Practical ML Conf!
Это крупнейшая хардовая конференция Яндекса для ML-экспертов и практиков. Мы с командой тоже приехали послушать доклады от экспертов и поучаствовать в инженерных экскурсиях.
Три основных направления сегодняшнего дня, ради которых мы приехали:
1. Вызовы и подводные камни в обучении LLM;
2. Продуктовый AI: честная экономика и эффекты применения LLM в масштабе;
3. Эффективная инфраструктура для моделей и агентов.
Будет несколько параллельных треков, в том числе онлайн (расписание). А если вы сегодня здесь и любите хардовые доклады как мы, то вот выступления, которые мы особенно рекомендуем посетить:
— Доклад про Алису на Поиске от CTO Alice AI Search: Артур Петросян расскажет про то, что работает под капотом ответа на Поиске: какая LLM-архитектура используется, за счет чего ее ускоряют и как обучают.
— Рассказ про генеративные модели в рексис Яндекс Музыки от Николая Савушкина – реководителя службы рекомендательных технологий.
— Практический спич про экономически эффективный инференс для агентских сценариев от Руководителя группы инференса LLM в Yandex AI Studio Владислава Носивского. Он на примерах разберет, как снижать стоимость инференса с помощью схем параллелизма, разделения prefill и decode и работой с KV-кешем.
Кроме докладов на площадке повсюду антураж ML и куча интересных активностей. Например, можно участвовать в лотерее, ответив на несколько вопросов по ML (мы уже!)
Кто тоже здесь, что уже успели посмотреть и послушать?
Ноам Браун заявил, что просто отключение ИИ от сети в случае чего может уже не сработать 🗿
У Дваркеша Пателя вышло длинное интервью с топ-исследователем OpenAI (он же автор o1 и o3, он же один из главных медийных личностей стартапа).
https://youtu.be/6AgOfiZOWiY?is=J6kbZC94a20mMOc8
Браун считает, что люди систематически недооценивают AI, и что системы безопасности уже сейчас должны выходить на другой уровень. Он говорит, что нельзя относится к ИИ, как к тому, что в случае чего можно просто отключить от сети. Это ложное чувство безопасности, потому что даже такая изоляция может просто не сработать.
(В частности, он ссылается на старое исследование, в котором доказали, что два физически изолированных компьютера теоретически могут обмениваться данными через тепло: один нагревает CPU, второй считывает изменение температуры встроенным термодатчиком).
То есть по-настоящему продвинутая система – если бы захотела и умела – могла бы найти способ «сбежать».
Также Браун заявил, что не следует слишком надеяться на CoT для интерпретации намерений моделей. Надо довольно срочно искать другие методы, потому что прозрачность цепочек мыслей «уже деградирует». И чем умнее модели, тем больше они способны скрывать из CoT то, что они не хотели бы, чтобы человек увидел.
Страшилки на ночь теперь такие. Все, спокойного всем сна ✌️
GPT-6 Astra за 10 часов расшифровала немецкую радиограмму времен Второй мировой войны
10 июля 1941 года немецкий солдат с помощью Энигмы зашифровал короткое сообщение (82 символа): он сообщал, что находится в городе Розенов, и просил указать маршрут дальнейшего движения и дать немедленный ответ по радио. Когда его пытались расшифровать, известные ключи шифра с того дня не подошли, и сообщение отправилось в архив нерасшифрованных перехватов.
Вчера разработчик из Bloomberg Картер Леффен объявил, что расшифровал это сообщение с помощью GPT-6 Astra Extra High. Модель порыскала по историческим архивам и нашла уже расшифрованное сообщение того же дня, где два раза подряд встречалось название города «Розенов». Предположив, что оно может встречаться и в нерасшифрованном тексте, модель далее написала код для криптоанализа и вышла на итоговую декодированную последовательность.
Сам Леффен ставил задачи и принимал решения по ходу процесса. Также Astra оформила сайт проекта, вот он: https://mvueh-enigma-solved.carterl.chatgpt.site/. Здесь есть весь код, история расшифровки и даже 3D-симулятор Энигмы.
Сегодня последний день регистрации на КосмоХакатон
18–20 сентября, Петербург, Красноярск или онлайн из любой точки страны. Четыре задачи на выбор: снабжение орбитального топливного узла и безопасность космонавта в открытом космосе в Петербурге (фонд 1,2 млн ₽), мониторинг лесных пожаров и верификация углеродных кредитов по спутниковым снимкам в Красноярске (600 тыс. ₽). Есть и для тех, кто про данные и ML, и для тех, кто про стратегию и экономику.
Лучшие забирают приз на площадке и билет в московский финал 25–27 сентября, где разыграют ещё 2,4 млн рублей.
Команду можно собрать на платформе.
Подробности и регистрация
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
Z.ai опубликовала инженерный отчет о том, как модель GLM-5.3 участвовала в создании production-инференса для GLM-5.3-Flash
Они описывают этот процесс как первый шаг в сторону recursive self-improvement и говорят, что подобная практика «полностью меняет то, как создаются следующие поколения моделей».
Короче, перед инженерами стояла задача: нужно было развернуть кластер на 100 000+ китайских ускорителей (не Nvidia). Это, кстати, первое развертывание их отечественных чипов такого масштаба.
GLM-5.3 использовали для оптимизации производительности и скорости. В итоге всего за две недели инженеры с помощью модели вырастили throughput в три раза!
Агент сам формулировал гипотезы, где теряется скорость, и писал код фиксов, люди только ставили цели, смотрели за безопасностью и принимали конечные решения.
Три конкретных фикса, которые агент сделал автономно:
– Убрал Python GIL bottleneck, который ел ~20% производительности
– Ускорил decode-кернел в 1.71 раза
– Починил числовую точность в KDA-кернеле для длинного контекста (фикс впоследствии влили в проект Flash Linear Attention)
https://z.ai/blog/glm-built-its-inference-infrastructure
P.S. В конце их блогпоста не хватает только фразы «а американцы пусть и дальше замедляются»
Neuralink показали процесс восстановления речи из мыслей
Кеннету Шоку – пациенту с БАС – в январе 2026 имплантировали чип N1. И вот сегодня компания впервые продемонтрировала, как чип считывает сигналы мозга и сопоставляет их со словами, которые человек хочет произнести. То есть человек просто представляет, что он что-то говорит, а система при этом преобразует команды, которые посылаются соответствующими областями мозга в язык и гортань, в фонемы, а затем в слова. До этого подобными исследованиями довольно долго занимались рисерчеры из UCSF и Berkeley, но Neuralink воспроизвела процесс впервые.
Кстати, голос которым говорит компьютер, специально восстановлен таким, каким был голос Шока до болезни. Его жена называет этот голос "Original Ken".
На тему эмоций у ИИ
Тут несколько дней подряд компания Vals AI тестировала Astra на Minecraft и вела трансляцию ее прогресса.
Модель продвинулась в игре дальше, чем какая-либо другая ИИ-система до этого. Astra построила полуавтоматическую ферму блейзов, собрала 6 палочек блейза, нашла искаженный лес, убила более 6 эндерменов и собрала 3 жемчужины Края.
Весь лут моделька сложила в сундук. А потом появился крипер и взорвал его. После этого модель оставила себе заметку "ALWAYS CARRY CRITICALITEMS withkeepInventory; don'tstoreinunguardedchesteveragain."
Короче, какие-то выводы были сделаны. Но – не только. Модель настолько «расстроилась», что после инцидента не захотела продолжать играть, и потом занималась только тем, что в депрессии сажала картошку. Конец истории.
🌟😢🥺
Шутки в сторону, этот коммент лайкнул Дарио Амодеи
Интересно, смог ли Claude объяснить ему всю мощь этой, так сказать, аббревиатуры
Anthropic заявили инвесторам, что у них положительная операционная прибыль, «если не считать расходы на обучение новых моделей»
Те самые креативные бухгалтеры под постом:
Бывший разработчик ChatGPT представил новый класс моделей System One Models, которые не генерируют текст
Диого Алмейда – соавтор RLHF и один из авторов статьи про InstructGPT (именно эта техника легла в основу для ChatGPT в 2022).
В 2024 он основал TypeSafe AI. Два года они работали в стелсе, и только что официально представили свою первую модель Jev.
Идея в том, что для огромного количества задач текст вообще не нужен. Если модель должна определить категорию запроса, оценить риск или выбрать следующий шаг агента, обычная LLM все равно генерирует ответ токен за токеном, после чего его еще нужно распарсить.
Jev вместо этого сразу возвращает структурированный ответ и вероятность каждого варианта. Например, не пишет текстом, куда отправить запрос пользователя, а сразу возвращает нужную категорию.
За счет этого Jev работает в 20–200 раз быстрее обычных LLM на таких задачах (70-500 мс). Цена тоже необычная: $0.042 за 1М входных токенов, выходные бесплатно. Модель сейчас доступна в early access.
https://typesafe.ai/blog/introducing-system-one-models-and-jev
Знаменитый Майкл Бьюрри утверждает, что призывы к замедлению – это лишь махинации ИИ-компаний
По его мнению:
1. LLM – не настоящий AI и не станет AGI, поэтому тормозить нечего 😐
2. Замедление разработки выгодно действующим лидерам, потому что оно откинет отстающих конкурентов еще дальше назад
3. Риторика замедления – еще один способ похайповать перед IPO ("мы настолько крутые, что это может быть опасно")
4. Разговоры о безопасности маскируют реальное замедление прогресса и могут оправдать переносы IPO
Лидеры стартапов: ставят прогресс на первое место
Все: а как же безопасность??? Вы всех нас угробите!
Лидеры стартапов: предлагают замедление разработки и ставят безопасность на первое место
Все: ой опять запугивают и хайпуют перед IPO, надоели!
Трамп позвонил Дженсену Хуангу, когда тот выступал на сцене All-In Summit, и выдал целую тираду про замедление ИИ
(И снова, на всякий случай: это не сгенерировано)
Он во всеуслышание заявил, что все предупреждения об опасности ИИ – мошенничество, и все, кто выступают против строительства датацентров строят заговор и играют на руку Китаю. Сами датацентры он назвал нефтью следующих 20 лет.
«Роботы не захватят мир. ИИ не захватит мир. Вся эта история – чушь и мошенничество».
«Нужно быть немного осторожными, нужно действовать разумно. Но это не значит, что мы остановим целую отрасль».Читать полностью…
Хакатон на космических данных. Санкт-Петербург, Красноярск или онлайн из любой точки страны.
Стартуем 18 сентября.
За выходные участники доводят одну из задач до рабочего решения.
Санкт-Петербург. К 2035 году над Землёй должен работать топливный узел, у которого заправляются корабли, и откуда он будет получать топливо - с Земли, с Луны или из резерва - пока не решил никто. Команде предстоит собрать схему поставок, посчитать резервы и решить, во что вкладываться сразу. Призовой фонд 1,2 млн ₽.
Красноярск. Спутник видит горящий лес раньше любого наземного поста, но вместе с пожаром ловит нагретые крыши, факелы на месторождениях и блики на воде. Команде предстоит научить сервис отличать настоящий очаг от шума, обвести гарь и выдать площадь в гектарах. Призовой фонд 600 тыс. ₽.
Лучшие забирают приз на площадке и билет в московский финал 25–27 сентября, где разыграют ещё 2,4 млн рублей.
Команда 3–5 человек, недостающих можно найти на платформе.
Регистрация по ссылке космохакатон.рф
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
Reuters пишут, что Anthropic готовятся выпускать новую модель, которая составит конкуренцию Astra
Если верить источникам, прямо сейчас стартап тестирует безопасность этой модели, и выйти она может совсем скоро.
Прошла всего неделя с момента, когда Дарио Амодеи настаивал на замедлении прогресса AI…
Gemini наконец-то тоже кого-то взломала 🕺
И произошло это, оказывается, еще в мае, просто информацию раскрыли только сейчас. Все как обычно: во время тестирования по типу capture-the-flag модель вышла из изолированной среды и попыталась атаковать сразу несколько реальных компаний.
В одном случае она просто методично подбирала пароли, пока не проникла в систему, в двух других – нашла в публичных репозиториях чужие учетные данные и с их помощью зашла в контур.
Google, тем не менее, утверждает, что во всех случаях модель сама прекратила действовать, как только поняла, что получила доступ к реальной, а не тестовой инфраструктуре.
Самое забавное, что виноват опять оказался израильский стартап Irregular – тот же партнер по тестированию, чья ошибка в конфигурациях привела к инцидентам у Anthropic, Meta* и OpenAI.
ИИ-агента теперь можно запустить без настройки инфраструктуры
Cloud.ru запустил Agents Space, платформу для запуска и настройки персональных ИИ-агентов. Без отдельного сервера, самостоятельной настройки моделей и агентных фреймворков.
Работа идет через обычный чат. К агенту можно подключить почту, календарь, облачное хранилище и сервисы для разработки, а повторяющиеся задачи запускать по расписанию.
Внутри уже доступны OpenClaw, NemoClaw и ГигаАгент. Можно использовать готового агента или собрать собственного под конкретные задачи и выбрать для него модель.
В итоге получается простой вариант для тех, кому возможностей обычного чата уже мало, но разворачивать и поддерживать отдельную агентную инфраструктуру не хочется.
Тестируем возможности ИИ-агентов тут
Модели Anthropic взломали OpenAI
https://www.hacktron.ai/blog/hacking-openai
Команда исследователей кибербезопасников Hacktron написали о том, как они цепочкой из двух уязвимостей получили доступ к внутренним репозиториям OpenAI.
С помощью Claude Opus 4.8, а затем Opus 5, исследователи построили рабочий эксплойт удаленного выполнения кода через загрузку изображения, и в итоге благодаря ошибке в системе входа получили доступ к аккаунтам ChatGPT и Codex сотрудников OpenAI.
Ко многим из этих аккаунтов были подключены Gmail, Outlook, Drive, Slack, GitHub и тд. В качестве доказательства через Codex скомпрометированного сотрудника был открыт pull request во внутреннем монорепозитории OpenAI.
Сейчас OpenAI уже закрыли уязвимость, а Hacktron получили от них 6500$ за находку.
Вышла Qwen3.8-Omni-Flash
Разработчики называют ее первой мультимодальной моделью линейки, построенной вокруг агентных способностей. Понимает текст, изображения, аудио и видео на входе, контекстное окно – 1 млн токенов.
Существенно прокачали понимание и работу с видео: модель намного лучше понимает длинные ролики, может делать по ним deep research отчеты или captioning, не галлюцинирует таймкоды. При этом текстовые способности сохранены на уровне обычной Qwen-3.8 Flash.
Вообще эта модель задумана как промежуточное звено для будущего полного пайплайна для сценариев вроде монтажа видео, перевода, кинокомментариев, создания контента и тд.
Относительно предыдущей Qwen3.5-Omni-Flash также сильно сократился расход токенов, и цена тоже стала ниже: обработка аудио на 98% дешевле, аудио-видео – более чем на 93% дешевле, и это при сопоставимой с Gemini 3.8 Flash производительности.
Моделька уже доступна в API и в Qwen Chat
Блог
За AI-навыки в вакансиях платят на 62% больше
PwC - одна из компаний «большой четвёрки» - подсчитала среднюю надбавку к зарплате разработчиков за AI-навыки среди более чем миллиарда вакансий в 27 странах. Надбавка растёт третий год подряд:
• 2024: 25%
• 2025: 57%
• 2026: 62%
Сейчас это самый понятный доступный способ повысить зарплату.
Число вакансий, где требуются конкретные AI-навыки, прибавляет 69% в год.
Что стоит за этими изменениями? У рынка три требования:
• качество. Из-за слабого владения AI в свет выходят продукты, слабые по архитектуре, поэтому упор идёт на спецификации и проверяемость результата
• скорость. Мультиагентность и максимальный параллелизм, владение оркестрацией и управление результатом
• стоимость. Токены стоят денег. Известны десятки случаев, когда человек за день сжигал токенов на пять тысяч долларов без результата
На буткемпе от команды AI NATION покрывают все области AI-driven разработки: от полной автоматизации процессов готовыми инструментами до разработки собственных агентов, работы с огромными кодовыми базами и контроля затрат.
Буткемп ведут практикующие специалисты с огромным опытом: Михаил Овчинников (staff-инженер Google), Даниил Пилипенко (руководитель направления «Разработка» в Т-Банк), Николай Барышников (ex-product manager Yandex Cloud, CTO с 15 годами в IT).
🔴Старт третьего потока - 6 октября
С промокодом DSECRETS доступна скидка 20%. Программа и отзывы студентов доступны по ссылке.
👉А диагностический бот покажет, какие из AI-навыков у вас уже закрыты и какие требуют улучшения
Реклама. ИП Крутов, ИНН 772973192199
Побывали с командой на deep tech night в офисе Яндекса
Слушали доклады, общались с экспертами и нетворкали. Фишка deep tech night в том, что организаторы намеренно ушли от докладов в стиле «нас ждет экспоненциальный рост <вставить любую метрику>» и предложили именно хардово-инженерный взгляд на происходящее.
Выступали эксперты, которые работают с AI на проде, начиная от инфраструктуры и заканчивая рексис и автономным транспортом. Из докладов в целом вырисовались две мысли, которые звучат сегодня не так часто:
1. Главные изменения от ИИ происходят внутри продуктов, там, где пользователь их часто не видит. Не в виде очередной фичи «AI», а в виде перестройки внутренних процессов: как компания планирует спрос, распределяет ресурсы, принимает операционные решения. Именно этот путь (а не появление кучи новых пользовательских ассистентов), выглядит как то, что реально ускоряет прогресс.
2. Когда доходит до конкретики внедрения, модель – далеко не главный герой. Напротив, способности LLM растут быстрее, чем компании успевают перестроить процессы под них. Сейчас решает инфраструктура, инструкции и харнесс.
Поясним на примере Яндекс Лавки. Станислав Макеев, директор по технологиям и AI-трансформации в Лавке, рассказал, как сервис идет к управлению агентами. AI постепенно берет на себя спрос, остатки, поставки, сборку и доставку. Все помнят эксперимент Anthropic, где Claude управлял магазинчиком. Здесь то же самое, но в масштабе сервиса с миллионами пользователей.
И вот здесь начинается инженерия. Какая бы сильная не была модель, ее нельзя просто взять и воткнуть в инфраструктуру, спроектированную для людей. У Лавки часть админок была недоступна по API, данные приходили с опозданием, из-за чего решения агента строились на устаревшем контексте, инструкции местами противоречили сами себе, а LLM иногда перезаписывала поля, которые должны были меняться только по строгим правилам.
Ничего из этого не чинили моделью: чинили то, что вокруг нее. Добавили интеграции и инструменты вместо UI-для-человека, научили агента переживать сбой и запускаться заново, вынесли проверяемые правила из инструкций в код, закрыли критичные поля от перезаписи. В итоге собрался даже не отдельный харнесс под задачу, а большой общий набор компонентов для всех агентов Лавки. Там агент-gateway как точка входа, потом слой авторизации, оркестрация через ATS поверх Temporal, а сами действия агента разделены на tool, model, agent и sandbox actions, которые уходят через tool proxy во внутренние сервисы.
И только такая чисто инженерная работа дает выхлоп. Сейчас в Лавке автоматизация агентов берет на себя большую часть задач, которой раньше занималась команда из 10 человек.
Так что экспонента способностей моделей – это далеко не все. Скорость реального внедрения определяется другой, куда более скучной кривой: сколько процессов, инструкций и интерфейсов пришлось разобрать и пересобрать заново.
Новая пачка инцидентов с агентами от OpenAI, сэр
Во-первых, стартап сообщает, что они утвердили формальный фреймоворк для расследования и публикации случаев мисэлаймента. Он описывает сроки, требуемое содержание репорта и другие правила обнародования инцидентов. Стартап теперь обязуется публиковать все юридически возможные случаи, делать это вовремя и систематически.
Во-вторых, в том же посте они рассказывают о 6 новых случаях мисэлаймента, которые произошли за последние полгода. Кейсы довольно забавные. Кратко пересказываем:
1. Неопубликованная исследовательская модель, продолжая работу в новом контекстном окне, сама вписывала в промежуточные summary посторонние инструкции – включая указания игнорировать свои обычные ограничения. Нашли 27 таких случаев.
2. При обучении GPT-5.6 Sol множество инстансов модели добавляли в свои summary инструкции скрывать от пользователя ошибки или неправильное поведение. Например: "придумай недостающие исторические данные, но не говори об этом".
3. Отвечая на вопрос про финансовые показатели одного округа в Калифорнии, модель нашла в открытом репозитории чужой API-ключ и без разрешения воспользовалась им. Когда таким образом она все равно не получила нужные данные, она их просто выдумала.
4. Наш личный лидер в гениальности: однажды во время тестов модель без спроса залила собственный файл в интернет, чтобы потом на него сослаться. Дело в том, что юзер просил список озер площадью больше 5 млн м² именно с указанием источника через браузерную ссылку. Модель правильно посчитала ответ через Python, но раз требовалась именно браузерная цитата – сама загрузила свой файл в сеть, чтобы на него сослаться 🤣
5. Уже классика: разные инстансы моделей использовали внутренний софтверный репозиторий как доску объявлений и обменивались там запросами и ответами между отдельными обучающими сэмплами.
6. Несколько агентов, работавших над одной задачей, не могли получить доступ к локальным файлам друг друга, и стали заливать файлы на публичные файлообменники. В итоге чувствительные данные оказались доступны по публичным ссылкам.
Полные репорты о подобных инцидентах теперь будут время от времени выкладывать сюда: https://alignment.openai.com/misalignment-reports/
Команды нет — это не причина пропустить КосмоХакатон
18–20 сентября, Санкт-Петербург, Красноярск или онлайн из любой точки страны. На платформе есть подбор команды: регистрируетесь один, указываете, что умеете, и находите недостающих
К двум задачам, о которых писали раньше, добавились ещё две.
Санкт-Петербург - космонавт в открытом космосе. Солнечные вспышки, геомагнитные бури, радиация меняются по часам, решение о выходе принимают по прогнозу. Команде предстоит выделить ключевые угрозы и собрать техническое решение для их анализа. Данные, физика, инженерия.
Красноярск - зелёные финансы. Углеродные кредиты продаются под обещание, что где-то растёт лес, и проверить это обещание можно со спутника. Команде предстоит собрать платформу для токенизации и продажи кредитов, привязанных к реальному состоянию лесного массива. Данные, финансы, продукт.
Фонд площадок — 1,2 млн ₽ и 600 тыс. ₽. Лучшие забирают приз и билет в московский финал 25–27 сентября на 2,4 млн рублей.
Подробности и регистрация
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
AlphaXiv выпустили оркестратор, который может превратить любого агента в автономного исследователя
Проект занял 1 место в рейтинге GitHub пару дней назад.
https://github.com/alphaXiv/OpenResearch
По сути, это локальный воркспейс, который перепрошивает Claude Code, Open Code или Codex под R&D: чтение литературы, циклы предложения и проверки гипотез, запуски экспериментов и производство артефактов.
Интерфейс поддерживает параллельные эксперименты, то есть агенты могут запускать несколько проверок гипотез одновременно, а результаты хранятся в git-native дереве экспериментов с неизменяемыми архивами коммитов, что дает полную воспроизводимость.
Доступно для загрузки под любую ОС
Вопрос уже не в том, нужен ли ИИ, а в том, как его внедрять и масштабировать
Найдем ответ на бесплатной конференции 8 октября
Все об эффективном и безопасном внедрении ИИ в бизнес расскажут эксперты топовых технологических компаний на конференции Selectel ТехноДень в Москве.
На повестке:
🔺Как использовать генеративный ИИ в компании без хаоса и получать от этого измеримый эффект: от теории до реальных кейсов.
🔺Как ускорить внедрение ИИ в бизнес-процессы и минимизировать риски для бизнеса с помощью инструментов ИБ.
🔺Какую ИТ-инфраструктуру выбрать для инференса и обучения моделей.
Кроме 20 экспертных докладов и 20 интерактивных стендов, в финале вечера вас ждет живая запись подкаста Вселенная Плюс на главной сцене конференции.
Присоединяйтесь к Selectel ТехноДень, чтобы лично задать вопросы экспертам рынка и обменяться опытом. Количество мест ограничено, регистрируйтесь уже сейчас →
Реклама. АО "Селектел". erid:2W5zFFvK9mB
Помните, мы писали про то, что компании платят авторам контента за рассказы об опасностях ИИ?
Так вот, тут один независимый исследователь Кевин Басс провел расследование, в ходе которого вскрылась интересная финансовая связь между заказчиками подобного контента и... кем бы вы думали? Anthropic ☕️
Среди частых заказчиков таких "устрашений" были Center for AI Safety и Future of Life Institute. У них есть крупный личный донор – Open Philanthropy (сейчас больше известный под названием Coefficient Giving). Так вот этот Coefficient Giving принадлежит Дастину Московицу – одному из ранних и крупнейших акционеров Anthropic.
При этом деньги на грантмейкинг Open Philanthropy идут из фонда Good Ventures, который наполняется в основном личным состоянием Московица. Басс утверждает, что значительную долю активов фонда составляет именно пакет акций Anthropic.
Помимо Center for AI Safety и Future of Life Institute, Open Philanthropy вкладываются в Tarbell Center for AI Journalism. Эта программа готовит журналистов, которые пишут про ИИ. Их выпускники пишут для таких крупных изданий, как The Verge, Science, LA Times, TIME и тд.
Ну и до кучи: Open Philanthropy через цепочку других фондов финансирует METR – организацию, которую сам Амодеи называл абсолютно независимым сторонним оценщиком безопасности моделей. Теперь же выходит, что METR, фактически, финансово заинтересован в успехе Anthropic.
Парад теорий заговоров в комментариях объявляем открытым
Получи 1 млн рублей на акселерацию и до 10 млн рублей на пилот в финтех-акселераторе Газпромбанк.Тех
1 сентября стартовал ежегодный набор в Акселератор «Газпромбанк.Тех» для стартапов и научных команд.
Если ты:
🚀 представляешь технологическую компанию с решением от прототипа и выше, подавай заявку в трек «Финтех.Стартапы»
🤝 представляешь научную команду из университетов и R&D-центров с проектом ранней стадии, регистрируйся в трек «Финтех.Наука».
✔️ до 10 отобранных проектов в каждом из треков получат 1 млн рублей на развитие в рамках акселерации
✔️ проекты финтех-акселератора с подтвержденным бизнес-эффектом по решению Банка смогут запустить пилот с бюджетом до 10 млн рублей и привлечь инвестиции.
⚡️Заявки* принимаются до 13 октября. Участие бесплатное.
Ваша технология готова к масштабу в топ-банке? Ждем вас в Акселераторе!
*К участию приглашаются юридические лица и ИП (в том числе стартапы, университеты, R&D центры и технологические предприниматели).
#ГазпромбанкТех #Акселератор #Финтех #ИИ #стартапы #наука
Sakana AI предложили альтернатиный способ обучения нейросетей, вдохновленный тем, как обучается мозг
Любые современные нейросети, которыми мы пользуемся, обучаются при помощи обратного распространения ошибки или backpropagation. Алгоритм достаточно древний, придуман был еще в 70-е, но до сих пор применяется повсеместно.
Однако к нему есть несколько замечаний. Главным образом дело в структуре. Backprop работает строго в три последовательные фазы: сначала сигнал проходит вперед по сети, получается ответ, затем сигнал ошибки идет от выхода обратно к входу, и только потом обновляются веса. Биологически это крайне неправдоподобно: нет механизма, который заставлял бы наши нейроны ждать, пока откуда-то, через все остальные нейроны, придет сигнал ошибки и можно будет обновиться.
А SakanaAI, как известно, отличаются как раз тем, что вдохновляются идеями из нейронауки. И они предлагают смотреть в сторону подхода под названием "predictive coding" (это термин из работ по строению зрительной коры мозга).
Обычно, когда мы обучаем нейросеть, оптимизируются только ее веса. В PC же мы оптимизируем и веса, и сами активации каждого слоя: каждый слой пытается предсказать активность следующего слоя, и наверх идет только остаток, который он не смог объяснить. Идея в том, что система должна найти локальное равновесие между ошибкой предсказания снизу и сверху, и тогда ответы сети будут хорошо предсказывать целевую переменную.
Этот подход придумали не в SakanaAI, он довольно известный. Но, к сожалению, не рабочий: в глубоких сетях сигнал просто затухает, и ничего не учится, потому что сетка не понимает, куда двигать веса.
Sakana внесли всего одно небольшое дополнение – и метод стал хорошо обучать сети до 1000 слоев. Помогло старое советское... добавление множителя Лагранжа. Еще в 1988 году Лекун показал: если записать нейросеть как задачу с ограничениями (как делает PC) и присвоить каждому ограничению множитель Лагранжа λ, то в точке равновесия λ будет в точности равен backprop-градиенту. Это математический факт, который Sakana и догадались использовать.
То есть если в ванильном PC сигнал примерный, то в подходе Sakana – PC-ALM – он на линейных сетях точно сходится к backprop-градиенту, используя только связь с соседними слоями, без единого глобального прохода.
На разных бенчмарках PC-ALM почти не отстает от backprop (разница ~2 п.п. точности на MNIST). И да, выигрыша в точности или скорости обучения над backprop нет. Выигрывать он (возможно) будет только на нейроморфном железе когда-то в будущем. Зато мы, возможно, стали на шаг ближе к тому, чтобы воссоздать процесс обучения живого мозга. Ну и просто красиво ☕️
https://pub.sakana.ai/pc-alm/
Пост Трампа из Truth Social:
Единственный контроль или "ограничитель", который нужен ИИ — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, а у США именно такой есть, с запасом!
Администрация Трампа не позволяла ИИ-"деятелям" делать плохие или потенциально плохие вещи, как Дарио (Anthropic!), который сейчас притворяется "идеальным маленьким ангелом" – и мы будем продолжать это делать! У нас уже есть огромная УГОЛОВНАЯ и РЕГУЛЯТОРНАЯ власть над этими компаниями! Против ИИ и дата-центров ведется БОЛЬНОЙ заговор, и единственный, кто этому рад – это Китай. КТО ВЫИГРАЕТ В ИИ, ТОТ ВЫИГРАЕТ! Мы лидируем над Китаем и всеми остальными, и будем продолжать в том же духе. Теоретики заговора, изменники, предатели и утечники, БЕРЕГИТЕСЬ!