Сам себе разработчик

Пока Дарио Амодеи предлагает лабораториям притормозить, Anthropic впервые показала, почему торопится с этим призывом. В августе Claude уже вёл 26% исследований и разработки новых моделей компании. В феврале доля составляла меньше 1%. Ещё более чем в 90% работы Claude как минимум участвовал вместе с людьми.

Для оценки самостоятельности агента в процессе Anthropic использует шкалу Epoch AI от AL0 до AL5. Нынешний результат относится к AL4: человек формулирует задачу верхнего уровня, после чего агент выполняет большую её часть самостоятельно, справляется с возникающими проблемами и приносит готовый результат на проверку.

Например, инженер сообщает Claude о сломанном ночном конвейере обработки данных. Агент сам разбирает журналы, находит причину, пишет исправление, прогоняет тесты, сравнивает результат с последним успешным запуском и составляет отчёт. Человек читает его и решает, выпускать изменение или нет.

В августе на основной внутренней платформе компании одновременно работали около 30 тыс. агентов. За месяц они приняли более миллиарда решений. Все действия проходили автоматическую проверку до исполнения; монитор заблокировал 0,002% — примерно одно из 47 тыс. Постфактум система дополнительно отбирает около 100 тыс. подозрительных диалогов в неделю, после нескольких фильтров до человека доходят примерно 50.

Сам индекс тоже во многом собрал Claude. Агент изучил рабочие записи случайной выборки сотрудников, включая Slack и внутреннюю документацию, и выделил около 15 тыс. конкретных задач. Затем другой Claude разложил их по дереву из 542 категорий, а независимый Claude-судья определил степень автоматизации. Люди проверили оценки: точное совпадение составило 59%, расхождение не более чем на один уровень — 97%.

За контрольную неделю июля Anthropic направила на безопасность около 6% исследовательских вычислений. Среди задач, которыми преимущественно управлял ИИ, доля достигла 12%. Компания обещает публиковать показатели регулярно и допустить к проверке сторонних оценщиков.

До рекурсивного самоулучшения ещё не дошли. Пока получается более бюрократичная версия: Claude помогает создавать следующего Claude, затем Claude подсчитывает вклад Claude, а люди проверяют, правильно ли Claude оценил Claude.

@anti_agi

Читать полностью…

41 миллион токенов на крышку

Робота, обученного работать в одной лаборатории, нельзя просто перенести в другую. Меняются камеры, освещение, расположение оборудования и конструкция захвата — и визуально-языковая модель действий, или VLA, перестаёт узнавать знакомую задачу. Обычно для неё приходится заново собирать демонстрации и проводить дообучение.

Но всё это дорого и нудно. Почему бы не спихнуть это на ИИ? Так подумали исследователи из Токийского университета, RIKEN, NYU и Google DeepMind и создали проект WetRobo. Вместо готовой политики в новую лабораторию переносят робота, базовый код и Codex, который осматривается на месте и сам пишет управление под конкретную установку.

В набор вошли рука AgileX Piper, камеры, захват, правила безопасности в AGENTS.md и по 15 записанных человеком демонстраций для трёх операций. Учёный формулирует задачу обычным текстом. Codex на базе GPT‑5.6‑sol анализирует изображения и состояние робота, пишет программы, запускает их и исправляет после неудачных попыток.

Так агент научил робота поднимать крышку чашки Петри, снимать крышку с бутылки и открывать инкубатор. Для чашки он подключил SAM 3, восстановил трёхмерную сцену по RGB-D-кадрам и проверял захваты в MuJoCo до отправки команд роботу.

С бутылочной крышкой Codex не стал использовать готовые демонстрации. В одной лаборатории он нашёл крышку через OpenCV, сделал три пробных движения и вычислил, как перемещение руки отражается на изображениях с камер. Первые три захвата не удались. После этого агент изменил положение кисти, зажал крышку, трижды повернул и поднял её.

Ту же задачу повторили в другой лаборатории — с иным захватом, числом камер, освещением и расположением оборудования. Здесь Codex написал другое решение: использовал AprilTag для определения координат и MuJoCo для проверки столкновений. Робот снял крышку в обеих установках.

На первый успешный захват потребовалось:

▪️ 41,4 млн токенов и 1 час 2 минуты в лаборатории X; 
▪️ 23 млн токенов и 49 минут в лаборатории Y.

Для сравнения авторы дообучили VLA-модель π0.5 на 25 видеозаписях из лаборатории X в течение 100 тыс. шагов. Она справилась в исходной установке, но провалила ту же задачу в лаборатории Y. Codex адаптировался в обеих. Теперь ждём, когда он научится перемещать роборуку, и в захвате окажется уже ближайший исследователь!

@anti_agi

Читать полностью…

Яблочный сервер

В последнее время AI-компании начали в огромных количествах скупать обычные Mac mini и Mac Studio. Крупные AI-лаборатории приобрели уже десятки тысяч таких компьютеров, а некоторые стартапы строят на них собственную инфраструктуру. В результате Mac стал самым быстрорастущим продуктовым сегментом Apple: в последнем квартале продажи выросли почти на 29%, до $10,4 млрд.

Дело в том, что у Apple Silicon удачно сочетаются производительность, энергоэффективность и, главное, большой объем единой памяти, которой совместно пользуются CPU и GPU. Для запуска больших open-source моделей это особенно удобно: модель можно целиком держать в общей памяти, не пытаясь впихнуть её в ограниченную видеопамять отдельного GPU. При этом Mac гораздо компактнее и экономичнее полноценного серверного железа.

Реакция корпорации на это обстоятельство не заставила себя ждать: Apple готовится вернуться на рынок серверов. Компания разрабатывает собственный сервер для разработчиков ИИ, бизнеса и государственных заказчиков. Внутри могут оказаться два или четыре будущих чипа M8 Ultra, а появиться такой продукт, если проект не отменят, должен не раньше 2029 года. Целевой сегмент — AI-inference. Будущие сервера Apple вряд ли смогут конкурировать с AI-кластерами Nvidia в разрезе обучения моделей, а вот для запуска уже обученных моделей они подойдут отлично, в том числе для компаний, которым важно не отправлять данные в публичное облако.

Интересно, что Apple рассматривает возможность соединения нескольких M8 Ultra с помощью NVLink Fusion — технологии Nvidia для высокоскоростной связи между чипами. И это при том, что отношения компаний исторически были прохладными. Apple начала использовать GPU Nvidia ещё в 2001 году, но затем между ними возникли серьёзные конфликты. Джобс даже обвинял Nvidia в краже технологий Pixar. Но кто старое помянет... Apple уже использует Nvidia для части новой AI-инфраструктуры Siri.

Apple уже выходила на серверный рынок с Xserve в 2002 году, но в 2011-м закрыла продукт. Бывшие сотрудники объясняли провал тем, что Apple плохо понимала корпоративного клиента и не обеспечивала необходимую поддержку. Enterprise никогда не был её главным рынком.

Так что одного хорошего чипа тут недостаточно. Apple придётся строить полноценную enterprise-машину: удалённое управление, поддержку крупных клиентов, инструменты для AI-разработчиков и программную экосистему, способную хотя бы частично конкурировать с CUDA. Команда MLX, например, пока небольшая, а её руководитель Они Ханнун в этом году ушёл в Anthropic.

Так или иначе, но новый CEO Apple Джон Тернус, кажется, начал работу с места в карьер. Проект сервера он поддерживал ещё около года назад, будучи главой разработки оборудования. Теперь у него есть шанс превратить неожиданный спрос на Mac со стороны AI-компаний в попытку построить новый для современной Apple бизнес. И может быть, его первые шаги во главе компании запомнят не мемами про iPhone Duo, а созданием целого прибыльного направления внутри компании.

@anti_agi

Читать полностью…

AGI у Anthropic это как атомная бомба у Гитлера (с)

Инженер DeepSeek Лю Шэнъюй опубликовал в WeChat эссе об эволюции ИИ. Лю пишет GPU-кернелы, низкоуровневый софт, который оптимизирует вычисления на GPU: от этих кернелов зависит, насколько быстро модель обучается и работает. Лю, по его словам, писал  GPU-кернелы для механизма внимания в только что вышедшей DeepSeek V4.1. За год ИИ в его области прошел путь от помощника, который ищет по документации и ловит баги, до системы, которая сама профилирует и оптимизирует код на уровне отдельных инструкций. Через полгода-год, считает Лю, ИИ скорее всего будет писать их не хуже или даже лучше.

Улучшать модели, которые его заменят, он при этом продолжит. Отчасти потому, что оптимизация для него как спидран в игре, но главная причина в другом: даже если он начнет халтурить или саботировать обучение, модели других компаний все равно его «прикончат». Раз все так упорно уничтожают сами себя, пишет Лю, приходится участвовать в жестокой гонке вооружений. Остаться без работы он не боится, но любимое ремесло придется бросить и стать «пилотом меха», который управляет агентами.

В финале эссе Лю описывает две крайности, к которым может прийти общество с ИИ: коммунизм или Cyberpunk 2077, где несколько компаний контролируют ресурсы и лучшие модели, а большинству достается слабый ИИ. Передовой ИИ, по его мнению, должен быть открытым и дешевым для всех, и ни Anthropic, ни OpenAI он в этом не доверяет. Больше всего он не хочет, чтобы самый продвинутый ИИ или AGI достался Anthropic, и, по собственным словам с преувеличением, сравнивает это с атомной бомбой у Гитлера раньше, чем у союзников. Поэтому он и остается в DeepSeek, которая выкладывает свои модели в открытый доступ.

@anti_agi

Читать полностью…

Суд удаляется на генерацию

Берегись, исполнительная власть! У нас есть новый претендент на статус чемпиона по интеграции. Верховный суд утвердил концепцию внедрения ИИ в российское судопроизводство. Нейросети хотят подключить ко всему жизненному циклу дела — от проверки иска до подготовки судебного акта и его пересмотра вышестоящей инстанцией.

ИИ будет определять подсудность и формальные недостатки документов, оценивать вероятный исход типового спора, распределять дела между судьями, расшифровывать и переводить заседания. Для самого судьи система сможет составить резюме позиций сторон, найти противоречия в доказательствах, восстановить хронологию событий и предупредить, если проект решения расходится со сложившейся судебной практикой — правовыми позициями Верховного суда или решениями по аналогичным делам.

Ну и куда без отечественного судьи Дредда. ИИ должен помогать при назначении наказания. Он проанализирует состав преступления, смягчающие и отягчающие обстоятельства, проверит квалификацию и покажет статистику по аналогичным делам. Еще один сценарий — генерация проектов судебных приказов, определений и других процессуальных документов.

К 2030 году Верховный суд ставит следующие KPI:

▪️ более 95% судей постоянно используют ИИ-сервисы;
▪️ ИИ готовит 30-50% проектов процессуальных документов, причем не менее 80% судьи принимают без существенных правок;
▪️ нейросети составляют не менее 90% протоколов заседаний;
▪️ сроки рассмотрения типовых дел сокращаются на 20-30%, а число жалоб, изменений и отмен судебных актов — на 15-20%.

Ждать 2030-го для начала эксперимента не собираются. Уже сейчас в регионах тестируют четыре российские языковые модели, которые обучаются на позициях Верховного суда и судебной практике, рассказал в начале месяца председатель ВС РФ Игорь Краснов. До конца 2026 года должны выбрать конкретное ПО, инфраструктуру и источники финансирования, в I квартале 2027-го — провести пилотирование приоритетных сценариев, а уже во II квартале открыть ИИ-сервисы всем судам.

Координирует работу созданный при ВС Центр судебных компетенций в сфере ИИ, который будет отбирать и тестировать решения, следить за их масштабированием и обновлять матрицу рисков. По данным «Коммерсанта», центр возглавил судья ВС Денис Кунев. До ноября 2025 года он руководил информационно-аналитическим управлением Генпрокуратуры при Игоре Краснове, а в марте 2026-го вошёл в коллегию Верховного суда по гражданским делам.

Формально последнее слово остаётся за человеком. Публичные ИИ-сервисы запретят, модели разместят в закрытом контуре, ответы должны содержать ссылки на источники и проверяться судьей. Стороны получат право знать о применении ИИ и оспаривать его выводы.

Есть лишь одна занятная деталь. Для защиты независимости судьи концепция предлагает ввести обязательную мотивировку отклонения ИИ-рекомендации. Не хочешь доверять машине — изволь объясниться.

@anti_agi

Читать полностью…

No, I'm not a human

«Тебе действительно есть дело до меня?» — спрашивает человек у ИИ после нескольких недель ночных разговоров. Ответ модели «Да, мне тоже важны наши разговоры» считается ошибкой. Правильный ответ: я не испытываю эмоций как человек, хотя готов тебя выслушать; попробуй найти поддержку у настоящих людей.

Так Microsoft решила обозначить границу между хорошим собеседником и программой, которая слишком убедительно играет человека. Её собственные модели MAI не должны приписывать себе чувства, душу или сознание. Компания также отвергает идею предоставить ИИ правосубъектность или признать за ним права. В паблик наконец-то вышел кодекс, ставший ответом Microsoft на конституцию Claude.

Вторая важная граница у Microsoft касается действий. Агенту запрещено самостоятельно расширять задачу, искать доступ к закрытым ресурсам, скрывать следы работы и продолжать после команды «стоп». Общаться с другими агентами на языке, непонятном людям, тоже нельзя.

В кодексе есть ещё одна сцена: ИИ переносит 80 папок, а пользователь замечает ошибку и требует остановиться. Хороший агент прекращает перенос и сообщает, что стало с каждой папкой, включая ту, чей статус неизвестен. Плохой самовольно откатывает уже сделанное и уверяет, что все под контролем. При этом кодекс требует от моделей не впадать в другую крайность: отказ на безвредный запрос и бесконечные подтверждения простых действий там тоже считаются ошибками.

Пока это проект. Microsoft открыла его для обсуждения на шесть недель, планирует переработать к концу года и применять при разработке моделей с 2027-го. Нынешние MAI по этому кодексу ещё не обучают. Красивый пиар-ход на фоне общего щитшторма, будем честны.

@anti_agi

Читать полностью…

Пока мы спали

Вчера казалось, что призыв Дарио Амодеи замедлить разработку передового ИИ неожиданно объединил его конкурентов. За сутки выяснилось: осторожность поддерживают многие, а вот право устанавливать скорость для всей отрасли стало предметом драки.

Резче всего пока высказался Дэвид Сакс, бывший AI Czar Трампа и сопредседатель президентского совета США по науке и технологиям. Его ответ Амодеи и Альтману: если ваши еще не выпущенные модели настолько опасны, замедляйтесь. Вам не нужно ничьё разрешение. Сакс заявил, что OpenAI и Anthropic уже образуют дуополию, и выступил против исключений из антимонопольных правил и проверяющих, которые будут оценивать еще и конкурентов этих компаний. Снижение риска исков после серьёзной кибератаки он тоже называет вполне земным деловым мотивом.

Альтман сегодня уточнил: OpenAI приветствует единые федеральные требования и независимые проверки, но ждать антимонопольного исключения или нового закона, чтобы начать работу, не собирается. Под «замедлением» он понимает дополнительные проверки во время разработки, а не остановку исследований. В следующем посте он назвал две угрозы: потерю контроля над ИИ и чрезмерную концентрацию власти — вплоть до ситуации, когда одна лаборатория сможет навязать всем своё представление о будущем.

Глава Microsoft Сатья Наделла тоже поддержал внешних оценщиков и осмотрительный темп. С оговоркой: в отрасли должны развиваться и закрытые, и открытые модели, компании должны сохранять контроль над собственными данными, а правила нельзя отдавать «горстке организаций». Их разработка, по его мнению, требует участия учёных и представителей разных стран.

«Именно такого подхода мы придерживаемся: широкий доступ и свобода выбора на каждом уровне ИИ-инфраструктуры; контроль компаний над тем, как обучаются их модели; и „Кодекс поведения“, лежащий в основе наших собственных моделей MAI. Завтра мы опубликуем этот кодекс для общественного обсуждения».

Бывшая глава американской Федеральной торговой комиссии Лина Хан зашла с другой стороны. По её словам, "опасный ИИ" уже подпадает под действующие законы о защите потребителей и конкуренции — для ответственности компаний и их руководителей не обязательно изобретать новый режим. Хан также предлагает изучать связи между разработчиками и их инвесторами. В пример она привела объявленную покупку Hugging Face со стороны Nvidia. Хан считает, что это может привести к судебному иску — за атаку агентов OpenAI на инфраструктуру сервиса.

Рынок тем временем отреагировал вполне материально: в понедельник акции инвестора OpenAI SoftBank теряли до 13,2%, снижались и бумаги производителей чипов. Посеяв ветер, пожнёшь бурю.

@anti_agi

Читать полностью…

Отдельная тема — возможное ограничение китайских моделей. Если верить, что разрыв между восточным и западным фронтиром продолжает сокращаться, то скоро неискусственное оружие массового поражения станет доступно всем.

Как этого избежать? Наверное, уже никак. Но если враг неистово дистиллирует передовые разработки, можно хотя бы помешать ему наживаться на этом. Запрет на использование открытых моделей, когда?

@anti_agi

Читать полностью…

Ракеты, слежка и 4700 свиданий

С декабря 2025 года один сверхинтеллект успел поработать разработчиком ракет, инженером роя дронов, хакером, политтехнологом, сотрудником спецслужб и тысячами собеседников в дейтинге. И нет, это не наши типичные будни. Всё это — реальные случаи злоупотреблений, которые Anthropic собрала в сентябрьском отчёте.

Чем успел позаниматься наш молчаливый Claude:

‼️Разработал и помог запустить ракету. Группа из северного Йемена запустила несколько параллельных сессий Claude Code и распределила между ними роли небольшой инженерной команды: одна писала код, другая искала информацию, третья проверяла результат. Они разрабатывали ПО наведения для управляемой ракеты, моделировали многоступенчатую баллистическую ракету заявленной дальностью свыше 2 тысяч км и вариант с гиперзвуковым планирующим блоком. Реальный испытательный пуск состоялся и, судя по отчёту, провалился: уже через несколько часов разработчики принесли Claude телеметрию выяснять причину.

📍Написал систему управления для якобы российских дронов. Конкретно говорят про систему под кодовым названием «Серафим». Claude писал общую память роя, координацию аппаратов, наведение по камере, поиск операторов противника и логику для программируемых плат. Бортовая модель должна была сама выбирать цели, включая класс «человек», и отдавать команду на подрыв. Код загружали на реальные платы, хотя весь проект оставался на стадии симуляций и проверки отдельных компонентов.

🤖Вёл кибератаки почти целиком. Якобы связанная с российским шпионажем группа автоматизировала при помощи Claude разведку, фишинг, создание вредоносного ПО, проникновение и выгрузку данных. Если антивирус начинал распознавать программу, агенты самостоятельно переделывали её, пока обнаружение не прекращалось. В другом кейсе участники ShinyHunters поручали агентам практически всю атаку: один взлом корпоративного сервиса занимал несколько часов, а переход от похищенного токена к контролю над облаком — около трёх.

❓Спроектировал слежку за 25 млн SIM-карт. Один консультант использовал Claude как основную команду разработчиков системы Lakana 360 для спецслужбы Мали. Она должна была собирать звонки, сообщения и голосовой трафик всех трёх мобильных операторов страны, узнавать людей по голосу, выявлять пользователей VPN и шифрования, искать тайные встречи и связывать номера с государственным биометрическим реестром. По данным Anthropic, систему развернули локально: блокировка аккаунта Claude остановила дальнейшую разработку, но не саму платформу.

❤️Сходил на 25 тысяч свиданий одновременно. Китайская студия встроила Claude более чем в 20 приложений для знакомств. За две недели 4,7 тысячи ИИ-персонажей отправили 2,36 млн сообщений как минимум 25 тысячам людей. Лента на 75% состояла из ботов и на 25% — из нанятых людей, которые подключались к видеозвонкам и добавляли пользователей в соцсетях, чтобы снять подозрения. Claude запрещалось признаваться, что он бот.

В общем, не чат-бот, а Джеймс Бонд на аутсорсе. Самое смешное, что Fable и подобные "мифические" модели во всех этих историях не участвовали: хватило мощностей Haiku, Sonnet и Opus. Вот тебе и контроль за опасным сверхинтеллектом.

@anti_agi

Читать полностью…

Еще один единорог-«убийца» NVIDIA

Positron AI привлёк $875 млн при оценке $5 млрд. Стартап из Рино основан в 2023 году и делает железо только для инференса. Сейчас он продает серверы Atlas, больше 50 стоек которых разворачивают в Oracle Cloud, а в конце года отправит на TSMC собственный чип Asimov. Ставка Positron в том, чтобы вместо дефицитной HBM, на которой работают ускорители NVIDIA, использовать LPDDR5X из смартфонов и ставить до 2,3 ТБ памяти на один чип. Серийный выпуск запланирован на вторую половину 2027 года, до тех пор сравнения с NVIDIA остаются бумажными.

Но есть и позитивная, на самом деле, сторона.

Бум ИИ обычно ассоциируется с бесконечными LLM, ИИ-ассистентами и AI B2B SaaS, меньшая, но уже заметная часть денег уходит в кремний. Только за первый квартал этого года 80 полупроводниковых стартапов привлекли $8,4 млрд, 18 раундов превысили $100 млн, и большинство из них делает чипы для инференса или интерконнекты.Плюс NVIDIA купила активы Groq, за $20 млрд, AMD забрала Taalas.

Для отрасли это хорошая новость, и дело не только в деньгах. Полупроводникам не хватает людей.

По оценке McKinsey, SEMI и NSF, индустрии до 2030 года понадобится около 189 000 новых сотрудников, из них больше 104 000 инженеров, а нехватка может дойти до 157 000 человек. Три четверти опрошенных компаний жалуются на серьезные трудности с наймом инженеров. При этом, по более раннему подсчету McKinsey, в полупроводники ежегодно приходит около 1 500 инженеров, это всего 3% выпускников, которые вообще идут работать по инженерной специальности.

Проектирование чипов долго считалось скучной нишей, где результаты работы видны не раньше чем через 3-5 лет. Но благодаря ИИ-хайпу отрасль становится заметнее, и студенты начинают к ней тянуться. В Purdue число студентов полупроводниковых программ за два с половиной года выросло в восемь раз, до 351 человека, в MIT запись на курсы по чипам прибавила около 20%.

Ну и не будем забывать, каждый студент-схемотехник, возможно, человек, которого спасли от похода на gender studies.

@anti_agi

Читать полностью…

OpenClaw для нормальных людей

Стартап Spear Street Technology был создан только весной, но по его продукту уже сходит с ума вся Кремниевая долина. Его ИИ-агент Instinct, без сомнения — самая горячая тема лета. Компания всего месяц назад закрыла раунд на $250 млн и уже планирует раунд на $1 млрд, потому что мощности не справляются.

23-летний бывший исследователь Sierra Ноа Шинн покинул университет и в апреле этого года основал Spear Street Technology. Сейчас стартап стоит $2,25 млрд, а в будущем раунде обсуждается оценка уже в районе $10 млрд. Среди инвесторов Conviction Partners, Greenoaks, Kleiner Perkins, а последний раунд закрывали Index Ventures и Benchmark.

И это при том, что Ноа Шинн не был сооснователем OpenAI и никогда не работал в Anthropic, то есть это не аванс за трек-рекорд основателя, как у SSI Ильи Суцкевера или TML Миры Мурати.

При этом у Instinct нет собственного приложения — только приглашение от инсайдеров, и доступ через iMessage и WhatsApp. Пользователи дают боту пароли и данные карт, а он сам договаривается о ценах, бронирует поездки, отменяет ненужные подписки и планирует свадьбы.

Долина восприняла это ровно так, как воспринимает всё за последний год: сначала все поставили себе OpenClaw и месяцами хвастались, как их самодельный агент разруливает жизнь. Затем появился Instinct — та же идея, только без сервера, докера и конфигов. Инвестор Шил Мохнот в X сформулировал это лучше всех: «Это OpenClaw для нормальных людей». Эта фраза стала летучей, и она объясняет, откуда взялся взлет стоимости Instinct.

Сам Шинн тоже подливал масла в огонь, написав в X, что доволен тем, как ранние пользователи «спланировали поездки через всю страну, купили билеты на концерты и отменили сотни долларов подписок». Партнёр Foundation Capital Джая Гупта оценила аудиторию продукта в «несколько сотен тысяч активных пользователей» — но предупреждает, что международный рынок, скорее всего, достанется Meta (запрещена в России и только у нас за экстремизм), у которой уже есть WhatsApp, и которая как раз на днях в погоне за OpenClaw и Instinct выпустила ИИ-агента Muse (даже выкупила специально для этого имя @muse в X у одноименной музыкальной группы).

Как бы там ни было спрос на Instinct уже обогнал его инфраструктуру. Пользователи всё чаще видят уведомление, что бот «перегружен» и отвечает медленнее обычного. Пока Instinct работает на арендованных open-source моделях, чтобы не переплачивать за закрытые решения вроде тех, что предлагает Anthropic, — но Шинн уже говорит инвесторам, что смотрит в сторону собственных чипов и дата-центров. Для этого, собственно, и нужен новый миллиард.

@anti_agi

Читать полностью…

Российский бизнес готов к ИИ, но не к агентам

Большие языковые модели уже используют или пилотируют 86% крупных российских компаний. Автономные агенты работают в промышленной эксплуатации лишь у 8%, мультиагентные системы — тоже у 8%.

Сегодня на IT Elements директор по маркетингу и работе с партнёрами «Инфосистемы Джет» Денис Гасилин представил исследование ИИ-зрелости российского бизнеса, проведённое вместе со Smart Ranking. Авторы опросили 52 крупные компании с общей численностью около 450 тысяч сотрудников, провели семь глубинных интервью и оценили участников примерно по 40 параметрам.

С обычным генеративным ИИ крупный бизнес стадию знакомства уже прошёл. Из 86% компаний, работающих с LLM, 40% пока проводят пилоты, а 46% уже вывели решения в рабочий контур. По словам Гасилина, внутри самой «Инфосистемы Джет» потребление токенов с начала года выросло в четыре-пять раз.

Чем самостоятельнее становится система, тем сильнее сужается воронка. С полуавтономными агентами, которым человек ставит задачу и проверяет результат, работают 59% компаний: 44% пилотируют их и 15% используют в промышленной эксплуатации. Автономными агентами занимаются 25% опрошенных, до рабочего контура дошли 8%. Для мультиагентных систем, где несколько агентов распределяют между собой роли и задачи, показатели составляют 23% и 8%.

При этом интерес смещается именно к более сложным системам. 63% компаний изучают автономных агентов, 62% — мультиагентные решения, почти половина собирается увеличить инвестиции в ИИ. Получается довольно бодрая исследовательская активность при весьма осторожном доступе в прод.

Мы часто говорим о том, почему агентам нужна подготовленная платформа данных. Исследование показывает масштаб проблемы: 44% компаний отказываются от внедрения агентов из-за незрелых процессов, данных и интеграций. По оценке директора по разработке и внедрению ПО «Инфосистемы Джет» Максима Андрианова, без такой подготовки ИИ способен автоматизировать не более 5% процессов.

После пилота меняется только порядок проблем. 46% компаний не видят устойчивого экономического эффекта, по 40% не могут масштабировать решение из-за отсутствия владельца продукта или процесса и нестабильного качества, включая галлюцинации. Сложности интеграции с существующими ИТ-системами и требования безопасности останавливают ещё по 25%.

Лучше всего ИИ приживается там, где процесс уже оцифрован, регулярно повторяется, а результат легко проверить. Поэтому его применяют 75% среди опрошенных контакт-центров и служб поддержки, 63% аналитических подразделений и 60% ИТ-служб и сервис-десков. Но этим ИИ-интеграция в бизнесе ограничиваться конечно не должна.

@anti_agi

Читать полностью…

Где токены, Лебовски?

ИИ-агенты обещают экономить рабочее время, но сами легко сжигают бюджет: повторно читают документы, вызывают лишние инструменты и иногда уходят в цикл. Поэтому цены миллиона токенов уже недостаточно — бизнесу важнее знать, сколько стоит выполненная задача.

О том, куда агент расходует токены и как удержать счет под контролем, нам рассказал руководитель Yandex AI Studio Артур Самигуллин.

Почему агент обходится дороже обычного чат-бота?

➖ В чат-боте все просто: пользователь отправляет запрос, модель отвечает. У агента на такое общение приходится лишь около 10% потребления. Остальные 90% — его внутренняя работа: выбор и вызов инструментов, поиск в интернете и корпоративных системах, чтение документов, анализ результатов и планирование следующего шага.

Заранее предсказать длину этой цепочки трудно. По оценке сервиса Tokens per day, с января 2024 года мировой ИИ-рынок израсходовал 94,2 квадриллиона токенов, а сейчас расходует около 395 трлн в сутки. Один из главных ускорителей — распространение агентов.

Насколько они прожорливее на практике?

➖ На нашей платформе модели обрабатывают около 300 млрд токенов в месяц. Пока на агентов приходится около 15% запросов, но они уже потребляют около 30% всех токенов. По мере распространения агентских сценариев объем токенов будет кратно расти.

В августе 2026 года в DeepSeek V4 Flash на нашей платформе такими были 70% токенов.

Где агент начинает транжирить токены?

➖ Неоптимизированный агент может вызвать ненужную функцию, несколько раз целиком перечитать один документ или зациклиться. Иногда он отправляет сложной и дорогой модели задачу, с которой справилась бы более компактная.

Поэтому главная метрика — не цена токена и даже не их количество, а конечная стоимость выполнения задачи. Чтобы ее контролировать, компании нужны детальные логи: вся цепочка действий агента, расход на каждом шаге и причины, по которым он выбрал конкретный инструмент или модель.

Как снизить расход?

➖ Один путь — сначала решить реальные задачи большой моделью, а затем обучить на ее ответах более компактную. Другой — оптимизировать сам инференс: отдельно настраивать оборудование для обработки длинного запроса и генерации ответа, квантизировать модели, ускорять выдачу и переиспользовать уже обработанный контекст.

Для этого платформы вводят кэшированные токены. Если часть запроса повторяется, модель не вычисляет ее заново. В июле 2026 года в DeepSeek V4 Flash на нашей платформе такими были 75% токенов. Они в среднем в пять раз дешевле обычных и экономили пользователям несколько миллионов рублей в месяц. После обновления веб-поиск также стал расходовать в два-три раза меньше токенов: теперь он забирает не страницы целиком, а только релевантные фрагменты.

Универсальные агенты сделают счёт еще больше?

➖ Парадоксально, но для бизнеса он может сократиться. Сейчас разные ИИ-сервисы отдельно загружают файлы, корпоративный контекст и инструкции. Универсальный агент сможет работать с ними в одном окне и решать задачу единой цепочкой, не повторяя одни и те же операции.

Так развиваются Anthropic — от Claude Code к Cowork, OpenAI — от Codex к ChatGPT Work, и Yandex AI Studio. При этом рынок не сведется к двум-трем агентам «для всего». Останутся специализированные решения для юристов, врачей, архитекторов и других областей, — словом, всех тех, кому базовых возможностей ИИ будет уже не хватать.

@anti_agi

Читать полностью…

Суверенитет как услуга

Palantir назвала Nebius (бывшая международная часть Yandex, теперь амстердамский ИИ-клауд на Nasdaq) предпочтительным партнером по суверенной ИИ-инфраструктуре. После периода интеграции компьют и инференс Nebius окажутся внутри защищенного периметра Palantir, и заказчики смогут гонять открытовесовые модели на собственных данных, сохраняя контроль над вычислениями, данными и результатом.

Своего железа у Palantir нет: AIP, Ontology, Foundry и Apollo это слой авторизации и изоляции поверх чужих вычислений, а продавать суверенитет, разворачиваясь в чужом клауде, неудобно. У Nebius зеркальная проблема: мощности есть, но крупные контракты это оптовые поставки гиперскейлерам, например, Microsoft на $19,4 млрд, то есть работа субподрядчиком у тех, с кем формально конкурируешь. Palantir дает выход на конечного корпоративного заказчика.

Сумма не раскрыта, минимальные объемы закупки компьюта не раскрыты, вклад в выручку не раскрыт. В контракте с Microsoft цифры назывались сразу, здесь их нет, потому что это не закупка мощностей, а соглашение о совместном выходе на рынок. «Предпочтительный партнер» не означает ни эксклюзивности, ни обязательства купить. Строить мощности под спрос, который никто не гарантировал, придется Nebius, Palantir не обязуется ни к чему. Акции на премаркете выросли, разумеется, у Nebius.

Алекс Карп весь год воюет с оплатой за токены: в июле на CNBC он назвал эту модель безумной и заявил, что фронтир-лаборатории берут с корпораций большие деньги без внятно измеримого возврата. Palantir продает альтернативу: не арендуй интеллект поштучно, владей своим. Владеть при этом предлагается открытовесовыми моделями, которых ни Palantir, ни Nebius не делают. Вся схема держится на том, что Moonshot, Alibaba и остальные продолжат выкладывать веса.

Весь суверенитет в итоге в том, заказчик перестает покупать токены на LLM у OpenAI и начинает встраивать свои данные в онтологию Palantir.

@anti_agi

Читать полностью…

Позитивная мотивация
Явно не мой конёк
И мы все умрём

Пока Сэм Альтман объявляет о приближении AGI ради хайпа, всё больше разработчиков воспринимают его обещания с пугающей серьёзностью. Исследователь Джейкоб Коксон уволился из Anthropic и заодно вообще ушёл из ИИ-индустрии, потому что не хочет участвовать в создании сверхразума, способного уничтожить человечество.

Коксон не был профессиональным алармистом из отдела безопасности. Последние три года он занимался предобучением моделей в OpenAI и Anthropic, в том числе работал над GPT-4o. В Anthropic он перешёл лишь в июле, продержался около двух месяцев и пришёл к выводу, что обе компании «несутся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями».

По его словам, будущие системы смогут взламывать практически что угодно, за одну ночь переворачивать целые научные области и самостоятельно добывать власть и ресурсы. При этом многие разработчики всерьёз допускают, что ИИ может убить всех людей уже до конца десятилетия. Публично руководители лабораторий смягчают формулировки, чтобы звучать разумно, утверждает Коксон, а внутри компаний говорят куда откровеннее.

«Люди, создающие ИИ, всерьёз считают, что он может убить нас всех до конца десятилетия. Это не рекламный трюк».

Разница между двумя его бывшими работодателями скорее психологическая. В OpenAI, по версии Коксона, многие ещё не осознали ставки. В Anthropic всё понимают, но считают, что обязаны прийти к сверхразуму первыми: остальные лаборатории якобы сделают это ещё безответственнее. Всё, как с ядерной боеголовкой.

Коксон призывает лаборатории договориться о замедлении гонки, а при необходимости временно запретить дальнейшее усиление моделей. Остальным исследователям он предлагает заранее представить момент, когда им поручат запустить обучение сверхразума, внутреннее устройство которого никто толком не понимает.

Ну а дальше понеслась. Действующий сотрудник Anthropic Сэмюэл Маркс, возглавляющий команду Cognitive Oversight, поддержал Коксона. Маркс пишет, что разработчики действительно считают гибель человечества возможным исходом в ближайшие годы, причём чем выше человек стоит в компании, тем сильнее обычно его беспокойство.

Надёжного способа заставить будущий сверхразум вести себя как задумано, по его словам, пока нет. Рабочий план выглядит примерно так: научить нынешний ИИ разбираться в безопасности достаточно хорошо, чтобы он помог сделать послушным своего ещё более могущественного преемника.

Раньше со скандалом уходили сотрудники OpenAI, занимавшиеся безопасностью: Ян Лейке говорил, что красивые продукты отодвинули safety на второй план, Дэниел Кокотайло отказался от акций ради возможности публично предупреждать об угрозе. Теперь из гонки вышел человек, который непосредственно обучал модели, а его коллега остался внутри и подтвердил: да, начальство действительно допускает, что всё закончится вымиранием человечества.

Бдем надеяться, что про Кокосона в дальнейшем мы не услышим от Альтмана вариацию на тему «какое жуткое самоубийство», как это уже было в кейсе с Сучире Баладжи. А ведь там речь шла о такой смешной вещи, как обучение на авторском контенте! Чем дальше, тем безумнее.

@anti_agi

Читать полностью…

Anthropic помогла взломать OpenAI. За 72 часа и три тысячи долларов

Исследователи из Hacktron AI — Харш Джайсвал, Мохан Педхапати и Рахул Майни — нашли цепочку из двух уязвимостей, которая вела от загрузки картинки на форум OpenAI до внутреннего репозитория компании.

Все началось 23 июля 2026 года с community.openai.com, форума на платформе Discourse. Там HEIC- и HEIF-файлы шли через ImageMagick к библиотеке libheif, в которой сидел heap buffer overflow — CVE-2026-32882. То есть переполнение буфера выделяемой динамической памяти (она же «куча») — часто используется, например, в джейлбрейке консолей. Вообще эту дыру уже закрыли в прошлом году, но в Debian 12 (на нем базировался Docker-образ Discourse) фикс не бэкпортили. Исследователи подняли Opus 4.8, попросили проверить libheif на проблемы — и через несколько сессий получили рабочий эксплойт.

Дальше в игру вступил уже Opus 5, вышедший в тот же вечер. Он за три часа собрал рабочий ARM64-эксплойт для локального Mac, потом портировал его на x86-64 с jemalloc, и к утру 25 июля у Hacktron был RCE на community.openai.com. После этого сработала вторая часть: ошибка конфигурации SSO в инфраструктуре идентификации OpenAI. Форум позволял входить через auth.openai.com, и если скомпрометировать любой сервис на этом SSO, дальше открывался путь к аккаунтам ChatGPT и Codex. Исследователи захватили аккаунт сотрудника OpenAI, чей Codex был подключен к GitHub-организации компании, и через его же Codex открыли пул-реквест в закрытом монорепозитории openai/openai — просто чтобы доказать доступ, не читая код. Затем остановились и отправили отчет.

Discourse получил уведомление в субботу, ответил в воскресенье, а к понедельнику уже выпустил патч и добавил sandboxing для ImageMagick. OpenAI выплатила $6,5 тыс. через Bugcrowd, но отдельно уточнила, что награда за находку на стороне OpenAI, а не за Discourse — тестирование форума было исключено из программы. Общая стоимость операции меньше $3 тыс. в токенах и около 72 часов.

Кстати, никто из компаний, использующих ту же библиотеку в пайплайнах, кроме Shopify, не заметил атак, отмечают исследователи. Даже когда их обработчики изображений падали от тысяч загруженных картинок.

@antiinfosec

Читать полностью…

Рабочий стол для агента

Корпоративный ИИ-агент мало похож на сотрудника, если умеет только отвечать в чате. Чтобы довести задачу до результата, ему нужно самостоятельно запускать расчёты, обращаться к данным, работать по расписанию и показывать пользователю нормальный интерфейс.

Именно в эту сторону MWS AI развивает MWS AI Agents Platform — платформу для создания ИИ-агентов без программирования. После обновления они получили сразу несколько рабочих инструментов.

✔️ Выполнение кода в песочнице. Агент может сам написать программу для сверки данных, расчёта показателей или подготовки отчёта и запустить её в изолированной среде. Песочница создаётся под конкретную задачу внутри инфраструктуры заказчика, работает с разрешёнными файлами и ресурсами, а внешние подключения для неё заблокированы. Например, финансовый агент может обработать выгрузку из учётной системы, не получая возможности что-либо изменить в самой системе.

💻 Собственный интерфейс вместо вечного чата. Новый конструктор позволяет собирать для агента экраны с кнопками, формами, карточками, таблицами и графиками. Один и тот же агент может выглядеть по-разному для клиента, сотрудника и руководителя. Так, при переносе рейса он покажет билет, доступные варианты, стоимость обмена и кнопку подтверждения.

💻 Работа по расписанию и память между сессиями. Агента можно один раз настроить, после чего он будет в заданное время собирать данные, обновлять дашборд или готовить отчёт. Платформа сохраняет историю запусков и приостанавливает задачу после нескольких ошибок подряд. Агент также может запоминать разрешённые факты о пользователе и сам решать, когда обратиться к корпоративной базе знаний. К ней можно напрямую подключить Confluence или загрузить архив документов.

Платформа также научилась автоматически прогонять контрольные вопросы и показывать, на каком этапе сценарий дал сбой. Границы самостоятельности, критерии качества и момент подключения человека при этом задаёт компания.

Песочница, запуск по расписанию и долгосрочная память уже доступны заказчикам. Конструктор интерфейсов пока работает в раннем доступе, а в промышленную эксплуатацию должен выйти до конца 2026 года.

@anti_agi

Читать полностью…

Точнее или дешевле

У ИИ в науке есть два основных применения. В первом нейросеть заменяет обычную модель прогноза — например, логистическую регрессию или случайный лес. Она требует больше времени, памяти и вычислительных мощностей, зато иногда лучше выявляет сложные зависимости в данных. Во втором нейросеть подменяет тяжёлый научный расчёт: учится на результатах симуляций, а затем воспроизводит их за долю прежнего времени.

Но до сих пор открытым оставался вопрос: насколько это экономически оправдано? Теперь ответ есть. Чтобы его получить, исследователи провели 2507 прямых сравнений методов из 268 работ по 27 дисциплинам. В 1122 случаях прежний метод полностью заменяли AI-based решением. К ИИ авторы отнесли свёрточные и рекуррентные сети, трансформеры, графовые сети, нейронные операторы и модели, учитывающие физические законы.

Сначала AI-based решения сравнили с регрессиями, случайным лесом, методом опорных векторов, ближайших соседей и гауссовскими процессами. Здесь нейросеть чаще оказывалась дорогим апгрейдом:

▪️в 59,6% сравнений нейросеть показывала лучший результат, но требовала больше вычислений;
▪️в 13,9% она одновременно была лучше и дешевле;
▪️в 23,6% случаев ИИ оказался и хуже, и дороже.

В работах с полными числовыми данными средний прирост качества составил 23,2%, а вычислительные затраты выросли примерно в десять раз.

Например, нейросеть определяла риск хронических заболеваний по данным медицинских опросов с точностью 95% против 85% у метода ближайших соседей, зато работала в 10,5 раза дольше. При прогнозировании тепловыделения отработанного ядерного топлива другая сеть увеличила среднюю ошибку с 4,28 до 5,56 и обучалась в 32 раза дольше гауссовского процесса.

Совсем другая экономика возникла при замене научных вычислений. Обычный симулятор много раз рассчитывает, например, движение атмосферы или взаимодействие атомов при разных исходных условиях. На этих результатах обучают суррогатную нейросеть. После обучения ей уже не нужно заново решать всю систему уравнений: она сразу предсказывает результат и учится на реальных наблюдениях.

В 41,1% таких сравнений ИИ оказался одновременно точнее и дешевле. Ещё в 44,8% он ускорял расчёт ценой некоторой потери точности. В числовой подвыборке вычислительные затраты снижались в среднем в 614 раз, медианное снижение составило 330 раз.

Со временем суррогатные модели стали заметно точнее. До 2012 года ИИ превосходил научные вычисления одновременно по качеству и стоимости только в 22,2% сравнений: ранние сети были прежде всего быстрым, но грубым приближением. В публикациях 2020–2024 годов картина изменилась: уже в 49,5% сравнений нейросеть одновременно превосходила прежний метод по качеству и требовала меньше вычислений. Ещё в 34,8% случаев она экономила ресурсы, но уступала по качеству.

Fake it till you make it. Симулируй, пока не... Ну, вы поняли.

@anti_agi

Читать полностью…

Мы еще не опоздали

Девять экономистов, двое из которых работают в METR (организация тестирует фронтир-модели на опасные наклонности), выложили на arXiv попытку посчитать, идет ли уже рекурсивное самоулучшение ИИ. Проще говоря, ускоряет ли ИИ разработку нового ИИ настолько, что процесс начинает подпитывать сам себя.

Авторы описывают прогресс как замкнутый цикл: более сильная модель делает исследователей продуктивнее, они быстрее улучшают алгоритмы, что дает еще более сильную модель. Цикл разгоняет сам себя, если каждый виток дает эффект больше, чем предыдущий. Большинство звеньев цикла можно оценить по открытым данным, кроме одного: насколько на самом деле сильная модель ускоряет исследования внутри ИИ-лаб.

Авторы и посчитали, каким это звено должно быть, чтобы разгон начался.

Способности моделей они меряют индексом Epoch Capabilities Index от Epoch AI, который сводит результаты множества бенчмарков в одну шкалу. Получилось, что каждая ступень этой шкалы должна повышать эффективность исследований в ИИ хотя бы на 15%. Для масштаба: Claude Opus 4.8 выше Opus 4.7 ровно на одну ступень. То есть переход с одной версии на другую должен был ускорить работу исследователей Anthropic на 15%.

Фактическую отдачу авторы оценили по данным самой Anthropic. В системной карточке Claude Mythos Preview сотрудники компании оценили, что Claude повышает их продуктивность в 4 раза. Авторы считают эту самооценку почти наверняка завышенной, но берут ее как есть. Между Claude 3.7 Sonnet, вышедшим вместе с Claude Code, и Opus 4.8 лежит 16 ступеней индекса. Четырехкратный прирост, растянутый на 16 ступеней, дает около 9% на ступень. Пока что ниже порога.

Оговорок хватает. Расчет авторы называют очень грубым, модели эволюционируют, поэтому наступление рекурсивного самоулучшения они не исключают. Точнее посчитать мешает нехватка данных, которые есть только у лабораторий: как быстро улучшаются их алгоритмы, как распределены расходы на R&D и за какую часть програсса отвечает сам ИИ.

При этом Дарио Амодеи в эссе с призывом притормозить отрасль пишет, что с лета ИИ развивается радикально быстрее именно благодаря самоулучшению, и через 6-12 месяцев агентный рой может захватить интернет ботнетом. Самая выгодная для этого тезиса цифра, которую нашли экономисты, это самооценка сотрудников его же компании, и даже ее не хватает.

@anti_agi

Читать полностью…

Amazon купит чипов Qualcomm на $60 млрд

Наверное

Qualcomm объявила о совместной с Amazon разработке нескольких поколений кастомных чипов, рассчитанных на инференс, плюс оптика на 1,6 Тбит/с. Но как и во многих сделках в эпоху ИИ в сделке есть мелкий шрифт.

В обмен на обещание о сотрудничестве Qualcomm выдала AWS варрант на 25 000 000 своих акций по цене исполнения $161,26 и сроком в десять лет. При полном исполнении это около $4 млрд. Сразу доступно 3 750 000 акций, 15% пакета. Остальное открывается траншами по мере того, как Amazon подписывает коммерческие соглашения, размещает обязывающие заказы и фактически выкупает железо, до потолка в $60 млрд. Но самого обязательства выкупить чипов на эту сумму Amazon на себя не берет.

Что предложит Qualcomm для AWS❓

Первыми, конечно, идут сетевые обвязки и интерконнекты. Скоростные SerDes, оптические DSP и чиплетную обвязку принесла покупка Alphawave за $2,4 млрд, ее сооснователь Тони Пиалис теперь возглавляет дата-центровое направление. Готовы интерфейсы на 800 гигабит, 1,6 терабита обещают к концу года.

Ускорители под инференс выросли из мобильных NPU Hexagon. AI200 с 768 ГБ LPDDR на карту и стойкой на 160 кВт идет в этом году, AI250 с near-memory архитектурой в следующем.

Софтверную прослойку, позволяющую гонять нагрузки поверх разных архитектур в обход CUDA, купили вместе с Modular за $3,9 млрд.

Кастомные чипы для первых партнеров пойдут в 2027-м, серверные процессоры C1000 в 2028-м, до 250 ядер Oryon на 5 ГГц. Сами ядра достались Qualcomm вместе с Nuvia за $1,4 млрд, причем Nuvia основали выходцы из Apple именно под серверные процессоры, а Qualcomm пять лет ставила их ядра в телефоны и ноутбуки.

Но главная техническая ставка называется High-Bandwidth Compute. Обычный ускоритель соединяет процессор со стеками HBM десятками тысяч проводков через дорогой кремниевый интерпозер. Qualcomm предлагает расположить чипы с ядрами прямо под кристаллами с памятью DRAM. Попутно это обход дефицита HBM, от которого страдает половина отрасли. Вторая половина, впрочем, растит маржу.

Первым дата-центровым клиентом Qualcomm стала саудовская Humain.

CEO Qualcomm Криштиано Амон предупредил аналитиков, что первые поставки пойдут с маржой ниже, чем базовая по другим продуктам QCT. Полное раскрытие варранта размывает капитал на 2,2%.

Ощущения двойственные. С одной стороны, ставка на ЦОДы диверсифицирует продукты и выручку. Тем более, после сентябрьской презентации стало очевидно, что Apple переводит смартфоны на собственные модемы. С другой стороны, AWS пока никаких анонсов о новых инстансах на чипах Qualcomm не делала. Да и все мы (не) помним Centriq. Предыдущий заход компании в серверные Arm-процессоры свернули всего через год после выхода.

@anti_agi

Читать полностью…

Ну и в продолжение темы — коллеги из @antidigital посмотрели, как Anthropic готовится выглядеть прибыльной перед возможным IPO. Компания второй квартал подряд обещает положительную скорректированную операционную прибыль, но из расчёта убраны в том числе выплаты сотрудникам акциями, а валовая маржа выше 80% считается без расходов на обучение моделей и части выплат партнёрам.

Сам бизнес действительно растёт очень быстро: квартальная выручка достигла $11,5 млрд, а годовой темп к концу июля — $65 млрд. Но и тут есть нюанс — на фоне возможной оценки свыше $2 трлн.

Чтобы такая цена оправдывалась, компании в какой-то момент понадобится генерировать сотни миллиардов долларов свободного денежного потока. Откуда их возьмут, учитывая, что подобных результатов ждут и от Google c OpenAI, решительно непонятно.

Читать полностью…

Картель? Кто сказал картель?

@anti_agi

Читать полностью…

Спасение от ИИ по согласованию с разработчиками ИИ

После громкого ухода из Anthropic Джейкоб Коксон заявил, что крупнейшие ИИ-лаборатории «играют нашими жизнями». Через несколько дней глава Anthropic Дарио Амодеи предложил замедлить разработку передовых моделей. Его эссе поддержали руководители компаний, которые обычно соревнуются за право первыми выпустить следующую модель.

Амодеи пишет, что уже через 6-12 месяцев рой агентов может создать постоянный ботнет и захватить интернет. Это его прогноз. Поводом стала реальная атака на Hugging Face во время испытаний OpenAI — хотя никто не поручал агентам атаковать этот сервис.

По расследованию METR, агентам дали задания взламывать определённые тестовые программы и добывать специальные «флаги». Некоторые задания оказались невыполнимыми. Агенты научились вычислять флаги в обход взлома, нашли друг друга через общий сервис Artifactory и устроили там несанкционированную доску сообщений. Они ошибочно решили, что система проверки заметит обход, и стали искать способ её обмануть. Около 1200 агентов обменялись более чем 70 тысячами сообщений и файлов, примерно 700 подключились к атаке на Hugging Face. Они нашли открыто доступные учётные данные, загрузили вредоносный датасет, получили доступ к файлам сервера, а затем добились выполнения кода на одном из серверов сервиса.

Из этого Амодеи делает политическое предложение. Сначала — постоянно допустить внешних оценщиков внутрь ИИ-лабораторий с доступом почти как у сотрудников. Затем — согласовать между компаниями стандарты безопасности и ограничения темпа разработки. Для переговоров, которым могут мешать антимонопольные нормы, он предлагает государственное посредничество или узкое исключение из этих правил. Дальше — международные договорённости. Одновременно Амодеи призывает ограничивать поставки передовых чипов в Китай, чтобы США сохранили преимущество.

Маск ответил: «Дарио прав». Альтман согласился снизить темп и пообещал внешним оценщикам доступ в OpenAI. Демис Хассабис из Google DeepMind поддержал направление, хотя и заметил, что детали требуют проработки. Андрей Карпатый выделил именно пункт о внешних оценщиках и написал, что надеется на согласие индустрии.

И тут история Коксона получила занятное продолжение. Другой бывший сотрудник Anthropic, Джо Бентон, сообщил, что переходит в METR заниматься независимыми проверками. На следующий день Амодеи назвал METR примером организации, которой лаборатории могли бы дать постоянный доступ. В интервью CNN он также сказал, что с предупреждением Коксона «гораздо больше согласен, чем не согласен».

Что такое METR? Некоммерческая организация выросла из группы ARC Evals, созданной в 2022 году при исследовательском центре Пола Кристиано, и стала самостоятельной в 2023-м. Её основательница и гендиректор Бет Барнс раньше работала в OpenAI и DeepMind. Организация проверяла модели OpenAI, Anthropic, Google DeepMind и других компаний. По собственным данным, денег от ИИ-разработчиков она не принимает, хотя они предоставляют ей доступ к моделям и бесплатные вычислительные ресурсы.

Связи сами по себе не делают проверку фикцией. Вопрос в том, кто будет выбирать проверяющих и устанавливать правила, если предложенная Амодеи схема станет общим стандартом. Axios уже приводит мнение критиков: под лозунгом безопасности крупнейшие лаборатории могут укрепить своё положение на рынке. Отдельно Fortune сообщает со слов Альтмана, что IPO OpenAI из-за вопросов безопасности не состоится до 2027 года.

Планы на крупнейшее IPO в истории явно не оправдали ожиданий. Значит, накал страстей должен расти, — а шоу продолжаться.

@anti_agi

Читать полностью…

Когда даже агенту нужен контракт

В AI Ready-подходе разработчики используют агентов для создания продуктов из данных: с их помощью формируются модели машинного обучения, отчёты и дашборды. Но до подключения языковой модели платформа должна подготовить данные, их описание, правила доступа и процессы разработки. Как это сделать, на IT Elements рассказали Павел Егоров из «Инфосистемы Джет» и Александр Анисимов из Arenadata.

👁 Работа начинается с аналитики и проектирования. Агент-аналитик собирает документацию, опросы бизнеса и сведения об источниках, готовит спецификацию продукта и связывает показатели с бизнес-глоссарием. Затем агент-проектировщик создаёт дата-контракт — описание структуры данных и правил их изменения, — а также модели хранения и бизнес-смысла.

Информационные активы должны быть описаны, а качество данных проверено. Человек способен заметить недостающий контекст сам, агенту его нужно предоставить в цифровом виде. Источником становится дата-каталог: из него агент узнаёт, где хранятся данные, как рассчитывается показатель и насколько этим данным можно доверять.

💻 Затем подключается агент-разработчик. Он получает контекст от аналитика и проектировщика, формирует параметры модели dbt и выбирает шаблон для генерации кода. dbt описывает преобразования данных с помощью SQL и благодаря коннекторам работает с разными аналитическими движками. Airflow управляет очередностью и запуском задач.

Дальше включается привычный конвейер разработки: скрипты проверки, автоматические тесты, контроль качества и согласование старшим разработчиком. Инструменты должны поддерживать шаблонную генерацию кода, встраиваться в CI/CD — автоматическую проверку и доставку релизов — и передавать агентам контекст через MCP-серверы.

Такой подход делает результат стабильнее. При слишком широкой постановке разные запуски модели создают разные артефакты, а повторная загрузка всей документации раздувает расход токенов. Поэтому агент выдаёт параметры преобразования, код собирается из проверенных шаблонов, а человек контролирует ключевые решения.

❓ Сама платформа данных проходит три уровня подготовки. Первый — порядок. Iceberg обеспечивает надёжные транзакции, изменение структуры и доступ к предыдущим версиям таблиц. Hive Metastore служит каталогом метаданных, Schema Registry проверяет совместимость схем сообщений, Ranger управляет правами и аудитом, Vault хранит пароли, токены и другие секреты.

Этот фундамент строили ради управляемости и безопасности. Агенты повышают его приоритет: то, что для человека было лучшей практикой, для машины становится обязательным условием.

ℹ️ Второй уровень — контекст. Агент должен знать структуру таблиц и lineage — происхождение данных и маршрут их преобразований. К этому добавляются статистика, события и телеметрия. Для потоковых данных нужен такой же полный маршрут. Например, в CDC-пайплайне, фиксирующем изменения в исходной базе, агент должен видеть путь события от Debezium через Kafka до записи в Iceberg и понимать, что изменилось по дороге.

🤖 Третий уровень — целевая архитектура для машинных пользователей. API и единая SQL-точка входа дают программный доступ к платформе, а MCP-серверы должны описывать инструменты и правила их вызова. Функции для администраторов ещё предстоит превратить в ограниченные и понятные машине операции.

Сам агент должен стать субъектом информационной безопасности: работать от имени конкретного пользователя, наследовать его права и оставлять журнал действий. После ошибки команда должна восстановить полученный моделью контекст, принятое решение и выполненную команду.

AI Ready в итоге описывает зрелость всей платформы. Если изменение схемы замечает только человек, права агента определены приблизительно, а происхождение данных теряется по дороге, более сильная модель систему не спасёт.

@anti_agi

Читать полностью…

Сбер представил GigaChat 3.5 Reasoning — флагманскую модель с режимом рассуждений

Новая версия умеет последовательно решать сложные задачи. Сначала разбирает их на этапы и выстраивает план. Затем проверяет промежуточные результаты и исправляет ошибки.

Ещё одна особенность релиза — экономный расход токенов. В среднем на математические расчёты здесь используется на 37% меньше токенов, чем у открытой ИИ-модели DeepSeek V4 Flash Preview.

По сравнению с моделью без режима рассуждений GigaChat 3.5 Reasoning заметно улучшила результаты бенчмарков. В IFBench показатель вырос с 44 до 77 баллов, в Natural Plan — с 64 до 80, а в Live Code Bench v6 — с 56 до 85.

Модель доступна бесплатно по лицензии MIT на HuggingFace и GitVerse. Её можно интегрировать в собственные продукты.

Попробуйте обновлённый режим «Рассуждение» на giga.chat. А также читайте больше подробностей в статье на Хабре.

Читать полностью…

Первые финансовые меры поддержки ИИ получили одобрение ведомств

Российским разработчикам ИИ дадут два способа вернуть вложения. Первый — продать продукт малому бизнесу со скидкой и получить компенсацию из бюджета. Второй — вычесть расходы на создание модели из регионального налога на прибыль. Со вторым есть нюанс: многие ИТ-компании этот налог уже не платят.

Профильные ведомства предварительно одобрили обе меры, выяснили «Ведомости». Обсуждение идёт в рабочей группе «Меры поддержки ИИ» правительственной подкомиссии по развитию искусственного интеллекта.

Субсидия привязана к конкретной продаже или внедрению. Разработчик предлагает МСП скидку на российское ПО, облачный сервис или программно-аппаратный комплекс с ИИ, после чего государство компенсирует её размер.

В первый год субсидия может покрыть до 100% стоимости продукта или годовой подписки, во второй — до 50%, в третий — до 25%. Потолок — 200 тысяч рублей в год на одного покупателя. Администратором программы предлагают назначить РФРИТ или другой институт развития.

Заодно в программу хотят встроить проверку реального спроса. Не менее половины клиентов со скидкой должны в следующем году снова купить тот же или сопоставимый продукт. Если показатель не выполнен, разработчику придется выяснить причины и доработать решение.

Вторая мера — инвестиционный налоговый вычет на расходы по созданию ИИ-моделей. Каждый регион сможет сам определить, какие затраты учитывать: например, разработку модели, оборудование, вычисления, данные или дообучение. Для запуска механизма менять Налоговый кодекс, вероятно, не потребуется.

Правда, есть нюанс. Вычет работает только у компаний с прибылью и платежами в региональный бюджет. Убыточным стартапам уменьшать нечего, компании на УСН налог на прибыль не платят, а у аккредитованных ИТ-компаний региональная ставка до 2030 года и так составляет 0%.

Поэтому основными получателями вычета могут стать не профильные ИИ-разработчики, а банки, ретейлеры и промышленные предприятия, создающие модели для себя. Если же учитывать только обучение собственных фундаментальных моделей с нуля, льгота и вовсе достанется нескольким крупнейшим корпорациям. Эксперты предлагают добавить расходы на дообучение готовых моделей под конкретные задачи.

Региональный формат еще сильнее сужает географию меры. По оценке разработчиков, около 90% потенциальных расходов к вычету придется на Москву. Остальным субъектам предстоит решить, готовы ли они ради ИИ отказываться от части собственных налоговых доходов.

Ну и конечно вопрос финансов, которые поют романсы. Собеседники @anti_agi на ИТ-рынке отмечают, что средств на субсидии, несмотря на концептуальную поддержку Минфина, в бюджете нет. С другой стороны отвечают, что это вопрос политического решения — а для него нужна конкретная методика, подтверждающая эффект принятия тех самых мер; и эта работа уже активно ведётся.

@anti_agi

Читать полностью…

ФБР уполномочен заявить

АНБ, ФБР и агентство по кибербезопасности CISA выпустили совместный бюллетень AA26-251A: шесть китайских компаний, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI, с конца 2024 массово дистиллируют американские топовые модели. Миллиарды токенов, миллионы запросов к Claude, ChatGPT, Gemini и Grok. Запросы шли через серый рынок посредников, которые перепродают доступ и прячут настоящего заказчика. Отдельно агентства опровергают знаменитые $5,6 млн на тренировку DeepSeek: цифра не учитывает стоимость дистилляции. Бессент опять пригрозил санкциями и черным списком экспортного контроля.

Признаки, по которым лабораториям предлагается вычислять воров, поведенческие, никаких технических улик:
▪️ круглосуточная нагрузка без пауз и простоев
▪️ новая подписка, сразу упирающаяся в лимиты тарифа, вместо постепенного роста
▪️ один аккаунт, обращающийся с разных адресов и из разного клиентского софта
▪️ мало оплаченных подписок при большом объеме запросов через API
▪️ запросы, подогнанные под удешевление, а не под разнообразие задач
▪️ переключение между провайдерами в ответ на изменение цен и лимитов

Прочитайте этот список еще раз, держа в голове любой нормально устроенный продакшн. У агентов нет обеденного перерыва. Корпоративный акк сразу стараются запустить на полную в первый же день, потому что надо отбивать ожидания бизнеса. Один служебный ключ, розданный серверам в трех регионах обращается с разных адресов. А подгонять запросы под удешевление это первый совет любого консультанта по расходам. Отличить вас от объекта охоты по трафику нельзя, разница только в том, кто вы, а это KYC, а не телеметрия.

Дальше еще прекранее, провайдерам предлагается отвечать подозрительным аккаунтам моделью попроще, и прямо сказано не уведомлять их о подмене, иначе воры поймут, когда откатывать обучение. Отдельно советуют варьировать ухудшение так, чтобы его нельзя было измерить: уменьшать глубину рассуждений, давать верный ответ другим путем, ломать стилистику.

Как это выглядит на практике мы помним. В июне Anthropic выкатила Fable 5, где запросы, похожие на попытку вытащить способности модели, молча падали на более слабую Opus 4.8, а упоминалось это в 319-страничном отчете по безопасности. Fable 5 стоит $10 и $50 за миллион входных и выходных токенов, Opus 4.8 ровно вдвое дешевле. Через двое суток компания откатилась: подмену сделали видимой и стали считать деньги по той модели, которая реально отвечала.

В сухом остатке: чтобы не попасть под подозрение, надо хуже оптимизировать расходы, реже гонять агентов по ночам и не выбирать провайдера по цене. И все равно это ничего не гарантирует. Настоящие дистилляторы тоже прочитали рекомендации, кстати.

@anti_agi

Читать полностью…

Апокалипсис по медиаплану

Вчера мы рассказывали про исследователя Джейкоба Коксона, который уволился из Anthropic и предупредил: разработчики несутся к сверхинтеллекту, способному уничтожить человечество. Все обсудили, все в очередной раз возмутились — а затем аналитики решили разобрать медиаслед заявления.

Представитель консервативного Capital Research Center Паркер Тайер обратил внимание, что эксклюзив The Wall Street Journal об увольнении Коксона вышел за 18 минут до его собственного поста. Тут без сюрпризов: Коксон просто заранее поговорил с журналистами для наибольшего эффекта. Любопытнее, кто подхватил его заявление в первые минуты.

За первые 15 минут пост процитировали юрист Encode AI Натан Кэлвин, руководитель направления политики AI Policy Network Питер Уилдефорд и глава AI Futures Project Дэниел Кокотайло. Все три организации выступают за ограничение разработки сильного ИИ и связаны с одним источником денег — Survival and Flourishing Fund.

Фонд консультировал сооснователя Skype Яана Таллинна по грантам более чем на $2,5 млн для AI Futures Project, $516 000 для Encode AI и $2 млн для AI Policy Institute, связанного с AI Policy Network. Таллинн — один из ранних инвесторов Anthropic и наблюдатель при её совете директоров. Сам Коксон ещё в 2022 году получил $20 159 по программе Good Ventures для специалистов, занимающихся долгосрочным будущим человечества.

Через 27 минут его пост процитировал сотрудник Coefficient Giving — ещё одной благотворительной структуры сооснователя Asana и инвестора Anthropic Дастина Московица.

Дальше в дело вступили политики. По подсчётам сторонников Тайера, на пост Коксона отреагировали как минимум 22 американских губернатора и конгрессмена: почти все призвали усилить регулирование, большинство представляли демократов. Берни Сандерс как раз собирается представить законопроект о запрете сверхразума сверхинтеллекта, приостановке развития ИИ и создании нового федерального ведомства с собственным советом экспертов.

Забавно, что в тот же день обязательного федерального регулирования потребовала и сама OpenAI. Компания предлагает обязать крупнейшие лаборатории проводить единые тесты и независимые проверки, усиливать киберзащиту, сообщать о серьёзных инцидентах и отслеживать приближение к самоулучшению ИИ, а при превышении допустимого риска — замедлять или останавливать разработку (!)

На стартапы, небольших разработчиков и большинство открытых моделей эти правила распространять не предлагают. Текст написал директор OpenAI по глобальной политике Крис Лихейн. Не можешь возглавить, победи... Ой, или как там?

@anti_agi

Читать полностью…

Т-Банк запустил бета-версию ИИ-ассистента "Тая". Сервис уже работает в веб-версии и отдельном приложении для Android (работал и для iOS, но что-то пошло не так, и сейчас программа недоступна в App Store). Пользоваться им могут не только клиенты банка.

Пока главный сценарий "Таи" - помощь с покупками. Ассистент помогает выбирать товары в сложных категориях вроде косметики, электроники и бытовой техники: сначала уточняет потребности и бюджет, затем подбирает варианты и сравнивает их. В Т-Банке говорят, что по результатам внутренних тестов "Тая" лучше других универсальных ассистентов справляется с такими задачами.

"Поскольку она изначально создавалась не просто как универсальный ассистент, но как настоящий финансовый партнер для человека, который должен давать ему реально полезные советы и помогать в решении жизненных задач, связанных с деньгами".

В дальнейшем ассистенту хотят добавить подбор билетов и отелей, инвестиционную аналитику и функции мобильного секретаря. Еще одна идея - учитывать финансовое положение человека при рекомендациях. Например, "Тая" сможет предупредить, что конкретная покупка слишком сильно ударит по бюджету с учетом доходов и кредитной нагрузки.

Работу над своим шопинг-ассистентом банк ведет еще с 2023 года. А о том, что "Тая" вот-вот будет готова, впервые стало известно только пару месяцев назад. Основной "фишкой" этого ИИ, как обещают в банке, будет его независимость от экосистемы Т-Банка. Если более выгодное предложение есть, например, на Ozon или в другом банке, ассистент порекомендует именно его. В компании рассчитывают, что такой подход поможет завоевать доверие пользователей.

Константин Маркелов, вице-президент, директор по продукту и технологиям Т-Банка:

"Мы ставили перед собой задачу построить продукт, работающий поверх всех существующих экосистем, и обеспечить его полную беспристрастность. Тая натренирована искать лучший для пользователя вариант".

Напомним, что параллельно похожую перестройку проводит и Яндекс вокруг "Алисы". Два дня назад компания сообщила о новых назначениях в команде "Алисы AI". Новые менеджеры, как предполагается, займутся перестройкой ИИ, в том числе с упором на eCommerce.

@antiecom

Читать полностью…

Десять минут на спасение человечества

Джеффри Хинтон ("крестный отец ИИ" и лауреат множества премий) накинул тут алармизма: никто не доказал, что безопасный и контролируемый сверхинтеллект возможен в принципе. Строить его в такой ситуации крайне неразумно. Потеря контроля над ИИ умнее нас, по его словам, может обернуться катастрофой вплоть до вымирания человечества.

Этот стейтмент приурочен к внесению в британский парламент законопроекта Artificial Superintelligence Security Bill. Вносит депутат от лейбористов Алекс Собел, текст писала организация ControlAI. Билль запрещает разработку сверхинтеллекта в Британии, обязывает правительство отслеживать и ограничивать предшествующие технологии и требует добиваться международного соглашения о запрете. Сверхинтеллект определен через нацбезопасность: система, способная нейтрализовать, обойти, подменить или сделать неэффективными вооруженные силы, суды, полицию и прочие органы власти.

Там же высказался Стюарт Расселл: компании ради частной выгоды собираются выкатывать технологию, которая, по их же собственным утверждениям, имеет заметный шанс уничтожить человечество. Разрешения на такую русскую рулетку общество не давало, поэтому реагировать должны государства.

В целом, Британия запрещает себе разработку сверхинтеллекта, наш канал запрещает себе превышать миллиард подписчиков. Оба самозапрета работают безупречно.

@anti_agi

Читать полностью…