Движения в Лабе.
А я воюю с гермес-агентами для нашего карманного бота, не позволяя им падать из-за объема контекста.
Поковырял его потроха, скажу так — нифига не мелкие там запросы, авторы явно не сосредотачивались на экономии. Юзерам Гермеса на заметку 🙂
Бот лабы будет ее операционным ядром, и его задача — делать всё.
Странно даже, что для этой задачи нет готовых решений из коробки, но ничего, из скотча и изоленты можно построить в наше время что угодно.
Apple анонсировали M5 ультра с 512гб быстрой памяти по $17k, что чуть дороже одной 6000 видеокарты (96 памяти)
Плюс специальный быстрый интерфейс между машинами, так что четыре таких штуки смогут крутить kimi k3 всего за $71к
Это все еще дофига для консьюмеров, но уже подъемно для множества компаний, так что приватный инференс больших моделей скоро придет в каждый дом.
Я много говорил, что верю в Apple и их железо, вот и предвестники изменений.
С консьюмерским железом тоже подтянутся (жаль, нам не видать на них линукса, так и будем пользоваться убогой макосью😬, но это другой вопрос)
Ллм фронтир-уровня, которая выполнит любой ваш каприз.
Не смейте нарушать с ее помощью безопасность 🫵
А вы спрашиваете, зачем локал инференс 🙂
https://huggingface.co/orcarouter/Qwen3.8-27B-Uncensored-FP8
Конверсия продактов в вайбкодеры вокруг меня примерно 100%. А вот разработчики на удивление отстают. Некоторые до сих пор не то что код читают (ну ок), а пишут руками (ужас-ужас).
С другой стороны, ничего удивительного, т.к. по для продактов ИИ это по сути идеальная команда, которая усиливает то, что они уже умеют делать. А для разрабов — это замена, которая сильна в их традиционной части, но мало дает как раз этой продуктовой истории, которую нужно качать, чтобы что-то запустить.
И вот для таких разрабов у меня на платформе вышел курс с одной очень сильной тренершей по продуктам — Кариной Ждановой.
"Менеджер продуктов в эпоху ИИ"
На курсе Карина покажет, как применять ИИ для решения продуктовых задач в компании или для запуска своего бизнеса:
• работать с метриками и исследованиями,
• находить и проверять гипотезы,
• приоритизировать идеи,
• писать PRD,
• создавать прототипы
• планировать эксперименты
Что в результате
За курс вы соберёте свой AI PM toolkit — набор промптов, шаблонов и подходов, которые помогут быстрее разбираться в задачах, находить сильные решения и увереннее работать с продуктом.
Ну а навайбкодить и сами сможете (кто не сможет — тому сюда)
Старт курса 7 сентября
Подробнее и регистрация:
https://cases.careerfactory.ru/
Этот ваш вайб-кодинг сожрал терабайт моего ssd за пол-года, не успел я моргнуть глазом. Явный мусор уже давно почистил, но совершенно необходимых артефактов промежуточных запусков при работе с 2d/3d копится столько, что караул. Да и работа с локальными моделями весьма расточительное удовольствие.
Думал брать внешний ссд, но чатик уговорил на отдельно корпус с thunderbolt5 + топовый стик памяти.
Заказал сетап WD SN850X 4 TB + UGREEN TB5 80 Gbps.
Попробуем.
Одного я не понимаю. У меня реально полтора скила в агентах, я полный лох так-то, фактически работаю на ванильном кодексе. И ДОХЕРА всего успеваю делать. Не Ковальский (кодовая кличка — 120 минут, за столько он делает любой проект), но все равно очень быстро.
А вокруг как будто куча людей, у которых агенты высаживают месячные лимиты за день, и при этом они по сути ничего при этом и не релизят 🙈
И вот думаю — блин, выкидывайте нафиг ваши суперхьюманы всякие, спеки, консилиумы и прочую ботву, походу ничего из этого не нужно. Просто yolo mode, микрофончик, вайб, и кодить прям на серваке 😎 Ну можно чуток правил добавить на пол-странички, чисто где у вас там сервак расположен, а то он случайно что-то нужное снесет и будет обидно.
Раньше над этим ржали, а сейчас походу это самая эффективная парадигма.
Как писать код с AI-агентами?
А если командой?
Что нужно учесть, чтобы этот код не положил продакшн?
Эти и другие не менее интересные вопросы мы обсудим на следующем стриме kdoronin_blog_ru">на моём YouTube-канале.
Для обсуждения я позвал очень интересных гостей:
Андрей Бреслав – один из создателей языка программирования Kotlin. Сейчас Андрей разрабатывает Agentic Engineering Toolkit под названием CodeSpeak.
Валера Ковальский – автор одноимённого канала. Основатель проекта Neuraldeep https://neuraldeep.ru/ и автор множества Open Source проектов, созданных примерно за 120 минут каждый.
Максим Ключников – автор канала Этихлид. Разработчик с огромным опытом, который усилил себя с помощью AI-агентов. Работал на позиции Senior Software Developer, когда я ещё в школу ходил 😊
Дата: четверг, 20 августа
Время: 19:00 (GMT+3)
Проходить будет на моём kdoronin_blog_ru">YouTube-канале.
Добавить событие в календарь
Вопросы для эфира оставляйте в комментариях к этому посту 👇
Ходишь по встречам про ИИ, там все такие серьезные дядьки и даже деды попадаются настоящие. Думаешь — ну сколько тебе лет, и ты туда же! А потом смотришь в зеркало, а там на тебя седая борода смотрит 😁
А в целом, как-то замечаю, что молодежи в айтишке-то и не так много, кажется наша отрасль будет через 20 лет не менее старперской, чем сейчас классическая инженерия 🙂
GPT рогом уперся, говорит, не буду тебе исправлять транзакцию, а то вдруг что случится!
Kimi: подержите мое пиво.
Вообще, на полном серьезе — если бы у кими такие же лимиты были, полностью бы на него перешел. Тупо лучше во всем.
ребята, привет всем новеньким!
поздравляю всех с тем, что впереди будет что-то новое интересное! ❤️
а я ищу разработчика в нашу небольшую (7 full-time people) команду Explee
выручка >$3M ARR
весной закрыли раунд, осенью вероятно будет ещё один
ищу к себе, руководителем буду я
это не какой-то корпоративный bullshit 😅
да, мы разрабатываем одновременно в 5-8 тредах, ещё и прям в слаке
но это в кайф, а не “ради эффективности”
мы оч крутой harness построили вместе с ребятами и кайфуем, как над side project
в команде вас ждёт много знакомых лиц — я, Вова Баяндин, Харитон, Глеб Фокин, Оля Ромашкина и другие
из требований:
1 опыт и кайф от работы с AI
мы тут не просто “кодим с AI”, мы 20-30% времени строим систему
в которой всё больше и больше делается само (у нас 60 подписок claude max на команду)
2 быть немного (или много) продактом
мы катим больше 200 PR в неделю — ждать задачки из беклога это слишком долго
нужно самому принимать много продуктовых решений
полная вакансия тут (платим $10-12k в мес)
https://jobs.explee.com/ai-native-developer
отклик = пишите мне в личку
В Лабу адский поток заявок, но я со всеми беседую
Настроил себе такую связку, чтобы не потеряться в хаосе.
1) Вы кликаете кнопку на лэндинге
2) Открывается оупенсорсный аналог Календли - cal.diy. Он допилен, чтобы быть интегрированным с внутренней CRM системой (полный вайбкод конечно же)
3) Внутри сделана интеграция с моим гугл календарем — оттуда берется доступность времени. Агент сам ее настроил с помощью плагина к Хрому и Ouath ключей к гуглу.
4) После выбора времени, генерируется ссылка на звонок. В маркетплейсе Zoom для этого навайбкожено и настроено приложение.
5) В Зуме включена облачная запись, которая пишет то, что происходит во время звонка.
6) После звонка запускается облачное распознавание с диаризацией на сервере Валеры. Можно было бы и локально, но не хочу зависеть от включенного компа.
7) Итог распознавания грузится в карточку CRM, а оригинал удаляется чтобы не тратить место на диске.
8) ...under construction — тут будет агентный пайплайн, который по итогам разговора сам предпринимает необходимые действия, потому что сейчас мне приходится нажать еще пару кнопок — не порядок!
Не знаю, сколько человеко-месяцев мне бы потребовалось написать такую систему в обычном порядке, а тут это все было сделано за неделю 🙂 И удивительно, но оно и правда работает.
А если хотите так же — просто скопируйте этот пост своему агенту.
с чего начать программирование с агентами и какие поставить программы
Напоминаю, что 20 августа (то есть скоро), стартую четвертый поток курса по вайб-кодингу для начинающих.
Кто приходит? Маркетологи, продакты, дизайнеры, сейлзы, эйчары и так далее. Прекрасные люди с комплексом выученной беспомощности от общения с разработчиками, которые сумели за долгие годы убедить, что ничего сделать нельзя, а если и можно, то очень долго и плохо.
Кто уходит? Те же самые люди, которые сами своими руками делают себе боты, сайты и приложения. И не просто делают, а понимают что к чему. Я наглядно объясняю концепции разработки
Курс обновляется каждый поток, прошло уже больше 300 человек.
Для ознакомления с материалом бесплатно выложили первую лекцию прошлого потока. В ней говорится о том, с чего начать программирование с агентами и какие поставить программы. А если понравился материал и хотите продолжения + моего личного вовлечения — велкам на курс 👍
Тредам кодекса дали функционал общаться друг с другом
Не знаю, насколько давно есть эта фича, заметил сейчас.
Если у вас есть два соседних треда кодекса, которые специально или случайно работают над одним и тем же куском кода, то можно написать в треде "вот в соседнем треде [id] агент делает сходную задачу, договорись с ним о приоритетах чтобы друг другу не мешать". И агенты договорятся, чтобы распараллелить работу.
Очень удобно.
— Вот эту штуку нейросетями не сделать по причинам [1, 2, 3]
— А ты говоришь кодекс и кими у тебя? А вот ты клодом пробовал? Клод все умеет!
Благодаря подписчикам, нашел баг в OCR движке. У многих было плохое распознавание, причем серверная версия работала, а браузерная — нет. Всю голову сломал, что не так. Оказалось, подавал на вход изображения не в 300 DPI, а в 180. А моделька к этому очень чувствителна.
Отлегло на самом деле, думал проблема в самом алгоритме движка, который я считай заново реконструировал. А это мелочь — поправить элементарно.
Заскринили, как я работаю с моделями и деливерю по два проекта/наносек
Делюсь с вами секретной техникой
Накидайте бустов плз, голосовалку эмоджиками надо прикрутить, а то я как лох со стандартными иконками 🥲
Читать полностью…
Как вы знаете, один из моих больших интересов — ИИ проектирование и осмечивание, а попросту — нейронки для стройки.
На этой ниве есть успехи, работаю сейчас на дубайских застройщиков, считаем за день то, что команды сметчиков по 20 человек считают неделями.
Но не про это речь.
Мои пайплайны предполагают очень много картинок, поэтому я постоянно тестирую фронтир VLM моделей.
Так вот, Qwen 3.8 Max сейчас лучшая нейронка на рынке по зрению.
Они и раньше неплохо видели, но мне лично важна точность. И это первая нейронка, которая реально научилась расставлять ббоксы не от балды.
Почему важны точные ббоксы? Потому что на крупных чертежах это позволяет делать рекурсивный поиск — детектируем общую картину, вырезаем детали, детектируем внутри них и так далее. Крайне востребованный пайплайн.
Нюансы
— на выдачу ббоксов ее нужно промптить. Параметров инференса для этого нет
— модель ест кучу разрешений, но ббоксы склонна выдавать в диапазоне 0-1000, и нуждается в последующей нормализации. Вообще, связка входного разрешения с качеством ббоксов довольно эзотерическая, нужно подбирать.
Но в целом это прям очень крепкий рабочий вариант для медленной качественной детекции объектов.
Пример на фото.
Много раз писал, что не читаю код. И правда, считаю, что эра чтения обычного кода завершена.
Но что я делаю — дотошно распрашиваю модель о реализации после того, как что-то сделано. Мне важно понимать потоки данных и условия. Иногда в этих распросах проявляется дичь, и ее сразу фикшу, опять же, не читая код.
Вторая важная штука — читать скиллы. Модели пока очень плохо абстрагируются, им тяжело в мета-промптинг (это когда модель должна представить, что исполняет инструкцию другой модели и написать ее соответственно). В итоге скиллы из-под моделей обычно оставляют желать лучшего и требуют ручного чтения/доработки. Благо, редактировать руками не нужно, главное показать, в чем проблема.
Костя топовых гостей собрал, на Бреслава вообще билеты можно продавать как на ходячую знаменитость. А тут бесплатно — заглядывайте на огонек.
Читать полностью…
Как и все уважающие себя AI-first организации, наша Лаба не исключение и будет управляться искусственным интеллектом.
Сделал базовую базу:
— общий сервер
— роутер, postgresql, леджер с авторизацией, деплоилка, машинерия для виртуалок
— под каждый диалог поднимается microvm с движком бота. Каждая виртуалка имеет постоянную память, которая не пересекается с общей
— есть отдельный общий слой памяти с ролевым доступом
Сервер под эти приключения предоставлен волонтерами из uno4dev
Хочу мудрости комьюнити, чего и как правильно туда напихивать. То есть, какие настройки и функции бота вы считаете первостепенными для работы. Буду потихоньку добавлять
Вышел свеженький qwen 3.8-27b
И судя по картинкам в твиторе, нас ждет фронтир лвл на десктопе.
Боюсь только, снова память подорожает 😅
Мой очень крутой коллега по Скаенгу ищет себе в команду вайбкодера, внимание, на $10к-$12к/месяц + безлимитный клод.
Я думаю, для кого-то это судьба, так что подавайтесь. Команда жесткая и боевая, халтурить не выйдет, но люди очень мощные, рекомендую.
Что там по гроку новому, уже погонял кто-то? Твиттер пищит от восторгов, но мы их знаем, что там на самом деле? Если он умный, то волнуют конечно еще и лимиты
Читать полностью…
Всех будоражит новость про то, что Клод будет помечать тексты, сгенерированные AI.
Эта технология давно известна для изображений и называется Synth ID (сделайте поиск в канале про это — уже писал не раз).
Однако есть общий принцип убирания Synth ID из чего угодно — перегенерация/перефразирование того же самого другой нейросетью. Это полностью убивает паттерны, в которых пытаются кодировать метку. А значит, пайплайны по созданию AI текстов просто получат еще одну стадию. Принципиально же это не изменит ничего.
PS Меня улыбают люди, которые генерируют сео тексты в Gemini, и думают, что гугл не сохраняет отпечатки абсолютно всех сгенерированных текстов, чтобы больше никогда и не кому их не выдавать в поисковой выдаче. Видимо, ждут официальных подтверждений. Ждите лет через пять это открытие на всех seo-конференциях 😁
У нас в Лабе будут комьюнити-проекты.
Это такие проекты которые делает и доводит до ума сообщество.
Один из проектов — кодовое название Robofight. Битвы роботов в стиле раннего RoboCraft 😎 На видео тот функционал, который уже есть. Сделаем из этого мега-игру.
Вход в Лабу по записи, лично знакомлюсь с каждым. Запись выбрана до сентября. Но мне главное не количество, а качество. Будем делать топовую движуху
На моем скромном личном бенче ускорения 3d-движка, Kimi K3 не просто не уступает 5.6 sol, а лучше него.
Не знаю, как это возможно, но факт.
Обе модельки в max.
Напоминаю. Бенч состоит в создании полностью разрушаемой 3d воксельной планеты диаметром 1000 клеток, со скоростью отрисовки в 60 fps при любом удалении от поверхности. Без каких-либо готовых движков кроме голого Rust
Два моих дефолтных языка программирования: go и rust.
Go — любые «обычные» задачи и сетевые бэкенды. Полная замена Питону, тупо лучше во всем.
Rust — десктоп и тяжелые алгоритмы, в тч wasm вставки на фронтенде.
Ну и естественно, js/ts на фронте, без них никуда. Но тут надо понимать, что с ллм-ками оверхед ts зачастую не нужен и куча задач решается чистым js без лишних библиотек.
На всех перечисленных языках ллм-ки пишут прекрасно.
Самый частый аргумент за питон — для него написана уйма библиотек. Это так, но в этом случае он прекрасно подключается сайдкаром в любой из перечисленных бэкенд рантаймов.
Заняли все слоты на доступ в Лабораторию на август 🙈
Стартуем мы 18 августа, но конечно можно будет присоединиться и позже.
Лестно, не ожидал такого ажиотажа, но надо с этим что-то делать, подумаю, напишу апдейты 🙂
