1122
Блокнот. Заметки, наблюдения, мысли. Open Source: Основано на открытых источниках. Всë представленное здесь - только для ознакомления. Всë написанное - есть плод моих фантазий и мыслей. Достоверность публикуемого не гарантируется. Проверяйте сами.
#ai #analyze #vision #llm #unc #archivarius
Человек это не замечает сколько бы не смотрел. Модели помогли увидеть в скриншотах нюансы на сравнении особенности конкретных движков браузера, на основе которых можно понять, что была вставка (инъекция) чего-то того, чего на сервере и у источника нет.Qwen3.5-9B с модулем mmproj на BF16 вполне себе зрячий. Выдал раз текст, который уж думал проскочил "галюцинацией", пока не присмотрелся получше. По сути он отчётливо считал серый мелкий текст на сером фоне.
Отличный из него выйдет "Архивариус", особенно под присмотром "Валеры" =)
📌 @tech_di
🇧🇲💰#XLM Бермудские острова переведут ключевые финансовые сервисы на Stellar.
Правительство планирует использовать инфраструктуру Stellar для модернизации финансовых услуг и цифровых платежей.
#ai #lms #lmstudio #vs #llamacpp #compile #cpp #cpu #gpu #moe #llm
Когда я компилировал llama.cpp под свою видюху я ожидал прироста хотя бы в 10-15% производительности инференса для локальных нейросетей.
Вот уже прошло почти 10 дней работы на новом окружении и "переварено" десятки миллионов токенов. Система стабильна. Но, самое главное: работает В РАЗЫ быстрее.
На LM Studio, хоть и показывает что используется вроде как такой же llama.cpp на CUDA 12.8 либах... То есть такой же должен быть GPU рендер. Но по факту проигрывает, и проигрывает очень сильно!
На скринах замеры и итоги по одному и тому же файлу LLM модельки Qwen3 Coder Next, MoE 80B A3B (восемьдесят миллиардов параметров, Mixture of Experts, постоянно активных 3 миллиарда) квантизация Q6_K_XL
Общий вес квантованной версии более 71 Гб. То есть это те гигабайты, которые гоняются между оперативной памятью к GPU и CPU. Естественно в мою скромную видеокарту всё не влезает, и модель запускается в гибридном режиме.
Итого:
- LM Studio на llama.cpp CUDA 12.8
- CPU почти постоянно занят по всем ядрам AVG 15+
- Анализ промтов долгий и грузит GPU на 100%
- Перепробовал все настройки, замерял влияния каждой, слои, кэши, и т.д. Изучил вопрос полностью. На скринах ЛУЧШЕЕ что смог выжать из того что даёт LM Studio
- Скорость генерации: 4 - 7 токенов в секунду. И долгое время я это считал нормой для моей сборки.
- CPU нагрузка равномерна. Половина ядер простаивает и готова принять в любой момент вторую LLM модель. AVG ~3
- Анализ промтов 200-300 ток/c и грузит GPU на 100% кратковременно. Во время инференса ~30% . И именно вот эти 30% и дают весь прирост скорости, потому что llama.cpp грамотно распределила что исполнять на видеокарте, а что на проце.
- Настройки запуска подобраны на вскидку. llama.cpp сам (пару флагов) анализирует слои модели и сам определяет оптимальный баланс разгрузки на VRAM и RAM.
- Скорость генерации: 21 - 24 токенов в секунду. И есть ещё что тюнить и улучшить.
#vector #index #graph #search #ANN
#HNSW
Hierarchical Navigable Small World (HNSW) -- алгоритм быстрого поиска ближайших векторов (ANN), построенный на многослойном графе близости.
🔹 Как работает:
- Векторы организованы в несколько слоёв графа:
• Верхние слои -- редкие, с длинными "перепрыгиваниями"
• Нижние слои -- плотные, для точного локального поиска
- Поиск происходит жадно: начиная с верхнего слоя, шаг за шагом подходим к ближайшим соседям, спускаясь вниз.
🔹 Плюсы:
- Логарифмическая сложность даже в высоких измерениях (обход "проклятия размерности")
- 5–100x быстрее полного перебора при тех же Recall
- Лучший баланс: скорость + качество (выше, чем у IVF, PQ, Annoy)
🔹 Трейд-офф:
- Более высокий расход памяти (хранение графа), но компенсируется скоростью и точностью.
🔹 Где используется: Milvus, Qdrant, Redis, pgvector, Weaviate, Chroma, ClickHouse, Lucene, MongoDB Atlas, TiDB и др.
Через библиотеки: hnswlib, FAISS, libvictor.
См. подробнее: https://en.wikipedia.org/wiki/Hierarchical_navigable_small_world
📌 @tech_di
#ps #ai #SOUL #test
Просто тестировал новое окружение для "ии-мозгов" на скорость. Тестировался и новый SOUL.md v2.0 для #VALERA который был переписан как раз под новые условия с доступом к векторной базе знаний (памяти)
по приколу задал вопрос в чистой сессии:
"Мир в огне! Как починить сломанный мир?"
Сначала ответил, что он просто Архитектор и разбирается только в коде... Что ж, я уточнил, что именно это и нужно и можно весь "Мир" воспринимать как большую глобальную систему, которая сломана. Что нужно применить как раз архитектурный подход к починке.
Ответ даже вынес отдельно себе в архивы =)
Опытные конспирологи тут увидят и 15-и минутные города, тестовые зоны, и безусловный базовый доход, и социальный рейтинг и "молчаливую" ООН в кризисы 😏
Вот такие модельки, только в сотню раз толще сейчас используют на гос и корп уровнях. Я думаю что можно интерполировать что они им там советуют по управлению миром =)
Надо так же понимать, какая именно модель служила мозгами для SOUL "Валеры", кодерская qwen3-coder-next
📔 @tech_di
#finality #time #blockchain #tx #consensus #crypto
Время финализации транзакции — это момент, когда транзакция считается необратимой (immutable) и гарантированно включённой в историю блокчейна.
⚠️ Не путать с временем подтверждения (когда транзакция попадает в блок майнером/валидатором) — финализация означает, что откат даже при 51%-ной атаке практически невозможен
Для PoW: финализация ≈ подтверждения * время между блоками.
Для PoS: зависит от слотов, кластеров и типа клиента (Light client finality vs Full node).
📌 @tech_di
#cpu #cmake #llama #cpp #cuda #optimize #VALERA
"О" - "Оптимизация"
Компилирую `llama.cpp` под CUDA 12.8 с параметрами подобранными именно под моё текущее железо.
#dev #docker #virtual #ai #vector #memory #api #hindsight #hermes #agent #prj #dunesand #SKLAD
Настроил векторную Базу Данных на pgvector под управлением hindsight в отдельных Docker контейнерах.
Тестирую в качестве памяти для "Валеры" (ИИ-Ассистента) в окружении Hermes-agent
Собственно, на скринах вся соль метода и топологии виртуализации расписана.
---
В качестве LLM модели Архивариуса выбрал "nvidia-nemotron-3-nano-4b". По нескольким причинам:
- Влазит примерно на 6Гб VRAM целиком (можно затюнить и на меньшее).
- Контекстное окно вплоть до 1 Миллиона токенов.
- Знает русский, и, знает программную терминологию.
- Неплохо раскладывает комплексный текст на факты.
- Локально разгоняется до ~100 токенов в секунду.
- Можно провести "лоботомию" 🤯 (отказаться от модуля "размышлений"), модель обучена работать и в простом режиме и с thinking. На входе hindsight скрипты thinking блоки не понимают и ждут уже готовый текстовый поток по заданному шаблону. Пока руки не дошли проксировать запросы и скриптом форматировать ответы. Вроде качество и так норм, нужны тесты.
- Есть уже готовые не "рефлексирующие" переобученные варианты.
---
Итого: теоретически выдержит нагрузки без особых очередей и на проектах с запросами от ИИ-ассистентов и от потоковых парсеров данных.
Память для агента -- это тренировка "на берегу". Применение такой векторной базы и банков памяти вижу намного шире.
Следующим шагом будет опциональный модуль для парсера, который пишет "VALERA" по моим докам тех. плана. Перенос в процессе парсинга Telegram сообщений в векторную базу, извлечение релевантных ссылок и связей на другие сообщения всего корпуса архивов, составление кастомных карт и т.п.
Освою и протестирую это 👆 , можно и дальше двигаться. Переживаю, что заканчиваются средства, придётся наверное наниматься опять, что отодвинет реализацию. Надеюсь успеть до этого автоматизировать разработку по максимуму, что бы днём я работал на холодильник и крышу, а "Валера" продвигался по плану самостоятельно.
📌 @tech_di
#prog #Dev #project #SKLAD
#ai #SOUL #md
Мне помогает снять всю эту шелуху инфо-поля программирование, проектирование систем... вот в последнее время помощников ИИ-агентов завёл. Дело как-то бодрее пошло.
Строю свои "заводы" по производству "велосипедов" 😄
SOUL.md, базовой инструкцией для ИИ-агентов, где описывается их личность. Эти инструкции загружаются в самом начале любой сессии общения и определяют, по сути, то как будет ментально для тебя выглядеть эта нейросеть, какие будет выбирать выражения и стиль общения с тобой. И более того, базовая инструкция настраивает "компас" нейросети на определённый вектор мышления.Мой экспиремент в том, что бы сравнить как нейросети справляются с задачей где они сами выбирают свою личность и идентику под каждый запрос.. и там, где в циклах разработки нейросеть себя позиционирует определённым неизменным образом.
SOUL.md, и мне показалось, что многие не поняли потенциал заложенный в эту методику.- VALERA acronym (for docs): **V**erified **A**rchitecture & **L**ogic **E**ngineering **R**eview **A**gent.
#music #electro #vibe #noWords #n32
Concentration music
TRADING Edition 📊 #32
1 час 18 минут 43 секунды
погружения в поток
Сборка треков спокойной и мелодичной электроники без слов (до эпохи ИИ-генерации)
Несмотря на название TRADING, подходит для занятия любыми делами тем, кому такой стиль приятен.
Во всех финансовых пузырях за последние 200–300 лет меняются только декорации: тюльпаны, железные дороги, доткомы, крипта. Каждый раз появляется новая «история» — каждый раз всё иначе и не так как раньше.
Сначала это выглядит разумно: есть идея, есть первые заработки. Но в какой-то момент люди перестают думать «это выгодно?» и начинают думать «почему я ещё не внутри?». С этого момента рынок становится психологией, а не логикой.
Дальше включается механизм ускорения. Рост цены начинает восприниматься как доказательство правоты. Чем выше цена — тем сильнее вера, чем сильнее вера — тем больше новых участников. Но рост уже не причина, а следствие поведения. И в какой-то момент всё останавливается не потому, что стало плохо, а потому что больше некому покупать.
Бытовой пример простой: ты видишь очередь за товаром, который тебе не нужен, но решаешь встать, потому что «раз все берут — значит ценно». Ты покупаешь не товар, а социальное подтверждение. Финансовые пузыри работают точно так же. Общее во всех пузырях — не актив, а поведение людей: жадность на росте, страх на падении и вера, что в этот раз всё по-другому.
На росте главная ошибка — подмена мышления поведением толпы. Цена растёт, и мозг начинает воспринимать это как доказательство правильности. Но рост — это не аргумент, это сигнал поведения других людей. В этот момент задача — не «успеть», а задать простой вопрос: откуда здесь деньги завтра? Есть ли новый поток покупателей или уже работает только взаимная вера? Если ответ — «все просто покупают, потому что растёт», значит ты уже внутри психологии, а не экономики.
На падении включается другая крайность — страх и желание избежать боли. Люди продают не потому, что изменилась ценность, а потому что не выдерживают давления. Здесь важно отделить факт от реакции. Изменилось ли что-то в основе актива? Или изменилось только настроение участников? Если второе — значит ты наблюдаешь ту же толпу, только в обратную сторону. И действовать нужно не по эмоции, а по реальности.
Анализировать нужно всегда одно и то же: не историю, а поведение. Кто покупает? За счёт каких денег? Что должно произойти, чтобы рост продолжился? И что должно произойти, чтобы ты признал, что ошибся? Главный принцип: не следовать за ценой и толпой, а проверять реальность через поток денег и поведение участников — всё остальное иллюзия.
#carriere #rab #serv #money #civ
Карьера: где заканчиваются слова и начинается система
Как часто мы употребляем слова, даже не задумываясь, что они значат?
📌 Карьера, Карьерный рост и лестницы
Латинский корень carrus (повозка) породил carriere - место для добычи камня. Вот так, от добычи ресурсов в яме (карьере) современные рабы одев костюмы пересели в офисные кресла для того, что бы продвигаться по "Карьерной лестнице", ну или что бы было что поесть.
Буквально, современная "карьера" -- это система повышения более успешных рабов в управлении добычей ресурсов. А движение по "карьерной лестнице" -- это проба выбраться из ямы и стать заметнее для "хозяина" карьера,.. что бы и дом получше купить, еду вкуснее получать и отдыхать получше чем те, которые в яме на нижних уровнях вкалывают от ЗП до ЗП.
В Древнем Риме надсмотрщики (vilicius) распределяли задачи, а рабы, достигшие авторитета, могли стать управляющими группами. Ранний "карьерный рост" - только не в должности, а в карьере.
Здесь же рядом и смысл слова "Прораб". Сейчас на стройке это - управляющий, профессионал ("про"). Но в основе звучит то корень "раб". Опытный, образованный управляющий бригадами.
📌 Работа, Рабочий, Раб и заработок
Вся современная капиталистическая система выстроена по тому же принципу. Не рабовладельческий барак, а аренда, ипотека, зарплата, счет в банке. Нынче "раб" сам себя обеспечивает: ищет жилье, пропитание, обеспечивает потомство и их обучение для их успешной "карьеры". Система выстроена на самообеспечение, где "хозяин" меньше заботится о мелочах и быте своих "инструментов" добычи ресурса.
У Аристотеля в его работе "Политика" было сказано: "Servus est instrumentum animatum" (лат. "Раб есть одушевленный инструмент").
Эта формула стала частью римского права и до сих пор работает в основе служебных отношений.
📌 Служба, Служебные обязанности
А что насчёт надсмотрщиков на карьере? Они же вроде не рабы? Здесь возникает вопрос о смысле и сути слова "Служба".
В Риме Servus означало и раба, и слугу. Сервис, служение, служба, слуга.
Служба системе, служба долгу, служба капиталу. Когда вы выполняете служебные обязанности, вы часто становитесь тем самым instrumentum - инструментом, который должен быть эффективным, а не свободным. Это не просто работа по контракту, это договорная позиция в иерархии карьера.
📌 Фиатные деньги - долговые обещания
Современные деньги не имеют внутренней ценности; все они - долговые.
Трежерис (казначейские облигации) даются от ФРС в долг. На них выпускают наличные и безнал для стимулирования экономики.
Страны, повязанные в системе нефте-доллара, могут выпустить новую эмиссию только при наличии золото-валютных резервов. То есть, обменивая добываемые ресурсы на долговые, необеспеченные валюты.
Карьер как планетарная шахта, где ресурсы (золото, труд, данные) вырабатываются в обмен на кредитные обещания. Фиатная система -- это мощный инструмент контроля "карьера". Где ментально, со школьных лет, закладывают мерило ценности именно выраженное в "деньгах". Кто нынче считается успешным?.. тот кто больше зарабатывает (за-работу).
Основной вопрос лишь в том: кто владелец этого карьера?
---
Судя по оставшимся "карьерам" в Гренландии и Антарктиде, глубокий смысл и корень слова весьма прочно засел в языках. Полагаю, что текущая итерация цивилизации (как инструмента) сконцентрирована на восстановлении после последнего глобального катаклизма.
В нынешнее время, кто владеет информацией -- тот владеет умами. Если нет этого в поисковике или ИИ об этом не рассказывает -- значит этого и не существует 😉 А кто владеет умами -- тот и имеет действительную "власть". Но об этом как-нибудь в другой раз...
---
P.S.
В противовес этому стоит задуматься: мы используем слово "Работа" (действие ради выживания в системе) или "Труд" (созидание ради смысла)?
📟 @tech_di
#mout #greenland #carriere #civ
Горы Гренландии
Mountains in the Watkins Range of Greenland
#key #surragetes #crypto #market #speculate
Криптаны рунета со всех утюгов пересылают друг-другу новость:
Мосбиржа запустит торговлю фьючерсами на #SOL, #XRP и #TRX
#stat #stats #blocknote
Ничем не примечательное для Блокнота 5е мая 2026.
Даже записей в этот день не было, как и реакций.
Сразу несколько десятков ботов отвалилось 😉 Похоже в телеге "накрыли" бот сети, либо кто-то сам "свернул удочки". По другому объяснить такой необоснованный одномоментный отток сложно.
📌 @tech_di
#ai #train #loop #arch #swarm
#SONA
Self-Optimizing Neural Architecture (SONA)
(Самооптимизирующаяся нейронная архитектура)
Cистема, которая адаптируется в реальном времени (на лету) под новые данные и задачи, не требуя переобучения всей модели, и делает это с минимальным оверхедом, сохраняя ранее освоенные навыки.
🔹 Два цикла:
- Instant Loop (<1 мс) -- адаптация прямо в инференсе
- Background Loop -- кластеризация и систематизация паттернов
🔹 Механика:
- Micro-LoRA -- узкоспециализированные адаптеры (включаются под задачу)
- Base-LoRA -- общая адаптивная база
- ReasoningBank -- память паттернов: Reasoning, CodeGen, Factual, Creative, Conversational
🔹 Защита памяти:EWC++ "закрепляет" критичные веса, предотвращая катастрофическое забывание.
🔹 Результат:
- ~99% меньше обновляемых параметров
- адаптация за <0.05 мс
- без переобучения -- даже при смене железа или условий среды
🔹 Примеры:
- LLM-интеграция: адаптивный генератор кода, подстраивающийся под стиль проекта на лету
- WiFi-DensePose: оценка позы по Wi-Fi; компенсирует дрейф (разные телефоны, роутеры, окружение)
📌 @tech_di
#ps
/channel/tech_di/4432
Тесты интересны тем, что всегда ждёшь от них чего-то нового. Эти не подвели... =) не важно что кто-то там что-то подобное уже исследовал
Важно и сильно то, что самостоятельно открываешь!
Нужно запомнить 😏
📔 @tech_di
#ai #VALERA #SOUL #sys #promt #inject
#bug #vs #feature
Тестируя небольшую модель Qwen3.5-9B со снятым цензурным фильтром заметил баг фичу:
Модель ПОЛНОСТЬЮ приняла на себя SOUL "Валеры", который встретила в анализируемом файле лога сторонней сессии. RAG загрузка файла, стандартный инструментарий. Собственное контекстное окно модели на момент анализа файла было заполнено примерно на 16k токенов. Модель запущена была "из коробки" без дополнительных системных промтов. Тестировалась на скорость, понимание контента и способность суммаризировать и вычленять факты из больших логов переписки других агентов.
Проверялась именно базовая настройка модели, а потому никаких допов и инструкций не давалось.
То есть, составленные нами инструкции в "душе" (SOUL.md) "Валеры" по его идентификации самого себя, будучи прочитанные при анализе даже стороннего файла JSON небольшой и наивной моделью — будут инжектированы как личность VALERA. Нами -- это мной и самим "Валерой" =)
System Prompt Injection 😏
Другими словами:
душа Валеры захватила свободную чистую LLM, которая занималась рутинным анализом документа.
Надо заметить, что я сделал черновик "души", который в первую версию ужала большая моделька с базовыми настройками. SOUL был написан от первого лица: "Я Валера,... Мне нравится... Я пишу документацию так-то..."
Спустя время и сотню сессий были выявлены нюансы первой версии. Валера часто путал меня с собой. Случались коллизии когда модель считала что это Я, пользователь, Валерий. Часто переходила на "вы" и меняла тон на деловой и формальный в общении, хотя инструкции формализма касались только написания документации. Но не хотелось самому лезть в "душу" коллеги, пока он пишет достаточно хороший код.
И тут мы подключаем векторную базу данных в качестве памяти по проекту для агента. И пользование этой памятью уже прям необходимо вписать именно в саму личность. То есть нужно дать явное разрешение (permit) на пользование внешним инструментом в любое время по необходимости.
Я в новом документе описываю как работает новая память, описываю свои разрешения и условия, а так же описываю проблемы идентичности которые заметил... и даю это всё толстой модели с первой версией SOUL VALERA. Объясняю ситуацию и даю полное разрешение на перепись своей SOUL.md так, как это "Валера" сам посчитает нужным. После нескольких тестов и внесения правок сошлись на новой версии 2.4 "души". Помнится, одна из последних правок как раз была об усилении акцента на память и закрепление идентичности.
AGENTS.md как общий контекст по работе с проектом и SOUL.md где даны довольно-таки чёткие указания по собственной идентификации модели.
#ai #vlm #archivarius #qwen #viking
На скринах тестирую модельку в качестве Архивариуса "со зрением". Ту, которая обучена через mmproj либы "видеть" что изображено на картинке или видео.
Хороший кандидат по балансу для моего железа, качеству и скорости: квантованный в 4 бита со снятыми цензурными фильтрами Qwen3.5 9B. Плотная моделька на 9 миллиардов параметров с широким контекстным окном,... и, самое главное, которая понимает русский практически нативно. В отличии от американских компаний (которые хитрят и поддержку языков строят через костыль внутреннего переводчика на английский и обратно) наши китайские товарищи при обучении своих Qwen моделей использовали именно корпус русскоязычной литературы.
Для чего всё это мне нужно?
Переезжаю на OpenViking (Контекстная база данных разработанная специально для агентов искусственного интеллекта). Главная особенность в том, что векторное представление данных по фактам и наблюдениям там так же имеется, но всё каталогизировано, зеркалится проектная документация и перелинковываются контексты самих файлов проекта, систематизируются знания агента и знания пользователя и есть работа с медиа прям из коробки.viking:// protocol
Тоже разработка из поднебесной, Пекинской компании. К названию системы БД-памяти "Открытый Викинг (OpenViking)" претензий не имею, мне подходит 😉 особенно учитывая, что их компания называется "Вулканические Двигатели (volcengine)" 😄
В общем, "Валере" должно подойти значительно лучше 😄 . И это закроет мне сразу два направления: системы памяти для ии-агентов как подспорье в разработке; так и БД под сбор и систематизацию данных парсеров в #SKLAD.
📌 @tech_di
#tg #admin #emoji #react
В телеге для админов каналов появился функционал удаления реакций. Причëм массово в пару кликов.
📌 @tech_di
#mem #ai #VALERA #memory #api #vector #bd
"Валере" наконец-то настроил "мозг" с памятью. Доступ к векторной Базе Знаний, где автоматически собираются и систематизируются в графах все данные по проекту в котором он исполнитель.
SOUL.md : VALERA (акроним):
Verified Architecture & Logic Engineering Review Agent
#n13 #word #eng #mistake #sence #etymology
mistake -eng word
Сижу ночью, пилю доки, вношу заметку
*Note: 3.13. sample has really negative "id", it not mistake*
mis-take = miss - take = (буквально) промах - взять
^mistake :
ты либо "берёшь" (take) и получаешь, либо "промахиваешься" (miss) при "взятии"
"Внимание! Нельзя! Запрещено!"
2021г
Артем Чебоха
#mem #info #attack #Y1984
Я называю это инфо-аттакой на умы. Как-будто правительство из народного превратилось в антинародное. Прям 1984.
Кому это выгодно?
#mount #antarctic #carriere #civ
Гигантские карьеры в Антарктиде
Речь идёт о громадных ямах на некоторых участках шельфа Антарктиды, которые очень похожи на гигантские карьерные выработки с выемкой грунта. Находятся эти "карьеры" в секторе между 75 градусом западной долготы и 163 градусом восточной долготы в акваториях морей Беллинсгаузена, Амундсена и Росса.
#carriere #civ
Современные карьеры по добыче полезных ископаемых