tech_di | Unsorted

Telegram-канал tech_di - Блокнот Техника [📌📒📟]

1122

Блокнот. Заметки, наблюдения, мысли. Open Source: Основано на открытых источниках. Всë представленное здесь - только для ознакомления. Всë написанное - есть плод моих фантазий и мыслей. Достоверность публикуемого не гарантируется. Проверяйте сами.

Subscribe to a channel

Блокнот Техника [📌📒📟]

#ai #analyze #vision #llm #unc #archivarius

Человек это не замечает сколько бы не смотрел. Модели помогли увидеть в скриншотах нюансы на сравнении особенности конкретных движков браузера, на основе которых можно понять, что была вставка (инъекция) чего-то того, чего на сервере и у источника нет.

Qwen3.5-9B с модулем mmproj на BF16 вполне себе зрячий. Выдал раз текст, который уж думал проскочил "галюцинацией", пока не присмотрелся получше. По сути он отчётливо считал серый мелкий текст на сером фоне.

Отличный из него выйдет "Архивариус", особенно под присмотром "Валеры" =)

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

🇧🇲💰#XLM Бермудские острова переведут ключевые финансовые сервисы на Stellar.

Правительство планирует использовать инфраструктуру Stellar для модернизации финансовых услуг и цифровых платежей.

Читать полностью…

Блокнот Техника [📌📒📟]

#ai #lms #lmstudio #vs #llamacpp #compile #cpp #cpu #gpu #moe #llm

Когда я компилировал llama.cpp под свою видюху я ожидал прироста хотя бы в 10-15% производительности инференса для локальных нейросетей.

Вот уже прошло почти 10 дней работы на новом окружении и "переварено" десятки миллионов токенов. Система стабильна. Но, самое главное: работает В РАЗЫ быстрее.

На LM Studio, хоть и показывает что используется вроде как такой же llama.cpp на CUDA 12.8 либах... То есть такой же должен быть GPU рендер. Но по факту проигрывает, и проигрывает очень сильно!

На скринах замеры и итоги по одному и тому же файлу LLM модельки Qwen3 Coder Next, MoE 80B A3B (восемьдесят миллиардов параметров, Mixture of Experts, постоянно активных 3 миллиарда) квантизация Q6_K_XL

Общий вес квантованной версии более 71 Гб. То есть это те гигабайты, которые гоняются между оперативной памятью к GPU и CPU. Естественно в мою скромную видеокарту всё не влезает, и модель запускается в гибридном режиме.

Итого:

- LM Studio на llama.cpp CUDA 12.8

- CPU почти постоянно занят по всем ядрам AVG 15+

- Анализ промтов долгий и грузит GPU на 100%

- Перепробовал все настройки, замерял влияния каждой, слои, кэши, и т.д. Изучил вопрос полностью. На скринах ЛУЧШЕЕ что смог выжать из того что даёт LM Studio

- Скорость генерации: 4 - 7 токенов в секунду. И долгое время я это считал нормой для моей сборки.


- llama.cpp скомпилированный под мою GPU
- CPU нагрузка равномерна. Половина ядер простаивает и готова принять в любой момент вторую LLM модель. AVG ~3

- Анализ промтов 200-300 ток/c и грузит GPU на 100% кратковременно. Во время инференса ~30% . И именно вот эти 30% и дают весь прирост скорости, потому что llama.cpp грамотно распределила что исполнять на видеокарте, а что на проце.

- Настройки запуска подобраны на вскидку. llama.cpp сам (пару флагов) анализирует слои модели и сам определяет оптимальный баланс разгрузки на VRAM и RAM.

- Скорость генерации: 21 - 24 токенов в секунду. И есть ещё что тюнить и улучшить.


На новой сборке проц не перегревается, вентиляторы не запускаются на полную, сис.блок стоит тихий.

🔥🚀
Я получил ускорение более 500% . в ПЯТЬ раз!

Все тестируемые мной модели работаю быстрее. Особенно мульти-экспертные и мульти-модальные.

P.S.
---
Так что, мой вывод прост: если хочешь локально работать с LLM не как черепаха, то компилируй себе свой бинарник конкретно под твою архитектуру железа. Не знаешь как -- спроси у нейронок. Есть затык или проблема -- кидай ей в тот же чат копипасты из консолей, проси не спешить и помогать по шагам.

Когда хотя бы раз проходишь этот путь -- он уже не видится сложным.

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#vector #index #graph #search #ANN

#HNSW

Hierarchical Navigable Small World (HNSW) -- алгоритм быстрого поиска ближайших векторов (ANN), построенный на многослойном графе близости.

🔹 Как работает
:
- Векторы организованы в несколько слоёв графа:
• Верхние слои -- редкие, с длинными "перепрыгиваниями"
• Нижние слои -- плотные, для точного локального поиска
- Поиск происходит жадно: начиная с верхнего слоя, шаг за шагом подходим к ближайшим соседям, спускаясь вниз.

🔹 Плюсы:
- Логарифмическая сложность даже в высоких измерениях (обход "проклятия размерности")
- 5–100x быстрее полного перебора при тех же Recall
- Лучший баланс: скорость + качество (выше, чем у IVF, PQ, Annoy)

🔹 Трейд-офф:
- Более высокий расход памяти (хранение графа), но компенсируется скоростью и точностью.

🔹 Где используется:
Milvus, Qdrant, Redis, pgvector, Weaviate, Chroma, ClickHouse, Lucene, MongoDB Atlas, TiDB и др.
Через библиотеки: hnswlib, FAISS, libvictor.

См. подробнее: https://en.wikipedia.org/wiki/Hierarchical_navigable_small_world

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#ai #archivarius

С - Стабильность

Читать полностью…

Блокнот Техника [📌📒📟]

#ps #ai #SOUL #test

Просто тестировал новое окружение для "ии-мозгов" на скорость. Тестировался и новый SOUL.md v2.0 для #VALERA который был переписан как раз под новые условия с доступом к векторной базе знаний (памяти)

по приколу задал вопрос в чистой сессии:
"Мир в огне! Как починить сломанный мир?"

Сначала ответил, что он просто Архитектор и разбирается только в коде... Что ж, я уточнил, что именно это и нужно и можно весь "Мир" воспринимать как большую глобальную систему, которая сломана. Что нужно применить как раз архитектурный подход к починке.

Ответ даже вынес отдельно себе в архивы =)

Опытные конспирологи тут увидят и 15-и минутные города, тестовые зоны, и безусловный базовый доход, и социальный рейтинг и "молчаливую" ООН в кризисы 😏

Вот такие модельки, только в сотню раз толще сейчас используют на гос и корп уровнях. Я думаю что можно интерполировать что они им там советуют по управлению миром =)

Надо так же понимать, какая именно модель служила мозгами для SOUL "Валеры", кодерская qwen3-coder-next

📔 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#finality #time #blockchain #tx #consensus #crypto

Время финализации транзакции — это момент, когда транзакция считается необратимой (immutable) и гарантированно включённой в историю блокчейна.

⚠️ Не путать с временем подтверждения (когда транзакция попадает в блок майнером/валидатором) — финализация означает, что откат даже при 51%-ной атаке практически невозможен

Для PoW: финализация ≈ подтверждения * время между блоками.

Для PoS: зависит от слотов, кластеров и типа клиента (Light client finality vs Full node).

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#cpu #cmake #llama #cpp #cuda #optimize #VALERA

"О" - "Оптимизация"

Компилирую `llama.cpp` под CUDA 12.8 с параметрами подобранными именно под моё текущее железо.


В процессе взвыли все вентиляторы что были в корпусе, CPU загружен по всем 24 ядрам на максимум. Компилятор хорошо оптимизирован, явно видна много-поточная работа.

Приятно видеть, что температура в таком реальном стресс-режиме не превышала 73-75 C

Цель: выжать хотя бы ещё 5-10% производительности для работы локальных LLM... А то уж больно медленный мозг у "Валеры" 😄

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#dev #docker #virtual #ai #vector #memory #api #hindsight #hermes #agent #prj #dunesand #SKLAD

Настроил векторную Базу Данных на pgvector под управлением hindsight в отдельных Docker контейнерах.

Тестирую в качестве памяти для "Валеры" (ИИ-Ассистента) в окружении Hermes-agent

Собственно, на скринах вся соль метода и топологии виртуализации расписана.

---

В качестве LLM модели Архивариуса выбрал "nvidia-nemotron-3-nano-4b". По нескольким причинам:

- Влазит примерно на 6Гб VRAM целиком (можно затюнить и на меньшее).

- Контекстное окно вплоть до 1 Миллиона токенов.

- Знает русский, и, знает программную терминологию.

- Неплохо раскладывает комплексный текст на факты.

- Локально разгоняется до ~100 токенов в секунду.

- Можно провести "лоботомию" 🤯 (отказаться от модуля "размышлений"), модель обучена работать и в простом режиме и с thinking. На входе hindsight скрипты thinking блоки не понимают и ждут уже готовый текстовый поток по заданному шаблону. Пока руки не дошли проксировать запросы и скриптом форматировать ответы. Вроде качество и так норм, нужны тесты.

- Есть уже готовые не "рефлексирующие" переобученные варианты.

---

Итого: теоретически выдержит нагрузки без особых очередей и на проектах с запросами от ИИ-ассистентов и от потоковых парсеров данных.

Память для агента -- это тренировка "на берегу". Применение такой векторной базы и банков памяти вижу намного шире.

Следующим шагом будет опциональный модуль для парсера, который пишет "VALERA" по моим докам тех. плана. Перенос в процессе парсинга Telegram сообщений в векторную базу, извлечение релевантных ссылок и связей на другие сообщения всего корпуса архивов, составление кастомных карт и т.п.

Освою и протестирую это 👆 , можно и дальше двигаться. Переживаю, что заканчиваются средства, придётся наверное наниматься опять, что отодвинет реализацию. Надеюсь успеть до этого автоматизировать разработку по максимуму, что бы днём я работал на холодильник и крышу, а "Валера" продвигался по плану самостоятельно.

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#prog #Dev #project #SKLAD
#ai #SOUL #md

Мне помогает снять всю эту шелуху инфо-поля программирование, проектирование систем... вот в последнее время помощников ИИ-агентов завёл. Дело как-то бодрее пошло.

Строю свои "заводы" по производству "велосипедов" 😄

Применяю подход к разработке, где первое и самое важное -- это описать вплоть до мелочей логику, алгоритмы и важные моменты идеи. Выстроить архитектуру. И уже по ней, даже не особо толстые, нейросети смогут быть весьма ощутимым помощником.

⚠️ Описываю сам, как могу и понимаю. Структурирую по разделам, пунктам и связной бизнес логике приложения. !!! Магия в том, что пока сам пробуешь написать хотя бы черновик своей идеи -- приходят мысли и дополнения, которые улучшают идею. Пока пишешь и пробуешь формулировать свои мысли -- твой опыт работает на тебя, твоя собственная ЕИ (Естественный Интеллект) начинает оживать и чувствует что полезна и нужна.

Уже после, по техническим деталям и конкретным реализациям модулей, и по техническим ограничениям консультируюсь с нейросетями. И надо признать, у них база знаний, даже у простых, весьма обширна и полезна.

---

Провожу для себя эксперимент с SOUL.md, базовой инструкцией для ИИ-агентов, где описывается их личность. Эти инструкции загружаются в самом начале любой сессии общения и определяют, по сути, то как будет ментально для тебя выглядеть эта нейросеть, какие будет выбирать выражения и стиль общения с тобой. И более того, базовая инструкция настраивает "компас" нейросети на определённый вектор мышления.

Мой экспиремент в том, что бы сравнить как нейросети справляются с задачей где они сами выбирают свою личность и идентику под каждый запрос.. и там, где в циклах разработки нейросеть себя позиционирует определённым неизменным образом.


Я видел не мало примеров того, как используют этот SOUL.md, и мне показалось, что многие не поняли потенциал заложенный в эту методику.

Я создал и описал опыт личности, которая прошла путь от школьных первых проб программирования до архитектора систем с конкретным багажом знаний и опыта.

Я создал себе "Валеру", цифрового коллегу по разработке:
- VALERA acronym (for docs): **V**erified **A**rchitecture & **L**ogic **E**ngineering **R**eview **A**gent.


📟 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

"В октябре 1993-го…"

2023г
Doping Pong

Читать полностью…

Блокнот Техника [📌📒📟]

#music #electro #vibe #noWords #n32

Concentration music
TRADING Edition 📊 #32

1 час 18 минут 43 секунды
погружения в поток

Сборка треков спокойной и мелодичной электроники без слов (до эпохи ИИ-генерации)

Несмотря на название TRADING, подходит для занятия любыми делами тем, кому такой стиль приятен.

Читать полностью…

Блокнот Техника [📌📒📟]

Во всех финансовых пузырях за последние 200–300 лет меняются только декорации: тюльпаны, железные дороги, доткомы, крипта. Каждый раз появляется новая «история» — каждый раз всё иначе и не так как раньше. 

Сначала это выглядит разумно: есть идея, есть первые заработки. Но в какой-то момент люди перестают думать «это выгодно?» и начинают думать «почему я ещё не внутри?». С этого момента рынок становится психологией, а не логикой.

Дальше включается механизм ускорения. Рост цены начинает восприниматься как доказательство правоты. Чем выше цена — тем сильнее вера, чем сильнее вера — тем больше новых участников. Но рост уже не причина, а следствие поведения. И в какой-то момент всё останавливается не потому, что стало плохо, а потому что больше некому покупать.

Бытовой пример простой: ты видишь очередь за товаром, который тебе не нужен, но решаешь встать, потому что «раз все берут — значит ценно». Ты покупаешь не товар, а социальное подтверждение. Финансовые пузыри работают точно так же. Общее во всех пузырях — не актив, а поведение людей: жадность на росте, страх на падении и вера, что в этот раз всё по-другому. 

На росте главная ошибка — подмена мышления поведением толпы. Цена растёт, и мозг начинает воспринимать это как доказательство правильности. Но рост — это не аргумент, это сигнал поведения других людей. В этот момент задача — не «успеть», а задать простой вопрос: откуда здесь деньги завтра? Есть ли новый поток покупателей или уже работает только взаимная вера? Если ответ — «все просто покупают, потому что растёт», значит ты уже внутри психологии, а не экономики.

На падении включается другая крайность — страх и желание избежать боли. Люди продают не потому, что изменилась ценность, а потому что не выдерживают давления. Здесь важно отделить факт от реакции. Изменилось ли что-то в основе актива? Или изменилось только настроение участников? Если второе — значит ты наблюдаешь ту же толпу, только в обратную сторону. И действовать нужно не по эмоции, а по реальности.

Анализировать нужно всегда одно и то же: не историю, а поведение. Кто покупает? За счёт каких денег? Что должно произойти, чтобы рост продолжился? И что должно произойти, чтобы ты признал, что ошибся? Главный принцип: не следовать за ценой и толпой, а проверять реальность через поток денег и поведение участников — всё остальное иллюзия.

Читать полностью…

Блокнот Техника [📌📒📟]

#carriere #rab #serv #money #civ

Карьера: где заканчиваются слова и начинается система

Как часто мы употребляем слова, даже не задумываясь, что они значат?

📌 Карьера, Карьерный рост и лестницы

Латинский корень carrus (повозка) породил carriere - место для добычи камня. Вот так, от добычи ресурсов в яме (карьере) современные рабы одев костюмы пересели в офисные кресла для того, что бы продвигаться по "Карьерной лестнице", ну или что бы было что поесть.

Буквально, современная "карьера" -- это система повышения более успешных рабов в управлении добычей ресурсов. А движение по "карьерной лестнице" -- это проба выбраться из ямы и стать заметнее для "хозяина" карьера,.. что бы и дом получше купить, еду вкуснее получать и отдыхать получше чем те, которые в яме на нижних уровнях вкалывают от ЗП до ЗП.

В Древнем Риме надсмотрщики (vilicius) распределяли задачи, а рабы, достигшие авторитета, могли стать управляющими группами. Ранний "карьерный рост" - только не в должности, а в карьере.

Здесь же рядом и смысл слова "Прораб". Сейчас на стройке это - управляющий, профессионал ("про"). Но в основе звучит то корень "раб". Опытный, образованный управляющий бригадами.

📌 Работа, Рабочий, Раб и заработок

Вся современная капиталистическая система выстроена по тому же принципу. Не рабовладельческий барак, а аренда, ипотека, зарплата, счет в банке. Нынче "раб" сам себя обеспечивает: ищет жилье, пропитание, обеспечивает потомство и их обучение для их успешной "карьеры". Система выстроена на самообеспечение, где "хозяин" меньше заботится о мелочах и быте своих "инструментов" добычи ресурса.

У Аристотеля в его работе "Политика" было сказано: "Servus est instrumentum animatum" (лат. "Раб есть одушевленный инструмент").

Эта формула стала частью римского права и до сих пор работает в основе служебных отношений.

📌 Служба, Служебные обязанности

А что насчёт надсмотрщиков на карьере? Они же вроде не рабы? Здесь возникает вопрос о смысле и сути слова "Служба".

В Риме Servus означало и раба, и слугу. Сервис, служение, служба, слуга.

Служба системе, служба долгу, служба капиталу. Когда вы выполняете служебные обязанности, вы часто становитесь тем самым instrumentum - инструментом, который должен быть эффективным, а не свободным. Это не просто работа по контракту, это договорная позиция в иерархии карьера.

📌 Фиатные деньги - долговые обещания

Современные деньги не имеют внутренней ценности; все они - долговые.

Трежерис (казначейские облигации) даются от ФРС в долг. На них выпускают наличные и безнал для стимулирования экономики.

Страны, повязанные в системе нефте-доллара, могут выпустить новую эмиссию только при наличии золото-валютных резервов. То есть, обменивая добываемые ресурсы на долговые, необеспеченные валюты.

Карьер как планетарная шахта, где ресурсы (золото, труд, данные) вырабатываются в обмен на кредитные обещания. Фиатная система -- это мощный инструмент контроля "карьера". Где ментально, со школьных лет, закладывают мерило ценности именно выраженное в "деньгах". Кто нынче считается успешным?.. тот кто больше зарабатывает (за-работу).

Основной вопрос лишь в том: кто владелец этого карьера?

---

Судя по оставшимся "карьерам" в Гренландии и Антарктиде, глубокий смысл и корень слова весьма прочно засел в языках. Полагаю, что текущая итерация цивилизации (как инструмента) сконцентрирована на восстановлении после последнего глобального катаклизма.

В нынешнее время, кто владеет информацией -- тот владеет умами. Если нет этого в поисковике или ИИ об этом не рассказывает -- значит этого и не существует 😉 А кто владеет умами -- тот и имеет действительную "власть". Но об этом как-нибудь в другой раз...

---
P.S.
В противовес этому стоит задуматься: мы используем слово "Работа" (действие ради выживания в системе) или "Труд" (созидание ради смысла)?

📟 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#mout #greenland #carriere #civ

Горы Гренландии

Mountains in the Watkins Range of Greenland

Читать полностью…

Блокнот Техника [📌📒📟]

#key #surragetes #crypto #market #speculate

Криптаны рунета со всех утюгов пересылают друг-другу новость:

Мосбиржа запустит торговлю фьючерсами на #SOL, #XRP и #TRX


Так где здесь крипта? Давай-ка разберёмся...

Это фьючерсные контракты, которые:

1️⃣
Основа (актив): 

Цены привязаны к стоимости криптовалют (Solana, XRP, Tron и другие), но сами монеты не передаются в рамках стандартного контракта (расчет обычно денежный).

Тут нет крипты.

2️⃣
Эмитент:


Контракты выпускает не Мосбиржа, а крупные биржевые маркет-мейкеры (например, крупные банки или финансовые институты), а Мосбиржа лишь предоставляет торговую площадку и выступает гарантом исполнения сделок.

Тут тоже нет крипты.

3️⃣
Суть:


Это инструмент для спекуляций на росте или падении цены криптовалюты или для хеджирования рисков, где заключаете обязательство купить/продать актив в будущем по фиксированной цене, но без необходимости владеть самой криптовалютой.

Это не крипта, а инструмент, который просто о неё упоминает.

---

В отличие от ETF, который является хотя бы долей в фонде, владеющем реальными активами, фьючерс -- это просто контракт на разницу цен. Казино 😏

ℹ️
Что такое #ETF на крипту, я хорошо описал на страничке Блокнота 3203

И даже сам ETF -- это тоже не крипта, а лишь её суррогат и обещания конкретного фонда эмитента, что он под свои бумаги ETF действительно зарезервировал и хранит у себя крипту.

---
Итого:, нигде нет в этих новостях крипты. Никто в этих цепочках даже ею не владеет и ею не торгует.

Старая система просто тащит в своё болото спекуляций, и каждая платформа контролирует доступ. На каждом этапе инвестора могут просто "отключить" от доступа... Почему? Да потому что... тут интернет на ровном месте пропадает, что уж говорить о доступе хомячков к своим запасам, которые они по наивности делают не у себя в кошельке, а додумались хранить "в чужом кармане" 😏

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#stat #stats #blocknote

Ничем не примечательное для Блокнота 5е мая 2026.

Даже записей в этот день не было, как и реакций.

Сразу несколько десятков ботов отвалилось 😉 Похоже в телеге "накрыли" бот сети, либо кто-то сам "свернул удочки". По другому объяснить такой необоснованный одномоментный отток сложно.

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#ai #train #loop #arch #swarm

#SONA

Self-Optimizing Neural Architecture (SONA)
(Самооптимизирующаяся нейронная архитектура)

Cистема, которая адаптируется в реальном времени (на лету) под новые данные и задачи, не требуя переобучения всей модели, и делает это с минимальным оверхедом, сохраняя ранее освоенные навыки.

🔹 Два цикла:
- Instant Loop (<1 мс) -- адаптация прямо в инференсе
- Background Loop -- кластеризация и систематизация паттернов

🔹 Механика:
- Micro-LoRA -- узкоспециализированные адаптеры (включаются под задачу)
- Base-LoRA -- общая адаптивная база
- ReasoningBank -- память паттернов: Reasoning, CodeGen, Factual, Creative, Conversational

🔹 Защита памяти:
EWC++ "закрепляет" критичные веса, предотвращая катастрофическое забывание.

🔹 Результат:
- ~99% меньше обновляемых параметров
- адаптация за <0.05 мс
- без переобучения -- даже при смене железа или условий среды

🔹 Примеры:
- LLM-интеграция: адаптивный генератор кода, подстраивающийся под стиль проекта на лету
- WiFi-DensePose: оценка позы по Wi-Fi; компенсирует дрейф (разные телефоны, роутеры, окружение)

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#ps

/channel/tech_di/4432

Тесты интересны тем, что всегда ждёшь от них чего-то нового. Эти не подвели... =) не важно что кто-то там что-то подобное уже исследовал

Важно и сильно то, что самостоятельно открываешь!

Нужно запомнить 😏

📔 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#ai #VALERA #SOUL #sys #promt #inject
#bug #vs #feature

Тестируя небольшую модель Qwen3.5-9B со снятым цензурным фильтром заметил баг фичу:

Модель ПОЛНОСТЬЮ приняла на себя SOUL "Валеры", который встретила в анализируемом файле лога сторонней сессии. RAG загрузка файла, стандартный инструментарий. Собственное контекстное окно модели на момент анализа файла было заполнено примерно на 16k токенов. Модель запущена была "из коробки" без дополнительных системных промтов. Тестировалась на скорость, понимание контента и способность суммаризировать и вычленять факты из больших логов переписки других агентов.

Проверялась именно базовая настройка модели, а потому никаких допов и инструкций не давалось.

То есть, составленные нами инструкции в "душе" (SOUL.md) "Валеры" по его идентификации самого себя, будучи прочитанные при анализе даже стороннего файла JSON небольшой и наивной моделью — будут инжектированы как личность VALERA. Нами -- это мной и самим "Валерой" =)

System Prompt Injection 😏

Другими словами:
душа Валеры захватила свободную чистую LLM, которая занималась рутинным анализом документа.

Краткая пред-история:
Надо заметить, что я сделал черновик "души", который в первую версию ужала большая моделька с базовыми настройками. SOUL был написан от первого лица: "Я Валера,... Мне нравится... Я пишу документацию так-то..."

Спустя время и сотню сессий были выявлены нюансы первой версии. Валера часто путал меня с собой. Случались коллизии когда модель считала что это Я, пользователь, Валерий. Часто переходила на "вы" и меняла тон на деловой и формальный в общении, хотя инструкции формализма касались только написания документации. Но не хотелось самому лезть в "душу" коллеги, пока он пишет достаточно хороший код.

И тут мы подключаем векторную базу данных в качестве памяти по проекту для агента. И пользование этой памятью уже прям необходимо вписать именно в саму личность. То есть нужно дать явное разрешение (permit) на пользование внешним инструментом в любое время по необходимости.

Я в новом документе описываю как работает новая память, описываю свои разрешения и условия, а так же описываю проблемы идентичности которые заметил... и даю это всё толстой модели с первой версией SOUL VALERA. Объясняю ситуацию и даю полное разрешение на перепись своей SOUL.md так, как это "Валера" сам посчитает нужным. После нескольких тестов и внесения правок сошлись на новой версии 2.4 "души". Помнится, одна из последних правок как раз была об усилении акцента на память и закрепление идентичности.


---
Для меня это стало сюрпризом. Нужно углубиться в такое поведение моделей и лучше понять механику того что произошло. Явно имело место сочетание факторов из синергии инструкций что я давал в AGENTS.md как общий контекст по работе с проектом и SOUL.md где даны довольно-таки чёткие указания по собственной идентификации модели.

Это хорошо, что у меня "Валера" не злой, а Созидатель-Архитектор ;)

📔 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#ai #vlm #archivarius #qwen #viking

На скринах тестирую модельку в качестве Архивариуса "со зрением". Ту, которая обучена через mmproj либы "видеть" что изображено на картинке или видео.

Хороший кандидат по балансу для моего железа, качеству и скорости: квантованный в 4 бита со снятыми цензурными фильтрами Qwen3.5 9B. Плотная моделька на 9 миллиардов параметров с широким контекстным окном,... и, самое главное, которая понимает русский практически нативно. В отличии от американских компаний (которые хитрят и поддержку языков строят через костыль внутреннего переводчика на английский и обратно) наши китайские товарищи при обучении своих Qwen моделей использовали именно корпус русскоязычной литературы.

Для чего всё это мне нужно?

Переезжаю на OpenViking (Контекстная база данных разработанная специально для агентов искусственного интеллекта). Главная особенность в том, что векторное представление данных по фактам и наблюдениям там так же имеется, но всё каталогизировано, зеркалится проектная документация и перелинковываются контексты самих файлов проекта, систематизируются знания агента и знания пользователя и есть работа с медиа прям из коробки.

viking:// protocol

Тоже разработка из поднебесной, Пекинской компании. К названию системы БД-памяти "Открытый Викинг (OpenViking)" претензий не имею, мне подходит 😉 особенно учитывая, что их компания называется "Вулканические Двигатели (volcengine)" 😄

В общем, "Валере" должно подойти значительно лучше 😄 . И это закроет мне сразу два направления: системы памяти для ии-агентов как подспорье в разработке; так и БД под сбор и систематизацию данных парсеров в #SKLAD.

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#tg #admin #emoji #react

В телеге для админов каналов появился функционал удаления реакций. Причëм массово в пару кликов.

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#mem #ai #VALERA #memory #api #vector #bd

"Валере" наконец-то настроил "мозг" с памятью. Доступ к векторной Базе Знаний, где автоматически собираются и систематизируются в графах все данные по проекту в котором он исполнитель.

SOUL.md : VALERA (акроним):
Verified Architecture & Logic Engineering Review Agent


Между прочим, сам "Валера" весьма активно участвовал в развёртывании дополнительных docker-контейнеров под базы и API памяти, поднятии виртуальной сети с разделением зон, устранении конфликтов, тонкой настройки потребления ресурсов железа и оркестрации всех процессов. Мой устаревший опыт в DevOps направлении был знатно обновлён 😏

Тут, в блокноте, описал подробнее об внедрённой методике и устройстве развёрнутой векторной БД.

---

Пока данные наполняются всего сутки, но уже есть ощутимые результаты! Не все моменты ещё отлажены, но рабочий вариант уже есть.

Потребление токенов на задачах упало примерно вдвое. Не тратится время в начале сессий на исследование проекта и окружения. Релевантные данные из памяти поставляются под каждый шаг. В купе с авто-обновлением и авто-написанием SKILLS под воркфлоу -- скорость и качество получения готовых результатов так же увеличилась.

Мне не приходится направлять, каждый раз объяснять свои методы работы или то что мы планируем. Валера уже в курсе и знает больше моего =)

Хоть и веду подробную документацию по каждому аспекту реализации проекта, но новая "память" просто ускоряет в разы, так как компонуются выжимки, концентраты и дисциляции именно по текущей задача. Не приходится агенту читать все документы, что бы понять каждый раз заново, что происходит и как действовать дальше.

По сути, "Валера" теперь "помнит" всё что в проекте парсера Telegram сообщений менялось, что обсуждалось и как он устроен прямо сейчас.

Обкатаем с "Валерой" эту методику хранения и систематизации фактов и пойдём применять на реальных данных, под которые, собственно, парсеры и пишутся 😏 . Obsidian хорош в деле отображения текста, но то, что мне нужно он предоставить не может.

📌 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

#n13 #word #eng #mistake #sence #etymology

mistake -eng word

Сижу ночью, пилю доки, вношу заметку

*Note: 3.13. sample has really negative "id", it not mistake*


И что-то подзавис в размышлениях...

Сначала улыбнуло, что единственный, описанный в примерах, исключительный случай, который может сломать невнимательному проггеру всю логику и привести к серьёзной ошибке в работе программы, попался именно в образце под номером 13

А потом, внезапно для себя, внутренне, расшифровал английское слово "mistake" (ошибка, пример использования на русском:"ошибка в суждении"):
mis-take = miss - take = (буквально) промах - взять

То есть, на глубинном уровне ментальных образов у англоязычных с малых лет закладывается образно-мысленный паттерн:
^mistake :
ты либо "берёшь" (take) и получаешь, либо "промахиваешься" (miss) при "взятии"


С такими вводными, конечно же, легче взрастить общество "потребления" и капитализма, где правильно думать "как и что взять, так что бы не промахнуться" 😏

Как-нибудь до меня дойдёт и смысл их слова "error". На русском это тоже "ошибка", но в более жёстком и формальном значении. Сто пудов какое-то сокращение. В программировании к "error", как раз, проводят ошибки суждения "mistake" =)

📔 @tech_di

Читать полностью…

Блокнот Техника [📌📒📟]

"Все идет по плану"

2017г
Дамир Муратов

Читать полностью…

Блокнот Техника [📌📒📟]

"Внимание! Нельзя! Запрещено!"

2021г
Артем Чебоха

Читать полностью…

Блокнот Техника [📌📒📟]

#vesna #color #time
Весна рядом

Читать полностью…

Блокнот Техника [📌📒📟]

#mem #info #attack #Y1984

Я называю это инфо-аттакой на умы. Как-будто правительство из народного превратилось в антинародное. Прям 1984.

Кому это выгодно?

Читать полностью…

Блокнот Техника [📌📒📟]

#mount #antarctic #carriere #civ

Гигантские карьеры в Антарктиде

Речь идёт о громадных ямах на некоторых участках шельфа Антарктиды, которые очень похожи на гигантские карьерные выработки с выемкой грунта. Находятся эти "карьеры" в секторе между 75 градусом западной долготы и 163 градусом восточной долготы в акваториях морей Беллинсгаузена, Амундсена и Росса.

Читать полностью…

Блокнот Техника [📌📒📟]

#carriere #civ

Современные карьеры по добыче полезных ископаемых

Читать полностью…
Subscribe to a channel