cpluspluc | Unsorted

Telegram-канал cpluspluc - C++ Academy

16151

По всем вопросам- @haarrp @itchannels_telegram - 🔥 best it channels РКН: clck.ru/3FmxJF

Subscribe to a channel

C++ Academy

У clangd появился конкурент. Clice 1.0 написан на современном C++23

15 ноября вышел Clice 1.0 - открытый Language Server для C и C++, который обеспечивает автодополнение, переход к определению, подсветку и другие функции в VS Code, Neovim и других редакторах.

Проект построен на LLVM/Clang, но разработчик ykiko потратил два с половиной года на создание собственной архитектуры.

Что интересного:

- Компиляция в пуле отдельных процессов. Сбой компилятора при разборе незавершённого кода не должен обрушить весь сервер.
- Полная поддержка модулей C++20.
- Кэширование на диске между запусками.
- Автоматическое обнаружение более 50 инструментальных цепочек, включая nvcc, MSYS2 и zig cc.
- Для большинства проектов достаточно compile_commands.json.

Автор утверждает, что Clice превосходит clangd по удобству, поддержке функций и производительности.

GitHub: https://github.com/llvm/clice

Читать полностью…

C++ Academy

В исходниках DOOM нашёлся идеальный комментарий о языках программирования.

В файле doomdef.h прямо перед определением ширины экрана:


// Defines suck.
// C sucks.
// C++ might suck for OOP, but it sure is a better C.
// So there.
#define SCREENWIDTH 320


В переводе:

> Дефайны — отстой.
> C — отстой.
> C++ для ООП, возможно, тоже отстой, но как улучшенный C он точно лучше.
> Вот так.

И сразу после жалобы на дефайны — новый `#define`.

Когда дедлайн сильнее архитектурных убеждений.

https://github.com/id-Software/DOOM/blob/master/linuxdoom-1.10/doomdef.h

Читать полностью…

C++ Academy

Как перейти от ручного управления дроном к командам из кода? Начните с наземной станции: Python-скрипта для телеметрии, предполётных проверок и сценариев полёта.

16 ноября в 20:00 на открытом уроке курса «Разработчик ПО для дронов: ArduPilot, C++ и ROS 2» напишете свою Ground Control Station на Python и MAVSDK.

На уроке:
разберёте, как MAVSDK управляет БПЛА;
напишете скрипт для телеметрии и автономного полёта;
настроите локальную среду SITL и протестируете код в симуляторе без риска для реального аппарата.

Практика подойдёт Python- и C/C++-разработчикам, эмбеддерам и инженерам БПЛА.

Спикер: Игорь Морозов.

Регистрация: https://otus.pw/FBkL/?erid=2W5zFJnDcN6

Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.

Читать полностью…

C++ Academy

Нулевой указатель внутри `offsetof`: старый трюк C с неожиданным подвохом.

В старых реализациях <stddef.h> можно было встретить такой макрос:


#define offsetof(T, member) \
((size_t)&(((T *)0)->member))


Он вычисляет смещение поля от начала структуры с учётом выравнивания.

Как это задумано:

1. (T *)0 — указатель на структуру с нулевым адресом.
2. ->member — обращение к нужному полю.
3. & — получение адреса поля.
4. Преобразование в size_t — получение смещения.

Например:


struct Packet {
char tag;
int length;
};

size_t offset = offsetof(struct Packet, length);


На типичной платформе результат — 4, а не 1: перед int компилятор добавляет байты выравнивания.

Но объяснение «там стоит `&`, поэтому всё безопасно» неверно. Отсутствие чтения памяти само по себе не делает обращение через нулевой указатель корректным переносимым C-кодом. Исторический макрос зависел от гарантий конкретной реализации.

В GCC сегодня используется встроенная операция:


#define offsetof(T, member) \
__builtin_offsetof(T, member)


Используйте стандартный `offsetof` из `<stddef.h>`. Его историческая реализация — интересный приём, но плохой шаблон для собственного макроса.

https://gcc.gnu.org/onlinedocs/gcc/Offsetof.html

Читать полностью…

C++ Academy

Доступен Emscripten 7.0, компилятор из C/C++ в WebAssembly

Опубликован выпуск инструментария Emscripten 7.0, позволяющего компилировать код на C/C++ и других языках, для которых имеются фронтэнды на базе LLVM, в универсальный низкоуровневый промежуточный код WebAssembly. Полученный результат можно использовать для интеграции с JavaScript-проектами, запуска в web-браузере, использования в Node.js или создания обособленных многоплатформенных приложений, запускаемых при помощи wasm runtime. Код проекта распространяется под лицензией MIT. В компиляторе используются наработки проекта LLVM, а для генерации WebAssembly и оптимизации задействована библиотека Binaryen.

Полный текст:
https://opennet.ru/66640/
https://opennet.me/66640/

Читать полностью…

C++ Academy

Национальные комитеты ISO отклонили принятие стандарта C++26

Голосование национальных комитетов ISO (NB, National Bodies).

Полный текст:
https://opennet.ru/66614/
https://opennet.me/66614/

Читать полностью…

C++ Academy

Дрон потерял связь, сбоит навигация или просело питание — что произошло в полёте? Ответы дают логи автопилота, если уметь сопоставлять параметры и читать графики.

5 ноября в 20:00 на открытом уроке курса «Разработчик ПО для дронов: ArduPilot, C++ и ROS 2» разберём логи реальных аварий БПЛА и настройку Failsafe.

Вы узнаете как выгружать DataFlash-логи через Mission Planner; как анализировать графики EKF, IMU и токов для поиска причин отказа; как настраивать стандартный Failsafe в ArduPilot и тестировать реакцию дрона в симуляторе SITL.

Встреча подойдёт C/C++- и Python-разработчикам, embedded-инженерам и специалистам по БПЛА.

Ведущий: игорь Морозов.

Зарегистрироваться: https://tglink.io/29b523fe607dbb?erid=2W5zFGXhLHx

Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.

Читать полностью…

C++ Academy

🖥 Этот код на C валиден до сих пор, хотя выглядит как сломанный

Вот программа, которая спокойно компилируется и выводит 20:


#include <stdio.h>

int main(void) <%
int arr<:3:> = <% 10, 20, 30 %>;
printf("%d\n", arr<:1:>);
return 0;
%>


Вместо фигурных и квадратных скобок здесь диграфы. Пара <% и %> заменяет { и }, а <: и :> заменяют [ и ].

Это не баг и не расширение компилятора, а часть стандарта.

Причина историческая. В семидесятых и позже на многих европейских клавиатурах и в национальных вариантах кодировки ISO 646 этих символов просто не было, их места занимали буквы с диакритикой. Программисту приходилось как-то писать код на C без скобок. Сначала для этого появились триграфы вроде ??( и ??), а в 1995 году в стандарт добавили более читаемые диграфы.

С триграфами у комитета потом случилась отдельная история: в C23 их убрали. А вот диграфы остались, и любой современный компилятор их понимает без всяких флагов.

Хороший трюк для code review, ну или для того, чтобы однажды сильно напугать коллегу.

Читать полностью…

C++ Academy

🖥️ Черная пятница на Stepik на один из лучших курсов по контейнеризации!

Если давно хотел разобраться в теме, но постоянно откладывал или терялся среди десятков материалов, этот курс на Stepik поможет выстроить обучение последовательно.

Что получишь:
- Понятные объяснения без лишней воды.
- Практические задания для закрепления знаний.
- Возможность учиться в удобном темпе.
- Структурированный подход вместо хаотичного поиска информации.

Подойдёт тем, кто начинает с нуля или хочет систематизировать знания.

Начни прокачивать навыки уже сейчас:

https://stepik.org/course/303477/

Читать полностью…

C++ Academy

Роб Пайк написал движок регулярных выражений примерно в 30 строк C – за час-два.

В 1998 году Брайану Кернигану понадобился пример для книги: достаточно полезный, чтобы показать настоящие регулярные выражения, и достаточно короткий, чтобы поместиться на одной странице.

Пайк вернулся с реализацией на указателях и рекурсии, поддерживающей:

- ^ – начало строки.
- $ – конец строки.
- . – любой символ.
- * – ноль или больше повторений предыдущего символа.

Например, шаблон ^a.*b$ проверяет, что строка начинается с a и заканчивается на b.

Весь механизм разделён на три функции: `match` выбирает начальную позицию поиска, `matchhere` проверяет совпадение с неё, `matchstar` перебирает число повторений.

Особенно изящная деталь: обработка * сначала проверяет ноль повторений, затем одно, два и дальше – пока оставшаяся часть шаблона не совпадёт.

Позже Керниган разобрал этот код в Beautiful Code. Здесь нет групп, альтернатив и классов символов, зато весь механизм можно изучить за один присест.

Читать полностью…

C++ Academy

«what the fu**?»: самый странный комментарий в игровом коде

Одна строка из Quake III заменяет деление и корень сдвигом битов и магическим числом 0x5f3759df. Покажу на примере, как это работает, и посчитаю погрешность: 3.44% до уточнения и 0.175% после одного шага Ньютона. А кто на самом деле придумал трюк, вы вряд ли угадаете.

https://youtube.com/shorts/oIpqqzNNCHo

Читать полностью…

C++ Academy

✔️ В C++26 появились контракты. Но проверка условия ещё не гарантирует оптимизацию

Контракты позволяют задавать предусловия и постусловия функции. Например, потребовать, чтобы делитель был ненулевой степенью двойки:


uint32_t ring_index(uint32_t i, uint32_t n)
pre(n && (n & (n - 1)) == 0)
{
return i % n;
}


Для таких беззнаковых чисел i % n можно заменить на более дешёвое i & (n - 1). Однако в примере автора GCC 16 не выполняет эту оптимизацию автоматически.

Поддержка контрактов включается через -fcontracts. В режиме enforce нарушение вызывает обработчик и завершение программы. Поведение зависит от выбранного режима проверки. Документация GCC -https://gcc.gnu.org/onlinedocs/gcc/C_002b_002b-Dialect-Options.html .

Атрибут C++23 [[assume(условие)]] даёт оптимизатору дополнительную информацию, но не проверяет условие. Если оно ложно, поведение программы не определено.

Читать полностью…

C++ Academy

🎮 Оказывается, Wolfenstein 3D-подобный raycaster можно собрать примерно в 250 строках C++.

Принцип довольно элегантный: для каждого вертикального столбца экрана выпускается один луч через карту, а пересечения со стенами ищутся через DDA - Digital Differential Analysis.

Ключевой трюк:

deltaDist = abs(1 / rayDir)

После попадания в стену используется не обычная длина луча, а перпендикулярное расстояние до стены — это убирает характерное fish-eye искажение.

Дальше всё почти классически:

* рассчитывается высота стены на экране;
* выбирается текстура;
* вычисляется точка попадания;
* рисуется вертикальная полоса пикселей.

Минимум кода и уже получается полноценная псевдо-3D графика в стиле первых Wolfenstein/Doom-подобных движков.

Отличный проект, чтобы реально понять raycasting, DDA и основы старой 3D-графики.

Читать полностью…

C++ Academy

🔥 Хочешь быстрее расти в IT? Хватит учиться в одиночку

Окружение решает больше, чем кажется.

Собрал папки и каналы, где можно быстрее влиться в нужное направление, следить за трендами и не вариться в своём пузыре.

AI: t.me/ai_machinelearning_big_data
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
DevOps: t.me/DevOPSitsec
Docker: /channel/+90Z5TAyfuNU5YmRi
Golang: t.me/Golang_google
Rust: t.me/rust_code
C++: t.me/cpluspluc
C#: t.me/csharp_ci
Java: t.me/javatg
JavaScript: t.me/javascriptv
React: t.me/react_tg
Frontend: t.me/front
PHP: t.me/phpshka
Android: t.me/android_its
Мобильная разработка: t.me/mobdevelop
Базы данных: t.me/sqlhub
Data Science: t.me/data_analysis_ml
Big Data: t.me/bigdatai
Математика: t.me/data_math
Физика: t.me/fizmat
Kubernetes: t.me/kubernetc
GameDev: /channel/gamedev
Haskell: t.me/haskell_tg

Собеседования и карьера:

DS собеседования: t.me/machinelearning_interview
Python собеседования: t.me/python_job_interview

Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: /channel/addlist/2Ls-snqEeytkMDgy
Папка Frontend: /channel/addlist/mzMMG3RPZhY2M2Iy

Полезное сверху:

ИТ-мемы: t.me/memes_prog
Английский для программистов: t.me/english_forprogrammers
ИИ и технологии: t.me/vistehno
954 ГБ open-source курсов: /channel/+rKBQEMccAA01MTcy
ИТ-книги бесплатно: /channel/addlist/BkskQciUW_FhNjEy

Max Ai: https://max.ru/ai_machinelearning_big_data
Max python: https://max.ru/pythonl
ТЕХНО: https://max.ru/vistehno
Max Go: https://max.ru/Golang_google
Max Linux: https://max.ru/linuxkalii
Devops: https://max.ru/DevOPSitsec
C#: https://max.ru/csharp_ci
C++: https://max.ru/cpluspluc
SQL: https://max.ru/sqlhub
Java: https://max.ru/javatg

Подписывайся на нужные направления и собирай себе ленту, которая реально двигает вперёд.

Читать полностью…

C++ Academy

Для работы с ИИ полезно иметь несколько моделей под рукой. Но держать ради этого несколько подписок удобно не всем.

Особенно когда сегодня нужен Claude для кода, завтра GPT для другой задачи, а команде ещё нужны общий баланс и понятные расходы.

Для такого сценария есть RouterAI, российская альтернатива OpenRouter. ChatGPT, Claude, Gemini, Grok и сотни других моделей доступны через один веб-чат и OpenAI-совместимый API. Сервис работает без VPN, есть Telegram-бот.

Для разработки предусмотрены инструкции по подключению Claude Code, Codex, Cline и Cursor. Если провайдер модели недоступен, запрос автоматически направляется резервному.

Оплата за использование, без обязательной подписки. Пополнить баланс можно в рублях российской картой или через СБП. Для бизнеса есть оплата по счёту, договор и закрывающие документы. Командам доступны роли, лимиты и статистика расходов.

По данным RouterAI, платформой пользуются десятки тысяч пользователей, включая разработчиков и компании. На сторонних площадках сотни положительных отзывов с оценками около 4,9–5 из 5: например, на Startpack сейчас 372 отзыва и рейтинг 4,9.

Практичный способ попробовать разные модели на своих задачах и платить за фактическую работу.

https://routerai.ru/l/c
#реклама
О рекламодателе
erid: 2W5zFJoafmB

Читать полностью…

C++ Academy

Это C. Просто автор предпочитал синтаксис ALGOL 68 😄

Стив Борн, создатель Bourne shell, использовал макросы, чтобы исходники оболочки выглядели привычнее:


#define IF if(
#define THEN ){
#define ELSE } else {
#define FI ;}


Теперь условие можно записать так:


IF n <= 1 THEN
return;
FI


Препроцессор превратит его в обычный C:


if (n <= 1) {
return;
}


Такие макросы действительно есть в исходниках Bourne shell из UNIX V7. На картинке тот же приём применяется к циклам: FOR, DO, OD.

Любопытный кусочек истории: через #define можно поменять внешний вид языка, сохранив прежний компилятор. А вот читать и отлаживать такой код придётся уже с учётом собственного «диалекта».

https://www.tuhs.org/cgi-bin/utree.pl?file=V7/usr/src/cmd/sh/mac.h

Читать полностью…

C++ Academy

Все простые числа до 8 миллионов — примерно в 1 МБ памяти

Так работает решето Эратосфена с битовым массивом: каждому числу выделяют один бит, который показывает, вычеркнули его или ещё нет.

Начинаем с двойки и отмечаем её кратные: 4, 6, 8… Затем берём тройку: 9, 12, 15… Продолжаем для оставшихся невычеркнутых чисел.

Почему вычёркивание начинается с `i * i`? Все меньшие кратные уже обработаны. Например, для пятёрки числа 10, 15 и 20 вычеркнули на шагах двойки и тройки. Начинать можно с 25.

Для чисел меньше 8 миллионов нужно около 8 миллионов бит = 1 миллион байт. Это память для отметок; отдельный список найденных простых потребует дополнительного места.

Сами отметки делаются битовыми операциями:

- n >> 3 — индекс байта;
- n & 7 — позиция бита внутри него;
- |= — установить бит, пометив число составным.

После прохода неотмеченные числа от 2 — простые.

Алгоритму больше двух тысяч лет, а один из его полезнейших уроков всё тот же: для ответа «да или нет» достаточно одного бита.

Читать полностью…

C++ Academy

⚡️️️️️️ ByteAsk сократил расходы ИИ-агента на исправление C/C++-кода на 68%

Одна из главных статей расходов при использовании ИИ для исправления ошибок в больших C/C++-проектах - поиск нужного участка кода. Модель тратит токены ещё до того, как приступает непосредственно к исправлению.

ByteAsk предлагает решить эту проблему до запуска LLM.

Это coding agent для C и C++, который предварительно анализирует код с учётом того, как его видит система сборки, определяет место будущего изменения и находит другие участки, где потребуется аналогичная правка.

После этого ИИ получает уже подготовленный контекст и проверяет изменения только соответствующими тестами.

Результаты эксперимента:
- На 78% меньше токенов.
- На 68,1% ниже стоимость выполнения.
- 395 тыс. токенов вместо 1,795 млн на один запуск.
- При этом количество исправленных ошибок осталось прежним.

На малоизвестных проектах и сложных задачах экономия достигала примерно 80%.

Идея ByteAsk заключается в том, чтобы сначала точно определить, где нужно менять код, а уже потом тратить ресурсы модели на анализ и исправление.

Подробнее: https://byteask.ai/research/byteask

@vistehno

Читать полностью…

C++ Academy

99 строк C — и у вас работающий интерпретатор Lisp со сборщиком мусора.

Роберт ван Энгелен создал TinyLisp, в котором уместились:

- 21 встроенный примитив;
- лексическая область видимости;
- числа с плавающей точкой двойной точности;
- простой сборщик мусора;
- REPL — вводите выражение и сразу получаете результат.

Компактность достигается за счёт NaN boxing: числа и другие значения упаковываются в одно представление с использованием особенностей формата floating point.

Есть и версия для карманного компьютера Sharp PC-G850VS. Она компилируется прямо на устройстве его встроенным компилятором C и использует BCD boxing.

Самое полезное — вместе с исходниками автор опубликовал подробную статью с разбором реализации и примерами расширения языка. В репозитории также есть более читаемая версия с комментариями и варианты с оптимизацией хвостовых вызовов.

Хороший проект, чтобы разобраться, как устроен интерпретатор: от чтения выражений до вычисления и управления памятью.

https://github.com/Robert-van-Engelen/tinylisp

Читать полностью…

C++ Academy

Linux может убить программу за попытку открыть файл

Для этого есть seccomp strict — режим, который резко ограничивает доступ потока к системным вызовам:


if (prctl(PR_SET_SECCOMP, SECCOMP_MODE_STRICT) == -1) {
perror("seccomp");
return 1;
}


После успешного включения разрешены только `read`, `write`, системный `_exit` и `sigreturn`. Попытка открыть новый файл, создать процесс или сокет приводит к принудительному завершению. В однопоточной программе — через SIGKILL.

Зачем это нужно? Представьте обработчик недоверенных данных: он заранее получает необходимые дескрипторы, включает ограничения и приступает к вычислениям. Даже если злоумышленник перехватит выполнение, доступные ему действия будут сильно ограничены.

Но уже открытые файлы и сокеты остаются доступны через `read` и `write`. Поэтому обещание «полностью отрезать сеть одним вызовом» некорректно.

Режим настолько строгий, что даже обычные библиотечные функции могут вызвать запрещённый syscall. Для прикладных программ чаще нужен seccomp-фильтр с собственным списком разрешённых вызовов.

Читать полностью…

C++ Academy

Квантовый богосорт* на C: сортировка за O(n), но какой ценой?

Богосорт перемешивает массив, пока тот случайно не станет отсортированным, и в среднем тратит на это O(n!) попыток. Квантовый богосорт сокращает это до O(n): если массив не по порядку, программа вызывает abort() и уничтожает свою вселенную, а по многомировой интерпретации выживают только те ветки реальности, где сортировка уже случилась. Разбираем шуточный код на C и физику, на которую он опирается.

*Богосорт (Bogosort) — это шуточный, крайне неэффективный алгоритм сортировки данных, используемый в образовательных целях или как пародия на нормальные алгоритмы.

Читать полностью…

C++ Academy

💡 В C можно заполнить три элемента массива, а остальные обнулятся автоматически

Для этого есть designated initializers — инициализация с указанием индексов:


int flags[256] = {
['A'] = 1,
['Z'] = 1,
[42] = 99
};


Получаем:

• flags['A'] и flags['Z'] равны 1.
• flags[42] равен 99.
• Все остальные элементы равны 0, даже если массив локальный.

'A' здесь — символьная константа: её числовое значение используется как индекс.

Удобно для таблиц флагов, классификации символов и индексов из enum. Не нужно вручную перечислять сотни нулей.

Возможность входит в стандарт C начиная с C99.

Читать полностью…

C++ Academy

Функция на C может вернуться из `return`, а при следующем вызове продолжить с того же места. Для этого хватит трёх макросов.

Создатель PuTTY Саймон Тэтем описал трюк, который имитирует корутины в обычном C с помощью switch/case и __LINE__.


#define crBegin \
static int state = 0; switch (state) { case 0:

#define crYield(x) do { \
state = __LINE__; return (x); \
case __LINE__:; \
} while (0)

#define crFinish }

int next_value(void) {
crBegin;
while (1) {
crYield(10);
crYield(20);
crYield(30);
}
crFinish;
}


Последовательные вызовы next_value() вернут 10, 20, 30, 10…

Как это работает: перед выходом функция сохраняет номер строки в static`-переменной. При следующем вызове `switch переводит выполнение к соответствующему case, прямо за предыдущий return.

Зачем это нужно: обработчик протокола или парсер можно написать последовательным кодом, выдавая результат по частям.

Есть ограничения: обычные локальные переменные не сохраняются между вызовами, два crYield нельзя размещать на одной строке, а static хранит одно общее состояние для всех вызывающих. Для независимых экземпляров состояние выносят в отдельную структуру.

www.chiark.greenend.org.uk/~sgtatham/coroutines.html

Читать полностью…

C++ Academy

💡 Зачем в графовых алгоритмах пишут `e ^ 1`?

Это компактный способ найти обратное ребро, если рёбра добавляются парами:


0 ↔ 1
2 ↔ 3
4 ↔ 5


XOR с единицей переключает последний бит: чётный индекс превращается в следующий нечётный, а нечётный в предыдущий.

Приём используется в Minimum-Cost Maximum-Flow: алгоритме, который находит максимальный поток с минимальной стоимостью.

SPFA ищет самый дешёвый доступный путь в остаточном графе. По нему отправляют столько потока, сколько позволяет самое узкое ребро, и повторяют поиск.

Обратные рёбра позволяют отменять часть ранее отправленного потока, чтобы перераспределить его выгоднее. Их стоимость противоположна стоимости прямых рёбер.

Маленький ^ 1, за которым скрывается возможность пересмотреть предыдущее решение.

Читать полностью…

C++ Academy

Вектор в C++ (std::vector): полное руководство с примерами 2026 - добавление, удаление, сортировка

Вектор в C++ (std::vector) с примерами: как создать, добавить и удалить элемент, узнать размер, отсортировать, найти элемент, двумерный вектор и ошибки.

https://uproger.com/vektor-v-cpp-std-vector/

Читать полностью…

C++ Academy

Алгоритм is_partitioned

Алгоритм is_partitioned — это алгоритм из стандартной библиотеки algorithm, который проверяет, разбит ли диапазон элементов определенным образом.
Принимает три параметра:
— Два итератора, задающих проверяемый диапазон.
— Предикат (функцию или функтор), определяющий разбиение.
Возвращает bool значение — true если диапазон разбит согласно предикату и false в противном случае.

Этот алгоритм предпочтительнее цикла, т. к. проще в использовании и читабельнее, ведь он эффективно проверяет условие за один проход по последовательности.

В примере мы определяем предикат isEven для проверки четности числа, передаем его в is_partitioned вместе с вектором v и выводим результат.

#это_база

Читать полностью…

C++ Academy

🌟 SonicBoom: движок инференса без Python

HardenedVault, которая специализируется на безопасности Linux и компиляторов, выложила среду исполнения SonicBoom, написанной с нуля на C++ и CUDA. Python ей не нужен ни для работы, ни для сборки.

Цель проекта – локальный запуск языковых моделей на потребительских видеокартах.


Всё упаковано в одну библиотеку libsonicboom.so, которую можно подключить из любого языка через стандартный интерфейс C, основным языком для работы с ней авторы выбрали Scheme в реализации GNU Guile.

SonicBoom загружает модели в GGUF, генерирует текст на процессоре или видеокарте и поднимает локальный сервер, совместимый с API OpenAI.

Если новый запрос начинается с того же текста, что и предыдущий, заново обрабатывается только добавленная часть, и результат до токена совпадает с полным пересчётом.

🟡Механика

Скорость вывода дают уровни над вычислительными ядрами, а не сами ядра. Умножение квантованных матриц и токенизаторы частично перенесены из llama.cpp.

Над ними работает планировщик, который до запуска переписывает граф модели целиком, сливает соседние операции и записывает весь шаг генерации токена в один CUDA Graph, т. е. в готовую последовательность команд для видеокарты.

Ещё выше стоит компилятор на базе MLIR. Он сам генерирует часть ядер для GPU, в том числе для механизма внимания, и при первом запуске подбирает самый быстрый вариант под конкретную карту.

🟡Тесты

На RTX 3050 с 8 ГБ памяти сравнили SonicBoom и llama.cpp на одних и тех же моделях.

Gemma 4 E4B через SonicBoom дала генерацию в 53 токена в секунду против 44,8 у llama.cpp.

У Qwen2.5-0.5B вышло 344,7 токена в секунду против 307,6.

Когда контекст дорастает до 512 токенов, SonicBoom на Qwen уже чуть отстаёт.

Единственный сторонний результат на RTX 4060 Ti оказался хуже llama.cpp, 73,6 токена в секунду против 78, но его получили на сборке, ещё не настроенной под эту видеокарту.

Пока проверены только две модели, Gemma 4 E4B-it и Qwen2.5-0.5B-Instruct, и только видеокарты серии RTX 30.


Модель всегда выбирает самый вероятный токен, температуру и другие настройки случайности задать нельзя.

Следующими в планах стоят модели Llama и Mistral, работа через Vulkan, генерация ядер для видеокарт других производителей и диффузионные модели.

Дальше SonicBoom планирует вырасти в фреймворк в духе PyTorch, где модель пишут на Scheme и компилируют в граф вычислений. Прототип этого режима уже обучает небольшой трансформер.


📌Лицензирование: GPL-3.0


🖥Github


@ai_machinelearning_big_data

#AI #ML #LLM #InferenceEngine #SonicBoom

Читать полностью…

C++ Academy

🧠 TIL: SQLite превращает числа в текст сразу по две цифры

Обычно integer → string делают циклом:

/ 10 → берём цифру
% 10 → остаток
и повторяем снова.

SQLite идёт хитрее.

В исходниках есть строка на 200 символов, содержащая все пары от 00 до 99:

000102030405...979899

При преобразовании числа SQLite обрабатывает его по две цифры за раз и просто берёт нужную пару символов по индексу.

То есть вместо множества операций /10 и %10:

делим на 100 → получаем две цифры → копируем готовую пару.

Маленькая оптимизация, но именно из таких деталей и состоит быстрый системный код.

Исходник: sqlite/src/util.c

Читать полностью…

C++ Academy

🛋 C++ реалистично симулирует взрослую жизнь: решил сэкономить на переезде, а всё равно заплатил за копию.


const Sofa mySofa;
Sofa newApartment = std::move(mySofa);


Кажется, диван должен «переехать». Но вызывается конструктор копирования.

Подвох: `std::move` не перемещает объект и не снимает `const`. Здесь он даёт const Sofa&&, а конструктору перемещения Sofa(Sofa&&) нужна ссылка без const.

Зато конструктор копирования Sofa(const Sofa&) подходит.

Даже компилятор знает: переезд без неожиданных расходов не бывает.

Читать полностью…

C++ Academy

🎲 Генератор случайных чисел всего в три строки

В 2003 году George Marsaglia предложил семейство генераторов Xorshift — один из самых простых и быстрых PRNG.

Для xorshift32 достаточно буквально трёх операций:

state ^= state << 13;
state ^= state >> 17;
state ^= state << 5;

Новое значение state становится следующим псевдослучайным числом.

Почему это интересно:

- почти нет вычислительных затрат;
- используются только битовые сдвиги и XOR;
- период для ненулевого state — до 2³² − 1;
- отлично подходит для игр, симуляций и других задач, где важна скорость.

Но есть важный нюанс: Xorshift не криптографически стойкий. Для токенов, паролей и security-задач его использовать нельзя.

Красивый пример того, как всего несколько битовых операций превращаются в полноценный генератор псевдослучайных чисел.

Читать полностью…
Subscribe to a channel