50319
Всё самое интересное из мира Python Сотрудничество, реклама: @devmangx Работаем с @Spiral_Yuri РКН: https://clck.ru/3GMMF6
Симуляция Нью-Йорка, генерируемая в реальном времени.
По виртуальному городу можно прогуляться пешком, прокатиться на велосипеде, проехать на автомобиле или полетать на вертолёте.
В симуляции реализованы эффекты освещения, смена времени суток в реальном времени, дорожное движение, отражения и многое другое.
При этом весь проект занимает менее 800 КБ, а его исходный код находится в открытом доступе.
https://mrdoob.github.io/slop-newyork/
👉 @PythonPortal
Claude больше не способен проводить реверс-инжиниринг всего подряд. Anthropic незаметно прикрыла REA (Reverse Engineer Anything).
Любопытно, однако, при каких обстоятельствах это произошло.
После нескольких нашумевших случаев, когда пользователи с помощью Claude проводили реверс-инжиниринг прошивок телевизоров Samsung и обнаруживали сервисы сбора данных, Anthropic, по всей видимости, решила ограничить возможности модели в этой области.
Как говорится, слишком многое узнал. 🚬
👉 @PythonPortal
Демис Хассабис, генеральный директор Google DeepMind и лауреат Нобелевской премии, ожидает появления AGI гораздо раньше, чем предполагал в своих предыдущих прогнозах.
Январь 2025 года. До появления AGI остаётся ещё 5–10 лет. Возможно, для этого потребуется один или два технологических прорыва.
Февраль 2026 года. Мы находимся на пороге очередного переломного момента, когда появление AGI становится всё более близкой перспективой. Возможно, он появится в течение ближайших пяти лет.
Октябрь 2026 года. Теперь Хассабис ожидает появления AGI уже через 2–3 года.
https://www.wsj.com/tech/ai/demis-hassabis-ai-deepmind-google-isomorphic-2b4e3153?st=qXvQgt&reflink=desktopwebshare_permalink
👉 @PythonPortal
Теперь я могу играть в полную версию GTA Vice City прямо в браузере с частотой 60 FPS.
- Ничего не нужно скачивать.
- Не нужно ждать.
- Только GTA Vice City, оптимизированная до предела.
- Игра полностью портирована для запуска в браузере.
Всё это стало возможным благодаря миллиардам токенов, потраченных на работу с ИИ.
Теперь игра загружается быстрее официальной версии и стабильно работает при 60 FPS.
Попробовать: gta.rabisco.net 🤯
👉 @PythonPortal
Парень провёл реверс-инжиниринг своего телевизора с помощью Claude.
- Воссоздал минималистичный главный экран в стиле Apple TV.
- Удалил всю предустановленную рекламу и ненужное ПО.
- Сократил потребление оперативной памяти на 70% и заметно ускорил работу телевизора.
Для желающих попробовать доступна опенсорсная версия.
👉 @PythonPortal
Я думал, что понимаю, как работает загрузка GPU, пока не начал писать это руководство.
Я постоянно смешивал три разных понятия:
- Объём работы, который мы запускаем.
- Объём работы, который фактически размещён на GPU.
- Объём работы, готовый к выполнению прямо сейчас.
Но это совершенно разные вещи.
Возьмём CUDA-ядро с 240 блоками по 256 потоков в каждом. Всего получается 61 440 логических потоков, или 1920 варпов. Однако количество запущенных потоков ничего не говорит о том, сколько варпов может одновременно находиться на GPU.
Блоки размещаются на потоковых мультипроцессорах (SM) с учётом доступных регистров, разделяемой памяти и ограничений на количество потоков, варпов и блоков.
Даже после размещения на SM варп может ожидать завершения операции с памятью, разрешения зависимости между арифметическими операциями или синхронизации. Планировщик может выбирать только те варпы, которые действительно готовы к выдаче инструкций на выполнение.
Это изменило и мой подход к анализу показателей производительности.
Occupancy — показатель, отражающий отношение количества активных варпов на SM к максимально поддерживаемому количеству варпов на этом SM.
GPU utilization измеряет другое. В NVML этот показатель отражает долю интервала измерения, в течение которой выполнялось хотя бы одно CUDA-ядро.
Таким образом, GPU может показывать загрузку 100%, даже если Tensor Cores не используются на полную мощность, пропускная способность HBM не исчерпана, а производительность ограничивается одним из компонентов системы. При этом значительная часть ресурсов GPU может оставаться недозагруженной.
С памятью возникают похожие заблуждения. Регистры, разделяемая память, L1, L2 и HBM — это не просто уровни памяти, последовательно отличающиеся скоростью. У каждого из них свои области доступности, ёмкость, особенности управления и способы доступа.
Если модель помещается в HBM, это означает лишь то, что для неё достаточно видеопамяти. Но практически ничего не говорит о том, сколько байтов приходится передавать, насколько эффективно объединяются обращения к памяти, как часто данные используются повторно и действительно ли память ограничивает производительность CUDA-ядра.
Хороший пример — FlashAttention. Алгоритм вычисляет точный механизм внимания (attention), но использует разбиение на блоки (tiling) и повторные вычисления, чтобы сократить объём передачи данных между HBM и внутренней памятью GPU.
Tensor Cores оказались ещё одной технологией, которую я раньше воспринимал слишком упрощённо.
Это специализированные вычислительные блоки для матричных операций умножения с накоплением, играющие огромную роль в задачах ИИ. Однако они не «выполняют модель» целиком.
Операции редукции, индексации, поэлементные вычисления, синхронизация и перемещение данных по-прежнему задействуют другие компоненты GPU. Кроме того, запуск CUDA-ядер тоже создаёт дополнительные накладные расходы.
Со временем я перестал спрашивать себя: «Почему GPU не загружен на 100%?» Вместо этого я начал задавать более правильный вопрос: «Что именно сейчас ограничивает скорость выполнения полезной работы?»
В итоге всё это превратилось в руководство на 42 страницы.
В нём рассматриваются потоковые мультипроцессоры (SM), варпы и планировщики, иерархия памяти и скрытие задержек, Tensor Cores, распределение вычислений GEMM по аппаратным ресурсам GPU, точность вычислений и показатели производительности, которые очень легко интерпретировать неправильно.
https://drive.google.com/file/d/17tyvxr__8vZ6o995GNq6I5PC5JOiv0ql/view
👉 @PythonPortal
Не теряющий актуальности материал — «Введение в распределённые системы» (An Introduction to Distributed Systems) Кайла Кингсбери.
https://github.com/aphyr/distsys-class
👉 @PythonPortal
Вот это действительно хорошая модель для генерации изображений. MOSS Image с 5 млрд параметров, распространяемая по лицензии Apache 2.0.
Уже сейчас модель практически не ограничена цензурой!
https://huggingface.co/OpenMOSS-Team/MOSS-Image-Base
https://huggingface.co/OpenMOSS-Team/MOSS-Image-SFT
👉 @PythonPortal
API для извлечения данных с любых сайтов, даже защищённых CAPTCHA или блокирующих ботов.
- /scrape — извлекает и разбирает содержимое страницы.
- /crawl — обходит сайт, переходя по ссылкам.
- /search — выполняет поиск в реальном времени.
- /map — собирает список URL-адресов.
10 000 запросов в месяц бесплатно и без привязки банковской карты.
→ https://midu.link/decodo
👉 @PythonPortal
У Nvidia есть открытая модель мира на 2,6 млрд параметров.
Она позволяет превратить изображение, текстовый промпт и траекторию движения камеры в управляемый виртуальный мир.
И всё это на одном GPU.
- Код доступен на GitHub.
- Научная статья опубликована на arXiv.
- Подходит для исследований воплощённого ИИ, робототехники и симуляций.
Модель работает на GPU вроде RTX 5090 или H100, позволяя экспериментировать с моделями мира без необходимости использовать несколько видеокарт.
https://github.com/NVlabs/Sana
👉 @PythonPortal
Теперь можно просто загрузить изображение и посмотреть, как нейросеть определяет, что на нём изображено.
CNN Explainer позволяет проследить весь процесс обработки:
Пиксели → свёртка → ReLU → пулинг → карты признаков → softmax → предсказание.
Можно переходить между слоями нейросети и изучать фильтры, активации и вычисления, на основе которых формируется результат.
Отличный способ наглядно разобраться в работе свёрточных нейросетей (CNN).
https://poloclub.github.io/cnn-explainer/
👉 @PythonPortal
5 архитектур RAG
Большинство RAG-систем ломаются в одном и том же месте. Проблема не в модели, а в том, как находится контекст.
Базовый RAG строит эмбеддинги документов, находит ближайшие фрагменты и надеется, что в них есть ответ. Для простых вопросов это работает. Системам в продакшене нужно больше, и этот пробел заполняют пять архитектур.
Гибридный RAG выполняет два поиска одновременно. Плотные векторы улавливают смысл, а индекс ключевых слов BM25 находит точные термины, которые эмбеддинги часто упускают: коды товаров, имена, аббревиатуры. Метод Reciprocal Rank Fusion объединяет два ранжированных списка в один.
GraphRAG перестаёт рассматривать знания как изолированные фрагменты. Он извлекает сущности и связи между ними в граф знаний, затем находит релевантный подграф и сводки связанных кластеров. Он рассчитан на вопросы, ответы на которые охватывают несколько связанных фактов.
Агентный RAG превращает поиск в план действий. Агент-планировщик решает, какие инструменты использовать: векторный поиск, поиск в интернете или SQL-базу. Агент, отвечающий за рассуждения, объединяет результаты. Если подтверждений недостаточно, система возвращается к поиску.
Корректирующий RAG проверяет результаты собственного поиска. Агент-оценщик оценивает найденное до передачи модели. Релевантные результаты проходят дальше, нерелевантные запускают поиск в интернете, а при неоднозначной оценке запрос отправляется на переформулирование.
Мультимодальный RAG воспринимает документ не только как текст. Текст, изображения, графики и таблицы преобразуются в эмбеддинги и помещаются в общий индекс с помощью моделей вроде CLIP или ColPali. Так один запрос может найти абзац, схему или отсканированную таблицу.
Каждая архитектура устраняет свой тип сбоя:
Пропущенные ключевые слова → гибридный RAG
Недостающие связи → GraphRAG
Вопросы, требующие нескольких источников → агентный RAG
Ненадёжный поиск → корректирующий RAG
Знания в визуальных материалах → мультимодальный RAG
👉 @PythonPortal
👁👁 Тестовый собес на Python с разработчиком из Яндекса
[+ ответы на 50 сложных вопросов в подарок]
14 октября в 19:00 (МСК) приходи посмотреть открытое онлайн-собеседование на Python-разработчика.
Интервьюер: Хачатур Саркисян – разработчик из Яндекса, работает с высоконагруженными сервисами, Kafka и микросервисной архитектурой.
На эфире нет сценария ↓
Кандидат – случайный разработчик, который не знает вопросов заранее.
На обычном собесе ты не знаешь, что думает интервьюер, пока не придёт фидбек. На этом эфире Хачатур проговорит всё вслух:
— какие вопросы и задачи он даёт кандидатам в бигтехе;
— что в каждом ответе засчитал бы, а что нет – и почему.
«Матричное дифференциальное исчисление для машинного обучения и не только» — бесплатный курс лекционных материалов MIT, посвящённый математике производных векторов и матриц.
Материалы охватывают градиенты, якобианы, производные матричных функций, дифференциалы, производные произведений матриц, обратных матриц и определителей, произведения Кронекера, оптимизацию и автоматическое дифференцирование. Также рассматривается применение этих методов в машинном обучении.
На мой взгляд, это полезный ресурс для тех, кто уже знаком с основами линейной алгебры и математического анализа и хочет разобраться, как дифференцирование обобщается на векторы и матрицы и применяется в современных задачах оптимизации.
https://ocw.mit.edu/courses/18-s096-matrix-calculus-for-machine-learning-and-beyond-january-iap-2023/mit18_s096iap23_lec_full.pdf
👉 @PythonPortal
Можно буквально ввести предложение и посмотреть, как Transformer обрабатывает его.
Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:
Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.
Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.
Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.
https://poloclub.github.io/transformer-explainer/
👉 @PythonPortal
Одна из лучших моделей, превращающих изображения в 3D, вышла в открытый доступ.
Hi3D V1.0 — масштабированная версия прошлогодней Sparc3D. Её код и веса уже опубликованы на GitHub и Hugging Face. Скачать и использовать модель можно совершенно бесплатно.
Признаться, за последнее время я не встречал более любопытного открытого релиза в области 3D.
👉 @PythonPortal
Генеральный директор OpenAI Сэм Альтман заявил:
«Будущее должно оставаться под контролем людей. Мы не хотим, чтобы слишком много власти сосредоточилось в руках ИИ с IQ в десять миллиардов или небольшой группы людей, которые смогут делать с помощью ИИ всё, что захотят».
DeepSeek открыла исходный код движка инференса, лежащего в основе кластера, который, по заявлению компании, обрабатывает 155 триллионов токенов в сутки.
И это уже становится закономерностью. Ранее DeepSeek опубликовала FlashMLA, DeepGEMM, DeepEP и несколько других компонентов своей инфраструктуры инференса. Теперь компания открывает исходный код фреймворка, объединяющего значительную часть этих разработок.
Проект называется DeepInfer. Это высокопроизводительный фреймворк для инференса, который используется в масштабных продакшен-сервисах DeepSeek.
На данный момент он поддерживает DeepSeek-V4.1-Flash и включает несколько интересных оптимизаций для эффективного запуска крупных моделей с архитектурой Mixture-of-Experts (MoE).
В реализации предусмотрен параллелизм экспертов (Expert Parallelism) с динамической балансировкой нагрузки. Это позволяет распределять MoE-экспертов между GPU и корректировать нагрузку при её неравномерном распределении.
Для декодирования DeepInfer использует спекулятивное декодирование DSpark с проверкой, планируемой на основе оценок уверенности. Предварительные токены генерируются заранее, а оценки уверенности помогают определить, когда необходимо выполнить их проверку.
Отдельного внимания заслуживает планировщик. Формирование батчей на CPU выполняется параллельно с вычислениями на GPU, что сокращает время простоя, обычно возникающее между этапами декодирования.
Среди других возможностей:
- Ограниченное повторное воспроизведение вычислений для Sliding Window Attention.
- Инференс, результаты которого не зависят от состава батча.
- Детерминированное семплирование.
- Генерация с ограничениями на основе JSON Schema, регулярных выражений и грамматик EBNF.
DeepSeek также опубликовала необычайно подробную документацию по развёртыванию, в которой объясняется, как её продакшен-система разделяет этапы prefill и decode, распределяет MoE-экспертов между большими группами GPU и повторно использует закэшированный контекст.
Фреймворк поддерживает GPU NVIDIA с архитектурой SM100 и NPU Huawei Ascend 950.
Однако есть важное ограничение: публичная версия пока поддерживает только офлайн-инференс. В неё не входят система KV-кэша, полноценное разделение prefill и decode, а также балансировка нагрузки, необходимые для работы полноценного онлайн-сервиса.
Изначально DeepInfer разрабатывался преимущественно на базе vLLM с использованием отдельных идей из SGLang и TensorRT-LLM.
Таким образом, это не полная копия продакшен-инфраструктуры DeepSeek. Тем не менее компания открыла доступ к значительной части своей реальной реализации инференса, которую разработчики теперь могут изучать, тестировать в бенчмарках и использовать в собственных проектах.
Исходный код полностью открыт под лицензией Apache 2.0.
👉 @PythonPortal
«Calculus» Майкла Спивака считается одним из самых влиятельных учебников, знакомящих студентов с математическим анализом.
Книга охватывает основы математического анализа, функции, пределы, непрерывность, дифференцирование, интегрирование, тригонометрические и показательные функции, бесконечные последовательности и ряды, а также многие другие темы.
Особую ценность учебнику придаёт строгий, но при этом содержательный подход к изложению материала, а также обширный набор задач, призванных углубить понимание и показать взаимосвязи между математическими понятиями.
Хотя книга не находится в свободном доступе, в Google Books можно ознакомиться с её предварительной версией. Особенно полезно это будет тем, кто ещё не знаком с этим выдающимся учебником.
https://books.google.it/books?id=7JKVu_9InRUC&printsec=frontcover&hl=it#v=onepage&q&f=false
👉 @PythonPortal
Microsoft приобрела Maluuba за год до выхода GPT-1.
Основатель компании признаётся, что сожалеет о продаже, поскольку Maluuba могла бы стать следующей OpenAI.
Теперь та же команда специалистов по глубокому обучению вернулась с новым проектом Skyfall AI, и её первая модель — вовсе не очередная LLM.
SKY-001 — первая инженерная world model. Достаточно передать ей текстовый промпт или примерный эскиз, и она спроектирует объект целиком, разберёт его на отдельные детали вплоть до винтиков, а затем воссоздаст в виде полноценного CAD-файла, который можно открыть в таких программах, как Autodesk Fusion.
Согласно тестам компании, в задачах CAD и BIM модель работает в 100 раз быстрее и обходится в 150 раз дешевле, чем GPT-6 Astra.
Обратите внимание на момент в видео, когда детали одна за другой соединяются в готовую конструкцию.
👉 @PythonPortal
Новая библиотека для создания SVG-диаграмм. Она называется Pele и представляет собой альтернативу Mermaid.
✓ Настройка с помощью CSS-переменных
✓ Размер всего около 230 КБ (Mermaid занимает более 1 МБ)
✓ Мгновенный рендеринг
Разработана командой Obsidian:
→ github.com/obsidianmd/pele
👉 @PythonPortal
‼️Линус Торвальдс назвал запреты на использование ИИ-инструментов для написания кода «ПОЛНЕЙШЕЙ ГЛУПОСТЬЮ» в рассылке разработчиков ядра Linux.
По его словам, люди, которых он уважает и считает умными, не боятся пользоваться новыми инструментами.
👉 @PythonPortal
«Введение в теорию вероятностей» (Introduction to Probability) Чарльза Гринстеда и Дж. Лори Снелла — университетский учебник, опубликованный Американским математическим обществом и ставший классическим пособием для изучения теории вероятностей.
Книга объёмом более 500 страниц предлагает всестороннее изучение теории вероятностей, сочетая строгие математические основы с доступными объяснениями, подробными примерами решения задач, упражнениями и компьютерным моделированием.
В учебнике рассматриваются дискретные и непрерывные распределения вероятностей, условная вероятность, независимость событий, математическое ожидание, дисперсия, закон больших чисел, центральная предельная теорема, цепи Маркова и случайные блуждания.
Полная версия учебника доступна бесплатно в интернете.
https://chance.dartmouth.edu/teaching_aids/books_articles/probability_book/amsbook.mac.pdf
Найти все субдомены сайта можно с помощью одного URL.
Этот трюк с CRT позволяет получить список субдоменов, связанных с основным доменом, используя публичные данные сертификатов.
Просто откройте:https://crt.name/v1/search?apex=[domain-name-here]
Замените [domain-name-here] на домен, который хотите проверить, и сервис покажет соответствующие субдомены.
👉 @PythonPortal
Основатели ElevenLabs сейчас, должно быть, дрожат от страха…
Эти ребята только что выпустили голосовую ИИ-модель, которой можно управлять как настоящим актёром.
Больше не нужно вставлять странные специальные коды в текст. Просто пишете «произнеси это так, будто ты окончательно разочаровался в жизни», и модель делает именно это.
Почему это настолько круто:
- Одно слово прозвучало неправильно? Можно изменить только его, оставив всю остальную озвучку без изменений.
- Модель умеет переключаться между голосами прямо посреди предложения.
- Может озвучить целую сцену с несколькими персонажами по одному сценарию.
- Клонирует ваш голос и сохраняет его характер и манеру речи на других языках.
Модель поддерживает 83 языка, а её веса доступны для скачивания по лицензии Fish Audio Community License.
А чтобы продемонстрировать возможности модели, разработчики клонировали голос Uncle Roger и заставили его на протяжении всего ролика разносить собственный жареный рис.
Ахах, это просто прекрасно.
👉 @PythonPortal
Если ищете хороший видеокурс по 3D-математике для игр, в котором сочетаются теория и практика, вот он: https://wojtsterna.com/math-for-3d-programmers/
Первая часть курса длится 14 часов и доступна БЕСПЛАТНО. Недавно я разбил её на разделы, чтобы было проще проходить. Каждый — не дольше примерно 30 минут.
Весь курс — это внушительные 50 часов. Осилить его будет непросто, но, думаю, оно того стоит, если вы всерьёз хотите разобраться в 3D-математике.
👉 @PythonPortal
NVIDIA действительно устранила одно из главных ограничений голосового ИИ.
Компания открыла исходный код PersonaPlex-7B — разговорной модели с полнодуплексным режимом, которая умеет одновременно слушать и говорить.
Вместо того чтобы ждать, пока пользователь закончит говорить, модель использует двухпоточную архитектуру для обработки речи и ответа в реальном времени.
Полностью открытый исходный код и бесплатное использование.
https://github.com/NVIDIA/personaplex
👉 @PythonPortal
Где искать работу, если хочется большего?
Рынок труда сейчас не самый простой, поэтому иногда стоит посмотреть чуть шире привычных вариантов. Например, в сторону зарубежных компаний, где уже есть русскоговорящие команды и не обязательно начинать с нуля в совершенно незнакомой среде.
Коллеги из канала Dev Connectable Jobs собрали вакансии за рубежом, на которые стоит обратить внимание 👇
— Senior Backend SDE (RDT) в Akvelon
— Senior Staff Software Engineer в Cantina
— Senior Python Developer (CRM - AI/LLM) в Emerging Travel Group
— Senior Engineering Lead (FinTech AI) в ASOS.com
— Senior Data Scientist (Amber Team) в Semrush
Еще больше актуальных позиций ищите в Dev Connectable Jobs
«Graph Theory with Applications» — бесплатный учебник, который даёт всестороннее введение в теорию графов и её практическое применение.
Книга начинается с базовых понятий: графов, подграфов, путей, циклов, деревьев и связности. Затем переходит к более сложным темам: эйлеровым и гамильтоновым графам, паросочетаниям, раскраске графов, планарным и ориентированным графам, сетевым потокам и экстремальной теории графов.
Особенно полезно то, что авторы сочетают наглядное, геометрическое и топологическое понимание графов со строгим изложением математических основ.
Это делает книгу ценным ресурсом для изучения теории, лежащей в основе многих современных приложений графов в информатике, компьютерных сетях, оптимизации, анализе данных и смежных областях.
Книга: https://book.huihoo.com/pdf/graph-theory-with-applications.pdf
👉 @PythonPortal