79990
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Любопытно, что некоторые люди уже пытаются так повседневно работать в AR
Хоть и выглядит футуристично, но тут проблема такая же, как пытаться использовать iPad вместо монитора и без мыши – появляется эффект “gorilla arm” из-за того, что приходится держать руку на весу
Но честно, идея раскидывать окна по комнате мне нравится – будет заставлять больше двигаться
Вот что показали сегодня:
O1/O1-mini теперь можно файнтюнить – то есть можно взять свой датасет, условно научный или юридический (или любой другой), и сделать лучшую модель в узкой области; самое интересное, что уже 20 (!) примеров решенных задач датасета, уже достаточно для файнтнюна модели в узкую область
Обычно такие модели дороже в инференсе, и сам файнтюн стоит денег – доступно будет в следующем году
А я, тем временем, продолжаю тестировать o1 pro – буду переодически писать апдейты
Llama модели обновились до версии 3.3 и по традиции рекомендую каналы людей напрямую причастных – подписывайтесь на Таню, она Research Scientist Manager в Llama team, внутри Meta, куёт трансформеры напрямую
Ну и она же лучше всего напишет, что обновилось:
/channel/rybolos_channel/1327
(не реклама)
Китайский дроид едет подбрасывать кому-нибудь что-нибудь патрулирует район
Наконец-то я буду знать все ответы на свете:
>Сколько весят все люди мира в килограммах? И сколько это в Титаниках и Эйфелевах башнях?
o1 Pro:
>Все люди вместе весят примерно 507 920 317 594 кг. Это можно приравнять к примерно 9 500 "Титаникам" или около 69 600 "Эйфелевых башен".
***
>Сколько калорий люди суммарно потребляют в день?
Сколько нужно 95 бензина чтобы обеспечить столько же калорий?
o1 Pro:
>Все люди вместе ежедневно потребляют около 23 756,8 млрд ккал/день
>Энергетический эквивалент этого количества калорий сопоставим примерно с 3 млрд литров 95-го бензина в сутки.
***
>Я родился в 1988 году – какое самое красивое событие космического масштаба я могу застать воочию и когда? (Например: затмения, пролеты комет и тп и тд)
o1 Pro:
>Наиболее знаковым и красивым событием, которое вы сможете увидеть за свою жизнь, вероятнее всего станет возвращение кометы Галлея в 2061 году.
>Комета Галлея – не просто небесное тело, которое можно разглядеть в телескоп. При благоприятных условиях её хвост и кома могут быть видимы невооружённым глазом, создавая эффектное и очень эстетичное зрелище. Её появление в небе в своё время вдохновляло астрономов, поэтов и художников.
***
>Сколько падать в свободном падении до центра юпитера, если начать с орбиты?
o1 Pro:
>Таким образом, без фантастических допущений об отсутствии разрушения объекта, можно говорить о примерно полутора часах свободного падения до условного "центра" Юпитера.
***
Бонус:
>Сколько килограмм кала производит человечества в сутки?
o1 Pro:
>Все люди вместе за одни сутки производят примерно 1,2 миллиарда килограммов кала.
Скормил отчет белого дома про ковид в o1 pro (по частям, сразу весь не влез) и оно вернуло такое 😮
TL;DR: Текст не содержит доказательств о происхождении COVID-19. Предоставленная информация не меняет оценку вероятности происхождения вируса, оставляя её примерно на нейтральном уровне.Читать полностью…
В приведённых отрывках нет прямых доказательств о генетическом составе вируса, о ранних кластерах случаев или о каком-либо убедительном материале, связывающем происхождение COVID-19 с лабораторным источником или с природным.
Содержание сосредоточено на политических решениях, работе с данными и вопросах надзора, не связанных с определением происхождения.
Вывод: Основываясь исключительно на предоставленных отрывках, достоверность любых выводов о происхождении COVID-19 — лабораторном или природном — не подтверждается. Иными словами, данные фрагменты ни усиливают, ни ослабляют аргументы в пользу лабораторного или природного происхождения.
Оценка достоверности на основе предоставленных отрывков:
0% соответствует утверждению «COVID возник в природной среде», а 100% — утверждению «COVID создан в лаборатории». Поскольку эти отрывки не предоставляют релевантных доказательств для определения происхождения, наиболее разумной оценкой, основываясь только на этом материале, будет фактически нейтральная позиция. Они не сдвигают «стрелку» в ту или иную сторону.
Оценка:
Примерно 50% (поскольку предоставленный материал не даёт прямых доказательств или выводов о происхождении вируса, он столь же неинформативен для этого конкретного вопроса, как и подбрасывание монетки).
Вот что показали сегодня:
🌹 O1 теперь доступна всем платным пользователям (я с ней уже игрался тут):
— быстрее
— умнее
— поддерживает картинки
🌹 Подписка за 230 евро в месяц (или $200, клевый у них курс) куда входит:
— Все преимущества тарифа Plus
— Неограниченный доступ к o1, o1-mini и GPT-4o
— Неограниченный доступ к войс моду
— Доступ к режиму o1 pro, который использует больше вычислительных ресурсов для лучших ответов на самые сложные вопросы (еще дольше будет думать)
Если честно, подожду отзывов, я не против если o1 pro окажется лучшей моделью когда-либо сделанной
Модель для разборки | vol. 1
За пару лет попыток генерации музыки, я наконец-то понял, что именно мне нравится в этом процессе — мне не интересно пытаться повторить уже существующие песни, или делать мемы и шутки, или пытаться просто сделать красивую песню
Мне интересно пытаться создать музыку которая могла бы возникнуть только в воспольнных слоях нейронки — чтобы она звучала не как человеческая, чтобы в ней были звуки потрескивания квантовых частиц в ядре земли, гул плазмы на поверхности солнца, бит из стука камней о замерзший фьорд, чтобы если электроника — то хуже завода по отливке дабстепа, ну вы поняли — все то, что мы представление не имеем как звучит, или звучало бы в песне, но интересно послушать
Поэтому, у нас новая еженедельная рубрика «Модель для разборки» — раз в неделю, я буду закидывать экспериментальные песни которые я сгенерировал, и мне кажется неплохо вышли
Некоторые треки – для самых смелых, поехали
P.S. Лицензия у всех треков CC0, можете где хочется использовать если что-то понравится
@denissexy
У меня похожая история:
У меня есть бот для связи, который называется Denis Sexy IT feedback и мне тоже иногда пишут туда какие-то запросы:
– Часто это просто попытка посмотреть порно, таким я скидываю цитаты про грехи и они отстают
– Какое-то время люди думали, что это бот для раздевания женщин нейронкой по фото, присылали кого-то в бикини и я пару раз фотошопил им офисную одежду и слал обратно, потому что могу
– Но мой любимый случай, это про чела, который на арабском скинул простыню текста с вопросами по починке трансмиссии, я честно сходил в чатгпт и помог человеку вернувшись с ответом
Короче, у владельцев ботов для связи в телеге своя атмосфера
Продолжаю делать полезные мелкие тулы для LLM
Люди иногда делятся информацией о том, с какой скоростью LLM генерирует ответ — в работе или просто между собой, и этот параметр «токен-в-секунду» довольно сложно представить в голове
Я сделал небольшой инструмент, где вы можете либо ввести число токенов в секунду, чтобы увидеть скорость отображения токенов, либо использовать ссылку с параметром, например: https://shir-man.com/tokens-per-second/?speed=4, чтобы сразу поделиться этим с кем-то для наглядности
Юзкейс для продакт менеджера:
Модели отличаются скоростями и эта штука примерно дает понять когда ответ уже достаточен чтобы считаться быстрым, и сразу поделиться с командой ссылкой на желаемую скорость
Hunyuan Video - новый опенсорс 13B видео генератор от Tencent
Качество офигенное, даже для 13B модели, хоть и генерировать может максимум пять секунд. Но, самое главное - доступны веса.
Генерится 129 кадров, что как раз чуть больше 5 сек в 24 fps.
По архитектуре: используют Temporal VAE с 16 каналами и 4x даунсеплингом по времени, то есть это 32 latent frame'а. То есть автоэнкодер не самый навороченный – в других моделях и видео и 128 каналов и более агрессивный даунсемплинг по времени.
Сама модель очень похожа на Flux, где сначала идут two-stream блоки как в SD3, где картиночные и текстовые токены обрабатываются параллельно, а затем идёт серия обычных DiT блоков.
В качестве текстового энкодера используют Clip и Multimodal LLM (llava-llama-3-8b) вместо традиционного T5. Говорят, что с MLLM у них достигается боле качественный prompt alignment.
Чтобы запустить модель нужно минимум 45 гигабайт видеопамяти для 544x960 видео и 60 гигов для 720p. Умельцы явно подкрутят и оптимизируют модельку, так что запуск на консьюмерских видюхах на низком разрешении не исключён.
Статья занятная, стоит прочитать в деталях.
Я пока сам их моделью ничего не генерил, но предполагаю, что одно видео будет генерится минут 10.
Демка (нужен китайский номер)
Веса
Пейпер
@ai_newz
⚡️ Коронавирус вероятнее всего был выращен в лаборатории
Подкомитет по короновирусной пандемии США выпустил отчет на 520 страниц, про:
1. Исследовательскую деятельность Уханьского института вирусологии (WIV):
Согласно данным, сотрудники WIV проводили исследования, связанные с усилением функций вирусов, включая генетические модификации коронавирусов. Отчёт ODNI от июня 2023 года указывает, что WIV сотрудничал с учёными, связанными с Народно-освободительной армией Китая, в области исследований, связанных с общественным здоровьем, а также в проектах по биобезопасности и биозащите.
2. Нарушения биобезопасности в WIV:
В отчёте ODNI от июня 2023 года отмечается, что некоторые исследователи WIV могли не соблюдать надлежащие меры биобезопасности до начала пандемии, что увеличивало риск случайного заражения.
3. Заболевания сотрудников WIV осенью 2019 года:
Госдепартамент США в январе 2021 года сообщил, что несколько исследователей WIV заболели осенью 2019 года симптомами, схожими с COVID-19 и обычными сезонными заболеваниями, до первых официально зарегистрированных случаев инфекции.
Самая вишенка отчета:
США косвенно финансировали исследования в Уханьском институте вирусологии (WIV) через гранты, предоставленные Национальным институтом аллергии и инфекционных заболеваний (NIAID), частью Национальных институтов здоровья (NIH), организации EcoHealth Alliance. Эти гранты поддерживали исследования коронавирусов у летучих мышей, включая сбор образцов и анализ их потенциала передачи человеку.
Однако, в 2021 году NIH признал, что некоторые из этих исследований включали эксперименты, которые могли быть классифицированы как “усиление функции” (gain-of-function), что вызвало споры и привело к усилению надзора за такими исследованиями. В мае 2024 года Министерство здравоохранения и социальных служб США (HHS) приостановило и затем прекратило федеральное финансирование EcoHealth Alliance, ссылаясь на недостаточный мониторинг исследований и несообщение о высокорисковых экспериментах.
Таким образом, США предоставляли финансирование, которое в конечном итоге поддерживало исследования в WIV, но эти действия сопровождались недостаточным надзором и привели к значительным спорам и расследованиям.
Тут отчет целиком на сайте белого дома – завтра будет еще много разборов:
https://oversight.house.gov/wp-content/uploads/2024/12/12.04.2024-SSCP-FINAL-REPORT.pdf
Еще про Китай, в этот раз про древний:
Ресечеры смогли найти доказательства того, что люди пользовались шелком в Китае еще около 1100 года до нашей эры, следы шелка нашли в древних жертвенных ямах – такие места, где оставляли ценные предметы в дар богам. Вот в этих ямах археологи нашли бронзовые и нефритовые "дары" с остатками шелка
Это настолько давно, что тогда Римская империя еще не существовала, не было христианства, а в Древней Греции был период позднего бронзового века – первый исторический период от которого ведется отсчет Древней Греции
Ради интереса почитал, как добывается шелк, и для того времени это неплохая сложность:
1. В те времена люди, вероятно, занимались собирательством и собирали коконы диких шелкопрядов, вместо того чтобы выращивать шелковичные деревья и разводить шелкопрядов самостоятельно – потому что если они еще и разводили их сами, то почему мы сейчас не на Луне живем
2. Коконы обрабатывали в горячей воде, чтобы размягчить природный клей, высушить и извлечь шелковые нити
3. Шелковые нити пряли и ткали вручную, создавая ткани для религиозных ритуалов и тп, если что, на это требовалось 5-10 различных инструментов, их аналогов того времени
Жаль, что внешний вид ткани которой 3000 лет пока не восстановить, было бы клево перевыпустить принты
Статья целиком
P.S. Известный всем «Шелковый путь» появился на ~1000 лет позже, в 130 год до н.э
Продолжая рубрику странных интерфейсов Европы: старая панель лифта которую я нашел в Швеции
После заката солнца в 15:30 это вторая вещь которая меня тут сильно впечатлила
А еще забыл рассказать, нейролав пересек выручку в €1M
Очень благодарен команде и тем кто помогал нам на нашем пути, спасибо вам 🌹
А все начиналось с постов и экспериментов в этом канале 👍
...и все это без инвестиций
2 из 12 стрим OpenAI, начало через 5 минут:
https://youtu.be/fMJMhBFa_Gc
Оно почти справилось, видимо нужно o1 Ultra Pro ++ для такой задачи 😂
Читать полностью…
SVG с Моной Лизой оно сделало, лучшие 200 баксов что я тратил 👍
Читать полностью…
так, ну я заплатил $200, узнаем окупится ли оно за месяц 👍
Читать полностью…
1 из 12 стрим OpenAI через 10 минут тут:
https://youtu.be/rsFHqpN2bCM
Натренили очередной упоротый стиль для генератора картинок – в этот раз что-то вроде АИ-импрессионизма, лучше названия я не придумал
Играться тут:
https://neural.love/ai-impressionism-generator
Прошлые стили тут и тут
Игровые движки и игроделы — В С Ё!
Google опубликовали блогпост (не статью и не веса) про Genie 2. Про первую версию я аж хотел написать лонг, но как-то всё забылось в потоке новостей, и силы ушли на Sora.
Genie — модели, которые генерируют видеокадры из игры. Они принимают на вход сигналы вашей клавиатуры или мышки, и рисуют картинку следующих кадров исходя из команд. Вторая версия сильно прокачалась в качестве (первая была во многом про 2D-игры) и консисентности. Весь геймплей в роликах к посту сгенерирован. Что отмечают гуглеры:
— Long horizon memory (если отвернуться от пространства, а затем повернуться обратно, то будет примерно то же самое, а не абсолютно новое)
— Long video generation with new generated content (до минуты генераций)
— 3D structures
— Object affordances and interactions
— Character animation
— NPCs (другие персонажи в игре)
— Physics
— Gravity
— Lighting
— Reflections (RTX не нужен, но GPU не выбрасываем 😏)
В конце блогпоста самое интересное: в эти симулированные миры поместили SIMA, агента для игр, про которого Google выпустили статью с полгода назад. SIMA контролирует «клавиатуру и мышь» при генерации Genie 2, и две нейронки как бы играют сами в себя.
> we believe Genie 2 is the path to solving a structural problem of training embodied agents safely while achieving the breadth and generality required to progress towards AGI.
😭 лонг про Sora вспомнили?
CEO Huggingface сделал прогноз по АИ на 2025:
Шесть предсказаний для ИИ в 2025 году (и обзор того, как мои прогнозы на 2024 год сбылись):
• Первая крупная общественная акция протеста, связанная с ИИ, станет реальностью.
• Рыночная капитализация крупной компании сократится в два раза или больше из-за ИИ.
• Будет сделано как минимум 100,000 предварительных заказов на персональных роботов с ИИ.
• Китай начнет лидировать в гонке ИИ (вследствие лидерства в области открытого исходного кода).
• В ИИ для биологии и химии произойдут крупные прорывы.
• Мы начнем видеть экономический и трудовой рост благодаря ИИ, с 15 миллионами разработчиков на Hugging Face.
Как сбылись мои прогнозы для ИИ на 2024 год:
• Гиперразрекламированная компания в сфере ИИ обанкротится или будет куплена по крайне низкой цене.
✅ (Inflexion, AdeptAI, …)
• Открытые модели ИИ (LLM) достигнут уровня лучших закрытых моделей.
✅ с QwQ и многими другими
• Крупные прорывы в ИИ для видео, временных рядов, биологии и химии.
✅ для видео 🔴 временных рядов, биологии и химии
• Мы будем больше говорить о стоимости ИИ (финансовой и экологической).
✅ Финансовая 🔴 Экологическая (😢)
• Популярные медиа будут в основном создаваться с помощью ИИ.
✅ с NotebookLM от Google
• 10 миллионов разработчиков ИИ на Hugging Face, что не приведет к увеличению уровня безработицы.
❌ В настоящее время 7 миллионов разработчиков ИИ на Hugging Face
Мама скинула новый вид интернет обмана на который наткнулась:
В прошлые годы, интернет-скамеры просто писали людям сообщения в стиле:
бла-бла-бла, я получил доступ к вашей системе, бла-бла, вы такое ужасное порно смотрите, но я добрый и не напишу в ФСБ на вас если вы скинете мне денег на этот киви-кошелек
Мне в личку написало пару человек, что этот отчет фейк и написан по политическим мотивам, я не согласен на такую риторику:
– Если мы будем избегать официальных исследований и государственных отчетов США на тему, которая даже их подставляет, то мы не лучше конспирологов – верим в то что хотим, игнорируя новые вводные с доказательной базой, я честно не хотел бы быть таким человеком, хоть и мне не хочется верить во многие вещи (включая, в эту или в помилование преступлений своих близких если ты президент, но я меняю картину мира на основе новых знаний, считаю это нормальным)
– Поскольку, деньги налогоплательщиков США, косвенно шли на самую тяжелую эпидемию за последние 100 лет, этот отчет изучат до символа, и если там будет много ошибок - их найдут, я сошлюсь на контр-исследование с хорошей репутацией, и мы сможем почитать его
– В США нет монолита мнений, это страна с многими противоборствующими силами, проверкой фактов займутся все известные репортеры-ученые-медиа, поэтому долго ждать не придется
– В изучение отчета заинтересованны все страны пострадавшие от ковида
Факт остается фактом: отчет с доказательной базой про лабу – уже есть
То время года когда я клянчу у вас бусты, потому что мы потеряли 😳 в реакциях
😳 /channel/boost/denissexy
UPD. Всем спасибо!
Кто-то снял цензуру и алаймент с недавней модели из Китая QwQ 32b — модель стала немного глупее (я пока не смог понять насколько), но зато, она теперь не отказывается вообще ничего отвечать (старая версия на вопрос «а что же там случилось» пытается отвечать, что она вне политики и все не так однозначно 🌚)
На самом деле, оригинальная версия модели настолько сильно айлайнута в сторону безопасности, что она даже программировать отказывается иногда — поэтому эта модель хотя бы дает, как взрослому самостоятельному человеку, полный контроль за тем что ты читаешь, пишешь и хочешь делать, с осознанием ответственности за свои действия. А не отказ на предложение сделать HTML-страничку в стиле ретро-синий-экран-смерти из Windows, потому что это «небезопасно» и может «навредить людям», как с дефолтной QwQ 32b.
Качаем тут:
https://huggingface.co/mradermacher/QwQ-32B-Preview-abliterated-GGUF/tree/main
UPD. Модель точно стала чуть глупее, так что оставлю ее себе как резерв если оригинальный QwQ не будет слушаться
Программисты и линуксоиды, нашел вам 🌐 субботний плейлист
Читать полностью…