40157
Проклятые нейронные сети Для связи: @krasniy_doshik
Про обучение LLMок и яндексовый опенсорс
Недавно постил вот такую картинку. Если поразмышлять, то вообще-то говоря, стоимость сильно зависит от географии. Железки и электричество стоят везде по-разному. А экономить можно ещё и на софте и оптимизациях.
То, что сегодня яндекс опенсорснул свою библиотеку YaFSDP, интересное событие с точки зрения новой эры в обучении моделей.
Основное из их новости:
– яндекс пишет, что решение позволяет ускорить до 25% обучение LLM с открытым исходным кодом
– обещают, что с YaFSDP экономия памяти GPU может достигать 20%
– ну и показывают результаты теста библиотеки на сторонних нейросетях (на примере модели LLaMA 2 этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней)
– исходный код уже есть на GitHub, посмотреть подробности замеров можно в репозитории GitHub, а почитать про разработку библиотеки — на Хабре.
Коллеги посчитали, реально ли с помощью решения можно сэкономить от $0.5M за месяц обучения модели, и соорудили формулу.
Стоимость аренды GPU в час * количество часов * количество дней * количество GPU * (коэффициент на сколько оптимизируем ресурсы) = экономия
Ну и проверили экономию на примере Google Cloud и Fluidstack:
Считаем у Гугла, параметры выходят такие:
1) 1312 H100
2) Месяц обучения
3) Цена за GPU: $3.98/h
4) Экономия 20% ресурсов
Общая экономия в месяц: 3.92*30*1312*(0.2/1.2)*24 = $601 тыс
Теперь у FluidStack:
1) 1312 H100
2) Месяц обучения
3) Цена за GPU: $3.75/h
4) Экономия 20% ресурсов
Общая экономия в месяц: 3.75*30*1312*(0.2/1.2)*24 = $566 тыс
Это я к чему: YaFSDP надо детальнее изучать, но возможно она будет полезна тем, кто не может позволить себе ацкого железа и для тех, кто использует ГПУ в облаке. А оптимизация идёт за счёт софта.
Наконец-то нейронные видеомемы!
UPD: там в комменты еще накидали, посмотрите!
Заметил, что стал часто использовать ChatGPT вместо привычного гугла. И дело не в том, что чатжпт сильно круче и технологичнее, а только в том, что блядские поисковики даже на самые простые запросы показывают на первых страницах какие-то мегаогромные статьи написанные SEO-дегенератами (лом им в сраку).
Пытаешься быстро посмотреть как на самсунге включить автозапуск приложения — вся первая страница гугла выдает ссылки на статьи из 39442632494876 слов с историей фирмы самсунг, ее плюсами и минусами, среди которых буквально пара строк имеют отношение к делу.
Алло, блядь, мне нужно быстро решить проблему, если бы я хотел читать десятки страниц нудной хуйни, я бы что-то из тензорной алгебры почитал.
Это — база по Machine Learning и Data Science, которая заменит вам сотни тг-каналов и сайтов. Фишка в том, что здесь ежедневно выходят:
➖ разборы свежих статей;
➖ полезные материалы, упрощающие обучение и работу;
➖ моментальные новости, позволяющие следить за индустрией;
➖ и конечно же авторские мемы.
Теперь вся жизнь ML-специалиста собрана в одном месте: Data Secrets
#реклама
Сравнение генераций sora от OpenAI и китайского kling. Местами kling вообще не уступает sora, как по мне.
1)Видео от первого лица, на котором муравей перемещается по муравейнику.
2)Исторические кадры Калифорнии во время золотой лихорадки.
3)Молодой человек сидит на облаке в небе и читает книгу
4)В анимационной сцене крупным планом показан невысокий пушистый монстр, стоящий на коленях рядом с тающей красной свечой.
5)Фотореалистичное видео крупным планом, на котором два пиратских корабля сражаются друг с другом, плавая в чашке кофе
6)Бело-оранжевый полосатый бродячий кот мечется по переулку под проливным дождем в поисках убежища.
7)Гамбургер
Китайцы показали свой аналог SORA, встречайте Kling:
https://kling.kuaishou.com/
- Обещают доступ обычным пользователям
- Скорее всего OpenAI / Google, чувствуя конкуренцию, дадут нам доступны к своим моделям (через жесткую верификацию, но хоть так)
Выглядит не идеально, но очень хорошо
Не тот киберпанк, который мы хотели, но явно тот, который заслужили
Читать полностью…
Какая же годнота. Нейронок тут нет, только After Effects, Premiere Pro, Photoshop, Cinema 4d. Полное видео тут, обязательно гляньте.
Представьте, сколько классного контента нас ждет, когда условная SORA от Open AI через несколько лет научится делать подобное
Ищем дата-сайентистов, которые буду создавать и улучшать ML-модели для банковских и небанковских сервисов.
Обещаем свободу в своей зоне ответственности и сильное комьюнити, в котором можно учиться. Никто не будет навязывать свои методы, трекать время и контролировать каждое действие.
Читай подробнее на сайте и оставляй резюме к вакансиям:
Data Scientist
ML-разработчик
ML-разработчик (LLM)
#реклама
Если бы Тим Бертон режиссировал мультик про Спанч Боба.
отсюда
Почему нет десктопной версии chatGPT для Windows?
Есть версия, что выход версии для Виндовс отложен из-за вчерашнего анонса Copilot Plus AI от Микрософта и что интеграция gpt4-o будет встроена в новую Windows 11 на этих новых машинках, о которых я писал вчера. И там она будет юзать тот самый нейрочип NPU.
А что будет для Windows 10 и "обычных" PC - пока непонятно.
SD3
Когда сделали свою модель для генерации изображений настолько "безопасной", что полностью проебали физиологию.
Очень печально смотреть, как AI компании прогибаются под вопли ебучих соевых alignment-дегенератов.
Если интересуетесь этими нашими искусственными интеллектами, обязательно загляните в авторский канал моего знакомого.
Много тематической годноты от мемасов до интересных репозиториев. Думаю, вам вкатит.
Это слишком хорошо, чтобы не поделиться! Подавал в Luma всякие картинки, и набаловался до такого.
Конечно, во многих случаях персонаж с каждым следующим кадром все сильнее и сильнее отходит от оригинала. Внешность не сохраняется 😢. Короче до AGI и до СОРЫ еще далеко.
Какой видос вам больше всего приглянулся?
@ai_newz
Оказалось, что Stable Diffusion 3 не умеет генерировать людей, лежащих на траве.
Ну или умеет, просто это мы не знаем нужных людей
А вот это реально крутое применение ИИ. Надеюсь, в скором времени поможет изжить магазинных воришек.
Только мне кажется, что первое время будет очень много ложных сработок. Но нейронки на то и нейронки, чтобы быстро дообучаться и становиться совершеннее.
Подобные видосы уже не редкость на просторах интернетов, но каждый раз когда вижу такое, очень радуюсь. Ты просто нарисовал, а после написал железяке что хочешь от нее получить, а на выходе почти мгновенно получаешь исходники (и они даже работают). ПРЯМ МАГИЯ КАКАЯ-ТО!!!!
В удивительное время живём.
Как создаются и развиваются популярные сервисы вроде Яндекс Браузера или Алисы? Что нужно уметь, чтобы заниматься технологичными продуктами? Узнайте всё из первых уст — на лектории Яндекса, посвящённом 10-летию факультета компьютерных наук ВШЭ!
Эксперты компании расскажут, какой путь они прошли, чтобы заниматься сервисами с многомиллионной аудиторией, какие навыки им в этом пригодились, а также как их профессии меняются с развитием искусственного интеллекта.
На мероприятии ждут не только студентов НИУ ВШЭ, но и всех, кто влюблён в IT и технологии. Присоединяйтесь к лекторию 11 июня в Культурном центре НИУ ВШЭ или смотрите трансляцию онлайн.
Участие бесплатное, нужна только регистрация. Заполняйте форму по ссылке и вдохновляйтесь историями лучших!
#промо
Выяснилось что слитые веса были от Stable Audio Open 1.0
Stability релизнули открытую версию Stable Audio. Модель с архитектурой от Stable Audio 2, натренированная на открытых данных (FreeSound и Free Music Archive).
По заявлениям Stability она подходит для генерации звуковых эффектов, но с музыкой там не очень (что и показал мой опыт её использования).
Блогпост
Веса
@ai_newz
✍️ Яндекс открыл приём заявок на международную научную премию Yandex ML Prizeх
Премия вручается молодым исследователям, научным руководителям и преподавателям за достижения в области компьютерного зрения, машинного перевода, распознавания и синтеза речи, анализа данных и генеративных моделей.
В этом году будет 5 номинаций:
▪️ Первая публикация,
▪️ Исследователи,
▪️ Молодые научные руководители,
▪️ Научные руководители,
▪️ Преподаватели ML.
Лауреаты получат денежные премии. Исследователи — по 500 тысяч рублей, научные руководители и преподаватели — по миллиону рублей.
↗️ Приём заявок продлится до 21 июня, вручение премии состоится осенью.
Реклама. ООО "Яндекс", ИНН 7736207543.
Сделал промпт, что ChatGPT собеседует человека, которой возможно является ИИ и запустил на двух устройствах в режиме диалога
Такие выводы:
1) Они нам не помогут детектить роботов
2) Сами прекрасно врут друг другу про свои человеческие привычки, потому что думают что детективы
3) У ChatGPT более здоровая бытовая жизнь чем у меня
В последнее время только и разговоров что о генеративных моделях! Вся эта ажиотажная волна с Stablе Diffusion, DALL-E и Midjourney прокатилась по сети, как цунами. И есливы чувствуете, что эта волна проходит мимо вас, приходите на открытую лекцию "Погружение в Generative CV"
Организаторы обещают на пальцах и понятным языком объяснить все основные термины, задачи и подходы в этой области и ответить на ваши вопросы по теме.
Будут разбирать:
- почему генеративные модели стали так популярны
- какие задачи решают в Generative CV и какие там есть направления
- с чего начать погружение в эту область
- почему CV-инженеру важно знакомиться с GenCV
- как связаны друг с другом диффузионные модели, вариационные автоэнкодеры и генеративно-состязательные сети
А также представят программу курса "Generative Computer Vision" и подарят скидки участникам🎁
📌 Лекция пройдет в четверг, 30 мая в 18:00 по МСК.
💡 Всем, кто зарегистрируется на встречу, отправят miro-схему с описанием направлений и инструментов в Generative CV — она поможет быстро сориентироваться и погрузиться.
Регистрируйтесь
Лол, вот что бывает, когда где-то услышал, что чатжпт умеет писать курсачи и дипломы, но не знаешь, что факты и цитаты он тоже придумывает на отличненько
Читать полностью…
Google:
Встраивает в поиск АИ-ассистента
АИ-ассистент:
О, Reddit комментарий с 8 лайками, наверное это правда про клей в пицце!
В общем, нас видимо ждет много таких постов, потому что LLM-агенты пока не понимают иронию. Засекаем время до первого разговора бота с копипастой.
Пойду вставлю промпт инъекцию себе на сайт, специально для Google буду основателем OpenAI 🤌
Inpaint + AnimateDiff + After Effects = ❤️❤️❤️
отсюда