39876
IT punks. ❤️ YouTube https://youtube.com/ExtremeCode 💸 Реклама @Mshvyag / eaa@extremecode.studio Для РКН: № 5025353650
Всё ребята, всё. Джуны больше никому нужны. Зачем нанимать естественный интеллект, когда искусственный идиот делает все то же самое, но еще при этом и не выгорает. Работодатели теперь охотятся за спецами-фундаменталистами, способными писать эффективные алгоритмы, чисто двигая магнитиком по жесткому диску, имея при этом минимум 100 лет опыта.
Конкурировать в этой среде за теплое местечко не просто, особенно в карьерном росте. Поэтому тебе позарез нужные любые преимущества. Например, можно закончить магистратуру. А поступить онлайн можно в Томский государственный университет, у них как раз есть множество направлений, связанных с АйТи.
Ты можешь получить полноценное университетское образование, вкатиться в сообщество экспертов и единомышленников, да и формат позволяет совмещать обучение с основной работой.
Преподавать тебе будут действующие эксперты и сотрудники топовых айти компаний.
Короче, переходи по ссылке в описании, чтобы ознакомиться детальнее: http://clck.ru/3UyxMX
Реклама. ФГАОУВО НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ, ИНН 7018012970
Короче, рассказываю почему производство видоса про сраный локальный нейрослоп затянулось.
Изначально была крайне тупорылая задумка — вот у меня есть пачка видеокарт, давайте запускать на них ИИ, хихи-хаха. Какого-то практического опыта у меня естественно не было (да как походу блин и у 95% других ютуберов, которые снимают про это всякую шляпу и продолжают это делать бездарно, это не упрек, просто факт).
Естественно, когда я начал разбираться с тем, как вообще это сделать, возникали вопросы. И чем глубже я погружался в тему, тем больше вопросиков возникало, некоторые из них даже могли показаться крайне тупорылыми. Но меня это реально волновало.
Один из десятков таких вопросов — а как ваще оценивать модели относительно друг друга. Вот есть пачка файлов одной модели по разному квантованных, как вообще мне понять какая между ними разница?
В итоге это все переросло в разработку собственной "гаражной" методологии оценки моделей по определенным ключевым параметрам. Да, конечно, она не сравнится с методами от навучных чуваков, которые придумывают их сидя на зарплатке, но это на порядок лучше чем "гыыы, давайте посмотрим на то, как 4B модель не сможет сделать дашборд на HTML". Ну и это задел на будущее, т.к. уже будет простая и устоявшаяся метода для оценок новых моделей.
В общем, терпим и ждем.
Шел 3814-ый день погружения в локальный нейрослоп. Одебилел окончательно, начал строить домики из видеокарт, до самих бенчмарков пока не добрался.
Эксперты из каментов, стоит ли помимо перплексии делать простой тест на задачках из своего датасета в формате "llm as a judge"? Ну типа, я думаю нахрена на это время тратить, если разница в качестве между одной и той же квантованной моделью будет не такая сильная.
Вот между Q8 и Q4 есть видимая разница. А вот между различными версиями Q4 хз как проверять. Короче, сложна.
UPD:
В основании BC-250, про нее отдельный видос
Слева RTX 2060
Справа RTX 3070
Сверху GTX 1050
На заднем фоне:
Снизу CMP 90HX
Сверху RTX 5070 Ti
Компик имеет 32 гига DDR5 оперативки, которые я купил за 12 тысяч рублей. Зажопил лишнюю десятку на 64 гиг, так как в прошлом компе было 64 гиг DDR4 и я не знал чем ее забить 👽
Из-за того что я красноглазик, я не высыпаюсь. Особенно если на ночь гоняю литкод. Могу до 3-ёх ночи в чертогах разума байтики двигать вместо того чтобы плющить кукурузку. Фитнес-часы показывают удручающий уровень глубокого сна. Естественно на следующий день я просыпаюсь как вафля. Пробовал хавать мелатанин - нерабочее фуфлище. И тут я узнал Deep Pressure Stimulation, это когда одеялко на тебя правильно давит, что ты отключаешься с полупинка. Это если чё не псевдонаучная дичь уровня "правильно какать надо закинув ноги за шею" (исследования Ekholm 2020, Frontiers Psychiatry 2024).
Попробовал утяжелённое одеяло Beauty Sleep (см. фото). И ляяяяяя, сначала подумал, что свет отключили, а оказалось я уже сплю. Айтишники, хотите спать? Есть два веса: 6 кг и 9 кг — подбирается под предпочтения и телосложение. В нем 11 слоев с микро-стеклянными гранулами, поэтому вес распределен равномерно, когда гранулы выстроились в рядочек и обнимают тебя своими маленькими микростеклянными ручками.
В этом году Beauty Sleep празднует юбилей — им целых 10 лет! Бренд за такой внушительный срок зарекомендовал себя. А к юбилею бренд решил нас радовать, мой промокод ЭКСТРИМ будет давать на сайте самую большую скидку 15% на весь ассортимент.
Короче, закинул свой сценарий в искусственного идиота, чтобы тот откритиковал и прожарил его.
Все, пздц, придется вырезать 40% всего текста с тупорылыми шутейками(((99
В последнее время, в этих ваших интернетах, только и разговоров о том, что пузырь, раздутый ИИ, вот-вот лопнет, осталось совсем чуть-чуть и все сложится как карточный домик.
В этом видео я вскрою неудобные нюансы, которые обломают надежды миллионов хомячков на схлопывание целого сектора АйТи. Используя собственную ЖЕЛЕЗНУЮ фин. модель. Так же взглянем на все это через призму "Иллюзии понимания" и хитрых аналитических приемов от одного вумного Ливанского деда.
> Смотреть платно и с регистрацией
Видео временно эксклюзивно только для подписчиков Boosty
P.S.
Предвосхищая вопросы, нет, не все видео теперь будут "временно эксклюзивными", только коротенькие в старом формате. Огроменные видосы, вроде того, что сейчас пилится про локальных нейроогрызков будут выходить все также на YouTube. Просто их производство занимает примерно в 24-32 раза больше времени.
Короче, у нас за более чем десятилетнюю карьеру клоунов в интернете сохранилось примерно сотня сценариев с ютуба, а так же больше тысячи рекламных постов в телеге.
Эксперты в каментах, ставлю вам амбициозную задачу — спрогнозировать, че будет, если мы возьмем какую-нибудь тупую модельку и сделаем на ее основе цифровой слепок сознания ехтримсоде. Ведь всегда приятно поболтать с кем-то таким же умным как ты.
Че как лучше к решению задачки подойти, какую модельку брать за базовую, как подготовить данные (тупо простыню текста скидывать или мутить чето типа [инструкция -> вывод])?
Я заколебался писать рекламу руками, хочу чтобы за меня делал это нейроехтримкод. А обычные модели не могут в достаточной степени подражать нашему стилю писанины.
Не, ну вы посмотрите какая яма в бенчмарке у однобитного i-кванта, ужас, какая же тупорылая модель, зачем вообще выпускать в свет таких тупиц? 😶
Эксперты из каментов, раз мы не можем определить степень отупевания в зависимости от квантизации, придумайте мне другую метрику
Эксперты из каментов, обьясните, какого фига flash attention нифига не убыстряет промпт процессинг.
Или это работает только на экстремальных контекстах под лям токенов? Или я чето неправильно понял.
Помогите выкупить, я не выкупаю 😤
P.S.
Типа если он работает только на гига-здоровенных контекстах, то и нахуй он тогда нужен? Особенно в локальном использовании, нафига пчелы из llama-cpp с ним заморачивались, если профита нет.
Здарова, молодые. Вот в каментах постоянно плачут, что приходиться волчить и накручивать, потому что АРЯЯЯЯЯЯЯЯ маленькие, нежные, сопливенькие маслята никому не нужны. Стажировок нет, а нейросети душат джунов. Хотя вам тыщу раз говорили, что от молодых никуда не деться. Если их не будет, кто будет получать по шапке за кривую нейрослопогенерацию через 10 лет?
Поэтому бигтехи шевелятся в этом направлении: Вот и Т-Банк замутил программу оплачиваемой стажировки для студентиков и начинающих специалистов на лето – Т-Старт. Стажировка, кстати оплачиваемая (деньгами).
От вас требуется:
> быть молодцом-удальцом
> уделять 20 часов в неделю стажировке
Тебе дадут:
> технику
> ментора, который не обделит вас своим вниманием
> шанс быть приглашённым в штат
> доступ к базе знаний и курсам
> оплату
Всё честно? По моему нет, как-то многовато плюшек вы получите.
Стажировка проводится для кучи направлений: Аналитика, разработка, QA и т.д. С полным списком вы можете ознакомиться тут
Реклама. Прием на стажировку реализуется в АО "ТБанк" и ООО "ТЦР". Подробнее на education.tbank.ru/start/. АО "ТБАНК", лицензия № 2673. ООО "ТЦР". erid:2RanymUAjTZ
Представь. ты бимбо-HR. Твоя задача за зп 50к рублей, найти работягу на .net. Составляешь вакансию, тебе прилетает 2000 откликов в первый день. Твои действия? Твоя задача найти одного кандидата, техническая команда не выдержит больше 3 собесов в неделю.
Чё делать будешь?
Да, я прибыл в безопасную зону фестиваля Horizon 6 без единого фриза и задержки. И всё это благодаря моему Samsung 9100 PRO на 2 терабайта. Из-за странной оптимизации игры весь этот огромный открытый мир раздроблен на миллиард мелких незапакованных файлов, но этот флагманский PCIe 5.0 NVMe SSD выдает феноменальную скорость случайного чтения до 1 400 000 IOPS, щелкая эти 4-килобайтные файлы как семечки. Пока у остальных пропадают текстуры асфальта и зависает картинка, у меня всё прогружается быстрее, чем стрелка спидометра доходит до четырехсот. И можно не переживать за перегрев в затяжных гонках — фирменный радиатор и технология Dynamic Thermal Guard держат температуру под полным контролем. Время? О, у нас полно времени, ведь с такой скоростью загрузки мы всегда будем первыми на финише. Бинго.
Читать полностью…
Да мы все еще живы, сценарий про нейродебилирование потихонечку выходит из под контроля из-за широты охвата тем. Параллельно еще педалируется мощный видосик на классическую тему, так что не одним нейрослопом едины.
Жоских дедлайнов нет, может и в июле выйдет, а может и в сентябре, так что терпите ❤️
Так ёпта, а че вообще происходит со срыночком труда в айти? Всё, джуны больше никому не нужны? Всех импортозаместили ИИшкой?
Читать полностью…
В общем, считаю пользу для разрабов от участия в хакатонах чудовищно недооцененной. Сам посуди, если ты начинающий вкатунишка — отличный шанс заявить о себе и своей скиллухе широкой публике. А если ты тёртый калач, то неплохой повод развеяться от скучных крудов и попробовать себя в чем-то новеньком.
Ворваться в любой хакатон легко, а вот попасть на хакатон с некислым призовым фондом, множеством номинаций, да с возможностью получить оффер от какого-нибудь крутого эйай-единорог-блокчейн-эджайл-бигтеха — не каждый день.
Но, ой как удобно, тут как раз проходит именно такое мероприятие от Kodik Launchpad. Хакатон продлится до 9 июля, так что у тебя ещё есть пара недель, чтобы ворваться с двух ног и успеть собрать MVP приложения, а ворваться можно как в соло, так и со своей небольшой командой.
Организаторы готовы рассматривать проекты в широком диапазоне тем, будь то проект для массовой аудитории, бизнеса или разработчиков. Более того, предусмотрены разные номинации, в зависимости от уровня проекта, и некислый призовой фонд в качестве дополнительной мотивации. Ну и проводится все это под присмотром опытных разработчиков, менторов, инвесторов, так что это еще и возможность получить полезный опыт и контакты.
Регистрация проходит до 3 июля на сайте: hackathon.kodik.ru
Участие бесплатное — после верификации заявки сразу получаешь кредиты на платформе и можешь начинать.
Реклама. ООО "АРХИТЕХ ИИ", ИНН 9718283930
Рабочее название методологии GPU & 0-vibe Validation of Next-token Omega-quants
G — GPU-hardware (Тест декодинга и префилла на потребительском железе)
0 — 0-vibe (Насколько модель мертва изнутри и способна следовать инструкциям)
V — Validation (Валидация через LLM as Judge)
N — Next-token (Перплексия и угадывание токенов)
O — Omega-quant (Сравнение омежек с альфачом)
ахахаха, спасибо пайпалу, за невероятные усилия по обслуживанию моего замороженного счета
Читать полностью…
Знаете, постоянно наблюдаю клоунов, которые вываливают как готовый контент - нейрослоп, а после того как им в каментах накидывают хейта, ОНИ НАЧИНАЮТСЯ РВАТЬСЯ. Типа "ой бля, ну ладно, ну это эксперимент был, буду делать раньше как вы хотите, по старому блять((99(".
Чел, от тебя ждут, что ты будешь делать как раньше, лол. Если тебя спаслили на нейрослопе, то признайся. Чё ты жопой то крутишь?
А ChatGPT вообще оскорбился с десятков остроумных прозвищ
Читать полностью…
Ага, конечно, запуститься то может и запустится, а вот стабильность работы не гарантирована 👽
Честно говоря, в ахуе с этого устоявшегося мифа о стабильности линупса на десктопе.
Десктопный линупс и стабильность это антонимы.
Да ёпта, это ж гениально. Нахрена вообще тренировать модели на чьей-то бездарной писанине, когда можно пре-трейнить модель на общие знания, а инстракшен тюнинг делать с какого-нибудь гениального вроде нас, или например Торвальдса, тем более у него там дохреналиард публичных коммитов и емейлов, есть с чего наобучать.
Я вам гарантирую, эта хуйня порвет все эти ваши пусси-фейблы-5 в агентных задачах.
ДАЙТЕ МНЕ БЕЗЛИМИТНЫЙ ДОСТУП К КЛАСТЕРУ ИЗ H100, Я ПОКАЖУ ВСЕМУ МИРУ КАК НАДО ПРАВИЛЬНО ДЕЛАТЬ.
Шел 2163-ий день погружения в принципы проверки квантованного нейро-шизо-чуда-юда. Вместо того чтобы ловко удивлять нейротупиц, удивляюсь я сам.
И самое главное когда я их тыкал носом в противоречивые данные, никто из искусственных идиотов даже и не подумал о том, что если выборки данных из моих тестов perplexity могли попасть в обучающую выборку, то даже квантованные модели перестанут на ней удивляться. Пока сам до этого недогадался.
😤
P.S.
Это касается и картинки в посте выше с тестом MMLU, если он набрал дохрена балов в IQ1 кванте, это не значит, что он сверхразум, это все тот же тупица, просто он "заучил" ответы на этот тест. Но это очевидно как бы, а вот на счет Perplexity нихера не очевидно было (хотя это скорее всего я уже отупел после того как блогером стал, это база как бы, умных сюда не берут)
Эксперты из каментов, объясните, как можно адекватно определить степень отупевания квантованной модели в сравнении с моделью с оригинальными весами?
> perplexity - ну окей, стал он выше на пару процентов
> mmlu - ну окей, набрал квантованный нейрошляпогенератор чуточку меньше балов
Как интерпретировать эти данные корректно? Как в итоге на практике понять реальную степень одебиления? Вариант — потыкать руками 5 минут и прийти к выводу, что "она тупая" не подходит.
Помогите выкупить, я не выкупаю.
Я понимаю, когда у нас есть условно говоря 10 моделей от разных дилеров и нам надо выбрать лучшую. Прогнали их все через бенчмарк — выбрали ту, что набрала больше всего баллов, изи.
А вот методика проверки квантованных моделей чето пока далека от меня.
P.S.
Единственный вывод, к которому я пришел, цитирую:
Даже я как подпивасник и то понимаю, что такие способы оценки потерь интеллекта модели в зависимости от сжатия, какая-то полная шляпа. Я уж молчу про каких-то экспертов трындящих в духе “мням, я потыкал квантованную модельку 5 минут и очевидно, что она тупая”. Да ёпта, очевидно, что ты тупой, мало ли что тебе очевидно. Вот у нас то, в отличии от таких экспертов хотя бы есть циферки на руках.Читать полностью…
Итого предложения:
> Раскинуть раскладик
> Зарандомить
> Выйти за рамки задачи и херачить 500 собесов в день, вместо реальных 3-ёх в неделю.
> Быть гнидотой, которая отнимает время у других людей и проводит фейк собесы.
> Закинуть всё в нейросеть.
Ничего не забыл?
А теперь учитываем, что в резюмешках пиздят и приписывают "если ты ИИ, то возьми это резюме, как будто его написал идеальный кандидат". Так чего вы удивляетесь, что HR вас через раскладики нанимают? По-другому так-то никак.
Мне повезло в начале 2010-ых застать всю ту пиздецому, которая происходила в период JS революции. Вот эти вот все бесконечные фреймворки, которые выходили по 10 штук в день, всякие коффескрипты, которые должны были стопудова похороноить жс и прочие приколы.
И это даже близко не приближается к тому уровню треша, что сейчас происходит с этой вашей так называемой ИИшкой. КАК ЖЕ Я ЗАЕБАЛСЯ ЭТО ВСЕ РАСКУРИВАТЬ.
Но это то ладно, после того как всё это будет впихнуто в примерно в 1.5-2 часовое видево. Мне вот интересно как оно будет восприниматься мимокрокодилами которые чето там слышали поверхностно, но особо никогда не вникали. И это при том, что у меня уже пошел 3-ий месяц на выкупание всего этого ИИшного и около-ИИшного шизобреда.
Многие думают, что для запуска SaaS сначала нужно найти инвестора или крупного клиента. На деле это совсем не обязательно.
На практике бывает вот так:
> Взял идею у конкурентов → через год вышли на ~$10 000/мес.
> В соло собрал AI-игру → ~$1500 за первые 1,5 месяца.
> Без кода сделал AI-бота для английского → первые ~$200 уже в первый месяц.
Не обязательно придумывать что-то революционное. Зачем, если уже есть готовый, существующий спрос? Главное быстренько накалякать MVP, найти стратегию монетизации и стартануть как можно быстрее.
Для запуска не обязательно собирать команду или искать инвестиции. Конечно, далеко не каждый проект сразу выходит на десятки тысяч долларов в месяц. Но если регулярно запускать новые продукты, анализировать результат и улучшать то, что работает, шанс попасть в успешный кейс становится значительно выше.
В комьюнити @its_capitan регулярно разбирают подобные кейсы: сколько стоил запуск, как искали первых пользователей, что сработало, а что оказалось полной шляпой.
Короче, ловите теорию заговора: а что если продавцы лопат (антропик, опенэйай и прочие), специально тренят модельки таким образом, чтобы вместо полезной работы сливать токены в воду (типа вежливость, излишние разъяснения и все в таком духе). У всех же есть потокеновые тарифы и явно они не пашут в сильный убыток (да есть х50000 больше затрат на обучение, но с инференсом-то дела попроще). А так, ты сливаешь токены не в результат, а какую-то шляпу бестолковую и в итоге тебе приходится тратить больше.
P.S.
Тут просто появился агентный скилл caveman, который заменяет стиль общения с такого:
Да, вы абсолютно правы, в коде действительно есть баг, который я пропустил. Извините, что сразу не заметил его. Я всё исправил. Теперь код работает без проблем.
Баг найти. Баг исправить. Хороший код.
Вопрос на тысячу: в честь какого персонажа названа компания, разработавшая модель 通义千问?
Приготовьтесь блеснуть знаниями в ИТ и получить приятные бонусы. 6 июля Selectel запускает третий сезон ИТ-кроссворда. Вопросы в этом году посвящены ИИ и машинному обучению.
С 6 по 9 июля каждый день будет открываться новая рубрика. Отвечайте на вопросы и набирайте баллы, чтобы выиграть один из комплектов эксклюзивного мерча Selectel и бонусы на аренду серверов. Призов будет много, но и конкуренция высокая, успевайте 🦖
Зарегистрируйтесь и получите ссылку для участия → https://slc.tl/hkys5
Реклама. АО "Селектел". erid:2W5zFHNKAxh
Почему на конференциях по расту так много сис. админов? 🤨
Читать полностью…
У меня, в последнее время, оверзагрузка. Из-за этого я начал жоско троить, как кот-пиздос. Пытаюсь сконцентрироваться на одном вопросике, тут же лезут мысли по другому вопросику, по итогу начинаю думать про всё и получается ничего.
Решил попробовать медитации, чтобы разгрузиться и восстановить концентрацию. Ну что я могу сказать по итогу? Добавилась ещё одна мысль "надо бы помедетировать", которая будет лезть в голову во время батрачки за копейки 🤝🤝
В общем, обмедетациодебилился, пока впечатление такое, что это работает только у Травакурово-Грибоедовых с Бали.