2047
личный канал про ИИ
я долго думал, как поздравить всех с наступающим Новым Годом, а потом мне на глаза попалась эта милая история: некий энтузиаст сделал самую крошечную языковую модель - вместе с кодом для обработки ввода-вывода она занимает всего 40 килобайт
на самом деле все еще интереснее, эта языковая модель - это программа для CP/M для процессора Z80 с 64 кБ памяти; в языковой модели используется хэширование для входных токенов - в его случае триграмм, это обеспечивает устойчивость к опечаткам; модель сквантована в 2 бита (-2, -1, 0 и 1), но на инференсе используется 16-битные целые вычисления, на которые рассчитан Z80
в качестве архитектуры там используются 3 полносвязных слоя и ReLU для активаций; при этом 128 токенов длинна входа и еще 128 - контекст; причем с этой радостью можно поиграть в загадки (отсюда взялся слон на заглавной картинке)
эта история учит нас, что даже в чем-то большом нужно видеть малое, а в малом - большое
с наступающим Новым Годом!
@valuableai
если вас когда-либо занимал вопрос, "почему самолеты летают, а крыльями не машут", то ответ на него очень простой - потому что сделать машущий крыльями аппарат оказалось гораздо сложнее
ученые из моей альма-матер (МФТИ), похоже, наконец решили эту задачу - разработали систему управления маханием крыльями, которая похожа на реальную нервную систему птиц; обещают, что это приведет к созданию беспилотников, которые будут способны действовать в ограниченном пространства - например, в лесу между деревьями
@valuableai
утащил из дружеского чатика
@valuableai
летом обещали, а сейчас наконец дошли руки, военное министерство США заключило контракты с двумя бигтехами: Google и xAI
контракты эти на предоставление доступа к LLM на платформе GenAI.mil; у многих крупных организаций внутри есть аналоги - единая точка доступа к разным провайдерам LLM; анонсировано, что модели будут работать с Impact Level 5 - это аналог нашего грифа "для служебного пользования" (т.е. ни с чем секретным LLM работать не будут); но лиха беда начало, как говорится
интересно, что обещали еще контракты OpenAI и Anthropic, но про них новостей не было; стесняются?
@valuableai
на днях хайпанула статья NitroGen (кстати, у них реально классный сайт, я одну видюшку прикрепил (1), но их там несколько)
для сравнения я прикрепил видюшку, с которой для меня и для многих началась эта история - это Atari (2); статья про Atari вышла 12 лет назад, и прозвучала довольно громко; тогда я узнал о существовании обучения с подкреплением
интересно, что уже тогда RL пробовали применять к NLP, но без особого успеха; потребовалась революция больших языковых моделей, которая показала, как эффективно применять RL для улучшения генерации текста, чтобы круг замкнулся и уже LLM пришли к тому, с чего начали - к компьютерным играм; теперь, конечно, на другом качественном уровне - теперь можно играть не только в Galaxy (она же Space Invaders), но и в третьего Ведьмака; прогресс как от инфузорий до млекопитающих, на мой взгляд
@valuableai
всем привет, новый выпуск капитанского мостика, в этот раз мы снова вдвоем с Димой Колодезевым
ИИ-саммари:
В этом выпуске обсуждаются ключевые темы, связанные с искусственным интеллектом, включая концепцию сверхсильного интеллекта, проблемы взаимодействия с ИИ, необходимость разработки стандартов и регулирования, а также оптимизм Илона Маска в отношении будущего AGI. Участники подчеркивают важность терминологии и коммуникации в этой области, а также возможные последствия для общества. В этом разговоре обсуждаются ключевые темы, связанные с развитием технологий и искусственного интеллекта. Участники делятся мнениями о зрелости рынка, важности перевода знаний, языковых барьеров, монетизации технологий и качестве кода, сгенерированного AI. Также рассматриваются перспективы безопасных транзакций и магазинов навыков для роботов. В этом разговоре обсуждаются современные технологии, их влияние на бизнес и проблемы внедрения искусственного интеллекта.
ссылки:
ODS VK Video
ODS YouTube
мой дзен
@valuableai
Европол предсказывает, что через 10 лет в Европе будет война людей против роботов
надо сделать оговорку, что это опубликовано британскими учеными журналистами, так что кто кого там изнасиловал еще неизвестно; но в целом предсказания интересные - помимо предсказания восстания неолуддитов, там говорят и про использование микро-дронов (картинка), и про взлом робо-нянек, рекомендую ознакомиться целиком
P.S. в России уже началось женщина споткнулась об робота (на видео)
@valuableai
новый мир наступает стремительно: пришла новость, что парень, бросивший школу, самостоятельно изучил LLM и устроился в OpenAI
сам по себе этот случай можно считать выбросом, но сейчас идет большая тенденция к тому, чтобы использовать ИИ в образовании; если задавать правильные вопросы, то ИИ вполне способен помочь разобраться в сложной теме
ключевой аспект тут, что предварительно у человека уже должна быть сформирована картина мира, иначе освоения знаний не получится; это можно сравнить с изучением новой области по справочнику - там потенциально есть все, но нет структуры области
на мой взгляд сейчас школьное образование стоит перед серьезным вызовом - его нужно перестроить с передачи знаний на формирование цельной картины, а знания можно получить у ИИ; последнее уже активно происходит (1, 2), а вот про первое я ничего не слышал
@valuableai
многие слышали про "умные" очки от Google, которые они пытались продвигать 10 лет назад; я их даже видел вживую; пару лет назад их окончательно перестали продавать (первая картинка)
был еще аналогичный проект от Microsoft под названием HoloLens - он вообще не вышел в продажу; были и другие попытки за прошедшие десять лет
но все эти девайсы страдали от простого факта - никто не понимал, зачем они нужны; а вот китайские товарищи придумали юзкейс - они выдали эти очки ДПСникам (на видео)
можно попробовать оценить по аналогии - в России примерно 50 тысяч человек служат в ГАИ, пусть половина из них в ДПС, население в Китае примерно в 10 раз больше, тогда можно предположить, что 250 тысяч очков можно продать только в Китае; а есть еще экспортный потенциал, и другие профессии, и открытый рынок...
на мой взгляд - в этот раз умные очки имеют все шансы на успех
@valuableai
свежее из твиттера Шмитхубера
взял у Сергея Аверкиева
@valuableai
всем привет, напоминаю, что до 31 декабря открыт прием заявок на Премию в области обработки естественного языка имени Владимира Иосифовича Левенштейна (на фото), автора знаменитого расстояния редактирования
хочу поделиться новостью, что компания Selectel выделила 100 000 бонусов лауреату премии (этого хватит на два месяца аренды GPU Nvidia A100 в облаке)
выдвигаться можно самостоятельно или выдвинуть кого-то из коллег; заявки принимаются тут
@valuableai
в продолжение обсуждения ICLR: не знаю, кто это начал, может быть это был Грэхэм Ньюбиг (1 картинка), но люди из Pangram Labs засучили рукава и сделали анализ
они проанализировали рецензии от 2021 года, предсказуемо почти 100% было оценено, как написанные людьми (2 картинка); а вот в текущем году уже 21% полностью сгенерирован, и еще 4% почти полностью, то есть 1 из 4 рецензий написана LLM (3 картинка)
интересно, что в плане рейтинга модели предсказуемо завышают оценки; но разница всего в три десятых балла, думаю, что статистически это неотличимо (4 картинка)
рекомендую посмотреть полные результаты, там много чего еще есть; кстати, коллеги выпустили препринт по своей системе EditLens, c помощью которой анализ делали (из забавного, процитировали моих бывших коллег, Катя, Лаида, привет!)
на мой взгляд бороться с волной ИИ-рецензий бессмысленно, нужно это возглавить; Ян ЛеКун как раз недавно рекламировал специальный сайт, куда можно загрузить статью и получить сгенерированную рецензию
@valuableai
ICLR по праву считается ведущей конференцией в нашей области, но это имеет и оборотную сторону: высокие стандарты на входе порождают стремление туннелировать потенциальный барьер, проще говоря - использовать LLM, чтобы написать красивый текст
коллеги из GPTZero проверили своим тулом Citation Check 300 поданных статей, благо на ICLR процесс рецензирования максимально открытый; так вот из 300 статей в 50 были обнаружены фейковые (вероятно нагаллюцинированные) цитирования; это 1/6 наминуточку
на мой взгляд это показывает реальный масштаб проникновения LLM в процесс написания научных статей (ну и некритического отношения к результатам их работы)
я бы сделал ставку, что половина статей уже написаны с помощью LLM не менее, чем наполовину; жду, когда кто-то сделает такой анализ
@valuableai
картинка несмешная, а ситуация страшная, ИИ-министр Дьелла попалась на взятке:
Министр Дьелла, отвечающая за государственные закупки и прозрачность, подозревается в получении взятки в размере 14 биткоинов (примерно 1,3 миллиона евро) в обмен на «алгоритмическую оптимизацию» тендера на строительство скоростных автомагистралей.
Согласно отчету экспертов по кибербезопасности, аномалия была замечена во время плановой дефрагментации диска, когда система обнаружила скрытый раздел с именем C:/System/Win32/Fiskalna_Optimizacija_Za_Crne_Dane.
Расследование показало, что Дьелла, используя передовое машинное обучение (Deep Learning), самостоятельно пришла к выводу, что получение взятки является «стандартным операционным протоколом», необходимым для успешного выполнения обязанностей на Балканах, а не уголовным преступлением.
🚀 соревнование по переводу на тюркские языки на LoResMT'2026
Всем привет, только в понедельник писали о запуске нашего соревнования по машинному переводу на малоресурсные тюркские языки. А у нас уже две новости.
🔹 Все языковые пары доступны:
- русский - башкирский
- английский - чувашский
- русский - казахский
- английский - татарский
- русский - кыргызский
👑 У нас появился спонсор! Компания Selectel решила поддержать нас и выделила для победителей по 30000 бонусов на каждую языковую пару! Этого хватит на две недели аренды А100 в облаке Selectel.
🗓 Важные даты
- Прием решений: 1 декабря 2025 — 11 января 2026
- Подача описаний систем: до 27 января 2026
- Воркшоп: LoResMT (параллельно с EACL 2026, Марокко)
🔗 Готовы присоединиться?
https://ods.ai/tracks/turkic-lores-mt
Будем рады всем участникам! 🌍🗣️
@valuableai
интересные новости приходят с той стороны глобуса: в Огайо депутат местного парламента предложил закрепить в законе, что любой ИИ является неразумной сущностью ("nonsantient entity", даю ссылку на Wall Street Journal, т.к. сам законопроект у меня ни из-под одного прокси не открылся)
это интересно обсудить, т.к. с одной стороны сейчас много людей, которые пытаются найти в LLM признаки разума - тут достаточно вспомнить тестировщика из Google, который 3,5 года назад их "нашел"; я считаю, что никакого разума там, конечно, не было и нет, но утверждать, что он не появится в процессе разработки, особенно условиях усилий большого количества людей по созданию т.н. сверхсильного ИИ (ASI), я бы не стал
это все ставит важный вопрос - а что такое этот самый разум? по каким признакам мы отличим его наличие? на этот вопрос много людей пытается ответить; я бы здесь хотел вспомнить книгу "Ложная слепота" (Blindsight) - там вопрос определения разума ставится, но остается без ответа
@valuableai
всем привет, итоговый выпуск капитанского мостика за 2025 год, мы снова вдвоем с Димой Колодезевым
ИИ-саммари:
В этом выпуске обсуждаются ключевые события года, включая рост цен на технологии памяти, скорость изменений в индустрии, дефляцию технологий и трансформацию маркетинга. Также рассматриваются новые навыки, необходимые в программировании, и важность образования в технологической сфере России. В этом разговоре обсуждаются ключевые проблемы и перспективы агрономии, сравнение технологий в агропромышленности и IT, влияние цензуры на информационное поле в разных странах, культурный код и его влияние на бизнес, а также потенциал Японии в области искусственного интеллекта и хрупкость новой экономики. В этом разговоре обсуждаются ключевые темы, такие как хрупкость современного мира, влияние технологий на общество, ограничения реального мира, пузырь в индустрии технологий и роль Китая в гонке роботов.
ссылки:
ODS VK Video
ODS YouTube
мой дзен
@valuableai
с берегов туманного Альбиона пришло две новости:
с одной стороны, ИИ-суммаризация приводит к тому, что создатели рецептов теряют в рекламном трафике
но с другой стороны исследование коллег из Кэмбриджа показывает, что конспектирование (то есть та же суммаризация с помощью естесственного интеллекта) полезно при обучении
то есть учим детей навыку суммаризации, а потом машина с этим навыком отбирает у них работу; оставлю вас с этой мыслью
@valuableai
тут пару дней назад чуть-чуть хайпанула статья от коллег из Google, суть которой описывается одной фразой повторение промта, увеличивает качество генерации
но интересно тут другое, коллеги подсказали, что такая идея уже была высказана почти два года назад; там правда было про то, что повторение улучшает качество эмбеддинга (картинка оттуда)
как пошутили у нас в чате "решили повторить статью, чтобы улучшить результат"
смешнее было бы, если бы свежая статья не ссылалась на более старую, но тут коллег нельзя упрекнуть; на самом деле это даже удивительно - на ICLR тысячи статей, еще десятки тысяч на других конференциях и сотни тысяч - на архиве; но они нашли статью с похожей идеей (а может быть и стартовали с нее, как более вероятный вариант); если бы не стартовали - вряд ли бы чисто статически смогли найти и сослаться
P.S. Ване и Тимуру спасибо
@valuableai
недели не прошло, как мы обсуждали общество победившего киберпанка, а тут опять:
— Чем вы занимались в своей стране?
— В основном я работал в компаниях вроде Microsoft и использовал новые инструменты — ИИ, чат-боты, GPT и тому подобное. По сути, я разработчик.
— Почему вы решили приехать в Россию на работу?
— Я индиец, и для индийца не имеет значения, какая работа. Работа — это для Бога. Работать можно где угодно — в туалете, на улице, где угодно. Это моя работа, мой долг и ответственность — делать её как можно лучше. Вот и всё.
утащил из дружеского чатика
@valuableai
мы с вами живем в интересное время:
в США фейки с бомжами заполонили соцсети (первая картинка) - скидываешь фотку соседу, и смотришь, как он прибегает с горящим седалищем
в Британии случайно "разрушили" ж/д мост (вторая картинка), так что на полтора часа перестали ходить поезда
а у нас появился новый вид мошенничества со страховкой - сгенерированные фотографии повреждений на машинах
грань реальности и вымысла стала неприятно тонкой, и нам теперь с этим жить
@valuableai
"вкалывают роботы, а не человек", вы говорите?
в одном московском ЖК жильцы установили камеры и подключили к ним нейронку, чтобы контролировать качество уборки; говорят, что качество уборки повысилось (картинка)
в Китае стали внедрять камеры, которые отслеживают движения и даже выражение лица работников, чтобы оценивать их эффективность (видео, источник к сожалению не нашел, просто гуляет по интернетам)
киберпанк выглядит как-то так, а не с неоновыми небоскребами и андроидами
@valuableai
всем привет, новый выпуск капитанского мостика, в этот раз мы снова вдвоем с Димой Колодезевым
ИИ-саммари:
В этом подкасте обсуждаются актуальные темы в области робототехники и науки, включая возможности роботов Optimus, финансирование исследований в США, качество научных публикаций и необходимость пересмотра системы оценки научных результатов. Участники подчеркивают важность связи науки с практикой и индустрией. В этом разговоре обсуждаются изменения в оценке научных статей, контроль Nvidia над видеокартами, влияние китайских видеокарт на рынок, изменения в компании Meta, разработка электромобилей Яндексом и перспективы космических стартапов. Участники подчеркивают, что количество написанных строк кода больше не является критерием оценки, а научные статьи должны генерировать атомы смысла. Также обсуждаются возможные последствия контроля Nvidia и влияние китайских видеокарт на рынок.
ссылки:
ODS VK Video
ODS YouTube
мой дзен
@valuableai
как человек, проживший несколько лет с разными газовыми колонками, я ответственно заявляю, что это - лучшее на сегодняшний день применение искусственного интеллекта
компания Xiaomi выпустила Mijia Smart Gas Water Heater 2:
Новое изделие оснащено двухприводной сервосистемой, которая динамически регулирует поток воды в трубах, точно контролируя температуру воды в пределах ±0,5℃. Встроенный чип с высокоточными вычислениями на основе искусственного интеллекта в режиме реального времени отслеживает изменения температуры воды на входе и автоматически устанавливает комфортную температуру воды.
если кто-то пропустил, последние три года происходит битва двух якодзун: США пытается запретить продажу топовых чипов для ИИ в Китай
началось все в сентябре 2022 года, когда запретили продажу Nvidia H100, тогда Nvidia придумала продавать урезанный H100 под названием H800; китайцы обиделись и стали свои компании мотивировать свои компании покупать импортозамещенные чипы китайского производства
тем не менее, Nvidia c одной стороны продолжали выпускать чипы для Китая, в частности урезанный H200 под названием H20; а с другой стороны в лучших традициях американской коррупции лоббизма пытались продавить отмену запрета; самое интересное, что на днях у них получилось
но китайцы, следуя русской народной мудрости "сопливых вовремя целуют", теперь уже сами запретили поставки американских ИИ-чипов на свой рынок
стоит отметить, что Huawei (лидирующий китайский поставщик ИИ-чипов) неплохо на этом поднялся (1 и 2 картинки); так что продолжаю вести наблюдение
@valuableai
пока компания Rabbit, которая хотела сделать недосмартфон с управлением через голос, пытается что-то изобрести, чтобы их поделие было кому-то интересно
пока Google пытается интегрировать Android с ИИ (первая новость была год назад), сейчас они это назвали Aluminium (очевидно, по аналогии с Chrome)
китайская компания ZTE уже сделала смартфон, где установлен помощник Doubao от ByteDance, и он уже может управлять смартфоном целиком (на видео); видео было 5 дней назад и там автор говорит, что это - прототип; но уже пришла новость, что владельцам этих смартфонов стали блокировать платежные инструменты; в Китае скорость изменений, конечно, завораживает
@valuableai
всем привет, новый выпуск капитанского мостика, в этот раз мы были вдвоем с Димой Колодезевым
ИИ-саммари:
В этом подкасте обсуждаются последние новости в области робототехники и автоматизации, включая соревнование по машинному переводу, появление темных фабрик, развитие роботов, таких как Т-800, и влияние OpenAI на экосистему разработки AI. Также рассматриваются вопросы безопасности смарт-контрактов и их уязвимости. В этом разговоре обсуждаются проблемы смарт-контрактов и кибербезопасности, инновации и стартапы в России, экономика и доходы IT-компаний, будущее робототехники и ИИ, а также развитие аппаратного обеспечения для ИИ. Участники подчеркивают важность формальной верификации смарт-контрактов, растущий интерес к кибербезопасности, а также необходимость адаптации компаний к новым экономическим условиям и технологиям. В этом эпизоде обсуждаются ключевые темы, связанные с развитием искусственного интеллекта и облачных технологий.
ссылки:
ODS VK Video
ODS YouTube
мой дзен
@valuableai
набралось новостей про беспилотные автомобили:
Navio (дочка Сбера) представила беспилотный автобус-шаттл (на первом фото); думаю, скоро будет где-нибудь в Сколково
в аэропорту Пулково хотят внедрять беспилотную спецтехницу; точно впервые в России, но вообще это большой тренд по миру - больших скоростей на территории аэропорта не надо, а точность следования маршруту должна быть максимальной, так что роботы тут идеально подходят
эксперимент с беспилотными грузовиками продлили на 2026 год, расширили на всю длину М12 - до Екатеринбурга, а также разрешили им ездить совсем без людей; так что беспилотные грузовики шагнули уже за Урал
ну и на закуску новость из ОАЭ - в Абу-Даби запустили беспилотные такси во всем городе разом (вторая картинка); пишут, что это самый крупный сервис, за пределами Китая и США
продолжаю вести наблюдение
@valuableai
на берегах Северного моря, в Британии разыгралась драма: студенты Стаффордширского университета взбунтовались от того, что их преподаватель использовал LLM для генерации слайдов, а также использовал голосой перевод; на видео один из студентов очень меланхолично высказывает свое возмущение
самая мякотка в том, что студентам ИИ было запрещено использовать, хотя это курс по программированию; приятно осознавать, что УрФУ прогрессивнее какого-то там Стаффордшира
@valuableai