2047
личный канал про ИИ
тут по сети опять пошла паника, что LLM могут деанонимизировать пользователей, поводом для нее послужила вот эта статья
я сознательно говорю "поводом", потому что тот сценарий атаки, который описан в статье, позаимствован из статьи 2008 года; это я к тому, что это 20 лет как можно сделать, только с использованием LLM - быстрее
как это работает представлено на 1 картинке, на 2 показаны 3 разных подхода - извлечение и прямое сличение атрибутов, поиск по базе с помощью векторного представления и то же с помощью рассуждений; из реально интересного, что рассуждения так сильно помогают (3 картинка)
так что переживать по поводу деанонимизации не стоит - как и раньше, все упирается в полноту базы, если вас не с чем сматчить, то можете спать спокойно
@valuableai
сегодня мы выходим с традиционным нашим подкастом - Капитанский мостик, ведем его традиционно мы - я и Дмитрий Колодезев, из нетрадиционного у нас то, что сегодня была замечательная гостья - Татьяна Шаврина и в целом выпуск получился праздничным, мы были рады поздравить с 8 марта всех слушательниц, а еще дополнительно поздравляю всех читательниц моего канала
#КапитанскийМостик
В этом выпуске обсуждаем важность разнообразия в командах, безопасность в области AI, и проблемы, связанные с гендерными аспектами в медицине и технологиях. Гость Татьяна Шаврина делится своим опытом и взглядами на эти актуальные темы. Обсуждение последних новостей в области технологий, политики и безопасности, включая санкции против Anthropic, влияние госзаказов и развитие нейросетей и аппаратных решений. Обсуждение влияния искусственного интеллекта на рынок труда, этические и правовые аспекты, а также инфраструктурные вызовы и перспективы развития технологий.
ODS VKVideo
ODS YouTube
мой дзен
@valuableai
я тут прокрался в телевизор, передача "Вопрос науки" от сегодня, выложил у себя на дзене; кому интересно - оригинал
@valuableai
две новости про рынок труда:
• Bloomberg сообщает, что крупные компании отказываются от услуг внешних рекрутинговых агентств, т.к. их работу может выполнять ИИ; рассматривается на примере американских и британских корпораций
• Сбер (крупнейшая наша корпорация) сократил 30% юристов, занимавшихся договорами, т.к. их работу стал выполнять ИИ; тут правда источник - слова одного из уволенных
наблюдается тот же паттерн - крупные корпорации стремятся меньше нанимать людей, используя ИИ для выполнения работы; на западе эта тенденция уже не первый год и началась с программистов, а у нас - только разворачивается (и, я думаю, до программистов не дойдет)
@valuableai
это могла бы быть рубрика "два мира - два Шапиро", но новости из одной части света:
• высокотехнологичная компания Самсунг (если кто не знал на самом деле она Сам сон - "три звезды") объявила о том, что к 2030-му году хочет перевести свои фабрики на использование ИИ и роботов
• совершенно обычная угольная шахта из Китая уже сегодня работает полностью без людей
понятно, что не все шахты в Китае такие, но важно, куда все идет, т.к. в Китае огромная (по нашим меркам) убыль населения - по 3 миллиона человек в год, а уголь нужен еще больше, т.к. нужно больше электричества под датацентры
вместо вывода замечу, что странно, что Самсунг так отстает с роботизацией, убыль населения в Корее также есть, хоть и меньше, чем в Китае #роботизация
@valuableai
всем привет, сегодня новый выпуск "Капитанского мостика", ведем как всегда мы, я и Дмитрий Колодезев, нашим гостем был Тимур Маджидов, специалист по ИИ в химии, д.х.н.
#КапитанскийМостик
В этом подкасте обсуждаются актуальные новости в области искусственного интеллекта, в частности, контракт компании Anthropic с Пентагоном и вопросы этики в использовании ИИ в химии. Гости делятся мнениями о репутационных рисках, связанных с использованием ИИ в военных целях, а также о нейтральности алгоритмов в химических задачах. В этой беседе обсуждаются ключевые аспекты влияния искусственного интеллекта на общество, страхи и надежды, связанные с AI-бумом, будущее занятости в условиях автоматизации и изменения бизнес-моделей из-за новых технологий. Участники поднимают вопросы о том, как ИИ меняет рынок труда и какие последствия это может иметь для бизнеса и общества в целом. В этом разговоре обсуждаются проблемы с legacy кодом и влияние AI на программирование.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
LLM стали настолько хороши, что их применяют теперь и для обработки картинок и даже видео, это называется Vision Language Models (VLM); но все-таки есть в этом что-то странное - для обработки картинок зачем-то нужен текст; эта идея не мне первому пришла в голову, первыми были в OpenAI - они представили Video PreTraining; основан VPT на идее, которая была предложена еще в лохматом 2018-м году, IDM - это обучение повторению поведения на основе изображений
к чему я это все? к тому, что вышла модель FDM-1 (картинка); это диффузионная модель, которая принимает кадры из видео на вход, а на выходе воспроизводит последовательность действий; для обучения ее авторы сначала обучают IDM, а потом с ее помощью генерируют синтетические данные
в итоге FDM-1 способна на 1 часе видео дообучиться до управления автомобилем (видео); так что может быть self-driving в будущем сможет себе позволить любой стартап из глухой африканской провинции #беспилотники
@valuableai
#КолонкаМентора
Всем привет! На связи Валентин Малых — научный руководитель и преподаватель курса NLP& LLMs в AI Talent Hub, руководитель Центра разработки LLM в MWS AI, к.т.н. и соавтор бенчмарков MERA и RussianSuperGLUE.
По шагам разберем как писать статьи, чтобы публиковаться на конференциях, даже будучи начинающим исследователем.
🔵
Как писать:
перечисляете близкие по теме работы и в 1–2 предложениях описываете их суть. Важно показать, какую часть задачи коллеги не закрыли — и что именно закрывает ваша работа.
Важно
максимально понятно изложить:
🔵
схемы,
🔵
формулы,
🔵
примеры данных,
🔵
статистику по датасету.
🔵
Недостаточно
просто показать цифры — важно интерпретировать их:
что означают результаты, какие выводы вы делаете и почему они значимы.
🔵
вклад в науку — что нового вы сделали;
🔵
мотивацию исследования — зачем это исследование вообще нужно.
🔵
Заново описывать вклад не нужно, зато нужно обозначить перспективы: что еще вы хотели бы сделать в рамках этой задачи, куда двигаться дальше.
🔵
1 предложение — мотивация;
🔵
1–2 предложения — описание метода и/или данных;
🔵
1 предложение — ключевые результаты;
🔵
1 предложение — вывод.
🔵
Модели действительно предлагают хорошие формулировки, но ваша задача — внимательно проверить, чтобы они не искажали смысл того, что вы хотите сказать.
✔️
Прямо сейчас, например, идёт отбор на
AINL — ежегодную NLP & LLM-конференцию
, где я выступаю в роли организатора и искренне рекомендую её как начинающим, так и опытным исследователям.
→ Индексация трудов в RSCI (WoS) и Scopus
→ Отдельный студенческий трек с облегченными требованиями
→ Публикация в Journal of Mathematical Sciences и др. ресурсах
→ Можно участвовать онлайн
вы знаете, какие 3 самых высокооплачиваемых профессии в России?
3 место: дата-сайентист
2 место: девопс инженер
1 место: сварщик______
я не шучу, и это не на пустом месте: сварщик (1 картинка) - профессия ответственная, требующая серьезного навыка; причем, опытных сварщиков просто мало
из этого становится понятно, почему работодатели пытаются роботами заменить низкоквалифицированных сварщиков
• компания из Мытищ смогла в 4 раза увеличить производительность, засчет использования робота сварщика (2 картинка)
• в Италии судостроительная компания объединилась со стартапом Generative Bionics для создания гуманоидного робосварщика для использования последнего на своих верфях
так что не программированием единым, как говорится #роботы
@valuableai
всем привет, новый выпуск Капитанского мостика, за штурвалом как всегда я и Дмитрий Колодезев
#КапитанскийМостик
В этом выпуске обсуждаются актуальные темы, связанные с безопасностью паролей, изменением привычек пользователей в цифровом мире, ошибками в программировании и их последствиями, влиянием агентов на компании, стратегией добровольных увольнений в Google, тенденцией к покупке стартапов и управленческим бардаком. В этом разговоре обсуждаются последние достижения и вызовы в области технологий, включая успехи OpenAI и Cerebros, вопросы безопасности в ИИ, инновации в производстве чипов и геополитические аспекты, связанные с производством чипов. Также рассматриваются идеи создания энергетических зон для ИИ. В этом эпизоде обсуждаются различные аспекты энергетических сценариев, новые стандарты в области искусственного интеллекта, проблемы с производством HDD и SSD, разработка новых сред программирования и эксперименты с самообучающимися чатботами.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
вчера внезапно ушел из жизни мой первый шеф - Александр Валерьевич Хельвас
в 1988 году он закончил МФТИ, в 1990 ВИРТА ПВО им. Говорова; еще при Союзе поучаствовал в запуске спутника, с 1990-х годов занимался IT; в 2000-е годы он был у истоков создания сети многофункциональных центров "Мои документы"
в последние годы занимался искусственным интеллектом, и даже в прошлом году наконец защитил диссертацию
светлая память Александру Валерьевичу
следите за здоровьем и помогайте друг другу
@valuableai
привет всем любителям посчитать гномиков на ночь с утра
я думаю, все, у кого был курс "Алгоритмы и структуры данных", на всю жизнь запомнили, что есть два алгоритма для нахождения кратчайших путей в графе - Дийкстры (на картинке) и Беллмана-Форда; многие помнят их сложности - O(m + n log n) и O(mn) соответственно; так вот у меня для вас есть новость, группа китайских товарищей изобрела алгоритм, который для направленных графов с неотрицательными весами ребер дает O(m (log n)^{2/3}), то есть существенно быстрее для больших и/или разреженных графов
суть подхода состоит в том, чтобы иерархически разбить граф на несколько подграфов, в каждом из которых можно сократить количество проверяемых вершин до 1/(log n)
похоже, пора вводить тег #алгоритмы, потрясения основ учащаются
@valuableai
что коллеги из OpenAI всегда умели делать хорошо - это хайповать; группа математиков основала инициативу First Proof для проверки способности современных ИИ-систем решать математические задачи; для этого они выпустили 5 февраля статью, где собрали 10 уже решенных задач из своей работы, но результаты еще не были опубликованы
14 февраля (в день ENIAC) OpenAI выступили c заявлением, что решили 6 из 10 задач (на картинке), и выложили сами решения
последовала жаркая дискуссия в твиттере (резюме - тут), в ходе которой выяснилось, что две из заявленных задач решены неправильно; 2 должны были быть решены; пятая вроде как решена с ошибкой, а вот шестая - решена правильно, но без ссылок на источники, которые были опубликованы 15 лет назад; но самое важное, они нарушили заявленное правило - отсутствие человеческого контроля
по итогам можно сказать, что работа математика - тоже в чем-то рутинная, часть ее уже можно переложить на ИИ
P.S. аналогично обсуждали в воскресенье на Мостике про физиков
@valuableai
немного философии
автора не знаю, нашел в интернетах
@valuableai
буквально во вторник на первой лекции курса рассказывал студентам про тест Тьюринга, а тут предложили новую его итерацию:
какие-то предприимчивые граждане организовали контору под названием Reviewer3 (потому что Reviewer 2 must be stopped!) и продают услуги ИИ по рецензированию; чтобы хайпануть, они предложили поиграть в угадайку, какая из рецензий на ICLR написана человеком
тут хочется напомнить, что ChatGPT уже как год в 3 из 4 случаев проходит тест Тьюринга
и еще, что я про такое развитие событий уже писал и даже выступал на эту тему
@valuableai
мы с вами уже как-то обсуждали "умные очки", в тот раз от Google и Microsoft; но на самом деле самые популярные (на западе) такие очки - от Meta*; точнее, от их коллаборации с RayBan
и вот про эти самые очки шведские журналисты выяснили страшное - оказывается, все видео с этих очков обрабатываются вручную (в Кении, хотя на мой взгляд это несущественно); это уже стало традицией для американских компаний: уже такая история была с роботами от Tesla и с магазинами от Amazon; это я только скандалы упомянул, а есть много компаний, которые прямо заявляют, что у них люди выполняют работу ИИ
со стороны Китая свежих новостей про умные очки не было, но они рутинно продаются (не реклама), например, на маркетплейсах; вот такие вот #2мира2Шапиро
* компания Meta запрещена на территории РФ
@valuableai
я тут в z.ai закинул ссылку на свой профиль в Google Scholar, узнал много нового #суббота
@valuableai
подборка новостей про роботов, причем не только из Китая:
• цюрихская компания Loki Robotics представила робота, который моет туалеты (видео); на мой взгляд хорошо, если эта малоприятная работа будет делаться роботами
• робот Xiaomi отработал 3-часовую смену на заводе по сборке электрических автомобилей; заявляется, что он правильно выполнил 90% действий
• руководитель одного из региональных застройщиков России "Атлас Девелопмент" в своем интервью говорит, что они уже сейчас рассматривают роботов на замену части работников на стройках; поясняет он это тем, что рабочая сила дорожает, а робот, который уже сейчас окупается полтора года, только дешевеет; он говорит, что в течение 5 лет роботы будут повсеместно на стройках в России
я считаю, что для нашей страны #роботизация - это насущная необходимость, у нас население стареет, а безработица - крайне низкая (2,2% была в январе этого года), самый простой выход - в роботизации; кстати, многие не задумываются, но Китай находится в ровно той же ситуации
@valuableai
новости от наших южных соседей - из Казахстана:
• в Алматы дроны подсказывают людям, что не надо нарушать правила (видео 1)
• не совсем новость, ей уже год - в Астане дрон отчитал людей, которые вышли на балкон во время парада на 9 мая (видео 2)
сюда же в копилочку - новость из Петербурга - там хотят с помощью дронов выявлять незаконные экскурсии по крышам; готов ставить деньги на то, что казахстанский опыт с использованием дрона в качестве "матюгальника" тоже переймут #беспилотники
@valuableai
простите за актуалочку, но тут интересное пишут: Пентагон использовал Claude для подготовки атаки на Иран; и это при том, что Трамп объявил о том, что накладывает на Anthropic санкции из-за их отказа убрать ограничения у моделей
продолжаю вести наблюдение #военное
P.S. еще две недели назад писали, что Claude использовали для атаки на Венесуэлу, но тогда я счел это фейком
P.P.S. OpenAI долго отмалчивались, а потом внезапно в субботу объявили о контракте с Пентагоном
@valuableai
не знаю, кто автор, но меня прямо тронуло #суббота
@valuableai
у наших ближайших соседей (через Беренгов пролив), в США, происходит интересное:
• с одной стороны Anthropic пытается отбрыкаться от требований Пентагона предоставить доступ к технологиям (страшно представить, какой скандал был бы, если бы наше Минобороны пришло с таким требованием, например, к Яндексу)
• с другой стороны xAI спокойно заключили соглашение
напомню, в прошлом году xAI и Google уже заключали контракт с Министерством войны; Anthropic и OpenAI вроде сначала были тоже готовы, но, как теперь видим, первые точно нет, а про вторых так ничего и не известно; министр войны США обещал санкции для Anthropic, если они не заключат контракт до пятницы; запасаемся попкорном #военное
@valuableai
OpenAI выпустили даже не статью, а некоторое эссе, где написали, что больше не используют для оценивания SWE-bench Verified, т.к. современные модели его просто выучили
мы подобный эффект продемонстрировали в нашей работе SWE-Mera, там было видно, что одна и та же модель на выборке 2025 года показывает себя хуже, чем на выборке 2024 года; более того, мы SWE-Mera делали динамическим именно поэтому - чтобы модели не успевали выучить задачи из бенчмарка
так что ждем ваших сабмитов!
@valuableai
всех причастных с Днем защитника Отечества! в честь праздника решил сделать обзор новостей про ИИ в российской военной сфере и закономерно уткнулся в то, что в открытом доступе такой информации практически нет
у нас в отличие от американцев не принято рекламировать разработки даже после их внедрения в войска; полгода назад были новости про шлем с ИИ - редкий случай, когда у нас про такое написали
из относительно достоверно известного: беспилотник "Ланцет" (на картинке) есть в модификации с ИИ, которая позволяет довести его до цели в условиях подавления радиосигнала и невозможности связи с оператором
еще есть очень мутное упоминание про то, что система управления войсками может суммаризировать и верифицировать информацию; но тут видимо только люди с доступом к секретной информации могут что-то определенное сказать (но не будут этого делать)
в целом, можно отметить, что несмотря на отсутствие рекламы, в нашей армии тоже этими вопросами занимаются #военное
@valuableai
немного актуалочки, извините
взял у "Ёжика в матане"
@valuableai
сегодня всенародно любимая рубрика "два мира - два Шапиро" #2мира2Шапиро #беспилотники
• в США в декабре 2026 года в тестовом режиме готовятся запустить беспилотные электромобили по выделенной линии длиной 800 метров (ставлю на то, что не запустят)
• в Китае уже сошла с конвейера первая машина, которая будет без водителя возить людей по дорогам Пекина, Шанхая, Гуаньчжоу и Шэньжэня (все города сравнимы или больше Москвы) уже в этом году
выводы предлагаю сделать самостоятельно
P.S. кстати, автономные такси на китайской технологии уже работают в Саудовской Аравии и ОАЭ
@valuableai
в эволюционной биологии вывели правило 4 F: базовые инстинкты, необходимые для выживания - это борьба, бегство, питание и размножение; как несложно заметить, массовая культура эти инстинкты массово же эксплуатирует; теперь это добралось до роботов
• в Шэньчжэне основана первая в мире лига боев человекоподобных роботов (1 картинка), призом будет пояс из чистого золота стоимостью 111 миллионов рублей
• там же представили первого "биомиметического" робота, который в том числе поддерживает комфортную для человека температуру своего тела (2 картинка)
стоит отметить, что некоторые люди испытали эффект зловещей долины от этого представления из-за неестественных движений, а тут как раз компания Xiaomi представила модель, которая должна обеспечивать естественные движения для роботов
в связи с последним настоятельно рекомендую главу V "Из воспоминаний Йона Тихого" ("Стиральная трагедия"), впрочем этот цикл можно читать целиком
@valuableai
всем привет, новый выпуск Капитанского мостика, за штурвалом как всегда я и Дмитрий Колодезев
#КапитанскийМостик
В этом подкасте Валентин Малых и Дмитрий Колодзев обсуждают различные аспекты технологий, включая исторические моменты, влияние искусственного интеллекта на науку, вопросы энергетики и обвинения в адрес OpenAI. Они анализируют, как компании, такие как Microsoft и Google, используют деньги для продвижения своих продуктов и как это влияет на пользователей. В этом разговоре обсуждаются ключевые аспекты технологической войны между Китаем и США, а также влияние на развитие технологий в Армении и России. Упоминаются планы по созданию дата-центров в Армении и суперкомпьютеров в России, а также изменения в профессии разработчика в свете новых технологий. Обсуждаются риски и возможности, связанные с этими изменениями, а также необходимость специализации в IT. В этом разговоре обсуждаются ключевые изменения в программировании и внедрении ИИ.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
коллеги из MIT выпустили 200-страничный отчет под названием "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task"
что они сделали - посадили людей в специальной шапочке для ЭЭГ (1 картинка) и попросили их написать эссе на одну из заданных тем (2 картинка); люди были поделены на три группы: LLM, поисковик или "голый мозг"; после этого людей просили процитировать их эссе
при использовании LLM только 1 из 6 смог что-то процитировать; но точно процитировать не смог никто; при пользовании поисковиком цитату смогли выдать 8 из 9 человек, аналогично тем, кто вообще ничем не пользовался; но точные цитаты для людей с поисковиком были более сложной задаче - 5 из 6, а те, кто писал из головы, цитировали всегда точно; самое интересное на мой взгляд - ощущение удовлетворенности от работы: само собой, те, кто писал сам его ощущали меньше - 1 из 6 был не удовлетворен; у группы с LLM - 1 из 20; а вот среди поисковиков - все были довольны (3-5 картинки)
@valuableai
сегодня снова рубрика "два мира - два Шапиро", но немного необычная: новостей будет три
• в России ГАИ попыталось оштрафовать робота-доставщика за якобы умышленное нарушение движения, но суд не признал за роботом субъектности
• в Китае гражданин пытался засудить чатбота за выдачу ложных сведений - с тем же результатом, суд не признал наличия у чатбота субъектности, т.е. он не мог сознательно обманывать
• в то же время в США, например, мать Илона Маска подала в суд на Grok за генерацию эротических картинок с ней
из США новостей о подаче в суд много, а вот о решениях - нет, только о мировых соглашениях; связано это с тем, что там прецедентное право, первое такое решение определит, как надо поступать с чатботами и прочим ИИ
вот такое отличие континентального права (как в России и Китае) от островного (как в США)
@valuableai