Выпустили отчет Всемирного экономического форума о десятке перспективных технологий 2023. Что там есть генеративный ИИ — очевидно; интересней, что там есть еще, ибо технологии там оцениваются комплексно по степени влияния на жизнь и планету, а не только по объемам рынков.
Некоторые — интересны уже тем, что особо не на слуху, то есть этот список — отнюдь не подборка хайповых тем.
1. Гибкие аккумуляторы
2. Генеративный ИИ
3. Устойчивое (в экологическом смысле) авиационное топливо
4. Дизайн и инженерия искусственных вирусов
5. Метаверс для психического здоровья
6. Носимые датчики для растений (как раз иллюстрация для поста :))
7. Мэппинг биологических процессов на молекулярном уровне
8. Гибкая нейроэлектроника
9. Устойчивые вычисления (оно же - нейтральные с точки зрения углеродного следа датацентры)
10. ИИ в здравоохранении
Прикольно, что про примерно половину тем читать надо в специализированной прессе; в поле зрения традиционного технологического научпопа они не попадают. Что немало говорит про уровень этого самого научпопа.
https://www3.weforum.org/docs/WEF_Top_10_Emerging_Technologies_of_2023.pdf
Описание этой удивительной конструкции — рюкзачок, к которому можно подсоединить до шести штук рук-манипуляторов — я встречал в нескольких заметках, но диковинка не впечатлила (в первую очередь потому, что ничего внятного про сценарии использования не говорилось). Но вот в этом тексте объясняется, что исследователи из токийского университета, разработавшие паукообразный рюкзак, преследовали цель to facilitate social interaction among multiple users. И вот это меня впечталило, особенно деталь, предполагающая обмен пристяжными конечностями и дистанционное управление ими. Картинка многоруких обнимашек с участием удаленных незнакомцев — причем не во всяких этих метаверсах, а в реале, представляется любопытной:))
https://eandt.theiet.org/content/articles/2023/07/the-bigger-picture-wearable-robotic-arms/
Вот и Кай-Фу Ли, многим известный как автор книги “Сверхдержавы искусственного интеллекта”, подтянулся: его новый стартап Lingyi Wanwu со штаб-квартирой в Пекине собрал команду специалистов китайского бигтеха с целью с нуля разработать и обучить собственную большую языковую модель с учетом всех накопленных идей и наработок.
В Китае известно о существовании как минимум 79 различных моделей более чем миллиардом параметров, инвесторы активно поддерживают этот бум, поскольку шансы на полноценную работу в стране продуктов на основе американских моделей невелики. Кай-Фу ли при этом не опасается конкуренции или пузыря, он полагает, что LLMs presents a “historical opportunity” that China must not miss. Only by developing its own LLMs can China gain a competitive edge in the field of AI. Утверждается, что стартап уже начал тестирование своей модели.
https://www.scmp.com/tech/tech-trends/article/3226494/venture-capitalist-lee-kai-fu-launches-ai-start-seize-historical-opportunity-build-chinese-llms
Проект создания суперкомпьютера «Аврора» для Аргоннской Национальной Лаборатории в США был объявлен еще в 2015 году, но реализовывался медленно и мучительно, несколько раз переделывались и требования, и решения.
Но вот, наконец, в последних числах июня закончился его монтаж (стойки с процессорными модулями занимают площадь как две баскетбольные площадки). Процессоры все интеловские: 21248 CPU в сумме содержат более миллиона ядер, к ним впридачу идут 63477 GPU. Объем памяти (твердотельной) 220PB.
Там еще много офигенных цифр — почитайте статью:) А пока этот монстр будут налаживать и сертифицировать. И попутно — в духе времени — на Авроре начнут обучать большие ИИ-модели для научных исследований.
Полный официальный ввод в строй запланирован до конца года.
https://www.anandtech.com/show/18929/the-aurora-supercomputer-is-installed-2-exaflops-tens-of-thousands-of-cpus-and-gpus
Вот и Oracle подтянулся: Ларри Элиссон заявил, что собирается составить конкуренцию Google, AWS и Microsoft в области предоставления бизнесу облачных мощностей для ИИ-приложений, и потому только у Nvidia закупит карт «на миллиарды долларов».
https://www.techspot.com/news/99260-oracle-plans-spend-billions-nvidia-gpus.html
В итоге сервис отжима воды из публикаций много куда будет интегрирован, но пользоваться им можно уже сейчас (хотя наружу его открыли только что, так что это публичная бета, а не готовый отлаженный продукт). Интерфейс и функционал предельно просты: даешь ссылку на статью, получаешь выжимку (в идеале потом ее качество оцениваешь, чтобы дообучить алгоритм).
Если сервис подвис (на то и бета, с ним бывает) — просто перегрузить страницу:)
На мой взгляд, сильно полезнее многих генеративных штучек, когда приходится много текстов проглядывать.
https://300.ya.ru/
Трансформеры позволили создать языковые модели, которые наглядно демонстрируют адаптивность и универсальность в работе с текстами. Теперь стоит задача расширить подход на задачи не словесные, а физические: манипуляции роботов с объектами в материальном мире. Пока такие роботы не очень справляются с новыми задачками и неожиданными ситуациями.
Подход работает: в DeepMind создали модель RoboCat, у которой с гибкостью все заметно лучше. Она лучше лучше прежних адаптируется к новым типам робоустройств и новым задачам.
“RoboCat’s ability to independently learn skills and rapidly self-improve, especially when applied to different robotic devices, will help pave the way toward a new generation of more helpful, general-purpose robotic agents,” - заявляют разработчики.
Так что ловкость в обращении со словами потихоньку дополняется ловкостью в обращении с предметами: от узкоспециализированных роботов переходим к относительно универсальным, а в словарик наряду с foundation models добавляем foundation agents 🙂
И еще про генеративные картинки. Важность того, что делают с рынком изображений Stable Diffusion и Midjourney, лучше всего видно не по сумбурным и часто нервным статьям и постам в разных медиа, а по реальным действиям уже сложившихся крупнейших игроков. Adobe, как легко видеть, весь текущий год с бешеной скоростью интегрирует всякие генеративные ИИ-опции во все свои продукты и рядом с ними, неустанно подчеркивая, что их продукт совершенно безопасен с легальной точки зрения: все обучающие датасеты состоят из юридически чистых и высококачественных изображений. Их модель Firefly с марта непрерывно чем-нибудь радует. Как следствие, громкие завывания на тему плагиата к Adobe не относятся.
На Figma’s Config 2023 event показали превью новой красивой фичи: это возможность управлять генерируемым изображением не только текстом, но и меняя на экране освещение, ракурс, место положение объекта.
Второй пилот дизайнера становится все более умелым то ли помастерьем, то ли соавтором :)
https://www.creativebloq.com/news/adobe-gingerbread
Итак, Эпл выкатили SDK для своих очков и разработчики кинулись разрабатывать.
Сами очки пока недоступны никому (используется симуляция ОС на компе), но уже со следующего месяца откроются специальные лабы в Купертино, Лондоне, Мюнхене, Шанхае, Сингапуре и Токио, где можно будет тестировать свои приложения прям в очках.
Ну и заявки начнут принимать на получение очков домой (если вы - важный разработчик).
Примеры из роликов вдохновляют, очень уже хочется себе такую штуку.
Вот тут больше примеров и полезной информации.
А вот тут чувак показывает и рассказывает про SDK.
Там можно выбирать разные окружения, например, зал музея или гостиную (видимо где-то в Купертино), бабушкиного хруща в вариантах нет, так что разработчики все-таки не могут получить достоверное впечатление о том, как приложения будут выглядеть для пользователя 🌚
Колитесь, кто уже планирует разработку под очочки?
«Задача трех тел» — вся трилогия — великолепная, на мой вкус, фантастика, вот только ей не везло с экранизациями. Что немного удивительно, потому что сюжет очень кинематографичен. Я пытался смотреть китайский мультик — не осилил, мне показался отстойным. Досмотрел — местами на преремотке — первый сезон китайского сериала. Уже получше, но чудовищно, на мой взгляд, затянуто. Причем не отдельные сцены — а все целиком медленно.
Но вот появился трейлер от Нетфликса. По трейлеру судить, конечно, нельзя, но все же есть надежда, что в январе 2024 появится повод порадоваться и, наконец, посмотреть в охотку:)
https://mashable.com/video/three-body-problem-teaser-netflix
Интересное интервью Сатьи Наделлы про историю развития ИИ в Microsoft — и историю отношений с OpenAI. Там немало интересных моментов личного восприятия, которое, конечно же, и на позиции компании сказывалось.
Примеры:
…GPT всерьез произвела впечатление, когда выпустили GPT-3: модель часто выдавала работоспособный код, хотя никто не обучал яя специально на языках программирования. В этот момент возникло ощущение, что технология всерьез прорывная и много чего трансформирует. А лично Наделла проникся переводом с фарси в GPT-4, который оказался куда живее, чем у специализированных систем машинного перевода. It was not just a machine translation, but something that preserved the sovereignty of poetry across two language boundaries…
…OpenAI горит идеей технологических прорывов и суперинтеллекта, а не сложных продуктов. Microsoft — как раз продуктами, которыми доступны всем. В итоге идеальное партнерство, по крайней мере, на данном этапе. I am looking for the thing that may be even bigger than the industrial revolution…
И еще много интересного — хорошее чтение на выходных, и очень оптимистичное.
Роботакси Cruise в Остине: личный опыт ep.2. Вчера ещё раз прокатилась на роботакси Круз, заметила интересную фичу. Когда беспилотник проезжает мимо автомобиля экстренных служб с включенной мигалкой, к нему подключается удаленный ассистент. Он не вмешивается в управление, а следит, чтобы все прошло штатным образом. Как только машина полиции, скорая или пожарные пропадают из виду, ассистент отключается.
Классная фича и очень полезная. Беспилотникам и правда бывает непросто с экстренными службами. Их поведение может сильно отличаться от остальных участников движения, и они менее предсказуемы. Если вы следите за беспилотными новостями, то у вас могло создаться впечатление, что роботакси Круз в Сан-Франциско только и делают, что мешают полиции и пожарным. Но на самом деле такие встречи происходят достаточно редко, просто привлекают много внимания. По этой причине сложно в реальном мире оттестировать взаимодействие с машинами экстренных служб. Пройдет много времени, чтобы набрать достаточную статистику для проверки тех или иных решений. Так что фича с ассистентом очень полезная. Каждая ошибка в подобной встрече создаёт много шума и репутационных проблем, а такой подход позволит если и не избежать их совсем, то заметно снизить их количество, пока беспилотники учатся правильно взаимодействовать с экстренными службами.
Недавно в сети активно обсуждали очередной случай, когда беспилотник Круз помешал проезду полиции. В компании ответили, что на самом деле машина почти сразу развернулась и освободила дорогу. И с учётом наличия этой фичи, у меня нет причин сомневаться в их словах.
В остальном Круз тоже молодцы. Проблему с перестроениями при повороте налево решили, машин в сервисе тоже стало доступно больше (на вид, их как минимум полтора десятка). Да, случаются пока иногда странные маневры. Например, наш беспилотник по имени Шакшука один раз припарковался посреди дороги, а потом повернул направо из средней полосы, но в остальном все поездки прошли гладко и даже скучно, как они и должны проходить.
Теперь это уже не та новость, которую кто-либо кроме дотошных любителей космонавтики готов обсуждать. А несколько лет назад какие копья ломались в дискуссиях о возможности и практической пользе возвращаемых ступеней ракет:)
А теперь очередной Falcon-9 девятый раз успешно вернулся на космодром, отметив 200-е такое возвращение в истории SpaceX. Интересно, с чем сейчас воюют консерваторы, столь активно хоронившие этот проект на основе своей экспертизы? :)
https://www.digitaltrends.com/space/spacex-marks-200th-rocket-landing-with-perfect-touchdown/
Оказывается, торговая марка Vision Pro в Китае еще с 2019 года была заявлена Huawei (которые действительно имеют свою линейку очков, так что это не патентный троллинг). Интересно, как поведет себя Apple на важнейшем для себя рынке с учетом этого обстоятельства:)
https://www.iphoneincanada.ca/2023/06/12/apple-vision-pro-huawei/
Тринадцать технологических решений, каждое из которых кардинально меняло кинематограф. Список местами кажется несколько субъективным — от хромакея до 3D-печати, от прогресса камер до звукового кино. Но несмотря на это, эффект сильный: очень ясно показано, насколько тесно кино — и съемочный процесс, и прокат — связано с достижениями технологий. И хотя каждый раз были недовольные и критикующие, кино каждый раз осваивало новшества.
Может, эту статью бастующим и требующим запретить генеративные инструменты сценаристам почитать?
https://movieweb.com/new-technologies-that-permanently-changed-movies/
Вроде все мы уже наигрались с кучей генераторов картинок по текстам разной степени качества, управляемости и вменяемости. Но есть что-то такое в коротеньких динамичных гифках, что завораживает сильнее статических картинок, пусть даже качественных как у Midjourney.
Picsart запустил у себя генератор гифок, и там лишние пальцы, конечности и прочие артефакты выглядят неожиданно уместно в своей отвязности :) Не думал, что могу на полчаса залипнуть в очередной генеративной игрушке, но в итоге залип:))
https://www.diyphotography.net/picsart-releases-ai-gif-generator-and-the-results-are-unhinged/
Как оголтелый технооптимист, не могу не поделиться чудесным ресурсом:))
Он не новостной, он как раз про историю. Там любовно собраны аж с середины XIX века публикации (в виде сканов по причине отсутствия цифрового формата в те дикие времена) о вреде технологий и новых медиа.
В качестве примера на картинке к этому посту статья почти столетней давности, где снижение успеваемости в школах и проблемы со сном у взрослых связывают с появлением радио:)
За прошедшие полтора с хвостиком века что только не обвиняли в бедах человеческих: романы и телефонию, телеграф и велосипед, кинематограф и автоматические лифты… Очень любопытно все это просматривать, обнаруживая живучие и по сей день существующие штампы и узнаваемые интонации алармистов.
Pessimists Archive is a project to jog our collective memories about the hysteria, technophobia and moral panic that often greets new technologies, ideas and trends.
Любопытный материал, как меняется структура лоббистов технологических компаний в США. Традиционных первых лиц бигтеха начинают разбавлять люди из стартапов следующего поколения. Сэм Альтман у всех на слуху, как пиарщик и лоббист всего вокруг ИИ и его регулирования, но вот персонаж куда менее известный — но не факт что настолько же менее влиятельный:)
Александр Ван (не тот, что дизайнер из Баленсиаги) молод даже по стандартам Долины, ему 26. Тем не менее у него не один год опыта общения с законодателями вашингтонского уровня и впридачу он руководит компанией Scale AI, которая для современных ИИ-продуктов не менее важна, чем разработчики собственно моделей. 240 000 исполнителей по всему миру работают на компанию и обеспечивают разметку, fine tuning и прочую human feeedback, которая во многом определяет разницу между моделью просто с миллиардом параметров и хорошей моделью:)
А еще он очень не любит Китай и обеспечивает ИИ-сервисы для Министерства обороны в рамках контракта на 249 млн. долларов. Пока одни в Долине противятся контактам с силовыми ведомствами, другие используют “a strategic business opportunity to conduct geospatial work for government.” И при этом умудряются оставаться в тени — хотя вот и начали появляться любопытные заметки)
https://www.semafor.com/article/06/30/2023/the-26-year-old-ceo-who-became-washingtons-ai-whisperer
Хороший, между прочим, термин: «безэкранный компьютер». Автор заметки обсуждает Apple Vision Pro и рассматривает его как именно рабочее, а не игровое устройство. И делает справедливое замечание: Это первый похожий на рабочий вариант обеспечить мобильность для тех, кто либо привык к большому дисплею (а то и нескольким), либо имеет дело с софтом, работать с которым на экране ноутбука мучительно. Для таких людей (это обычно довольно высокооплачиваемые профессионалы) нет варианта пойти поработать из кафе или уж тем более в режиме кочевника: кочевать вместе с 27-дюймовым монитором не очень приятно.
И вот для них (автор как раз сам такой) забрезжила надежда :))
https://www.jpost.com/business-and-innovation/energy-and-infrastructure/article-748235
Про трансформеры нынче чаще всего слышно применительно к архитектуре нейросетей, но и добрые старые механические роботы-трансформеры иногда радуют глаз. Впрочем, как — старые… Вот этот, умеющий летать в виде квадрокоптера, ездить как четырехколесная платформа — и даже перемещаться, стоя на двух колесах, — очень даже новинка. И, как нынче принято — и здесь Nvidia; мозгами этого чудесного создания является Jetson Nano.
https://www.theverge.com/2023/6/27/23775681/caltech-m4-morphobot-transformer-robot-nvidia-jetson-nano-cpu
Как же быстро и уверенно OpenAI строят не просто платформу — об этом уже я писал (и не только я), но и полноценную развесистую экосистему. Сэм Альтман не зря успокаивал разработчиков, обещая им, что его компания не заинтересована сама создавать широкий спектр пользовательских приложений, концентрируясь на API.
Сегодня они пошли дальше и объявили, что собираются создать маркетплейс собственно моделей — благо на этом рынке как грибы растут многочисленные специализированные модели. Не пропустить и этот тренд и замкнуть на себя и это сообщество — сильный ход, и разработчики его оценили:
Horizontal models, such as ChatGPT or Google Bard, offer versatile and generic solutions applicable across various domains. An app store dedicated to AI software would serve as an ideal platform for vertical AI vendors to reach a global audience effortlessly.
Подкаст “Трёп Себранта”
Префиксы для реальности: AR, VR, XR и прочие на фоне VisionPro
-=Выпуск 75=-
Маша Лопухина и Оля Кай давно и разнообразно работают с виртуальной, дополненной и смешанной реальностями. А еще они обе прекрасные собеседницы и рассказчицы. Когда мы встретились втроем, грешно было бы не записать подкаст на полтора часа приятного трепа о новинке Apple и сопутствующих темах.
Ссылка в тему: канал Оли “Метавёрсошная”
Выпуск на Google Podcasts и Apple Podcasts
И здесь файл для любителей:)
На фоне ошеломления темпами развития продуктов на основе больших языковых моделей как-то подзабылось, что вполне прорывной Stable Diffusion тоже еще и года не исполнилось, и что прогресс там нагляден и не менее впечатляющ.
Сегодня как раз объявлено, что выпущена очередная улучшенная модель SDXL 0.9, пост в блоге компании демонстрирует прогресс парами картинок “до и после” по одним и тем же промптам. Как уже стало нормой, модель умеет дорисовывать имеющуюся картинку или использовать изображения вместо словесного промпта.
И, в отличие от OpenAI, с открытостью тут все порядке: какое-то время модель будет доступна исследовательскому сообществу, но вскоре The code to run it will be publicly available on Github.
Пока некоторые музыканты пугаются генеративных возможностей ИИ и требуют ограничить популяризацию и распространение сгенерированных произведений, ИИ научили другому нехорошему:)
Алгоритмы машинного обучения напустили на кучу данных про активность головного мозга и сердца добровольцев, прослушивающих разные композиции.
Попутно людей опрашивали об ощущениях и эмоциях, связанных с услышанным.
В итоге оказалось, что ML-алгоритм с очень высокой точностью может предсказать, слушают ли люди успешный хит или просто хорошую мелодию.
Исследователи полагают, что теперь лейблы смогут с гораздо более высокой точностью и гораздо дешевле чем раньше выявлять будущие хиты, не дожидаясь измерения реакции больших аудиторий.
Предположительно, дело не ограничится музыкой: “it is likely that this approach can be used to predict hits for many other kinds of entertainment too, including movies and TV shows."
И это новый вариант зависимости творческой публики от алгоритмов, к которым прислушиваются издатели:)
https://newatlas.com/music/ai-hit-prediction-could-have-a-huge-impact-on-music-industry-artists/
А кто не любит читать про Microsoft (предыдущий пост), вот вам про Apple. Тут, правда, интервью не с Тимом Куком, а с Кевином Линчем, вице-президентом по технологиям. Речь в нем о том, что Apple Watch в своем развитии от прибора про фитнес и здоровье к чему-то большему все активней должны становиться ключиком к окружающему миру. Идеал -- если носишь на руке часы, больше ничего в карманах таскать не надо:) За восемь лет своей истории часы сильно поумнели, но теперь благодаря машинному обучению намечается следующий рывок.
Интерфейсно это станет заметно в следующей версии watchOS 10. Будет много виджетов, позволяющих с одного взгляда много чего узнавать, улучшится управление виджетами. А еще Apple продолжит интерпретировать для пользователя данные с сенсоров, которыми часики набиты: например, появится статистика “сколько времени ты был при естественном освещении” 🙂
А еще там интересные истории про продуктовое мышление и дизайн; мне, например, очень понравилась деталь: когда выбирали звук нотификации, использовали “родной” звук: как звенит реальный металлический корпус часов, если по нему ударить молоточком:)
Опять же легкое чтиво на выходные:))
Еще одна изящная попытка покуситься на традиционную компоновку пассажирского самолета ради улучшения эффективности и снижения выбросов. Всякие придумки на тему «летающего крыла мы уже видели, вот другой подход.
Утверждается, что такой дизайн позволяет почти вплотную подобраться к звуковому барьеру по скорости и добиться большой гибкости в использовании разных двигателей.
Ну и выглядит оригинально;)
https://jalopnik.com/nasas-new-design-would-finally-bring-jets-out-of-the-je-1850544155
Среди многочисленных неприятностей Гугла в Евросоюзе, эта, похоже, самая серьезная за всю историю.
Евросоюз намерен добиваться разделения рекламного бизнеса Гугла, поскольку он явным образом содержит внутренний конфликт интересов, одновременно обслуживая рекламных потребности издателей и предлагая им управлять рекламой на собственном инвентаре. В такой ситуации есть шанс, что уже привычными штрафами отделаться не удастся, хотя, конечно, впереди еще многочисленные апелляции и попытки договориться.
Позиция Маргрете Вестагер довольно радикальна: "Google could divest its sell-side tools, DFP and AdX. By doing so, we would put an end to the conflicts of interest. Of course I know this is a strong statement but it is a reflection of the nature of the markets, how they function and also why a behavioural commitment seemed to be out of the question." В логике ей, при этом, не откажешь.
Да здравствует конкуренция! 🙂 AMD выступили с сильной заявкой, претендующей на откусывающие какой-то части рынка у Nvidia.
AMD's Instinct MI300X GPU features multiple GPU "chiplets" plus 192 gigabytes of HBM3 DRAM memory, and 5.2 terabytes per second of memory bandwidth.
На презентации чипа было заявлено, что это лишь первый шаг в стратегии AMD по обеспечении рынка специализированными чипами для работы с моделями машинного обучения.
The MI300X will offer 2.4 times the memory density of Nvidia's H100 "Hopper" GPU, and 1.6 times the memory bandwidth.
https://www.zdnet.com/article/amd-unveils-mi300x-ai-chip-as-generative-ai-accelerator/
Почти два года назад в своей колонке в “Форбсе” я писал: “мы раньше начнем обгонять беспилотные фуры на дальних трассах за рулем личного автомобиля, чем прокатимся по этим дорогам, развалившись на заднем сиденье беспилотной легковушки или беспилотного такси” Тогда мне много прилетело комментариев, что зря я верю в автономные “Камазы” в обозримом будущем.
Но оказалось, что график выдерживается: в 2021-ом обещали начать создавать тестовый беспилотный коридор в течение 3 лет; сейчас сообщают, что первые автономные грузовики пойдут по М-11 на этой неделе.
(Та старая колонка на память;))
Вот это полезная фишка — нативный VPN — если еще и в России будет работать:) Но понятно, что появится она на уровне операционки не из-за нас, а потому что операторы стримингов, разработчики и контент провайдеры уже слишком многих задрали своими региональными ограничениями — когда вполне легально купленный продукт вдруг перестает работать просто потому, что ты в поездке переместился в другую страну.
https://www.theverge.com/2023/6/10/23756329/apple-tv-vpn-tvos-17-4k-streaming-wwdc-2023