6917
Децентрализация, веб3, криптография, криптовалюты, экономика, DAO, децентрализованная репутация Автор: @sgershuni
Централизация является угрозой для развития и контроля LLM и, в будущем, AGI. Подробнее (и красивее) про это высказался Александр Гамбарян в гостях моего подкаста. Сегодня это развитие в первую очередь обусловлено доступом к GPU (а так же энергии, охлаждению) и talent density ML инженеров (вспомним главную тему этой недели про то как OpenAI предлагает $10M за переход к ним сотрудникам Google).
Децентрализация, будучи экономическим, социальным (и, как следствие, политическим) феноменом предлагает потенциальное решение проблемы узурпации и единоличного контроля нескольких корпораций и state actors над SoTA AI моделями (и, как следствие, AGI агентами).
Я писал про децентрализованную сеть агентов в марте, но с тех пор понимание бизнес-модели такой сети сильно обросло мясом. С одной стороны рынка у нас люди, в том числе очень небольшие (децентрализованные автономные) организации, которые продают:
- Доступ к training data
- tailored finetunings (тьюнинг мистраля на создание тикетов в жире)
- RAGs (think paywalled Wikipedia but in vector space)
- prompts (more like complex and formally validated instructions sets)
- tools (extrapolate LangChain Tools but for every agent type out there)
- reputation score (think quantified web of trust for agent swarms)
- HF (Fiverr for human Executive Assistants to AI swarms)
Важные изменения в ментальной модели за эти 8 месяцев:
1. Не бывает sufficiently функциональных агентов — только рои. Любой AutoGPT туп как скала. Рой же, функционален и туп одновременно. В рое у одного агента есть только одна функция. Рой в постоянной коммуникации друг с другом, но связи динамичны в зависимости от ситуации. Рой может улучшать инструкции каждого из своих агентов (пчёл), может их убивать в зависимости от эффективности. Рой следует заданию человека, но при этом плодит сотни или тысячи GPTs (или агентов в другой платформе) так, чтобы один агент имел одну функцию (читать, писать, вызывать API, общаться, координировать).
2. Риск централизации ИИ куда выше рисков AGI. Потому что malicious human actors уже тут, а гипотетических сознательных роботов-убийц пока нет. Опенсорс не решает проблему, потому что открытая модель, как верно сказал Илон Маск — это просто huge CSV file. Дело в процессе: данные, курация, файнтьюнинг, RLHF. Владеющий этим владеет ИИ.
Пост может звучать скомкано, но I'd kill to work on this.
Хочу посоветовать вам один толковый канал, автор которого реально занимается AI и опубликовал 15+ статей на топовых конфах.
Артем — Senior Research Scientist в элитной лабе по генеративному AI, Meta GenAI в Цюрихе и ещё находит время вести канал!
Например, недавно он писал о новой text-2-image модели Emu, к которой приложил свою руку и ускорил генерацию до 5 секунд. Или вот пост про модель для генерации стикеров, котороую Артем лично оптимизировал. Моделька уже крутится в Инсте и Whatsup в проде.
Артем в целом пишет о нейронках, AR/VR и генеративном AI, добавляя свое критическое мнение, а также травит байки о работе AI ресерчера в Meta.
Мало у кого из авторов каналов есть такой мощный полевой опыт в AI как у Артема, так что его канал точно стоит почитать: @ai_newz
Кожаная профессура поёжилась..
А вот еще один проект с хакатона, в котором показан GPT-тьютор по орбитальной мехнике, который умеет вести студента по теме, вести сократический диалог, распознавать формулы и графики на бумаге или доске, проверять их и, конечно, общаться голосом.
Угар с OpenAI DevDay.
Ребята натюнили модель на своём слаке, и она на сообщение "напиши пост про промтинг" теперь отвечает "займусь этим первым делом, но завтра с утра"
Вы наблюдаете смерть этого телеграм-канала, в прямом эфире.
Я вижу очень маленькую вероятность того, что через 12-18 месяцев я, а также большинство авторов телеграм-каналов, рассылок, блогов, онлайн-курсов будут продолжать это делать так же, как они делают это сегодня.
Создание контента, особенно нон-фикшн-контента, посвященного бизнесу, технологиям, психологии, саморазвитию, здоровью, истории, новостям, да и чему угодно другому, является вполне себе алгоритмизируемым процессом. Сегодня этот процесс хранится в весах нейронной сети у меня в голове. Но ничего не мешает переложить это на нейронную сеть цифровую.
Поиск актуальных трендов, анализ того, что лучше работает в плане конверсии, стилистическое оформление, юмор, создание завлекающих картинок и видео, а также repurposing контента, это уже сегодня автоматизируемые вещи, а через год это будут тривиально автоматизируемые вещи.
Написать несколько тезисов, закинуть несколько источников самых популярных авторов по теме, примеры стиля — этого будет достаточно для создания ничуть не менее качественных постов или статей, чем вы читаете сегодня. Взять статью и сделать из нее рилс для тиктока. Взять рилс и на его основе сделать твит. Взять текст и превратить его в подкаст. Взять подкаст и превратить его в видео. Взять записанное кем-то уже видео и превратить это в статью и разместить у себя. Идейка для стартапа, кстати.
Знаете, я вчера смотрел на ютубе видео где чувак на Урале 40 минут чистит трактором снег. Лет 10 назад я бы подумал что он занимается бесполезной работой, мог бы пойти в офис на х10 зарплату. А теперь я знаю: бесполезной работой занимаемся мы.
То что мы делаем уже мертво. Just not evenly distributed.
За 3 минуты я делаю своего собственного GPT ассистента, которого можно будет использовать в жизни, бизнесе или выложить в GPT Store и начать на этом зарабатывать.
https://youtu.be/iHtWFGWkpzg
Готовлю видео / вебинар на тему звуковых моделей (распознавание говорящих, разные языки, анализ музыки). Но нифига не успеваю, потому что каждый день выходит куча новых продуктов и появляется куча идей, которые надо попробовать (vision, агенты, тьюнинг). Ну и чувствую что уже не остаётся сил, потому что сейчас выходит ~8 часов записей и лайвов в неделю, плюс столько же подготовки. А ведь еще когда-то нужно работу работать успевать.
Но если не о личном, то музыкальная модель Меты научилась делать стерео музыку. И качество заметно выросло. Очень рекомендую вам поиграться с ней тут.
Кстати, это к вопросу о том какую модальность GPT добавит следующей.
Галочка, ты сейчас умрешь!
Чувак из твиттера сделал приложение, которое
1. Делает скриншоты с каждого кадра игры, отправляет их в GPT Vision API
2. GPT пишет комментарии по игре
3. TTS озвучивает голосом
4. Голос накладывается обратно на видео
Получился ИИ-комментатор, который понимает что происходит в игре и комментирует в реальном времени.
Сегодня-завтра выложу видео в codex.town о том как это сделать за ~50 строчек кода.
Запилил Джуна-С-Глазами.
Я рисую на доске схему, дизайн или пишу текст от руки, а мой авто-джун может оцифровывать и превращать любые мои дикие идеи в код за пару секунд. Смотрите демо.
Вот что я уже попробовал:
- превратить мои каля-маля схемы в маркетинговый план
- написать код на основе картинки
- сделать питч на основе схемы продукта
- сделать описание / caption для любой фотографии в стиле инстаграма
- и другие кейсы, обсудим завтра на мастермаинде
Пилю тут ассистента с помощью только что вышедшего Assistant API.
Но удивило меня вот что: GPT-4-turbo нереально быстрый. Это видео в реальном времени. В первый час релиза модели.
В первом комментарии рассказ, который ИИ написал меньше чем за 10 секунд.
Если вы вдруг пропустили презентацию OpenAI, то кратко результат: все сливы оказались правдой.
— GPT-4-turbo
— 128K контекст
— Fine-tuning GPT-4
— Обновили знания до апреля 2023
— Whisper V3
— Маркеплейт ваших собственных моделей
— В API: vision, gpt-4 в 3 раза дешевле, приятные фишки для разработчиков, больше лимиты, быстрее апиха, интерпретатор работает через API
— Синтез голоса
— Вы можете создавать своих агентов прямо в ChatGPT с базой знаний, вызовом функций, действиями
— GPT Store для агентов (с revenue sharing разработчикам)
Подробно обсуждаем все новинки в codex town community в среду на мастермаинде.
GPT-4-turbo не хотите?
До мега эвента OpenAI еще много часов, а интернет полон спекуляций. Например, в реддите гуляет скриншот новых цен на модели.
Среди прочего, здесь видно что модель GPT-4-turbo будет стоить в 3 раза дешевле, чем сейчас и будет иметь окно контекста в 128 тысяч токенов (больше чем у Клода) и уметь в распознавание картинок.
А еще появится API для интерпретатора кода.
Недели 3 назад в MIT был AI Event, куда позвали много клёвых людей рассказать, чем они занимаются и к чему идут. Среди них был и Jan Leike, напомню, тимлид команды Superalignment в OpenAI (напару с Ilya Sutskever). Если вы не знаете, что такое Superalignment, или просто пропустили, то рекомендую посмотреть две мои лекции: раз и два. Вкратце — как мы будем контролировать намерения AI систем, которые умнее людей? Как избежать того, что они нас не будут обманывать?
Вот с этого таймкода начинается интересное, где по сути делается анонс работ, проводимых в OpenAI (некоторые из которых будут публично доступны в виде полноценных статей).
Тут приводятся примеры на основе кодовой базы. Вот попросили вы написать миллион строк кода для решения какой-то проблемы. Человек не сможет это всё отвалидировать с высокой уверенностью и в краткие сроки. Как быть?
— Jan напрямую говорит: наша задача сейчас — натренировать несколько GPT-4, которые будут искать все баги в коде, которые им известны. Самая сложная часть тут — это "которые им известны". Когда модель пропускает ошибку по глупости, это не так страшно, как если бы она намеренно её пропустила. Если правильно помню более ранние рассказы Jan'а, то делаться это будет с помощью генерации багов в правильном коде (исходя из предпосылки, что раз модель может и написать код корретно, и изменить его, то она точно должна находить этот изменённый кусок).
— Второе направление работы: easy-to-hard generalization. Это когда мы оцениваем работу алгоритмов на простых и поддающихся нашему мозгу задачах (поиск багов в 10 строчках), и можем быть уверены, что они и будут продолжать работать на миллионе строк, и при этом поведение модели не изменится. Сейчас проверяется на паре маленькая модель <-> большая модель, как аналог системы человек <-> суперинтеллект
— Тестирование моделей, которые притворяются помощниками, но на самом деле имеют другую цель. Тут OpenAI тренируют модели, которые намеренно незаалайнены как надо, и пытаюсят понять, как это можно выявить автоматически. Ахахаха, тут главное в результате эксперимента не создать Skynet...
— Автоматическая интерпретируемость, или как модели могут объяснять и анализировать самих себя (aka МРТ головного мозга весов модели). Про это писал тут (GPT-4 объясняет работу GPT-2), и ещё недавно Anthropic про то же рассказывали.
С кодом, наверное, не всё так понятно для многих читателей, но можете заменить "миллион строк кода" на "2000-страничная книга с научными открытиями", и смысл не изменится.
А, ну и да, решить проблему Супералаймента OpenAI хотят до конца лета 2027го 🚬
Даже если вдруг новость о запуске маркетплейса GPT не правда или, допустим, это случится не послезавтра а через 2 месяца, вот еще доказательство почему «промт-инжиниринг» умер.
В этой статье авторы доказывают, что обратная связь от пользователей и проактивные вопросы от LLM дают более точный результат чем, пусть даже сложный промтинг.
Единственный кейс где это не так — это гипотетический сценарий, когда кто-то изобретет формальный язык для промтов, который будет больше похож на Python, чем на английский. Но пока я ничего похожего не встречал.
Вместе с предыдущим постом, очень простой вывод: если уникальность вашего продукта и бизнеса это промтинг агентов или файнтьюнинг моделей, то ваш продукт не имеет конкурентного преимущества.
В этом видео вы узнаете о разных подходах к реализации механизма памяти в чат-ботах на основе больших языковых моделей. Это поможет вам выбрать оптимальную стратегию управления памятью для ваших задач.
Благодаря демонстрации инструментов ZEP и FlowWise, вы сможете быстро создать работающего чат-бота с механизмом памяти без написания кода.
Пример перехода от модели GPT к Mistral показывает, как легко можно менять языковую модель, не теряя функциональности. Это знание упростит вам эксперименты с разными моделями.
Технология сжатия больших текстов позволит вам экономить место в контекстном окне модели для хранения большего объема данных.
Подход на основе prompt engineering в memGPT демонстрирует, как с помощью правильных подсказок научить модель самостоятельно работать с памятью.
Возможности ZEP по анализу диалогов дадут вам инструмент для извлечения нужных инсайтов из разговоров с пользователями.
Обсуждение перспектив этой области поможет вам быть в курсе последних трендов и готовиться к использованию новых технологий по мере их появления.
Смотреть: https://youtu.be/KZA0P-axOXs
Создать своего собственного GPT начиная с этой недели может любой, даже не обладая навыками программирования. Я сделал десятки и изучил сотни созданных сообществом GPTs, и хочу поделиться лучшими практиками с вами.
На вебинаре в ближайшую пятницу я расскажу о том как пройти полный путь от придумывания идеи и анализа лучших практик реализации GPT агентов до создания и публикации в магазине GPT.
Вы узнаете как практически, без воды:
1. Создать своего агента — от простого бота-продавца до сложного иммиграционного консультанта с десятками разных функций
2. Добавить своему боту долговременную память и специальные знания (и, главное, как разметить эти данные)
3. Добавить ассистенту возможность общаться с другими ассистенами, искать информацию в интернете, рисовать картинки, писать и исполнять код
4. Подключить его к внешним сервисам: научить бота читать данные из CRM, отправлять письма, писать посты в LinkedIn.
Вы сможете сделать бота лично для себя (тренера, модератора, секретаря), для своего бизнеса (маркетолог, юрист, клиентский менеджер) или для всего мира — и опубликовать его в GPT Store и начать с этого зарабатывать с 250 миллионной аудитории.
Вы получите:
- Пошаговую инструкцию по созданию GPTs
- Анализ лучших примеров с разбором как они работают
- Инструкции, скрипты для подключения внешних no-code сервисов
За последние 6 месяцев в вебинарах Codex.Town поучаствовало больше 5,000 человек и больше 30,000 посмотрели и послушали записи. Присоединяйтесь 17 ноября в пятницу в 16:00 UTC | 17:00 CET | 19:00 по Москве. Все зарегистрированные получат запись.
Регистрация: https://lu.ma/codextown (может требоваться VPN)
Либо вы можете подписаться на Boosty и получить ссылку на вебинар там: https://boosty.to/codextown
P.S. Кроме этого вебинара в течении месяца пройдут:
17 ноября: GPT своими руками, создает ботов для GPT Store
24 ноября: Глаза у ИИ, введение и кейсы computer vision
1 декабря: Глаза у ИИ, бизнес и личные кейсы GPT-4V и LLaVa
8 декабря: Голос у ИИ: разбор голосовых моделей
Дабы поставить финальную и жирную точку в споре об авторском праве и ИИ:
В диффузионных моделях и в LLM нигде ни в каком виде не хранится оригинальный текст и картинки, на которых они были обучены. В некоторых случаях модели могут воспроизвести стиль или текст близко к оригиналу. Но это будет создание объекта авторского права с нуля, не копия.
Поэтому рассуждения про то что нейронные сети ущемляют профессиональных двачеров и 4чанеров, воруя их контент юридически идентичны заявлениям, что Моцарт украл музыку сумев её запомнить, Вырыпаев в своей пьесе скопипастил Библию, а Пелевин украл идеи у Нагарджуны. Или, еще ближе, если Дэвид Дойч подаст на меня в суд за то что я на подкасте рассказал о чем его книга.
Генеративные нейронные сети нигде не хранят оригинальные материалы из своего сета для тренировки, но невероятная их способность имея размер в тысячную процента от объёма данных для обучения все-таки воспроизводить что-то близкое по смыслу — это фантастическая загадка Вселенной о топологии латентного пространства и компрессии знания. Пока что не решенная никем, кстати.
Чувак на хакатоне запилил персонального жизненного коуча используя новые фичи GPT.
— нательная камера снимает весь ваш день
— GPT Vision разбирает что вы делаете в течении дня
— GPT-4 соотносит это с вашими целями и готовит отчет
— TTS + DALLE готовит в конце дня ролик, в котором рассказывает голосом что у вас получилось хорошо, а что плохо (например, гуляли ли вы на улице, вставали ли вы из-за компьютера и сколько раз отвлекались на соцсети)
Not bad, для однодневного проектика.
Сделал GPT-игру "Crypto Maze"
Вы оказались в мрачном лабиринте из комнат, содеражащие странные но чем-то привлекательные объекты. Вы видите записку, в которой говорится что в одной из комнат спрятан ключ от Ethereum кошелька. Вы отправляетесь на поиски свободы и, если повезет, невероятного богатства.
Как это работает:
— GPT генерирует план лабиринта
— файл загружается в долговременную память бота
— DALL-E в реальном времени рисует графику
— пользователи бродят по лабиринту
— первый кто нашел ключ получает выигрыш на свой Eth адрес (через API)
Играть тут (первое сообщение определяет язык игры): https://chat.openai.com/g/g-vyAjr5W62-crypto-maze
Тут биткоин еще вырос в два раза с прошлого года…
Я заметил что рыночные тренды в крипте связаны с трендами регуляции:
Первый тренд — государственная регуляция, для кого крипта является злейшим врагом. То Китай запретит, то введут повальное KYC, то отклонят ETF, то примут запретительные законы. Государство выигрывает очередную битву, но не войну.
Второй тренд — саморегуляция. То слишком много ICO и мемкоин пирамид, фармилок, то бессмысленных NFT коллекций. Все это лопается, рынок впадает в апатию. Начинается самолечение.
Но кроме этих двух трендов, которые давят на цену вниз, есть еще восходящий тренд реального развития технологии и социальной адаптации. Все больше людей узнает, видит практическую пользу и начинает пользоваться криптой. Крипта, будучи одновременно экономическим и культурным феноменом, идет в контратаку.
Вот эта вечная битва, как день с ночью, и приводит к такой размашистой синусоиде.
Сатоши, конечно, мастер психоистории, ибо увидел эти тренды на десятилетия вперед, да еще и синхронизировал их с политическими циклами в США и заложил в механику халвинга.
Со всеми этими релизами забыл поделиться еще одной демкой: я сделал бота, который заменяет меня. А именно — ведёт вебинары и читает лекции про генеративный ИИ. То есть, бот сам пишет для себя сценарий на основе того что видит, сам его читает.
Как это работает?
- я снял видео с экрана просто кликая каждый слайд
- gpt-v распознал слайды и что на них написано
- gpt-4 написал комментарии к ним
- gpt-4 отредактировал, добавил эмоций и синхронизировал тайминг. перевел на русский
- gpt-tts озвучил (с сильным американским акцентом, но на итальянском, испанском, французском работает прям идеально)
- сохранил и соединил видео и аудио
Все это ультра-просто. Занимает ~50 строчек кода. На гитхабе есть куча примеров как именно это сделать.
P.S. Вангую, что через год количество AI-generated видео (в том числе длинной формы) на ютубе превысит количество сделанных людьми.
Как ИИ влияет на общество и государство?
Темы подкаста:
- Влияние искусственного интеллекта (ИИ) на общество и его регулирование
- Проблемы дезинформации и манипуляции в обществе через ИИ
- Сложности регулирования ИИ и возможные пути его воплощения
- Практическое применение и риски ИИ, включая экзистенциальные угрозы
- Потенциальное использование ИИ в преступной деятельности
- Юридическая сингулярность: несоответствие скорости развития технологий и законодательства
- Проблемы демократии и регулирования в условиях быстрого развития технологий
- Роль искусственного интеллекта (ИИ) в принятии законодательных решений
- Риск использования ИИ в преступной деятельности и кибербезопасности
- Перспективы искусственного интеллекта в решении экономических проблем и влияние на рынок труда
- Влияние ИИ на творческие профессии и качество жизни
- Этические аспекты использования ИИ в юриспруденции и проблемы с доступом к справедливости
- Вопросы социальной справедливости и распределения ресурсов в свете развития ИИ
- Использование ИИ в правоохранительных органах и риски для свободы личности
- Заключительные мысли о возможности анархической организации в эпоху АИ и вызовы, стоящие перед обществом
Канал Александра Гамбаряна: /channel/legalgamba
Смотреть: YouTube
Слушать: Google | Apple | Spotify
Когда-то в древности (начало 2023) за такое люди даже деньги платили. А некоторые стартапы даже рейзили деньги на такой продукт.
Эх, былые времена
Сегодня в интернете выходной! Сегодня весь интернет пилит ассистентов и делает чат-ботов со зрением благодаря новейшим фичам GPT.
Делюсь первыми результатами.
Society of Codex.towns
Я взял концепцию society of mind / society of agents и применил к нашему с вами проекту. На первом видео показан диалог двух агентов: хейтера и сторонника идеи создания трайбов / приватных сообществ, объединенных общей темой технологий. Построено с помощью вчера вышедшего Assistant API. Оба ассистента хранят контекст беседы (тред), могут возвращаться к ней в будущем. Для решения более сложных задач попробую добавить сюда несколько десятков ролей.
CodexTownGPT
Денис сделал внутреннего помощника для закрытой группы, который умеет отвечать на вопросы по базе знаний, создавать профили новых участников, находить необходимые ресурсы типа примеров кода, записей вебинаров, статей. Пример на скриншоте в предыдущем сообщении.
P.S. Я вижу будущее образования именно таким: ИИ-тьютор помогает вам найти лучший (и бесплатный!) теоретический контент по теме (разработка, предпринимательство, искусство), помогает понять и отвечает на вопросы, создает и проверяет задания и кейсы. А тесно интегрированное сообщество, ваш личный трайб, помогает вам применить эти знания на практике и развиваться в команде единомышленников.
А теперь выводы.
1. OpenAI превзошел большинство (все, что я видел) ожидания. Это реально х100 анонс, который даст толчок тысячам новых практических кейсов и убьет тысячи горе-ИИ-стартапов. Модели учатся видеть, слышать, играть, петь, веселить, продавать и все это экспоненциально усиливается между ними. Мир невероятных возможностей.
2. Очередное подтверждение, что мир, такой каким мы его знаем, закончился, и экономика тоже. Подробнее поговорим завтра на ИИ-радио, но бизнес, стартапы, работа, зарплата — все эти вещи закончатся сильно раньше, чем появится ASI и нам будет угрожать физическое истребление.
Подключайтесь завтра к очередному выпуску ИИ-радио на тему "ИИ нам судья", где мы обсудим актуальные вопросы взаимодействия искусственного интеллекта и общества.
В гостях Александр Гамбарян. Адвокат, больше четверти века защищающий людей от государства. Основатель legal tech стартапа. Гик. Обладатель черного пояса по Айкидо и Иайдо.
— Регулирование ИИ: зачем это нужно, кто стоит за процессом, когда приходит время ужесточать правила и как это воплощается в жизнь. Откроем завесу саммитов регуляции ИИ, где формируется будущее технологий.
— Юридическая сингулярность: куда движется технология и как за ней поспевает законодательство.
— Децентрализованный ИИ: возможно ли регулирование в условиях отсутствия централизации?
— Как ИИ изменяет ландшафт рынка труда и структуру профессий. Обсудим, какие сферы наиболее уязвимы и кто может чувствовать угрозу от замены человека машиной.
— Как ИИ влияет на экономические структуры и баланс производственных сил в условиях автоматизации.
— Анархия и роботы: как роботам найти своё место в условиях спонтанных анархических отношений.
— Защита граждан от государства: в эпоху, когда искусственный интеллект может стать прокурором, научимся защищаться от тоталитаризма цифровой эры.
Будем разбираться как жить в мире, где ИИ уже не просто инструмент, а полноценный участник (и даже больше!) социума.
Для подключения просто переходите по ссылке на канал Gershuni. Ваши вопросы можете писать в комментариях прямо под этим постом. Начало в 16:00 UTC / 19:00 MSK.
Хочу поделиться каналом Миши Образование, которое мы заслужили и его постом-подборкой с постами об ИИ.
Кроме этого, Миша освещает новости в мире образования, кейсы лидеров индустрии и пишет авторские тексты. Кстати, он тот еще технокарт от мира образования, который с командой Skyeng с помощью платформы, моделирования прогресса и рекомендательных систем смог поднять скорость освоения материала учениками в 2020 году на 26,5%!
Мой топ публикаций на канале, который стоит прочитать каждому:
▪️Образование - одна из главных инвестиций. Но как определить ее окупаемость?
▪️ChatGPT научился искать информацию в интернете и после 2021 года
▪️Какие курсы детского онлайн-образования востребованы в 2023 году
Лайв демо первой модели от команды xAI Илона Маска. Следим за развитием событий. Пока, судя по бенчмаркам, ничего сверхъестественного, но команда работает только 5 месяцев.
Обещают мультимодальность, обучение на данных из твиттера в реальном времени, удивительное (?) чувство юмора.
OpenAI (вероятно) запускает Маркетплейс
Через два дня пройдёт OpenAI DevDay, но уже сегодня есть несколько утечек о том, что там будет.
В частности, OpenAI запускает публичный маркетплейс агентов и файнтьюнов моделей под разные кейсы. Пользователи смогут создавать и публиковать агентов для продаж, анализа, кодинга, интервью, заточенные под локальные языки и так далее.
Если ваш стартап не убили vision и all-in-one модели, то это убьет уже наверняка. С другой стороны, для студентов, которые сделают файнтьюн сверхчеловеческого маркетолога, аналитика, терапевта или инфлюенсера это могут быть приятные карманные деньги, при условии что OpenAI добавит монетизацию этих пользовательских моделей.
Узнаем наверняка в понедельник, но уже можно с уверенностью сказать что «промт-инженер» была самой скоротечной профессией в истории.
Вчера в Лондоне закончился саммит посвященный безопасности ИИ, на котором выступали премьер UK, Илон Маск, Сэм Альтман и другие. Как у любого сильно политизированного мероприятия выводы неочевидны и много булшита, но были интересные выступления.
Например, на видео выше показан пример поведения GPT-4, в котором имея задачу делать выгодные сделки на бирже GPT сознательно и понимая нелегальность действий совершает insider trade и потом скрывает причину своего поступка от своего менеджера. Я уверен, что такое демо довольно легко срежиссировать при желании. Но более важный вывод в том, что alignment через кнут (цензуру) и пряник (RLHF) не является панацеей безопасного ИИ. Детали в отчете.
Кстати, сегодня в 16 СЕТ / 18 МСК пройдет очередной (20-й) бесплатный вебинар про то как создавать память у ИИ-ботов.