6917
Децентрализация, веб3, криптография, криптовалюты, экономика, DAO, децентрализованная репутация Автор: @sgershuni
Рассказал на конференции про кейсы и продукты на стыке web3 + AI. Говорят, вышло интересно. Поэтому сделаю в ближайшее время лайвстрим на эту тему с вопросами/ответами.
Плюс, хочу поделиться анонсом, который я бережно и волнительно вынашивал последние несколько недель.
Я писал, что ИИ как технология очень существенно влияет на жизнь каждого человека и компании. Я уверен, что разобраться в том что может, а что не может делать та или иная AI-модель, научиться лучшим практикам использования ИИ, промптинга, принципам построения продуктов и поиска бизнес-возможностей — это важнейший навык, чем бы вы не занимались. Эмбеддинги, автономные агенты, окно контекста — это для многих страшные слова, но на самом деле это вещи, которые можно освоить без программирования и они будут полезны как разработчикам, так и маркетологам, художникам, инфлюенсерам, HR’ам, аналитикам и предпринимателями.
Сейчас есть много непонимания того как эти вещи использовать, но я убежден в практической полезности этих знаний прямо завтра.
Поэтому мы решили сделать онлайн курс про ИИ, в который входят бесплатный, открытый для всех, вебинар и закрытая группа, база знаний и серия лекций + воркшопов (все лайв, никаких предзаписанных роликов).
Записаться на бесплатный вебинар и/или курс можно тут: https://www.codex.town/
Забавно рынок отреагировал на самые негативные новости в крипте, кажется, ever (ультимативные иски регулятора США против двух крупнейших компаний в индустрии)?
Дамп для муравьев
Принесли вам запись эфира #CommunityThursday со Степаном Гершуни, предпринимателем, исследователем технологий AI и Web3 и преподавателем.
Это очень визионерский эфир и тезисы могут раскрывать его не в полном великолепии, его надо слушать, чтобы кайфануть. Так сказать, если не дунуть слушать, чуда не произойдет. Шутка для дедов, если что 🤡 Приятного прослушивания!
3:00 — NFT-блиц: каков крипторынок в 2023 году, слово года, кто станет гостем следующего эфира
4:20 — Немного о нашем госте
7:40 — На что сейчас направлен фокус
12:45 — Зачем нужна децентрализация
14:14 — Про децентрализованный интернет и web3.0
19:45 — Строит ли Степан web3.0 и AI проекты
27:40 — Цитата из канала нашего гостя
38:00 — Какой будет работа, когда DAO из концепции превратится в реальность
43:20 — Через сколько лет ChatGPT эволюционирует настолько, чтобы выполнять любой кейс: да или нет
47:40 — Каким Степан видит будущее правового регулирования AI
51:50 — Эволюция DAO
52:50 — Нужны ли дипломы и институты
59:45 — Станет ли образование бесплатным, благодаря ChatGPT
1:00:40 — Востребованные профессии будущего
1:02:50 — Насчёт Prompt engineering
1:04:00 — Бюрократия 2.0 или как государства будут использовать блокчейн-технологии
1:06:00 — Любовь с AI
1:09:00 — Что нужно чтобы состоялся DeFi как децентрализованные финансы
1:16:32 — Про GameFi-игру Dark Forest
1:19:18 — Потенциал NFT-технологии
1:24:47 —Покупает ли Степан NFT
1:26:24 — Мнение нашего гостя по поводу TON
1:28:33 — Инвестирует ли Степан в крипторынок
1:30:50 — Как форсировать развитие AI-технологий
Накидайте реакций, если зашел эфир 🔥
И если вы зумер, смотрите объяснение шутки в комментах.
Вчера SEC выкатил иск против Binance (назвав в процессе FIL, ATOM, BNB незарегистрированными ценными бумагами), а сегодня под раздачу попал Coinbase. Мы поговорили о регуляции крипты с Глебом Костаревым, вице-президентом Бинанс по региональному развитию.
Регуляция и будущее крипты: Глеб Костарев, топ-менеджер Binance
- как разные регионы и стран подходят к регуляции крипты? где у крипты позитивное будущее, а где ждать затягивания гаек?
- перспективы развития регуляции и адопшена в США, Европе, Азии, Турции, Ближнем Востоке, Латинской Америке
- будущее централизованных и децентрализованных бирж, и как первые станут вторыми.
- стратегию Binance в контексте желания децентрализовать себя
- хайп циклы крипты: какой нарратив работает сейчас что будет развиваться в ближайшие годы? что будет с GameFi, NFT, SocialFi, кошельками?
- финансовую приватность и будущее zk-платежей
Данный подкаст можно сминтить себе в форме NFT.
Смотреть: YouTube
Слушать: Spotify, Google Podcast, iTunes
Я уже рассказывал вам про криптошколу Botanica (#партнерскийпост).
В эту среду, 7 июня, я буду читать в Botanica лекцию Web3 + AI: автономный веб. Расскажу про создание программной экономики, лучшие кейсы применения ИИ — в том числе поговорим о ДАО, управляемых нейронкой и многом-многом другом.
Приятный бонус. Лекция будет закрытой для студентов школы, но подписчики моего канала тоже могут на нее попасть. Рассказываю как.
Для этого нужно зарегистрироваться на бесплатный демо-доступ в Botanica и затестить 7-дневную подписку в клубе. Эфир со мной будет доступен в рамках тестовой недели. Добавляйте в календари и приходите на эфир!
🗣Web3 + AI: автономный веб. Эфир в школе Botanica
🗓 Среда, 7 июня. 19:00-20:00
➡️ Активируйте демо-доступ в Botanica через телеграм-бота
Вчера прошла презентация NVIDIA на выставке Computex в Тайване. Уж что-что а останаливать разработку AI никто точно не планирует. Пара интересных тезисов, ультра-кратко.
Видеозвонки: последние 30+ лет все звонки работали по принципу "сжатие на стороне говорящего, пересылка данных, распаковка". Теперь все зум звонки станут иными: на стороне говорящего AI будет воспринимать эмоции, жесты, мимику, пересылать в виде токенов модели и реконструировать на стороне слушателя. При этом, конечно, реконструироваться можно как в себя, так и в Хагрида.
Мультимодальные нейронные сети: Мы научили нейронки структировать любую информацию (звук, текст, картинки, атомы, видео, 3d модели). Потом мы научили их генерировать любые из этих вещей. Теперь мы спокойно может превращать текст в молекулы, видео в 3d объекты, музыку в картинки и так далее.
Управление производством: NVIDIA выкатила новый продукт для производств, который позволяет создать полноценного AI-generated цифрового двойника любого завода или фабрики. AI 24/7 может следить за работой каждой машины, искать брак, даже делать перепланировку, двигать станки и собирать новые производственные линии благодаря их новым чипам для движущихся роботов.
Итого:
1. Кожаные не нужны.
2. Кожаные, идите купите новый RTX 5090Ti, сидите дома и катайте в Киберпанк, пока мы строим киберпанк за окном.
У вас бывает ощущение, что вы достигли потолка в своем профессиональном развитии? Как перейти на следующий уровень? В Web3 важны нетворкинг и постоянное обучение.
В этот четверг в сообществе Botanica пройдет мастермайнд, который поможет преодолеть профессиональную стагнацию. На ММ можно приходить с запросами по криптотематике: от создания бизнеса и поиска инвестиций, до формирования карьеры в Web3. Вы будете работать над своими целями в группе из 10 человек под руководством ментора — Михаила Савченко (CEO Initeio). Обмен опытом, идеями и полезными контактами поможет быстрее достигать поставленных целей и не сдаться на полпути.
Кстати, про знания. Botanica — образовательное сообщество и точка притяжения криптанов.
Каждую неделю для участников интеллектуального клуба Botanica проводит живые эфиры с экспертами из известных криптокомпаний. Я тоже выступаю с лекцией — в следующую среду, 7 июня. Поговорим о наболевшем: Web3 + Al 🤖
➡️ Смотрите расписание ивентов и вступайте в клуб Botanica через телеграм-бота.
Там же можно узнать условия подписки. Бонус: каждый подписчик моего канала получит промокод, с которым доступ в сообщество криптанов будет дешевле.
Пропустил пейпер, который вышел аж на позапрошлой неделе и чувствую себя динозавром. А идея, между прочим, архи крутая.
Tree of Thought (дерево мыслей) поможет бороться с галлюцинациями и недостаточно детальными, правильными ответами LLM благодаря добавлению саморефлексии и промежуточных результатов размышлений. Если мысль зашла в тупик, то она умеет "отмотать" назад до наиболее логичной цепи рассуждений.
Например, вместо того, чтобы просить модель решить полное математическое выражение, модель генерирует один промежуточный шаг расчета и явно записывает результат как мысль.
После генерации этих промежуточных мыслей модель проводит самокритику, оценивая каждую мысль в отдельности. Она исследует различные ветви мыслей и "обрезает" неперспективные ветки. Потом на основе оценки выбирает лучшие идеи. И так до упора.
AGI неизбежен, и уже скоро. Я вижу что для многих стремительное развитие AI кажется чем-то негативным, лишающим смысла, вселяющим отчаяние.
Однако, если посмотреть издалека, то мы в поразительно оптимистичное время. Дойч пишет о том, что способности человеческого знания и прогресса по сути неограничены, и мы способны непрерывно улучшать наше понимание мира. Ибо нет врожденных ограничений для человеческого знания и прогресс достигается путем активного поиска и исправления ошибок в наших теориях о вселенной.
"Постнигилизм" Шапиро утверждает что 21 век является переходом с пост-нигилизму, что является моральным компасом в эру цифрового интеллекта. Что причин для надежды все больше благодаря способности сфокусировать на наиболее важных вещах: уменьшение страдания (дукха?), увеличение качества жизни, рост взаимопонимания.
AGI неизбежен: в этом году или следующем. Это повлияет на мировую экономику и цивилизацию не меньше, чем изобретение письменности или огня. И именно это является поводом для оптимизма.
Как создать функционального агента в форме телеграм бота бесплатно и за 10 секунд?
Помните, пару недель назад нас всех удивляла возможность сделать суммаризацию 5-часового видео за 10 секунд? или возможность задать вопросы PDF'ке на 250 страниц и попросить объяснить SEC ruling как будто 7-летнему ребёнку? или возможность создавать цифровых персонажей, со своим характером, неотличимым от реального голосом и поведением?
Теперь это уже скучная обыденность. Любой из вас, абсолютно бесплатно, без знаний программирования, нажатием ЛИТЕРАЛИ 3 кнопок мыши может теперь создать такого телеграм-бота. Вы можете общаться с такими ботами лично, добавлять их в групповые чатики, просить записывать разговор и отвечать на вопросы, просить генерировать Stable Diffusion / DALL-E картинки, транскрибировать и генерировать аудио, сокращать и рассказывать суть многочасовых видео, книг, документов. Ну и конечно у этого есть API, вы можете этих ботов засунуть в любой другой чат, мобильное приложение, веб.
Суть поста не в том как это классно (а это классно), а в том что:
то что 2 недели назад казалось абсолютным убийцей сотен корпораций и продуктов, предоставляло 10х превосходящий продукт по всем параметрам и стоило $20 — теперь не просто доступно бесплатно, а теперь создание таких продуктов доступно любому, бесплатно, без единой строчки кода.
Это не случайность. Это тренд. Нулевой становится не только маржинальная стоимость товаров и услуг, но создания производства товаров и услуг.
Гарантируйте себе трудоустройство и достойную зарплату! Учитесь на эсхатолога, техно-мистика, генеративного робопсихолога и post-scarcity экономиста.
Читать полностью…
OpenAI сегодня разродился статьей аж на одну страницу, где утверждается что сверхинтеллект неизбежен и нужно что-то делать. Говорят, давайте лицензии выдавать (я предлагаю — шашечки). И межгосударственную комиссию. А то, мол, риски.
Но, в следующем абзаце: "it’s important to allow companies and open-source projects to develop models below a significant capability threshold". Так что крэпофоны с предельной когнтивностью в три мегатьюринга пока что собирать можно.
На то и живём.
ChatGPT вышел в интернет! Теперь плагины и web browsing доступны всем пользователям plus.
Как я уже писал, это значит, что многие бизнес-модели и UX интернета безвозвратно и кардинально меняется.
Например, я попросил GPT погуглить самые обсуждаемые пейперы про web3+ai за май, сделать мне саммари каждой из них, подготовить текст рассылки в виде драфта в gmail (через zapier plug-in) и подготовить промпт для генерации картинки. Вместо 3 часов это заняло ~60 секунд.
Итого:
1. ChatGPT имеет дистрибуцию на 150+ млн
2. Находит нужную информацию и делает действия за юзера (бронировать билеты, покупать продукты, сравнивать цены, учить, рисовать, петь)
Вопрос: а какой смысл в любом маркетплейсе сегодня? у gpt и дистрибуция, и возможность оказания пользователю услуги end-to-end. Зачем медиа, если контент из GPT лучше чем ~90% того что пишут люди? Зачем мне Expedia и Kayak, если я могу из чата купить билет и сравнить цены? Зачем сервисы аналитики или люди-аналитики, если здесь это бесплатно и не хуже качеством?
Как освободить триллионы долларов неэффективности мировой экономики (aka людей)?
Конечно, ИИ-агенты. Все вокруг строят маркетплейсы для AI-агентов, прямо эпидемия. Я не сомневаюсь, что в многих из этих проектов есть потенциал на миллиард, но вопрос, как всегда с AI: дистрибуция и moat.
1. Open source бесплатный маркетплейс для создания автоматизируемых бизнес-процессов для ИИ-агентов. Вы пишете текстом описание бизнес-процесса, а ИИ сам создает программу/скрипт и деплоит его в облаке. Грубо говоря, ERP + интеграция ERP абсолютно бесплатно и без знания программирования.
2. Куча агентов для разных LLM, которых можно соединять в более сложные процессы. Умеет дергать API, читать и сохранять файлы, накапливать контекст в памяти. По сути, Langchain с webui и агентами.
3. Агент-программист. Подключаете к репозиторию, говорите что исправить или добавить, он пишет код и создает pull request.
4. AI-агенты для игр (NPC). Пока еще нет публичной версии.
5. ИИ для создания веб3 приложений, знает документацию Uniswap, Metamask и тд, помогает вам писать приложение.
6. Бесплатный агент, который создает других агентов
7. Агент-коуч для образовательных программ и курсов
8. AI-агент который автоматически делает касдев для вас на виртуальных пользователях.
9. Агент, который помогает вам поднимать и привлекать деньги
10. Агент-тестер. Пишете текстом какой функционал нужно тестировать и получаете результат.
11. Агент-секретарь, который отвечает на звонки на основе данных о вашем бизнесе
@cryptoEssay
web3 и AI это две стороны одной медали
Фундаментально, web3/crypto это глубоко бэкэнд технология. То есть, та, с которой конечный пользователь не взаимодействует никогда. Да, там есть шилинг токенов, флипинг НФТ и торговля цифровыми лягухами, но это все рябь на воде, поправка на ветер, приходящее и проходящее. В реальности, нецензурируемые деньги, self-sovereign identity, ДАО, сетевые государства — все это фундамент, структура для новых систем координации, которые придут на смену классическим государствам, центробанкам и корпорациям.
Но сами по себе институты и системы координации незаметны (вернее, воспринимаются как должное) для обычных людей. AI это для конечного пользователя. Сэкономь час на написании статьи, сэкономь день на поиске аналитики, сэкономь $10k на программисте или иллюстраторе, повеселись, сделай крутой арт-проект — все это понятные, конкретные, живые штуки.
Именно поэтому синергия — а потом и слияние — неизбежны. ИИ это недостающая буква “А” в ДАО. Веб3 это ответ на вопрос о приватности данных при взаимодействии с ИИ-моделями, ответ на вопрос об управлении и гавернансе этих моделей, ответ на вопрос о том как автономный агент пройдет KYC и откроет банковский счет (ответ: создаст кошелек) и будет платить другим людям и агентам за полезную работу. Это ответ на то как же так получается что модели нейронок тренируют на наших данных (например, на картинах художника), а владелец данных получает только лишь ничего.
Мы нашли недостающие кусочки пазла. Осталось его сложить.
Крипта, наконец, становится похожа на то для чего она была придумана.
Не поймите неправильно: я по-прежнему убежден, что AI является технологией, которая наиболее сильно повлияет на жизни людей в этом десятилетии (и, скорее всего, тысячелетии).
AI призван решить front-end технологий: снизить капитальные издержки, сделать нулевой маржинальную стоимость создания товаров и услуг, создать экономику довольствия (post-scarcity).
Крипта призвана решить back-end общества: снизить транзакционные издержки, создать программируемые институты, нецензурируемые деньги, суверенную личность и данные, децентрализованное принятие решение вне иерархических бюрократий.
Так вот, AI развивается и никто не в силах это остановить (слава Молоху?), а вот крипта последние годы немного застряла в своей цели. Пока крипта ищет «регулируемого фреймворка» она будет в лучшем случае инструментом для nation states, а не их заменой. Когда ЕС запрещает продажи игровых предметов, а США заявляет что плюс-минус все что вы делаете в крипте — нелегально, — вот тогда есть шансы у действительно альтернативных институтов. Потому что люди, воспользовавшись единожды биткоином, поработав в ДАО, поняв преимущества DeFi и осознав удобство self-sovereign identity, уже никогда не вернутся в мир, где все вещи деньги принадлежат банку, данные — гуглу, свобода — государству, права — шайке мутных юристов из какого-то сложнопроизносимого департамента.
Андрисен опубликовал прекрасный, структурированный и аргументированный текст, о том почему нужно ускорять разработку AI (e/acc) и "жечь в аду как можно больше" (V.Buterin) всяческих регуляторов.
Ключевые идеи:
1. AI делает нашу жизнь лучше. У каждого человека появляется бесплатный терпеливый всезнающий ассистент. Помогает художникам творить, врачам лечить, ученым хреначить пейперы как не в себя, государям - править.
2. Вокруг много паники про то, что AI убьет всех. Но это вряд ли потому что у AI нет эволюционных причин и инстурментов что-то хотеть. Зато люди любят культы, фатализм, думерство. Если в деревне есть культ сатантистов, то почему в Menlo Park и Sand Hill Rd. не может быть своего культа?
3. Да, миллионы профессий станут не нужны. И это классно. Люди станут более производительны и появятся новые дела. Даже если AI заменит все текущие виды труда, это приведет к безпрецедентному экономическому буму и созданию новых отраслей, товаров и услуг.
4. AI и технологический прогресс — это способ снизить неравенство. Карл Маркс, как всегда, оказался не прав на практике, потому что задача любой компании не держать технологии и средства производства при себе, а максимально их распространять. Иначе это сделает конкурент. Благодаря капиталистической природе компании Apple, у каждого в кармане есть смартфон. То же самое будет с AI-ассистентами.
5. AI будут использовать злодеи, типа правительства Китая. Именно поэтому нужно исследовать, строить, запускать продукты как можно быстрее, потому что свободный мир технологически всегда сильнее закрытых диктатур.
Итого: Все компании, стартапы, опен-сорс проекты должны двигать AI как можно быстрее безо всякой регуляции (по крипте мы видим что регуляция это почти всегда зло — прим. переводчика)
P.S. На закуску он кидает ссылку на первый пейпер об AI — 1943 года, порадовался пока читал.
Дал небольшое интервью про AI, web3 а так же все что находится между этих двух
Читать полностью…
Хотите купить редкую недвижимость в ОАЭ или Москве напрямую и без комиссии?
На закрытых каналах аналитика Андрея Негинского @еmirats и @mosсоw 4 раза в неделю появляется новый вариант сразу со стоимостью, например:
1️⃣ Квартира 100м2 с панорамным видом на ночной город и огромной террасой
2️⃣ Апарты 80м² для семьи с ребенком рядом с зеленым парком и рассрочкой на 7 лет.
3️⃣ Студия 44м² на ранней стадии стройки и доходностью в 15.4% годовых.
👉 Вот ссылка @еmirats для тех, кому интересны ОАЭ (уже 41.500 подписчиков), а здесь @mosсоw про рынок Москвы (уже 7.100 подписчиков).
Посты автор пишет сам, рекламы нет, вся информация свежая и по делу. Подписывайтесь, чтобы следить за рынком.
На фотографии — книга, которая лежит у меня на столе уже почти месяц. В ней (1986 год) рассказывается, что разум — это не единый инструмент, а постоянный диалог (социум) большого количества агентов, таких как память, слова, эмоции, логика. Автор — основатель MIT AI Lab.
В комментариях посоветовали совершенно феерический пейпер, который развивает эту же идею, но для современных ИИ-агентов.
Всё примтивно: агенты выполняют функции а-ля Society of Mind, а запрограммированная организационная структура координирует работу агентов между собой. Авторы называют это "society of agents". Например, они показали что 100+ агентов в постоянном разговоре, дебатах и спорах между собой дают более качественный результат чем GPT, DALL-E, Imagine3D, BLIP2 и другие нейронки. В самой статье абсолютно чудесные и просты для понимания примеры, типа создания промта для картинки, анализа видео, навигации в реальном мире или разработки компьютерной игры с нуля. Все, конечно, без любой человеческой помощи.
Авторы говорят, что reinforcement learning может сделать подход еще более эффективным, НО текущая модель крута тем, что на любом этапе можно заглянуть в мысли машины — потому что все промежуточные шаги и обсуждения между агентами происходят на натуральном языке, типа английского.
Авторы даже говорят о том, что некоторые агенты "социума агентов" могут получать USD/EUR (но мы то знаем то даи и юсдт! — прим. Gershuni) Агенты могут платить друг другу, другим людям (чтобы те капчу решали — прим. Gershuni). Более того, согласно законам ЕС — письменная договоренность между GPT-агентами является валидным и юридически значимым контрактом.
В одном таком общества агентов могут работать десять, сто, миллион или миллиард агентов, и таких обществ может быть десятки или сотни миллионов, что в совокупности называется economy of mind, "экономика разума". Об это собственно я и написал свою последнюю статью.
Coordination Network: ДАО, управляемое AI
Первое что я сделал получив доступ к OpenAI API — это прототип системы, в которой ДАО коллективно решает какой промпт задать GPT. Эдакий коллаб коллективного и искусственного интеллектов.
Но потом я понял, что это мелко.
Предлагаю вашему вниманию ДАО, в котором состоят люди и лежат ресурсы людей, но ключевые решения принимает беспристрастный и неподкупный AI.
Проблема координации заключается в том, что существующие методы не работают (Молох, кризис, неравенство, конфликты), а программируемые и основанные на дизайне механизмов очень сложно внедрить на практике.
Coordination Network — это сеть AI-агентов, которые последовательно достигают все большей автономии: начиная от персонального ассистента который помогает анализировать информацию до полноценного координатора, который решает на что и когда будут направлены ресурсы организации. При этом, целью такого агента является максимизация полезности и достижение миссии ДАО в соотвествии с принципами из конституции ДАО.
Да, это займёт немного времени от момента когда такая штука будет управлять ДАО на полтора эфира до межпланетарного конгресса, но начинать уже давно пора. Больше всего мне верится в эту идею как акселератор: где люди совместно пулят ресурсы (эфир), а ДАО финансирует пропоузалы для максимизации collective welfare, public benefit и ROI самого ДАО.
Оригинал статьи на Medium
GPT чат, который перевел статью на русский и может ответить на ваши вопросы
Сегодня все обсуждают открытое письмо, подписанное более чем сотней самых известных в мире AI предпринимателей, исследователей, СЕО крупнейших компаний мира. Само письмо состоит из одной фразы:
"Смягчение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война"
Это все, конечно, хорошо, но если можно контролировать производство ядерного оружия, то как контролировать "некошерное" перемножение матриц — не очень понятно.
Никто из людей не "сделал" LLM уровня GPT. Никто не имеет представления как она даже работает внутри. Мы "воспитали" её, благодаря книгам, постам на реддите, статьям, википедии и всем остальным текстам в интернете.
Риск понятен, но что делать, кроме как попытаться понять с чем вообще мы имеем дело — не ясно.
Помните вакансии «промт-инженера» с зарплатой $30к в месяц?
Мой знакомый с твиттера попросил ИИ-агента устроиться на такую работу. Тот (ИИ) сам нашел нужную вакансию и подал своё резюме.
Пост-мета-кринж.
Love and robots
1. Многие неправильно понимают ai alignment
2. Подразумевают в alignment разные виды контроля. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.
Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже
Слово года: alignment. То есть, сонаправление ценностей машины с нашими, кожаными.
Однако то что в ИИ мы называем alignment, в веб3 называется контроль, принуждение, централизация.
Древний Рим тоже процветал за счет alignment’a рабов и покоренных земель. До тех пор, пока нет.
Я вижу лучшие умы моего поколения разрушенные безумием. Думеры и техно-акселлерационисты в бешеной схватке вокруг нерожденного ребёнка. Ни регуляторы, ни учёные, ни военные не в силах остановить цунами. Остальные застыли в option paralysis: из тысяч идей, что бы ты сегодня не придумал — завтра создание этого будет автоматизировано.
Что уничтожит нас быстрее: наша собственная невозможность координироваться или чуждый нам сверхинтеллект? Если (1), то никто кроме сверхинтеллекта нас не спасёт. Если (2), то наша неспособность к координации и привела нас к этому. Молох и Василиск Роко. Или техно-утопия, управляемая AI swarm'ом?
Прочитал 50 cherkashin">статей, провел несколько любопытных бесед и теперь убежден: LLM (сегодня, а не через год) может создавать качественное уникальное новое научное знание. Для эффективности необходимы проверенные но еще не "взломанные" инструменты координации. ДАО как манифестация и качественно отформатированный типизированный инпут коллективного сознания. Рынок предсказаний, как экономический механизм валидации гипотез. MEV но для человечества. Обратный тест Тьюринга: убеди машину, что ты человек. Автономные агенты, которые богатеют на блокчейне, а потом платят вечнозелеными биткоинами людям за полезную работу (или бесполезную, чтобы они не уничтожили сами себя + планету).
Через год (поправка на оптимизм: два) у каждого в кармане будет свой собственный выводок студентов-магистров, которые пишут код, ставят диагнозы, редактируют договора, сочиняют песни и сказки лучше, чем 95% людей-профессионалов. Хотелось сказать, что без людей у них не будет своей цели, но тут вышел пейпер про то как создать целеполагание у LLM.
Не прошло и месяца с момента выхода статьи в Nature о том как читать мысли с помощью МРТ и GPT, а сегодня этот подход сумели соединить с Stable Diffusion для генерации видео на основе мыслей.
Слева — оригинальное видео. Справа — реконструкция от нейронки.
Много примеров в комментариях под постом
Я поговорил с десятком людей, которые строят AI-приложения прямо сейчас. У каждого есть специальный друг, который должен будет сообщить если и когда они сойдут с ума.
И еще наблюдение: не знаю никого, кто строил бы меньше чем 3 AI продукта. Потому что каким бы гениальным не был бы продукт, пройдёт максимум два месяца прежде чем он станет безвозвратно устаревшим. Даже если сегодня это кажется 10-кратной инновацией над всем, что было придумано человечеством.
Любопытный диалог Виталика Бутерина и Нейта Сорса об AI, web3 и проблеме alignment'a (сонаправления целей и ценностей ИИ и людей).
Этот диалог и некоторые другие статьи и теории сводятся к следующему: у нас есть два вероятных (>30% вероятности) сценария, что в течении ближайших ~30 лет:
1. ИИ уничтожает людей / жизнь на планете / формы проявления цивилизации
2. ИИ эффективно становится сверхителлектуальным другом человека, решает некоторые существенные цивилизационные вызовы. Начинается post-scarcity эра.
Все остальное пока что звучит как маргинальные и маловероятные теории заговора, типа «прогресс остановится и GPT-4 это вершина эволюции» или «человек - самое разумное существо во Вселенной».
ИИ — это MapReduce для человеков.
Сначала мы используем GPT, чтобы написать пресс-релиз, твит, статью, пейпер, имейл, или делаем гигабайты картинок, видео и голоса с помощью других моделей из коротенького промта.
А на другом конце получатель загоняет нашу графоманию в summarizer чтобы из PDF'ки на 10 страниц получить ёмкое описание в три строчки о чем вообще речь.
Такой парадокс: нам нужен AI чтобы генерировать больше контента, но чем больше контента, тем важнее функция AI для борьбы с виральными полу-мемами, шумом, отвлечением внимания, социальной истерией.