6917
Децентрализация, веб3, криптография, криптовалюты, экономика, DAO, децентрализованная репутация Автор: @sgershuni
Есть две категории web3-native людей.
Дегены. У них на аватарке пикселированные NFT, они пишут gm и lfg, их цифры идут вверх, они любят эйпануться в щиткоин и заработать х100.
Криптопанки. Они верят, что криптография и p2p сети это способ организации общества и экономики в будущем. Они любят писать код и контрибьютить в OSS.
Первые зарабывают на меметике, остро чувствуя дух времени. Вторые создают новые технологии и проекты Bitcoin или Ethereum.
Завтра проведу публичный вебинар на тему децентрализованного ИИ в Кибер Академии. Стрим будет вот тут: https://cyberacademy.dev/events/78-why-ai-needs-crypto (3pm London, 4pm Berlin, 5pm MSK)
Некоторые темы:
— какие есть пути развития ИИ в ближайшем будущем?
— почему важно кто контролирует и кому принадлежат модели и инфраструктура?
— какие есть риски централизованного ИИ?
— как именно технически работает децентрализованный ИИ?
— чем в развитии DeAI может помочь веб3, криптография, ДАО, теория игр и дизайн механизмов?
Я сделаю минут на 20-30 доклад, а дальше ответы на вопросы. Можно писать в комментриях по этим темам.
Кстати, прикольно, что в моём двойнике эти ответы тоже появятся. Я вот заметил что: есть люди, кто приходят онлайн на вебинары, есть те кто смотрят в записи, а есть те у кого может быть релевантный вопрос, но нет времени и возможности посмотреть или просто не нравится видео формат и любят читать. Задача персонального ии и цифрового двойника как раз помочь любому человек получить персонализированный ответ или рассказ на тему, которая ему интересна.
Обнаружил интервью Дурова Карлсону, обрадовался, но это какой-то фейл.
Какие-то бессмысленные вопросы о политике человеку, который очевидно политикой не занимается и не интересуется (а она им — да). В этом смысле фон из стульев с пиками и кое-чем ещё красиво смотрится со словами Павла о том, что миссия Телеграма — не занимать никакую позицию в любом политическом булшитинге.
Что в целом верно: правые, левые, синие, зеленые — всё одно. Мир меняют не политики, а продукты. А политики могут только срать в комментах и издеваться над взаимным населением с помощью баллистических ракет.
Но блин, как можно сделать интервью и не задать ни одного вопроса по теме?! Как телеграм нанимает, как устроен продуктовый процесс, как работает, как валидируют фичи, как масштабируется с такой маленькой командой, планы с тоном и его экономикой?
Короче, ждём еще 7 лет и надеемся что интервьюер будет не идиот.
Послушал два подряд интервью Сэма Альтмана, сэкономлю вам 4 часа и расскажу самые интересные мысли из них:
1. Интервью с Лексом: не ответил ни на один интересный вопрос: на чем тренировали Сору? что случилось в ноябре? где Илья? когда GPT-5 и как она будет выглядеть? Интервью с 20VC конкретнее, но без глубоких вопросов, больше про бизнес.
2. Интеракция ожиданий и реальности. Сначала все восхищались GPT-3.5 и подобными моделями. Попользовавшись ими, люди поняли что это относительно простая и бесполезная штука. Люди разочаровались. Пока все пишут что «этот ваш ИИ не умеет Х», происходит стремительное развитие базовых моделей. То есть, реальность и ожидания находятся в рассинхроне и поэтому адопшен будет медленнее, чем мы ожидаем.
3. Долгосрочным конкурентным преимуществом ИИ будет персонализация: ассистент, который знает всю ваши историю, контекст, привычки и желания. И помогает в жизни исходя из этого. Но прямо сегодня мы находимся во времени стремительного улучшения фундаментальных моделей, и поэтому сегодня конкуренция идет именно между тем кто сделает модель умнее.
4. Есть две стратегии создания ИИ бизнеса. Первая — предположить, что текущие модели (GPT-4-turbo, Opus, what have you) это финал и строить продукт на их основе. Вторая — предположить, что скорость развития уровня и качества моделей останется таким же. Во втором случае, не нужно удивляться что «OpenAI убил мой стартап», потому что это просто их работа — сделать модель умнее и достичь AGI.
5. Главная проблема ИИ сегодня — модели просто недостаточно умны. И решение этой проблемы это наш главный фокус.
6. Уникальная культура OpenAI:
Исследования информируют и двигают разработку продукта
Продукт информирует и двигает стратегию продаж.
В большинстве компаний это не так, часто даже наоборот.
7. При найме смотрим на умение четко коммуницировать свои идеи и цели. Редко нанимаю своих прямых подчиненных с рынка. Обычно, знакомые или промоушен внутри.
8. OpenAI была и рано или поздно снова станет роботической компанией. Наша миссия — AGI. Без embodiment это невмозожно.
9. Определение AGI. Во-первых, глобальная экономика существенно (в разы) изменилась вследствие развития ИИ. Во-вторых, ИИ существенно ускорил скорость развития в большинстве областей науки.
10. Главная проблема вокруг ИИ/AGI — это не ИИ уничтожит всех, а гавернанс и баланс власти вокруг организаций, которые создают и владеют ИИ.
Последнему пункту я люто плюсую, и занимаюсь этим.
Вообще, меметика это не про крипту, а про те случаи, когда культура и нарратив выше утилитарной стоимости. Золотая лихорадка, wework, доткомы, decentralized storage, gamefi, RWA, ИИ-посудомойки и кофеварки — эти вещи не лишены фундаментальной ценности, они производят реальные продукты, которые покупают живые пользователи. Но их product-narrative fit куда выше чем product-market fit.
В случае МММ или Bitconnect это 100% меметика и 0% PMF; в случае какого-нибудь классического ритейла или производителя подшипников это на 99% PMF.
С точки зрения инвестора, это не всегда плохо. Например, токены (крипты, не LLM) позволяют получить дешевый — часто даже бесплатный — CAC (стоимость привлечения пользователя). Но если токен становится продуктом компании, то долгосрочно он либо превратится исключительно в мем, либо исчезнет вообще.
Но для меня это крайне важный критерий. Любой продукт должен появиться вовремя на созревшую почву социальных мемов. Но инвестировать в компании, чьи продукты по большей части меметика это ближе к спекуляциям. То есть, на это можно быстро заработать, но это high-touch инвестиция: нужно следить и вовремя продать. Поэтому сегодня я вижу каждый третий ИИ-стартап со списком инвесторов, 100% из которых — это крипто фонды. Это сигнал, что те инвесторы, которые шарят в индустрии просто пасанули и не поверили. По этой же причине, у Theranos было ровно 0 инвесторов из Долины.
С другой стороны, проекты с 0% меметики вряд ли станут успешными бизнесами. Им будет сложно продавать свою идеи, поднимать деньги, создавать партнерства.
Идельной формулы нет, но мой личный вкус это сначала сильный продукт и команда, а потом уже выстраивание истории, нарратива, позиционирования вокруг него.
Неделю назад писал про тренировку больших языковых моделей за $10-$100k. Меня тогда немного закидали помидорами.
А сегодня выходит статья, авторы которой показывают как они смогли с мощью архитектуры JetMoE (придумала веб3 компания MyShell) натренировать с нуля на более чем триллионе токенов 7B модель, которая превосходит Llama2-7B и при этом стоит всего $100k в тренировке.
Только лишь в GPU-часах это примерно в пять раз дешевле, чем тренировка самой Llama2-7B. А ведь прошло меньше, чем полгода.
Удивительно насколько сильно поменялся ландшафт LLM за последние пару месяцев. В январе-феврале безусловным лидером был GPT-4, а сегодня самой производительной моделью является Opus, а новая открытая и бесплатная модель от Cohere Command R показывает себя как минимум на уровне GPT-4.
Я уверен, этот рейтинг еще многократно поменяется до конца года.
К чему должен стремиться каждый инженер (и продакт, for that matter)
Читать полностью…
GameFi за последние 7 лет пережил ряд взлетов и падений. От Криптокотят до лоттерей и казино; от Dark Forest до невнятных collectibles игр 2022 года. Миллиарды долларов спустя, становится ясно: ончейн игры это крутая платформа для нового типа игр, но не для всех.
На примере игры OCT постараюсь показать что работает, а что не работает в современном ГеймФае. OCT — это быстрый фулли-ончейн кликер с фокусом на миллионы мобильных игроков, и с призами в USDT.
Идея: На землю прилетает гигантский ончейн объект (The OCT, октаэдр), в центре и в слоях которого зарыты различные сокровища. Игроки должны кликать по нему вместе (это мультиплеер), открывая ячейки, собирать призы и обменивать их на USDT в трежари. Как только кто-то доберется до центра и заберет главный приз - игра закончится навсегда. Игрокам даётся майнинговое оборудование, которое можно совмещать и увеличивать скорость внутриигорового майнинга для поиска наград, рисования арта на октаэдре, увеличения главного приза.
- Казуальные игры имеют больше смысла в ончейн компоненте, потому что их экономика менее замкнутая сама на себе. Зачем DoTA или WoW добавлять токены, если они уже генерируют десятки миллионов в месяц на своей внутренней экономике в долларах?
- Важна легкость входа: сначала геймплей, потом ончейн. Чтобы начать играть не нужно требовать пользователя купить токены, кроссовки, НФТ.
- Мультиплатформенность: начать играть с айфона, андроида, веба и даже изнутри Телеграма (как это делает OCT).
- Баланс геймплея и финтеха. Фан от игры и доход в USDT это примерно те же химические процессы в мозге. Поэтому, хороший GameFi должен балансировать фан и возможность игроку бешено разбогатеть.
Если вам интересно попробовать — сегодня OCT проводят мини-игру - это маленький OCT, который 200 человек вместе смогут открыть целиком примерно за час.
Внутри 40 призов по 20 USDT и 4 приза по 300 USDT. Играть тут, платить ничего не нужно: @totheoct (в био можно скачать приложение для айфона или андроида).
Пост не рекламный, никто за него не платил.
За последние три дня мне довелось общаться с выдающимися лидерами AI-индустрии, конечно, про децентрализованный ИИ.
В ходе этих дискуссий стало ясно, что AI должен стать чем-то вроде public good, доступным для каждой страны, компании, индустрии и профессии. Каждый из нас (компаний на рынке, специалистов в индустрии, людей в стране) обладает уникальным набором знаний и данных, и только совместив их, мы можем создать по-настоящему эффективные модели. Децентрализованный подход к AI становится ключом к успеху. Краудсорсинг данных позволяет создавать модели, которые лучше всего решают практические узкие задачи.
50 лучших клиник могут совместить данные для создания диагностической модели, 40 лучших VC фондов могут сделать модель для скрининга дек, 10,000 носителей монгольского языка могут сделать крутую локальную модель (речь о данных, не algo+compute).
Но как распределять ресурсы, награды и владение такими моделями? Одним из решений являются токены. Они позволяют справедливо распределять ценность и обеспечивать владение моделью коллективно. Это не просто мемкоины — это бизнес-модель, позволяющая генерировать ценность и капитализировать протокол. Получается не только эффективно, но и справедливо. dAI объединяет усилия множества участников для создания топ моделей и обеспечивает справедливое распределение владения и вознаграждений.
Еще один вопрос дня!
AI фундаментально создает условия для персонализации институтов. AI лучше любого человека умеет в манипуляцию, подделку фактов, наигранную и неотличимую эмпатию. Это данность. Сегодня это стоит несколько миллионов долларов (в масштабе), завтра будет стоить пару тысяч. К это приведет через 3-5 лет?А. Конец демократии. Каждому из миллиардов людей в его VR очки или мессенджер придет бот, который абсолютно безошибочно надавит на все нужные гормоны, эмоции, убеждения и заставит его неизбежно проголосовать за кого надо. За бойдена, путена, цукербрина, да хоть ХАМАС, не так важно.В. Конец "социальных" институтов. Вместо средненько-хреновенькой публичной медицины для всех раковых больных — персональный доктор, который проводит 24 часа с тобой начиная с твоего рождения, постоянно следит за всеми био показателями, помогает предотвратить большинство болезней, а не помогает "дожить". Вместо полубесплатного образования — тьютор, никогда не устающий и не теряющий внимание, который может помочь с защитой диссера постдоку или обучить грамотности 30-летнего африканца, который получил свой первый андроид.
Вижу споры между капиталистами и коммунистами. Между тоталитаристами и демократами. Между консерваторами и прогрессистами. Но это все ерунда. Это только чтобы языком почесать, это не важно. Абсолютизм и редукция в силу низкой пропускной способности wetware (жидкого ПО, мозга).
Реальный вопрос: когда эта технология станет фактически бесплатной, кто будет её бенефициаром? А или В? А каким именно "истом" ему себя назвать ему подскажет ИИ.
Вся альфа о мемкоинах
Все вокруг делают мемкоины. А что? Удобно. Вложил $100 — забрал $500,000 через пару недель. Даже вот мои друзья тут решили запустить свой, обещают 1000 иксов и даже есть небольшой шанс, что даже не скаманёт.
Расскажу вам три истории о мемкоинах.
История первая: об эффективном против большого капиталах
Вот допустим сделали посоны мемкоин: графон, сюжет, много грамматических ошибок в нужных местах.
Допустим, Макс богатый, а я бомж. Макс вложил $10М на пресейле, а я $1000.
Токен подхватили-полетело: Маск твитит, Дуров пишет, Цукер стримит как не в себя. Кайне Уэст и Билли Айлишь ни о чем больше не говорят. Снуп Дог распечатал и скурил. Пампируем. Люто туземуним.
Но вот какое дело.
Макс видит, что на его десяточку пришло 5 иксов. 40 млн прибыли. Можно купить этаж на Манхеттене или яхту 50м. Макс ливает.
Но я бомж. Мне 10 исков на косарь — это тупо $10к. За квартиру заплатить, макдак и чуть-чуть на наркотики. Погоды не сделает. Мне ливать смысла нет. Жду роста на 3 порядка минимум.
Но вот какое дело. Когда ливает большая ликвидность токен падает ниже начальной цены минта. Начинается паника, распродажа, хомяк терпит -99% свечки. И уже ни 10, ни 1, ни даже 0.1 икс не увидит.
Так что мемкоины работают, но capital cost > capital efficiency.
История вторая: о рагпул-гейминге
Новая игра: Рагупул (3,3) рулетка
1. Создается мультисиг
2. Туда добавляются адреса всех из чата
3. На один час в день каждый получается owner привилегии контракта с approve(address, _amount = 1/100 TVL)
4. Кто пульнул - забрал 1% пула
5. Если ты прошел свой раунд и не пульнул, то твой approve в след раунде будет 1/50, потом 1/25 и т.д.
6. У кого железнее яйца получит больше иксов, но рискует остаться без денег
Честное ICO: обнуление неизбежно, но шансы у всех равны.
История третья: пока я писал пост, Виталик написал о том же самом
А конкретно он пишет о том, что вообще-то механику мемкоином можно сделать интересной, а прибыль можно направить на благотворительность.
Я вчера писал автору мемкоинов свою идею: zk-агрегированный кроссчейн коин ИИсус с нарративом вокруг новой AGI-религии, с шиллингом от иванагби и бантега, с ревшарой на саб нет биттензора, который учит AGI, который в свою очередь учит нас морали и любви друг к другу. Но меня проигнорили жестко.
У VK есть VK Cloud — безопасная платформа для разработки и работы с данными
Любая компания может повысить безопасность и надежность своего приложения, разместив его в VK Cloud. Или же вообще разработать ПО с нуля, используя преднастроенные облачные сервисы.
🔹 Все, что нужно для разработки: виртуальные машины, базы данных, Kubernetes, S3-хранилище, бэкапы, решения для машинного обучения и работы с Big Data.
🔹 Аудит, миграция, мониторинг и другие лучшие практики VK от команды опытных инженеров.
🔹 Комплексная защита веб-сервисов от атак и взломов.
Зарегистрируйтесь в VK Cloud и получите 3 000 ₽ для тестирования облачных сервисов в течение 60 дней!
#реклама
В чатиках и на кухнях участились разговоры о том, как ИИ повлияет на экономику. Например:
— куда деваться сотням миллионов людей, которых автоматизируют в течении ближайших пяти лет? если раньше тех-прогресс заменял людей в индустрии на протяжении поколений, то сейчас все произойдет до 2030.
— что делать с массовой роботизацией индустрий (от фастфуда до завода); как распределять ресурсы в условиях существенного падения себестоимости за счет исключения самого дорогого (человеческого) капитала из цепочки генерации добаленной стоимости?
— что делать с тем, что ИИ потребляет данные и не платит авторам? Достаточно один раз научить бота писать/рисовать/сочинять в определенном стиле и он будет производить бесконечное количество неотличимых от оригинала копий.
— что делать с повальной ИИ-фикацией армии (миллионы дронов со взывчаткой и распознаванием лиц/силуэтов)?
Я думаю, что все эти вопросы бессмысленны. Попытка ответить на них ничего не изменит. Это неизбежно. Потому что любая цивилизация или нация, которая не заэмбрейсит этот чейнж, проиграет и перестанет быть релевантна в мире. (Irrelevancy == oblivion)
Замена всех журналистов, депутатов, юристов и UX дизайнеров ИИшкой — это не просто риск. Это критически важно для выживания и развития общества.
Но это ерунда. Главный вопрос, который имеет смысл никто не задает: кто и каким образом будет контролировать эти системы?
Есть дефолтный ответ — тот, кто сильнее. И есть ограниченное, в 2-3 года, окно возможностей, пока это можно еще изменить. А именно создать системы децентрализованной координации, криптографической приватности и программируемой экономики распределения ресурсов и контроля.
А если серьезно, то вот что будет решено в крипте в ближайшие несколько лет. Но с поправкой на циклы. Сейчас, к сожалению, бычий рынок, поэтому до конца этого цикла никаких новых продуктовых решений мы не увидим. Будет расти рестейкинг, количество ролапов и, вероятно, веб3 сошиал. А вот когда биткоин упадет обратно к 60-70-80к (или что там журналисты будут называть «Бетховен РУХНУЛ!!»), то мы увидим кое-какие фундаментальные штуки:
1. Бесшовная интеграция всех ролапов. Без бриджей и внешней доверительной стороны вы сможете вызвать один контракт из другой сети, переслать или обменять токены между ролапам, делать сложные транзакции, которые включают 2-3-10 чейнов. Всё это со временем блока сильно меньше, чем мейннет (~2-3 секунды).
2. L2 Биткоина, в котором будет Лайтнинг, но это будет далеко не единственное решение. Институциальный TradFi (казначейства стран, Центробанки, крупнейшие международные фонды) уже плотно сидит в битке, поэтому новые сети, которые позволят переложить в биток разные другие ценные бумаги, финансовые продукты станут очень простым шагом, по сравнению с ETF.
3. User-owned models. Для большинства веб3 продуктов появятся «ML-плагины», которые каждый пользователь будет волен выбирать и подкручивать по своему усмотрению. Например, персональная AI стратегия управления портфелем, персональная AI система рекомендации постов в веб3 сошиал на основе моих интересов, персональный спам-фильтр, персональный ИИ-представитель для голосования, персональный и обученный на годах исключительно моей онлайн-активности ассистент-покупатель в интернет магазинах.
Ну че, Лама вышла. 8 и 70B модели вообще пушка. 400B еще находится в процессе дотренировки, но очень близка чтобы побить Claude Opus и GPT-4 (апрельскую). Разница в том, что Llama полностью открытая бесплатная модель.
Читать полностью…
Я скептически отношусь ко всем курсам по нейросетям, но бесплатное отраслевое онлайн-мероприятие, где можно прокачаться в прикладном использовании, — это совсем другое дело.
С 23 по 26 апреля на канале Магия Нейросетей выступит более 20 спикеров с небанальными темами по четырём направлениям:
Users: реальные кейсы и применение нейросетей в бизнесе
Developers: технические детали и разработка ИИ-решений
Visioners: тренды развития ИИ и его будущее
Practics: мастер-классы и челленджи для отработки навыков
Увидимся на NeuroWeekend!
#реклама
Прошло чуть больше недели от запуска моего цифрового двойника. Хочу поделиться статистикой, первыми выводами и планами.
Всего с двойником пообщалось 200 пользователей, задав почти 400 вопросов и с ~80% позитивной оценкой ответов. Ретеншен бота слабый — многие просто не поняли что вообще нужно делать. Очень много вопросов было из серии "привет", "ты кто?", из которых бот пока не умеет выводить вопрощающего в какое-то рациональное русло. Но на вопросы по теме некоторые ответы удивили и меня до уровня "вау, неужели так можно?!".
Я тесно общаюсь с командой разработки, в следующих версиях хотелось бы:
- память и возможность задавать дополнительные вопросы (сейчас бот не хранит историю)
- проактивность бота, чтобы он сам писал людям когда появляется новый контент на интерсующую их тему
- консилиум ботов многих каналов (например, про ИИ я бы хотел получить ответ одновременно из Сиолошной, эйай ньюс и Метаверсища, потому что каждый автор добавит свои интересные мысли)
- эвристики для типичных случаев (послать если грубят, объяснить если тупят, спросить если молчат, показать про что спрашивать если не понимают)
Кстати, в следующую пятницу мы с Байрамом (СЕО компании, которая сделала бота) проведем 2-х часово вебинар на тему автономных агентов и AGI. Записаться на вебинар можно прямо из бота. Цена $20, но будет увеличиваться на $5 каждый день вплоть до $50, оплатить можно из любой страны и любой картой. Вот некоторые темы, которые мы затронем:
- когда случиться decentralized AGI? какую роль в нем играют автономные агенты? кто и как их будет делать?
- для чего нужны агенты? как они встроятся в экономику?
- как делать агентов, чтобы их не убил OpenAI? как создавать сильные конкуретные преимущества?
- как децентрализованно создать ИИ модели? как ими управлять?
- как людям и бизнесам нанимать агентов? как агентам нанимать людей? какая экономика нужна, чтобы сделать это возможным?
- какие сущетствуют и будут moats в ИИ? как создать долгосрочный бизнес/продукт?
Чтобы пообщаться с ботом переходите по ссылке ниже. Чтобы записаться на вебинар нажмите кнопку "Book": /channel/mindshare_gershuni_bot
С лета наблюдаю как развивается проект Виталика Крылова "Команда А" и результаты впечатляют:
1. Программа Команда А существует уже 10 месяцев, за это время ее прошли 90 предпринимателей.
2. Участники программы это и небольшие компании с выручкой 100-500млн руб, так и крупные бизнесы с выручкой 1-5 млрд руб.
3. Средняя оценка качества тренинга - 9,5 из 10. Виталик сильно заморачивается над качеством продукта и старается, чтобы каждая минута программы была полезная и комфортная
4. На программе не бывает случайных людей, все проходят отбор лично у Виталика. На прошлый поток пришло 188 заявок, из которых до звонка прошли 80 и в программу взяли только 30 человек.
5. В программе учувствуют спикеры - только владельцы и руководители топ компаний (такие как СЕО Циан, Самолет, Хедхантер, Delivery Сlub, Ozon, Utkonos, Атланты и тд.)
6. Тренинг проводят в лучших отелях 5* в Москве с полноценным ресторанным обслуживанием, но есть и онлайн формат
7. Участники программы отмечают, что им стало сильно легче привлекать талантливых специалистов, у них появилась четкая и прозрачная система найма, а времени на контроль и управление теперь уходит меньше благодаря системе регулярного менеджмента
Я не видел ни одной такой мощной программы с таким крутым экспертным бордом. Кстати, отлично подходит для предпринимателей, которые ведут бизнес на глобальном рынке. Среди участников процентов 30, кто ведет международный бизнес. Я сам хочу присоединиться к тусовке и вам советую!
Если у вас в планах масштабироваться, вы застряли в операционке и на одном месте, и не хватает компетенция для найма сотрудников уровня А, то
заходите в канал к Виталику и подавайте заявку на участие /channel/howtomake10x
#реклама
О рынке мемов
Сегодня был на конференции Forklog (запись тут), рассказал о планах с цифровым двойником, важности децентрализованного ИИ и программируемой (кибернетической) экономике. Но хочется поделиться одной идеей, которая спонтанно родилась в ходе ответа на вопрос про мемкоины.
Мне кажется, что крипта/веб3 — это рынок меметики. Поясню. Сначала определения.
1. Меметика это наука о культуре, идеях, верованиях, то есть о мемах, о ноосфере. Об идеях, которые существующуют в цивилизации.
2. Крипта — это технология создания программируемых рынков.
3. В понятие мемкоина я включил бы все проекты, которые не генерируют реальной ценности или денежного потока: Ripple, Cardano, большая часть RWA, DePin, GameFi и, собственно, сами мемкоины.
Так вот, все эти рынки токенов это по сути рынки идей, меметики. Люди покупают и продают не дисконтированные денежные потоки организаций (тут нет потоков); это не ценные бумаги или секьюрити (они не обещают ничего в будущем); это не коммодити (куда ты денешь пепекоин или deai токен какого-нибудь бесполезного ИИ агента, или даже полезного агента, но которому токен не нужен).
Это именно что рынок самих идей. Люди покупают и продают веру в то, что собака в шапке это весело; что сеть вайфай роутеров вместо провайдера это классно; что возможность токенизировать металлы в астероидах это любопытно. Это такой глобальный рынок предсказаний, где лудоманы и хомяки являются поставщиками ликвидности, а мир в целом узнает чуть-чуть больше о себе.
techo-capital-memetic machine ftw
Не знаю, стоит ли этому каналу скатываться в обсуждение и описание новых релизов и пейперов в ML, но пока это наиболее интересное, что происходит в интернете.
Вот например вчера вышел новый GPT-4-turbo, про который написали абсолютно все члены команды OpenAI, что чего-то да стоит.
Сегодня Mistral выпустил новую 176В модель. Как обычно, релиз в виде magnet ссылки, а описание на скриншоте выше. Такое мы любим. В такое мы готовы delve (кто понял шутку ставим сердечко).
А через месяц нам Мета кровь из носа обещает LLaMa 3.
У меня и моего канала наконец появился полноценный цифровой двойник.
За последние 1,5 года я уже делал несколько подходов к созданию бота-двойника и оцифровки себя, но на этот раз все серьезно. Бот знает все посты на моем канале и умеет на основе них отвечать на вопросы по теме веб3, NLP, LLM, DAO, стартапов, тех стратегии, философии прогресса и всего такого. За бота спасибо Байраму (кстати, у него определенно лучший канал про продукты и стартапы в телеграме).
Это не просто бот, но еще и..
а) менеджер личных консультаций (пока времени нет, но с мая-июня открою несколько слотов в неделю)
б) постоянно обучающийся цифровой двойник, который записывает в свою память все мои публикации, все что я говорю в личных консультациях и других источниках.
Пока что первые дни, но, что критично, эту проблему достаточно решить один раз. Как только (а это скоро) бот будет писать и отвечать на вопросы не хуже меня, мне не нужно будет тратить время на канал. Я буду писать только новые идеи, который бот будет тут же подхватывать и адаптировать для каждого, кому она может быть актуальна.
Пока бета версия, тестить тут: /channel/mindshare_gershuni_bot
Ответы логируются. Боту нужно задавать конкретный вопрос, не просто «привет как дела».
О будущем LLM
Не знаю за ваши модные ку-стары, но вот некоторый набор уже практически фактов про LLM в перспективе месяцев:
1. GPT и LLaMa — это не продукты, а исследовательские проекты. Как только детали архитектуры, пайплайнов, датасетов станут ясны (экспериментальным путём), стоимость тренировки аналогичной модели упадет в разы, а скорее сотни раз. Вы сможете сделать претрейн специализированной модели за $10-100k, причем даже в распределенной среде.
2. То же самое с инференсом. За счет квантизации, MoD, оптимизации под edge девайсы и архитектуры ARM, TPU, NPU модели уровня 13-30В параметров можно будет запускать на телефонах.
3. За счет увеличения окна контекста до миллионов токенов, файнтьюнинг становится не так важен. Ты просто копируешь промт на 10-100 страниц со всей историей своей жизни или организации и получаешь персональную модель. Стоимость переключения с Зефира на Гермес, с Клода на Databricks становится ровно три клика и один копипаст.
4. Адаптивный роутинг. Приложения выбирают модели на лету, в зависимости от задачи. Модели выбирают инфраструктуру для вычислений на лету, в зависимости от спроса и предложения на железо в конкретный момент.
5. RAG не уйдет, а, наоборот, заменит в некоторой степени претрейнинг. Большие децентрализованные RAG датасеты на миллиарды или триллионы токенов будут просто «подсасывать» знания на лету, что позволит делать базовые еще тоньше, быстрее и запускать на микроволновке (quite literally).
Любопытный пейпер от DeepMind — mixture of depth. Идея в том, что для генерации разных токенов в LLM нужно разное количество ресурсов. Например, начать новое предложение требует больше вычислений, чем поставить знак препинания. Это позволит в теории сэкономить до 50% вычислительных ресурсов без потери качества, но требует новую архитектуру моделей.
Читать полностью…
Ищу аналитика/рисерчера в мою AI команду cyber.fund
Куда? Зачем?
Cyber.fund is a $100mm research-driven fund investing in web3, decentralized AI, autonomous agents and self-sovereign identity. We're a team of builders behind Lido, p2p.org, =nil; foundation, Neutron, NEON and pre-seed/token investors in Solana, Ethereum, EigenLayer and 150+ others. We've invested in FHE for ML, privacy-first ML (LLMs), AI aggregations and routing platforms and decentralized AI.
Кто нужен?
Нужен человек на стыке бизнеса и академии.
Хорошая теоретическая база в CS и обязательно ML;
Технический ВУЗ, а идеально PhD чего-то уровня МФТИ или MIT;
Публикации по теме ML, а идеально уровня NeuroIPS;
Работа в стартапах или бигтехе, а идеально еще и опыт ангельских инвестиций;
Обязательно глубокое помание алгоритмов, техник и моделей в ML, а идеально умение превращать это в продукт;
Fluent English, intellectual curiosity and a passion for staying current with the latest advancements in AI/ML.
Что надо делать?
1. Investment Due Diligence
Технический, продуктовый и бизнесовый анализ потенциальных инвестиций в AI/ML. Анализ рынка. Общение с фаундерами и технической командой проектов. Оценка масштабируемости, надежности, рисков и ограничений продуктов.
2. Portcos support
Стратегическая и техническая поддержка портфельных компаний в AI/ML. Помощь в построении технологической стратегии, найме, нетворке в индустрии. Поиск потенциальных проблем и способов решения для проектов.
3. Research
Следить за и анализироть текущие тренды в ML/DL/AI (например: synthetic data, flash attention, 1bit LLM, FHE for ML, JEPA, etc.). Написание публикаций, whitepapers, потенциально проведение X spaces/стримов/подкастов по теме (на английском). Поиск многообещающих компаний и проектов для инвестиций.
Мне интересно и я подхожу под требования, куда писать?
Присылайте CV на sg@cyber.fund; cover letter, ссылки на публикации, OSS контрибьюшены и другие достижения будут плюсом.
Локация не важна, но часовой пояс между EET-EST (от Восточной Европы до Восточного Побережья США).
Один из тех наглых постов жесткого рекрутмента, которые можно бесстыдно шарить по группам и каналам ;)
Виталик предлагает нам всем вступить в ряды дегенератов-коммунистов. Звучит разумно и любопытно.
Виталик приводит несколько примеров деген-коммунизма:
- использование крипто инструментов для смягчения экстерналий неэффективной регуляции (пример с налогами на недвижимость и рентконтролом в CA)
- скам криптопроектов (Terra и компенсация холдеров UST)
- Harbenger's tax всем уже знакомый
- благотворительные мемкоины
- свободная иммиграция на основе децентрализованной репутации
- рынки предсказаний и квадратичное голосование для принятия законов и норм
В целом ничего нового (что хорошо, ибо новое не факт что сработает), но вот вопрос:
А как вы думаете, если подавляющее большинство людей начнет жить лучше / больше получать / меньше тратить — это каким-то образом решит политические проблемы? Я хз.
C одной стороны, если у каждого всего в достатке — то может эти люди будут неохотнее взрывать концерты, воевать, убивать, продавать тяжелые наркотики?
C другой — если бедные люди вдруг перестанут работать чтобы выжить, то они не станут умнее, этичнее, больше любить себя-мир-людей, а значит освободившееся время они потратят на пропаганду в интернете и протесты о том, чтобы они еще меньше работали и им еще больше платили?
Тестирую продукт, в который мы инвестируем несколько миллионов. Идея, казалось бы, очевидная — персональный ИИ-ассистент. Но, в отличии от chatGPT или claude, он (а) хранит всю информацию приватно и (б) становится по-настоящему персональным по мере использования, обучаясь и запоминая всё о тебе. Прподукт еще не публичен, но выйдет в течении месяца-двух.
Почему мне кажется это killer приложением?
1. Фокус на приватности. В очень скором времени знания твоего ИИ-ассистента будут ценнее, чем даже доступ к почте или мессенджеру. Более того, качественный ассистент должен агрегировать все твои каналы коммуникации, чтобы постоянно учиться и быть релеватным моменту.
2. Персонализация. Приложение собирает граф данных о тебе. Я ему однажды рассказал о том как мы проводим время с сыном и мне было очень приятно и круто получить уведомление вечером с идеями о том как можно приятно и полезно провести время с ребенком. Чем больше ассистент обучается, тем сложнее будет с него "слезать" и тем полезнее будут его ответы и рекомендации.
3. Цифровой друг/коуч. Фокус не на абстрактных NLP задачах "переведи, перескажи, напиши хокку", а именно на помощи человеку. Чем более цифровой наш мир, тем более люди чувствуют себя одиноко. И именно помочь собраться, разложить жизнь по полочкам, расслабиться, понять что все вокруг хорошо, обсудить интимные вопросы и проблемы — это то, чего не хватает многим в мире тиктока и инстаграма. Там нет глубины.
4. Чего я жду в ближайших релизах — это агенты/аддоны. То есть, возможность дать новые навыки моему ассистенту. Отвечать в телеграме, выбирать подарки друзьям, бронировать путешествия. Да, для каждой из этих задач существуют десятки ИИ-сервисов, но каждый из них потребует десятки часов "обучения", прежде чем он сможет давать действительно качественный, а не общий, сервис. Персонализация — это ровно то, что отличает ИИ-игрушку от ИИ-незаменимого помощника.
Интернет звучит как будто мы в гонке между разрушающимся на куски миром и ускоряющейся технологией.
С одной стороны — войны, террористы, трамписты всех стран, фейковая пропаганда в твиттере и абсолютно ебанутые регуляторы каждой страны. С другой — экспоненциально ускоряющийся прогресс в технологиях; в первую очередь ИИ, который является катализатором всех остальных индустрий и областей науки.
И даже не очень понятно кто тут всех спасёт: Светлоликий Лидер Си ЦиньТрамп с повсеместным контролем, тоталитарным AML/KYC, министерством правды и ковровой смертной казнью (чисто для профилактики); большой ИИ-брат от хуайвей-гугла, который решает что и кому делать, включая президентов и ученых; децентрализаторы-либертарианцы-акселерационисты. Каждый из них может привести как к прогрессу, так и к аннигиляции всего человеческого (да так, что плебс-массы будут даже рады).
Если вас это волнует до степени психосоматических симптомов, то отключение интернета дома и мобильного телефона на неделю очень хорошо помогает.
Для нашей новой текстовой RPG на основе LLM вам потребуется вот эта видеокарта с 384 GB видеопамяти.
Читать полностью…
А если серьезно, то вот чего нужно решить в ИИ ближайшие несколько лет:
1. Compute. Нужно х100 от текущего объема глобальных вычислений, чтобы удовлетворить спрос. На картинке чип от Cerebras — один такой гигачип мощнее, чем тысяча профессиональных карт от NVIDIA.
2. Robots. Вместо специализованного софта — универсальные embodiment модели, которые делают любую кофемолку «разумной». На видео робот, который может учиться новым задачам и вести диалог на любую тему.
3. Новое поколение моделей. Трансформеры не умеют планировать и оперировать в абстрактной модели мира (как люди). ЖЕПА решает это.