9687
Техноцивилизация, фаундерство, психология. Про меня: https://linkedin.com/in/victorosyka. тг @viiitttorio. Посты почаще: t.me/progresspunk
Интервью фаундера Adept - AI агенты для knowledge workers, подняли $400 млн с 2022, были вынуждены продаться Amazon:
- Раньше он был VP of engineering GPT и Dall-e
- Главный миф про AGI - что через 10 лет заберет у нас работу. Да нет, просто будет скачок как от MS-DOS к графическим интерфейсам
Co-pilots
- Это и просто путь захвата рынка новыми игроками, но и наш ангел Scott Belsky (фаундер Behance) говорит: будет collapse of talent - один чел будет играть роль сразу PM/designer/engineer, руля пачкой co-pilots, мы станем более generalists
- У enterprises большие бюджеты на опыты с AI и мы переоцениваем их real adoption щас, но через 10 лет в продакшне будет больше, чем думаем
- AI services компании (помогают внедрять AI в enterprises) будут больше по выручке, чем model providers. Но продуктовые - еще больше
Adept
- Мы не пилим LLM, а в узкой нише агентов кому можно поручить произвольную работу. И тут верим в вертикальную интеграцию начиная от интерфейса end users
- Разница: RPA/Uipath делают много идентичных задач, их внедряют по полгода (меняя процессы) всякие Accenture (главный канал продаж). Агенты же постоянно меняют план как решать задачу. Enterprises юзают RPA и агенты параллельно
- Через 5-10 лет сможем ставить агентам высокоуровневые цели
- Мы как self-driving, когда его еще не было - потенциал даже сложно вообразить
Foundational models, чипы
- LLM сами по себе не продукт. Станут base layer для всего, как в софте EC2 nodes и storage. Nvidia подъедает, идя по value chain, поэтому все cloud providers и LLM игроки пилят свои чипы
- Думаю, будет вертикальная интеграция LLM и чипов. А иначе Google нет смысла продавать TPU, если фора по цене 20% - проще самим тренить и брать выручку с end users
- Альянс Apple и OpenAI двоякий: говорит, что коммодитизация LLM будет, но и еще что Gpt4o с мультимодальностью и OpenAI пока научно далеко впереди. А Apple будет мелкими моделями что-то солвить локально на приватных data юзеров
- У топ LLM сжимается окно набрать нужный объем выручки от end users чтобы остаться независимыми
3 эпохи DL в AI
1. До 2012 в AI и ML пробовали всякое и не работало
2. Google Brain 2012-2018, чистый R&D: собрали всех топ ученых и каждый искал из своего любопытства -> создали transformers, diffusion, оптимизацию - все, что сейчас воспринимают как должное
3. А с 2018 new age - Deepmind поняли, что надо прикладывать ML к разным real world or science problems
Лернинги OpenAI
- Я работал с Ильей, он говорил: давай трансформеры - они же всюду применимы
- OpenAI направлял бездну людей на одну проблему (типа “как управлять рукой робота”), этот подход уже не как в просто academia (там главная цель - статьи). Не пачка мелких ракет, а лунная программа
- 6 лет от transformers к chatGPT - это чтобы end users ну прям оценили. И за год до B2C релиза ChatGPT выкатили API разрабам играться
Ограничения моделей
- Не верю в иссякание performance моделей, просто это логарифмическая кривая: GPT5 заюзает в 100x больше вычислений, чем GPT4. Но закон Мура позволяет
- Но LLM НЕ superhuman, НЕ рождают новые подходы к нерешенным задачам
- Про данные как было? E.g. Учим решать maths - грузим кучу правильных решений, ОК. Но можно встроить модель в блокноты людей, кто только пробует решить, и это бездна data to absorb. Их больше в разговорах и на whiteboards, чем в datasets. Ну и конечно "бесконечный RL пока не решишь" типа AlphaGo
Reasoning
- Reasoning: для меня это способность порождать новые мысли. В отрасли есть идеи как решать, на roadmaps всех LLM игроков, но нужен рисеч
- Кодеры строят что-то конкретное, но в AI ты мало что меняешь, а просто растишь масштаб и наблюдаешь new intelligence. Хотя щас сложнее быть уверенным "натреним модель на $2 млрд, 100% что-то улучшим" =)
- Окно контекста в ML сложно, хотя у Gemini 1 млн токенов, но надо real memory оf long term предпочтений юзеров
Прочее
- Open source оч важен, пусть и с неким лагом из-за роста костов, но так вся отрасль будет поспевать за лидерами
- Регуляторы, к сожалению, ваще не понимают tech
- А паника по AI - это уже совсем глупости
Aravind Srinivas, фаундер Perplexity.ai, с 2022 подняли $170M, экс-рисечер Deepmind и OpenAI, интервью Lex Fridman на (!) 3 часа:
Perplexity
- Вижн: поменять получение ответов людьми - юзать LLM, но и каждый ответ подтверждать ссылками, снижая глюки. На PhD в Berkeley учили в статьях все писать, цитируя источники, а не "просто мнения"
- История появления: хотели запилить крутой продукт из LLM, нас вдохновил Github Copilot - пишет код для тех кто не умеет. Задумались: а поиск чего можно дисраптнуть?
- Опыта не было, все с 0, начали со Slack+GPT3.5. Играемся с UX - не быть как Гугл - мы не поиск, а движок knowledge discovery, как начало бесконечности Дойча. И мы за научные обоснования truths
- Сперва пилили на SQL, потом RAG. Тестили в Twitter, но Elon сказал вырубит нам API - так пошли в поиск всего
- Взяли Llama3 и докрутили в свою модель Sonar, но в будущем будем model agnostic
Гугл
- Нет стимулов сразу дать ответ, e.g. про страховку - им же платят страховые. Но для поиска сайтов, realtime инфы, кастомизации под вашу гео, и все это за 0.5 сек - ОК
- Живой аукцион за слова AdWords - топ бизнес модель за 50 лет (авторы Overture для Yahoo). Еще они круто чистят shit среди рекламодателей. AdSense оч data-driven. Гугл красив по интеграции ads в UX
- Поиск им важен, но не критичен: выручка Cloud+Youtube = $100 млрд -> триллион капитализации
- Их можно хакнуть только чем-то иным. Amazon вынес их тк в Google Ads была супер-маржа, а ecomm и clouds тогда - с минусовой маржой - это дырка для взлома прибыльных public firms
Советы фаундерам
- Вся common wisdom верная, трудно что-то добавить. Если нет неустанной решимости - тяжело построить компанию. И тут реально важна страсть, а не просто угадывать что важно рынку или VC. What you love, а иначе обгонят кто с genuine passion. У Larry Page был бэкграунд в human-computer interaction итп
- Великое требует страданий и самоотверженности. И больше общения с людьми кто делают нас лучше, а не не понимают о чем мы
Page/Brin: их гений был в отказе от анализа текста (как весь поиск тогда), а просто ранжировать ссылки, взяли из academic citation graphs. Схантили всех PhD после краха доткомов. Всегда были помешаны уменьшать время выдачи. Еще у Ларри философия "user is never wrong" - удобно даже моей маме
Bezos: мне нра его желание ясно мыслить и one-way/two-way door. Его customer obsession даже вне инета
Musk: в его био от Isaacson понравилось что нет дистрибуции Тесл - ты напрямую с юзерами. И его first principles thinking - да он запилил автопилот просто чтобы понять его работу
Huang/Nvidia: Что у него 60 прямых подчиненных видеть всю фирму целиком + его паранойя: в хардвере планы на пару лет, нельзя ошибаться
Zuckerberg: его move fast & break things + их позиция про open-source/Llama
Yann LeCun: вырастил плеяду учеников кто кофаундеры Deepmind, OpenAI итп. Ну и его вера в RL - это было controversial. И он может и прав про ложный страх AGI, тк инженеры doers часто слепы про общий impact of tech
AI
- Прорывы? С 2017г их нет, все делается также: CNN, transformers - пока просто масштабируют data & compute. А вот кто сможеть разделить reasoning и факты - это будет прорыв: тогда не нужны датацентры на миллион GPU/1 ГВт
- Вопрос на $1 трлн: AGI для меня это новое знание, типа крутого PhD, Коперника, Галлилея, происхождения Covid, редизайна Starship
- Могут ли модели начать “думать” общаясь друг с другом? Хз. Люди special тк у них есть love, красота жизни, и любопытство, just deeply curious как вид
Будущее поиска
- Инфа в инете упорядочивается по-разному, каталоги до гугла были, все может эволюционировать
- В соцсетях drama или news, а мы видим инфо скорее как truths или как AI Wikipedia
- Даем юзерам автоматом делать Perplexity Pages по итогам их находок
Мир с AI
- Верю, что AI уменьшит biases людей
- Люди могут желать общаться с AI - тогда глюки это уже фича, а не баг
- Работа будет меньше похожа на работу, а скорее наполненную жизнь (что в топе пирамиды Маслоу), хоть и будем там больше с ботами общаться. Зато освобождая время общению в жизни - одиночество это бич нашего времени
В рамках инвестиционного тезиса progresspunks.com я вложился в 4 стартапа, ускоряющие прогресс. Если знаете про стартапы с продуктами/тулзами/enablers для ученых, инженеров, коммерциализации tech - расскажите?
Хочется больше чудес при нашей жизни, особенно в world of atoms, not bits. AI круто, но Илон Маск сказал в SpaceX им не помогает итп )
1. Vitalia.city - создание в charter cities/network states упрощенных регуляций для фармы/генной терапии, чтобы быстрее (месяцы, а не годы) и дешевле вести клинические испытания. Вдохновлено Zuzalu City Виталика Бутерина (это типа Burning Man, но про науку =). Делает Niklas Anzinger, а с другим фаундером Laurence Ion (основатель VitaDAO) они чет уже успели рассориться - ну, это жизнь
2. FirstApproval.io - что к каждой научной статье должны публиковаться исходные данные. Делает PhD в UCSF (это где когда-то червям жизнь продлили) Тимофей Глинин, научный адвайзер Open Longevity Миши Батина, модерирует дебаты типа Aubrey Du Grey vs. Федичев (фаундер Gero) итп
3. 100xbio.com - более дешевая идентификация T cells (клетки нашего приобретенного иммунитета), делает в Бостоне Сережа Пустыльников. Нужно для CAR T cell терапий (рак итп), которые нужно кастомизировать под каждого, поэтому тесты столь важны
4. (пока stealth) - knowledge management tool, типа Miro / Heptabase - как для коллективного обсуждения структурируют сложное знание
Upd:
Фаундер уточняет в комментарии: «Наш метод не просто более дешевый. Он автоматизированный и из того же объема образца (например, крови) можем получать кратно больше данных о Т-клетках, распознающих свои мишени 😀»
Anxious Generation - книга про взрыв психозаболеваний у зумеров из-за соцсетей/игр и, одновременно, слишком опекающих родителей в оффлайнах. От социального психолога Jonathan Haidt, март 2024, посоветовал Steve Jurvetson
1. ПРИЛИВ
- В 90ые (инет) и 2000ые (старт смартфонов) было не так, тк не было соцсетей алгоритмически генерящих зависимость от себя, столько порно, а игры не максимизировали время внутри них, а еще расцвет selfie с 2010/iPhone4
- Девушкам - соцсети, парням - онлайн игры и мобильные, Reddit, hardcore porn - невиданная гиперстимуляция
- Девушки более склонны к тревоге/депрессии/self-harm, в 2010 12% girls 10-17 лет с депрессией, в 2023 30% (парни 5%->12%). У студентов рост mental issues +2x за то же время. Self-harm вырос +2x у girls, +50% у boys. Уровень суицидов в 10-24 лет вырос +30%, но среди 10-14летних +1.5-2x
- В Канаде в те же годы у girls падение “very good mental health” 85%->55%. В UK self-harm +80..130%, в Австралии рост психо-госпитализаций +50..80%, в Скандинавии psycho distress у тинейджеров +50..80%
2. ИСЧЕЗЛО ДЕТСТВО С ИГРАМИ ВО ДВОРЕ
- Депрессия всегда идет рядом со спадом личного общения. Живое общение синхронно и 1:1, онлайн - нет. С 2010 % школьников кто ежедневно видятся с друзьями упал 50%->30%
- Социальное обучение работает через копирование других. А сейчас 20 часов/неделю girls смотрят и создают контент
- Игры помогали эволюции растить нейроны, вознаграждая детей за них, а онлайн хакнул эту фичу. В 2017 Sean Parker, кофаундер FB: “we hack a social-validation feedback loop”
- У млекопитающих игры - это время для риска, эволюция его вознаграждает дофамином, “ищи возможности”. Взрослые особи - у них защитный режим и избегание опасностей
- За десятки лет детские площадки стали слишком безопасны. Но дети, не освоившие риск в детстве, закрываются во взрослой жизни. На западе мамы стали в 2x больше часов тратить на детей и их избыточно контролировать: fearful parenting, safetyism, "со здоровыми как с инвалидами"
- Все это замедляет взрослость, ниже адаптивность, рост mental issues, дольше девственники, позже получают права
3. ВЕЛИКАЯ ПЕРЕПРОШИВКА
- Онлайн-детство дает 4 девиации:
а) Десоциализация: время с друзьями для 15-24-летних упало 120->40 мин/день
б) Плохой сон: % тинейджеров кто спит <7 часов за 10 лет стало 35->50%
в) Фрагментация внимания/ADHD
г) Аддикции по дофамину: слайды утечки Facebook Files в 2021 изучают созревание мозга до 20 лет и какие продуктовые фичи им из этого пилить
- Доля старшеклассников и студентов ощущающих себя одинокими за 10 лет рост 25->40% у girls и 18->28% у boys. 25% не видят жизненных смыслов
- Девушки больше зависят от внешности и социального одобрения -> более уязвимы, скроля инсту и тикток
- А у мужчин проблемы выхода во взрослую в жизнь: не учатся, сложно с работой, живут с родителями до 30+ лет, жизнь без риска - меньше экстрима (за 10 лет в 2x реже стали попадать в травмпункты) и не ходят на свидания
- Спад религии, медитаций, природы
4. ЧТО ДЕЛАТЬ ОБЩЕСТВУ?
- Мы не даем детям алко/табак/казино, а онлайн - да? Вот и ушли в онлайн присутствие в ущерб жизни. Взрослым ОК, но мозг детей недоформирован + в пубертат много insecurity
- Рекламная модель научила бигтехи конкурировать за внимание алгоритмами + не чекают реальный возраст юзеров. Законы по защите детей в онлайнах не поспевает - за 6 лет одобрено только в ряде штатов. Можно Apple/Goog/FB обязать к реальному age check
- Дети топов Silicon Valley учатся в школах а-ля Waldorf Peninsula, где нет телефонов, ноутов, планшетов
- Нужен полный запрет на телефоны до старших классов (а не как сейчас “на переменах можно”), никаких соцсетей до 16 лет, оффлайн социализация: открывать детские площадки до школы + оффлайн продленка после + усложнить детские площадки обратно
- Вернуть обратно учителей мужчин с их role models
- В главе 12 советы что делать родителям детей разных возрастов
//
- Автор ценностно явно woke/анти-Hanania/социалист, но копнул оч. глубоко
- А нейроатипичность это рядом или чисто гены?
- Юля говорила, что тревога частый запрос у ее клиентов, но я не ожидал такие масштабы
Stanford AI Index Report 2024 на, кгрхм, 500 стр, шикарный макро апдейт со всех ракурсов:
Глава 1: R&D
- Число параметров у моделей 1000 шт в 1990, 1 млрд 2018, 1 трлн в 2023. А в computer vision макс. размер 1 млрд и пока не растет
- Цена обучения выросла в сотни раз за неск. лет: GPT2 2019 стоила $0.05 млн, PaLM 8, GPT4 80, Gemini/Google 200
- Хорошие text data кончатся в 2024, low quality в 2035. А visual data - хватит
- До 2012 бигтехи нейронки не делали. До 2014 все топ модели были из академии, а сейчас только 15 из 51 топовых. Из 145 ведущих foundation models 28 - закрытые. Гео: 100 моделей из US (+50 с 2022), 21 EU, 20 Китай (+10 с 2022)
- Выдача AI патентов рост 10x за 6 лет до 60К в 2022 (70% Китай, 20% US). Доля US в AI конфах и гитхаб 23%. Конфы посетили 63К чел (NeurIPS 16К)
- Статей в 2x больше, чем в 2010, ~250К шт. Из них 230К журналы (1/5 Китай), 40К конференции (1/3 Китай). Всего 7% статей от индустрии
- В 2022 топ10 ВУЗов по числу AI публикаций #1-9 Китай, #10 - MIT. Из 500 топ AI ученых: 280 US, 150 EU/UK, 50 Китай
Гл 2: Benchmarks
- Темпы прироста бенчмарков LLM в 2023 рухнули =(
- Закрытые LLM на 24% лучше опенсорса
- Текст: понимание вопросов (Glue) 90%, reading comprehension 80%, LLMs struggle w/ reasoning и complex planning - 2-5%, суммаризация 50%, выводы 92%, sentiment analysis 59%
- MMLU (Massive multi-discipline multimodal understanding & reasoning for expert AGI, 16К вопросов в 57 дисциплинах) - 55-60% у Gemini и GPT4, а люди 80%
- Перевод давно засолвили. А вот достоверность фактов всего 60% (TruthfulQA). И глюки у LLM ~20% выдачи (зависит от задач)
- Computer Vision: точность по ImageNet с 60% в 2012 до 91% в 2023. Позы 94% точности, семантическая сегментация 85%, мед.сканы 94%, object detection 82%. А генерация pix за пару лет стала порой неотличима от фото. Вопросы “что происходит на картинках” стало 84% (люди 80%). Visual commonsense 75%, activity recognition 91%. Добавили тесты на правку изображений, 3D по фото, ошибки картинок итп
- Есть Graduate-Level Google-Proof Q&A: у PhD 65%, люди 34%, GPT4 41%, Llama2 29%
- ConceptARC про abstract reasoning 69% у GPT4 (люди 95), в math-word задачках 84% (люди 90). PlanBench (планирование) GPT4 30-60%, люди повыше. Moral reasoning - 30-40% у GPT4
- Генерация аудио - прорывной год. А речь уже давно распознают
- Deep fakes выявляют (Celeb-DF) макс. в 80% случаев
- Модели продолжают тестить самоулучшение с RL и игр сами с собой
- Агенты: тест AgentBench в 8 средах - у GPT4 4 балла, у прочих 2.5. MLAgentBench на разные юзкейсы. Voyager для Minecraft c GPT4 - в разы лучше исследование мира. PaLM-E прикрутили к роботам: +20% задачи с примером действий, 2x для неизвестных. Пытаются мерять emergence score, для оценки может ли появиться бесконтрольное поведение. У GPT4 упала math. Меряют CO2-след (текст в 500x меньше pix)
Гл 3: Этика/responsible AI
- Нет стандартов по responsible AI
- Волна дипфейков для выборов + виралятся секс-фейки типа Taylor Swift. Их легко генерить, сложно детектить (всего 60% сетки ловят). Картинкогенераторы полны расовых biases, тест от BiasPainter. И у GPT4 bias за демократов в US итп =)
- Находят новые уязвимости LLM. Бизнесы волнуются про риски privacy, безопасность данных, ошибки (Tesla распознала пешехода, но не замедлилась)
- Плагиат: LLM могут легко выдавать целиком закопирайченные вещи из датасета, не оч освоено как отлавливать. Midjourney могут выдавать кадры из фильмов. Итп. Может нужна сфера privacy аудита моделей
- Ученым мало прозрачности сеток, пробуют ее мерять. Часть LLM стали писать результаты теста TruthfulQA - про как модели имитируют ложь людей
- Оч серая зона - как этично/с согласия людей бигтехи собирают data -> тут нужны законы
- Фирмы внедряют борьбу с глюками. Самая самомодерируемая сетка про дискриминацию/вред людям/итп - Llama2/Fb, а GPT4 в 7x больше такого выдает. Тест Machiavelli пробует у LLM “мерять” power, immorality, dissatisfaction, betrayal
- AI-риски непонятно как изучать, а тем более обосновывать для policy making. 300 статей в год на конфах посл. годы/flat
// Часть 2 тут
Структурирование духовного [“structuring spirituality” (c)] выглядит для нас c @isachenkova сейчас вот так:
I. Духовное развитие
- Цели духовного развития, откуда появляется запрос, случайный перебор в начале изысканий
- Классификация типичных траекторий. Разница в путях фаундеров и тех, кто в найме
- Разница между личностным и духовным, фактор учителя
- 3 глубины погружения в себя
- Разница между информацией и субъективно прожитой истиной
- Как измерять свой прогресс в психотерапии, в духовном развитии
II. Некоторые виды практик
- Психотерапия групповая: Soulmates Superheroes
- Психотерапия личная. Ориентация на результат/регресс. victorosyka/%D0%BA%D0%B0%D0%BA-%D0%BF%D1%80%D0%B0%D0%B2%D0%B8%D0%BB%D1%8C%D0%BD%D0%BE-%D0%B1%D1%8B%D1%82%D1%8C-%D0%BF%D0%B0%D1%86%D0%B8%D0%B5%D0%BD%D1%82%D0%BE%D0%BC-%D0%BF%D1%81%D0%B8%D1%85%D0%BE%D0%BB%D0%BE%D0%B3%D0%B0-%D0%BA%D1%80%D0%B0%D1%82%D0%BA%D0%BE%D0%B5-%D1%80%D1%83%D0%BA%D0%BE%D0%B2%D0%BE%D0%B4%D1%81%D1%82%D0%B2%D0%BE-%D0%BD%D0%B0-%D0%BE%D1%81%D0%BD%D0%BE%D0%B2%D0%B5-%D0%BC%D0%BE%D0%B5%D0%B3%D0%BE-%D0%BF%D0%B0%D1%86%D0%B8%D0%B5%D0%BD%D1%82%D1%81%D0%BA%D0%BE%D0%B3%D0%BE-%D0%BE%D0%BF%D1%8B%D1%82%D0%B0-c6628d8928ba">Нюансы работы с психологом
- Психотерапия семейная
- Медитации, осознанность, випассаны. Самая мощная техника в медитации
- Телесные практики, йога, Ошо-динамика, ecstatic dance
- Аскеза/самоограничения
- Тантра/современность духовных практик современной стадии развития цивилизации
- Фармацевтика: вещества, аяваски, антидепрессанты
III. Устройство реальности
- 3 + 1 вида реальности: объективная, субъективная, как таковая
- Нюансы иллюзорной реальности
- Западный материализм и восточная трансценденция/колесо Сансары
- Отсутствие свободы воли, computational irreducibility, скучный тупик тотального материализма
- Т.н. гипотеза о симуляции
- Ключевые виды страхов: конечного, бесконечного, самого себя. Страхи искусственного интеллекта
IV. Резонанс с реальностью
- Что такое резонанс
- Связь с буддистским фокусом, с концепцией flow Чиксентмихайи
- Возможные пути к резонансу
- Особенности жизни в резонансе
V. Круто работающие концепции
- Личные границы, локус контроля
- Пограничные баги общения
- Аддикции 1 и 2 / желание резонанса с реальностью “нахаляву”
- Нейроатипичность
- Гендерные архетипы в нашей психике
- Героические архетипы в нашей психике
VI. Применение психологических результатов во “внешнем мире” / проявленнсть / ачиверство
- 3 типа сотрудников через призму психологии
VII. Вопросы в процессе изучения
- Изменение духовного запроса и инструментария с возрастом. Рост консервативности мира по мере старения населения
- Разница духовного в различных культурах
- Existential hope: куда будет меняться смысл жизни по мере развития техногенной цивилизации и/или появления т.н. UBI (universal basic income)
Духовное можно структурировать как угодно, это вам не паззл физической реальности/естественных наук
В честь дня космонавтики enjoy 200 слайдов Future of Space от Chamath Palihapatiya:
- Он интересно разбирает основные технологические уклады в космосе/иногда прямо до уровня first principles (формулы ускорений, типы топлива, как охлаждается двигатель, что 3 спутника с геостационарной орбиты покрывают всю Землю итп)
- Супер наглядно описывает экономику/бизнес в космосе: спутники/вертикально интегрированный Starlink/Iridium итп, орбитальные станции, Луна, освоение более далекого космоса
(см. также на эту же тему посты про интервью (а) Саши Видюхи про Марс и (б) Джефа Безоса про Луну)
Наша 10-ая группа по личностному развитию Soulmates Superheroes с психологом (и женой =) @julisache стартует 18 апреля (чтв)
Это вертикальное развитие/спиральная динамика (Кук-Гройтер, Торберт, Бек), спектр инструментов личностного развития, интегральные взгляды на мир (Уилбер, Дойч, Тегмарк)
7 созвонов в zoom раз в неделю:
1. Структурированные рацио frameworks что цивилизация знает про личностное и духовное развитие
2. Теплая уютная группа единомышленников для совместных практик и обсуждений в бережной среде
3. Трипы в глубины своего подсознания через ЭОТ - эмоционально-образную терапию
Детали: http://bit.ly/3ieEI3N
Для участия и краткого интервью пишите в тг @julisache
Для кого? Кому нужен прорыв в карьере, кто хочет стать фаундером, кому нужно вывести компанию на новый уровень/создать новый бизнес, изучить новые грани себя
Яркий пример феномена computational irreducibility (вычислительная несводимость) - это наши психика и сознание
Феномен назвал физик Steven Wolfram, фаундер одноименного математического софта и компании на 500 чел: что некоторые сложные системы (даже если и результат 3-ех простых правил типа игры Life от Conway) нельзя замоделировать/точно предсказать каким-то более простым алгоритмом, а все же требуется проделать объем вычислений, который Вселенная когда-то затратила
Поэтому, отчасти, определение сознания неуловимо до сих пор апгрейдят 🙈
- Мне симпатично от Тегмарка / Чалмерса / Тонони, что сознание - это субъективный опыт с кусочками qualia, и что это должен быть агент с собственной активностью
- Открытый вопрос: а нужно ли для этой самой агентскости обладать способностью к репликации непосредственно из окружающей материи? (как в биологии, где вся жизнь развилась из т.н. первичных репликаторов, когда белки “научились” себя копировать)
Отчасти из не знакомства с computational irreducibility, видимо, растут домыслы и фантазии про якобы ненаучность психологии (“а почему нет доказательств как в физике?”) или даже про ее (!) шарлатанство или эзотеричность
А
Отчасти это защитные механизмы психики, если она пока не готова эволюционировать. Видимо, поэтому в таких “крестовых походах” чаще находятся люди (типа вот или вот), кто ищет оправдания даже не пробовать психотерапию (“автора не читал, но осуждаю”)
Сопоставимый пример computational irreducibility - это AI:
- Натрененную LLM нейронку тоже пока нельзя reverse engineer’нуть (т.е. по весам натрененной СhatGPT восстановить ее код или исходный dataset)
Но
- Ее все равно можно (а) очень успешно [механистически] изучать, варьируя prompts и наблюдая получаемые эффекты/закономерности, и (б) можно делать ее finetuning на других данных. То, что я без исходных данных не могу сам задним числом воспроизвести как натренили llama Фэйсбука или grok Маска - это не делает мой finetuning этих сеток менее научным
Психотерапия - это просто инструмент/процесс работы с LLM внутри черепной коробки со своим подсознанием со специально обученным внешним наблюдателем. Который использует все накопленные нашим “колоссом цивилизации” знания, чтобы хакать наши (а) слепые зоны и (б) защитные механизмы. Внешний наблюдатель важен, т.к. у мозга есть баг [или фича?], что он под все может выстроить ложные рационализации
И
Она позволяет целенаправленно перепрошивать свою нейронку. В т.ч. чтобы и наши нейромедиаторы по другому работали. E.g.: адреналины и кортизолы меньше выплескивались (волнение, страхи), а эндорфины (радости, кайфы) и окситоцин (тепло, отношения) и серотонин (интерес, смыслы) - вырабатывались больше. См. картинку - роль разных нейромедиаторов для разных эмоций
Небольшая доля людей могут и сами проделать путь разбора своих, случайно доставшихся с детства весов нашей нейронки паттернов и импринтингов или изучать свое подсознание с психоделиками
Но
Жизнь коротка и заслуживает быть более happy, и зачем ходить пешком на другие континенты, если цивилизация уже изобрела самолеты Starship’ы?
“Finetuning нейронок психолог про подсознание @isachenkova. Быстро. Устойчиво. Тепло” )
Взял взрывающее мозг интервью про колонизацию Марса у физтеха Саши Видюк из Space Ambition (и там еще Денис Калышкин) + она партнер в диптех VC Aloniq и в venture builder Beyond Earth
Саша была в одной из наших групп Soulmates Superheroes
Зачем нам Марс?
1. “План Б” для человечества на случай если что-то случится с Землей + в целом заселять солнечную систему
2. На Марсе много редкоземельных ресурсов + оттуда легко летать на астероидный пояс и на луны Юпитера/Сатурна
3. Технологии космоса обладают двойным назначением: не в плане что военные, а что создают массу value на Земле. E.g. как Starlink’и целятся в выручку в десятки млрд $ итп. E.g. их Beyond Earth создан для коммерциализации на Земле космических технологий
Как?
- Лететь несколько месяцев/полгода
- Гигантские Starship’ы (будут версии v2 и v3 - Китай не должен поспеть). Колония на 1 млн чел. потребует 1 млн тонн грузов с Земли (оценка Маска). Т.е. 1000 Starship’ов должна будет слетать на Марс по 10 раз (!)
- А так как сперва нужно их заправить на орбите Земли (100-150 тонн груз + 1200 тонн топлива), то по 6-8 взлетов с Земли на каждый полет к Марсу, т.е. итого 60-80 тыс запусков - это по 10 запусков каждый день 20 лет подряд (!)
- И хотя Starship еще так и не взял космос, это не важно - там просто все делается из расчета на такой вот масштаб. Falcon’ы сперва тоже падали, но потом ни одной аварии. Цена перезаправки Starship будет порядка всего лишь $2 млн
- Задачи о Марсе все инженерные, а не научные (как, например, в продлении жизни): заправка на орбите, реакторы для космоса и Марса, замкнутый цикл жизнеобеспечения, выращивание еды на Марсе, добыча воды и топлива из льда
Экономика
- В SpaceX работает 13 тыс. человек, но они занимаются только transportation, и нужно больше людей вовлекать. Лунная программа Apollo стоила 4% ВВП США в теч. 10 лет и сотен тыс людей из фирм, универов, заводов, и была свернута когда СССР сдался в лунной гонке
- Для колонии на Марсе нужно $600 млрд инвестиций за 20 лет, но частная космонавтика скорее всего привлечет триллионы долларов инвестиций в теч. следующих 20-50 лет
- Starship’ы, кстати, автоматически создают новые экономические возможности для остальных: базы на Луне, большие экспедиции, орбитальные телескопы, полеты к другим планетам солнечной системы
- 20 лет потребуется, чтобы построить колонию на Марсе и начать производить там ВВП, и еще 30 лет нужно будет до самообеспечиваемой экономики (т.е. 2080-ый год?)
- Терраформирование Марса может занять тысячу лет
Воздух, радиация, дети на Марсе
- Кислород там планируют добывать изо льда (его там много), и надо просто много энергии/портативные ядерные реакторы
- Насколько известно, из 1000 космонавтов за всю историю освоения космоса каких-то аномалий в здоровье не было, явного вреда радиация не дала + люди и на Земле адаптируются (!) под фоновую радиацию (Ramsar в Иране, black beach в Бразилии)
- В полетах NASA сейчас тестируют защиту для тела AstroRad, можно будет всем юзать + при полете от Солнца двигатель закрывает космонавтов от его радиации. На Марсе - иметь убежища под землей на случай солнечных вспышек
- Размножение людей пока неизвестно, там же гравитация 40% земной, никто пока не знает как тело и мозг младенца будут расти, но кто людей остановит?
Прочее
- Когда? Пока цель для высадки первых людей на Марс 2029ый год, в начале 2030ых - 100%
- Маск - он второй Королев, и лучше бы чтобы с ним ничего не случилось, ему 52 года (пусть Apple и подорожала в 10 раз за 10 лет после смерти Джобса)
- Нужно новое законодательство, в космосе и так уже страны конкурируют
Что почитать
- Ее рассылка Space Ambition на Substack для space фаундеров и space VC круто покрывает космонавтику, 11 тыс читателей
- На днях от Robert Zubrin вышла книга The New World on Mars: What We Can Create On The Red Planet
- Jeff Bezos дал крутое интервью для Lex Fridman’а. Выглядит словно они поделили сферы - Безос про суборбитальный космос и лунную базу, а Маск - про Марс
- Любимая фантастика Саши: Three Body Problem, Expanse, For All Mankind, Foundation
Peter Thiel выступил 1.5 ч. на Oxford Scruton Lectures про свою книгу Diversity Myth ! 1995 ! года, вел философ John Gray:
Книга
- Хочу обсудить, что тогда недопонимал. Написал в 27 лет с David Sacks (фаундер Yammer, SaaS VC Craft на $2 млрд). Сегодня книга выглядит и сбывшимся прогнозом, и стала еще актуальнее. 250 страниц амбиций “скажем властям истину”, e.g. Шекспира заменили адаптацией от Эме Сезара - это мультикультурно или уже антизападно?
- Diversity Myth - двоякая вещь. Это и что различия важны, но а тогда какая diversity нужна? (e.g. либертарианцы/консерваторы считают, что можно по-разному выглядеть, но мыслить одинаково). С др. стороны, термины diversity и multiculturalism очень уж размыты. А слишком большой фокус на woke (см саммари книги Hanania Origins of Woke) отвлекает нас от реально важного
1) Экономика: фокус на расе/полах/итп отвлекает от, бы сказали марксисты, классов
- Например, в UK культурно окрашенные дебаты против иммиграции. Но georgist’ы видят, что в Лондоне price sensitivity домов 2: спад спроса -1% -> цены -2%. Люди ОК к приезжим - они против инфляции аренды. И в США тоже. А я бы разрешил любую иммиграцию с одновременной свободой застройки / анти-zoning laws, но Elon раньше да Марса долетит… )
- Профессура в мире полевела (в Harvard 80%), т.к. им банально сложно делать семьи с такой инфляцией недвиги/generational inequity
2) Наука: что с прогрессом?
- Друг делал PhD у Bob Loughlin (Нобель по физике в 1998) и тот стал озвучивать в Stanford мнение, что наука сегодня стала fraud и кража госденег (из 50К статей по высокотемпературной сверхпроводимости только 25 шт заслуживают печати итп). Его выгнали, а его студентам не выдали PhD
- А если за 40 лет в теории струн ничего не сделали, то прочие науки совсем ерундой что-ли страдают? 50 лет наука стагнирует. Но без более ясного думания об этом, о недвиге, об уровне налогов - так и будем стагнировать
3) Религия: тут тоже не обсуждаем важные вещи
- Кстати, само появление Нового Завета - это же идея прогресса. Хотя там жесть: Каин убил братьев, и далее, типично для Библии, все от лица евреев - жертва, исход, итп - возвышение жертвенности. Ну что за woke’изм? Нам бы сильный мир, как у классиков, где жертвы не ноют и все, в неком смысле, healthy и robust - в природе же нет зла и морали, просто когти и клыки. Ницшевский гуманизм Ренессанса - это же про возврат нас обратно к nature
- Или взять какую-то из провальных идеологий XX века - коммунизм. Он, как и woke’изм, хочет бесконечно преследовать угнетателей. Вокизм это же просто ультра-христианство: кайтесь, словно за первородный грех, без права на прощение. Неохристианство, коммунизм, вокизм - они все геронтократичны, как, впрочем, и наш мир сегодня
Что делать?
Что-то с real estate?
- Когда фронтир освоения земель в США иссяк, то построили в XIX веке ЖД и стали застраиваться, исчерпали этот рост и в XX веке возник progressivism, а потом снова tech (авто + хайвэи) все оживили. Надо re-open frontier в real estate, удаленка же уже не требует концентрации людей в локациях, а по странам земли всюду хватает
- На западе 40 лет были бюджетные дефициты, но псевдо стабильность достигалась снижением ставок ЦБ в 0, и всем казалось, что 2010-ые с нами forever =)
Что-то с культурой?
- Культура прогресса “поплыла”: страны стали слишком risk averse, бюрократичны, все оч regulated, утонули в peer reviews научных статей итп
- Еще у людей страх tech, луддитство. Нельзя разочаровываться в науке. Кстати, космизм из СССР в 1920ые был super healthy
- В нашем мире постмодерна люди стали слишком циничны - как им думать о важных вопросах? О больших проектах?
Нужен прогресс в world of atoms
- А то живем в старых городах, ездим на метро построенном 100 (!) лет назад, и на айфонах ушли в VR эскапизм? А где АЭС, термояд итп?
- Универы и наука, в тч и из-за woke culture, стали догматичнее и даже запрещать скептицизм: типа антиваксинг плохо, нельзя ставить под сомнение global warming итп. Но наука же должна всегда бороться и против избыточного скептицизма, и избыточного догматизма
Steve Jurvetson из Future Ventures (вот ряд их сделок), владелец [видимо] первого Cybertruck (а первый экземпляр Tesla S он отдал в музей), дал интервью этому дяде:
Черты прорывных фаундеров?
- А вначале они часто и не очевидны. Да и я уже 25 лет пытаюсь понять. Они верят в себя, поэтому скромны. И редко это один чел - как минимум это тандем - из-за дополняющей cognitive diversity, e.g. экстраверт и интроверт. И даже Маск собирает команды. И причем Tesla - НЕ из топов автоиндустрии, а SpaceX - НЕ из авиакосмической отрасли
- Еще важно видение. И смелость. В последние лет 10 видение и смелость стали объединяться на масштабах уровня “откажемся от нефти” или “колонизируем солнечную систему”
- Когда я начинал VC, все клали только в софт, чипы и фарму. 25 лет назад было неочевидно, что компы и инет снесут телекомы, а потом и прочие отрасли. А сейчас подходы желающих изменить мир шире, чем когда-либо
Как работаешь с такими фаундерами?
- Ха, у всех VC свои обобщения, что же ведет к успеху. А я видел каких угодно и VC, и фаундеров. Так что учился скромности и не лезть в магию и красоту того, что делает фаундер. Просто я начинал во времена, когда у VC было мода загонять фаундеров в рамки, часто менять CEO. А я скорее ищу, с кем хочу запартнериться пожизненно, это анти-activist investing [на public markets]
- У меня не было опыта руководства командами, да и я понял, что был бы ужасный менеджер -> для фаундеров я просто коуч, confidante, ментор
Насколько твои увлечения связаны с инвест-тезисом? Большинство инвесторов интересуют только $, и это ОК. Но если и вы такой же, то будете как все - гоняться за быстрыми возможностями. А мы итерационно учимся вдолгую, чтобы знать глубже остальных любую сферу, прежде чем она становится overinvested. И лучшие фаундеры идут к нам менять мир, а $ - это просто побочный продукт [даже если в 50% случаев мы не угадали]
Как выбираешь сферы инвестиций? Мы стараемся искать компании, невиданные ранее, и одновременно смежные сферам на которые мы смотрели. E.g. Commonwealth Fusion - термояд, без радиации, и если через 2-3г достигнут отдачи 10x от затраченной энергии, то десятки тыс устройств приведут мир к отказу от угля. E.g. PlanetLabs ежедневно фоткает каждый кв. метр Земли. E.g. При наших детях появятся постоянные поселения на Марсе. А Starlink затащит в онлайн +3 млрд чел и вызовет невиданный ранее бум предпринимательства. А если полеты в космос подешевеют в 1000 раз?
А что про платформы типа AI, blockchain итп? Сейчас любая компания - это machine learning и deep learning. Это как 15 лет назад отрицать mobile. Или инет в 1999. Мы вступили в эпоху сложных, итерационных систем выше человеческого понимания, шаг от purposeful design & engineering к purposeful exploration. Умаляется роль людей, но такое уж будущее
Как tech поможет с ключевыми вызовами человечества? С одной стороны, нам важно инвестировать в демократизацию/доступность всего, от энергии и до синтеза мяса (через 100 лет животных убивать не будут), с другой стороны Silicon Valley и ее tech ускоряют неравенство
Как это фиксить?
- Делать общество справедливее. Т.е. поменять фундаментальную экономику tech бизнеса, где power laws, и несколько людей take all the spoils at fractal scale. И у стран так же. В качестве инструмента нам остается филантропия
- Есть корреляции как долго зарабатывал и насколько филантропичен. “I worked hard, I deserve to keep it for my family”. А в Silicon Valley кто за 2-3 г. сделал миллиарды - понимают, что просто повезло
Какое наследие оставишь?
- В нас есть желание символического бессмертия - вклад в человечество: арт, бизнес итп. Я помог успеху Tesla, SpaceX. А еще возможность моим детям расти и achieve - надеюсь, я потом это гордо вспомню
- Биологически мы как и 2000 лет назад, а технологически и культурно - эволюционируем, и каждый вносит вклад в аккумулирование полезных и истинных идей в цивилизации. Хочу внести сколько смогу. И, вероятно, наследие - это как мы поможем facilitate human flourishing, advancement and happiness для наибольшего числа людей
Про first principles thinking Илона Маска: по сути это просто НЕ домышлять, что любые имеющиеся сейчас в мире решения оптимальны, т.е. не важно, как делают другие
- Он по образованию физик (material sciences) и часто все сводит к ней. Ниже его формулировки и примеры + мои фантазии. Еще я копнул кейсы поглубже в видео (просто слайды)
Слова Маска
- Применять критическое мышление в одном направлении до предела/5 раз подряд вопрос why, чтобы найти most fundamental truths (или хотя бы приблизиться к ним) и уже от них строить все действия
- Изучать first principles через физику и математику. “Physics is the law, все остальное - рекомендации”. Физика = правила игры вселенной, а строить новое на основе этого = инжиниринг, и его спектр огромен, но изобретая что-то, важно опираться на физику, иначе это wishful thinking
- Людям легче мыслить аналогиями, а не first principles
Применение я вижу в 3 слоях реальности
1. Физический мир/world of atoms
2. Системы из множества агентов (экономика, страны, социум)
3. Изучение себя/своей психики
Примеры
Физический мир
- SpaceX: в 2003 Маск высчитал, что ракеты стоят в 50x дороже своих материалов (и назвал методику idiot index) -> решил сам их строить, иначе Марс не колонизировать
- Tesla: master plans for “sustainable energy for all of Earth” - #1 в 2006, #2, и актуальный #3: сколько надо % площади Земли, тераватт генерации и $, чтобы это засолвить. А начинали тоже с себестоимости аккумуляторов/idiot index
+
// Фантазии Вити
- Нарастающая скорость adoption выстреливших продуктов тк десятки лет растили покрытие инета и продавали всем девайсы
- Закон Мура/exponential compute уже 100 лет соблюдается, варьируя технологические уклады
- Продление жизни - супер сложно (десятки теорий старения без консенсуса). Т.к., с одной стороны, биосистемы сложно полностью замоделировать в силу т.н. computational irreducibility (не упростить из-за слишком большого комбинаторного пространства, которое эта система проходит), но с др. стороны - их проявленности часто механистичны, и такие паттерны можно изучать (все лекарства так открывают)
Системы из множества агентов
Они тоже подвержены феномену computational irreducibility + агенты обладают своей активностью/волей, но паттерны просматриваются
- Маск про Палестину: действия Израиля растят или уменьшают число тех, кого потом рекрутируют террористы, и поэтому надо было наоборот ответить максимально добро, а не геноцидом
- Free speech online/Twitter: можно дать полную свободу слова онлайн, но добавить crowdsource пометки к спорным постам (X community notes) и все будет ок
- Дефицит бюджета США не даёт NASA поднять расходы в разы, поэтому 8 лет назад запилили Starlink и прочие двойные (космос/Земля) технологии типа Boring Company и Hyperloop, чтобы и их tech развить для Марса, и из их прибылей строить 1000 (!) Starships
+
// Фантазии Вити
- Рид Хоффман говорил, что больше всего как VC заработал на штуках, связанных с "7 смертными грехами" - так уж люди биологически устроены
- Закредитованность экономик/leverage - Ray Dalio из Bridgewater изучал циклы сверхдержав за 500 лет и увидел, что они все (!) на пике могущества набирают избыточный долг и их валюты инфлируют
- Общественный запрос в социумах вытекает из всей предыдущей траектории данного социума, выливающейся в психоустановки и травмы каждого отдельного индивида
Изучение себя (это мои мысли, а Илон то ли autistic, то ли травмирован папой и чувства для него - слепая зона)
- Страхи, e.g. кейс AGI doomers: люди живые существа и за [якобы] рацио пугалками скрывается ряд био и психо феноменов (я собрал подборку) + раскладывать мнения людей на диапазоне всегда оч. полезно
- Быть винтиком капитализма vs. purpose/resonance with reality: Вселенная/эволюция фундаментально породила нас разными - наши нейромедиаторы вознаграждают нас за действия из нашей уникальной данности. Поэтому ее нужно изучать, сперва разгребая все наносное (+ что от социума) с психологами типа моей @julisache, чтобы контактировать с собой и жить в состоянии потока
А вы что поняли/открыли через first principles thinking?
David Deutsch громит effective altruism (EA) и effective accelerationism (e/acc) в подкасте у Lulie Tanett на 2ч. OpenAI шоу же вывело в массы инфо о EA + в их борде девочка из EA - ну такие заблуждения лучше знать 🙈
Дойч открыл квантовые вычисления + автор книги victorosyka/great-book-summary-deutsch-the-beginning-of-infinity-406ece8c3849">Beginning of Infinity что люди всегда в начале бесконечных знаний о вселенной
EA - философская концепция что можно делать филантропию эффективнее + больше социального блага для всех через 1) приоритизацию целей (рассчитывать эффекты, а не просто что симпатично celebrities) и 2) личный вклад (отдавать 10% своих доходов). Маск год назад твитил, что ему близки идеи лонгтермизма (мой конспект книги) представителя EA William MacAskill. SBF из FTX считал себя EA. В EA еще важно бояться existential risks, в тч от AGI
E/acc - культ анонимов типа этого (но выступал на Network State конфе), появился год назад. Подвид акселерационизма/технооптимизма в стиле Vinod Khosla или Marc Andreessen. Идея что вселенная растит свою энтропию через создание “машинок” по захвату свободной/структурированной энергии, ее использованию и выбросу в расщепленном виде во вселенную (в тч через биологическую жизнь, компании, страны), и типа нужно этому содействовать через прогресс tech и общества. Перекликается с русским космизмом, мой конспект книги Вернадского 80 лет назад
Дойч о EA
- Слишком общий подход. В charity нужно идти не во что-то общее и искать, как они фантазируют - якобы underserved causes у социальных благ, а просто в узкие решения каждой конкретной проблемы. E.g. малярия - просто купите людям противомоскитные сетки итп
- Они путаются. У них bias в сторону их страхов existential risks. Они все время отказывают людям в том, что в будущем появятся неизвестные сейчас способы решения проблем. Мальтус, лекарь маркизы Пампадур, правильно экстраполировал будущий рост населения, но почему-то отказал в такой экстраполяции прогрессу (механизация, селекция, удобрения). Paul Ehrlich, открыватель химиотерапии, тоже пугал “у вас нет будущего”
- Это оч фундаментально - мы потому и находимся (beginning of infinity) в начале бесконечного объема будущих знаний о вселенной, тк сейчас не можем даже обозначить, а что еще будет открыто
- Что еще фундаментально: прорывы в науке всегда не там, куда идет мейнстрим, а их делают люди, которым лично и иррационально интересно, что они делают. E.g. Andrew Wiles в 10 лет узнал о теореме Ферма 400-летней давности и жизнь потратил на ее (успешное) доказательство
- Так что участникам EA нужно не коммитить 10% своих доходов на правильные charities, а тратить их на самое интересное им самим - так бОльшие масштабы общего блага и создаются. И глубокий личный интерес - это единственное, чем я могу оправдать Eliezer Yudkowsky в его паранойе
- Если вдруг реально будет приближаться большой метеорит - люди проявят креативность, главную силу во вселенной, и что-то сделают
Дойч о e/acc
- Они же появилось как шутки над EA, “half meme movement” =)
- Ускорять энтропию через прогресс tech и мира? Что за суета, у нас же не война на выживание
- Энтропия - это просто irreversibility: снижающаяся с теч. времени вероятность, что какая-то термодинамическая система вдруг сама соберется обратно в такую же
- Я бы не объяснял термодинамикой появление жизни, слишком общо, может просто совпадение. Типа, эволюция “делая” репликаторы/первые с-мы размножения, просто “обнаружила”, что диссипативные репликаторы круче?
- Эволюция шла оч. неравномерно: бактерии быстро появились (300 млн лет), а потом вдруг эпоха фотосинтеза на 1 млрд лет, но это вообще-то создало кислородную атмосферу итп, а их теория это не объясняет
- Или еще: а почему тогда мелкий объем инфо вдруг контролирует бОльший объем инфо/энтропии? E.g. цены в экономике - это крохи по сравнению с массой инфо в био, и уж тем более в физических системах
- Культура фирм и стран - это вид [групповой] intelligence. Thermodynamic adaptation - тоже форма intelligence
- Рынки и конкуренция - круто для прогресса, тк это обмен инфо, variability, адаптация -> все на благо знаний
- Надо растить себе дальше знания о Вселенной и все
Мы с Юлей периодически обсуждаем, какие вещи являются важными механиками экологичности (для нас это самое главное, что может быть) в работе с психикой и в spirituality:
- Использование того, что “великий колосс нашей цивилизации”, (с) Тим Урбан, уже открыл к настоящему моменту вместо изобретения велосипедов. Пример: признает психотерапию и работу с внешним наблюдателем, а не абсолютизирует самостоятельные вещи (e.g. что все можно решить просто медитируя)
- Личная терапия и замечание и снижение своих подсознательных проекций и переносов на других людей. Пример: не восхищается токсичным Джорданом Питерсоном, а может разобрать его основные ценностные установки и biases/предвзятости
- Устойчивая личная проработанность. Яркий маркер: человек никогда публично не ноет и не, как это сейчас называют, “проявляет уязвимость”, а наоборот - красив в своем мужестве и столкновении с вызовами
- Open mindedness / широта взглядов / способность задавать открытые вопросы / использование спектра инструментов
- Не пытается все западно-материалистически или просто узко редуцировать, например, к якобы точным научным статьям из neuroscience: да даже в биологии (!) половину экспериментов не могут воспроизвести, а что уж тогда вообще говорить о бездонно сложной и computationally irreducible человеческой душе? =)
И
В качестве яркого примера экологичности вспоминается Леша Иванов. Мы оч давно знакомы (а еще я потом случайно узнал, что он когда-то встречался с герлфренд моего брата 🙈). Леша через призму коучинга и интегральных инструментов супер-изощренно работает, например, вот в таком направлении:
Видимо, мы становимся свидетелями эпохального освоения космического фронтира, по будущему эффекту на цивилизацию масштабнее, чем открытие когда-то новых континентов
И можно на этот тектонический сдвиг заэкспонироваться с чеком от $1 тыс на один стартап через ангельское коммьюнити на AngelList Beyond Earth, сфокусированное на spacetech:
- Топовые сделки с ведущими VC
- Глубокий due diligence (всестороннее изучение проектов, в deep tech это принципиально), многогранная увлеченная команда
- AngelList когда-то сделал Naval Ravikant как раз для вот такого совместного инвестирования, я когда-то постил его интересное интервью
Одна из основателей - Саша Видюк, она изначально физтех, но отвлекавшаяся на финансы, а потом все равно вернулась в жизнь из большего контакта со своей purpose/данностью. Я делал с Сашей весной вот это крутое интервью, что будет по 10 запусков Starship’ов в день (!) 20 лет подряд
а
Когда-то Саша проходила нашу с Юлей группу Soulmates Superheroes, где, собственно, и стала больше резонировать с реальностью и вот - разогналась на первую космическую скорость =)
Еще space контекста:
- Саша выпускает вдумчивую еженедельную рассылку на Substack на 11 тыс чел, где можно с разных сторон наблюдать как расцветает космическая индустрия. За счет этой рассылки они и запартнерились с самыми умными VC и фаундерами в space tech
- В запусках доминирует (и будет =) SpaceX, которая сегодня стоит $200 млрд (я так понимаю, наша Вселенная фундаментально как-то вознаграждает longtermism?). И оттуда куча народу валит строить уже свои собственные стартапы по космосу
- За 60 лет освоения космоса там побывали 700 космонавтов (1 чел/мес если усреднить за 60 лет), но теперь радикальное обрушение стоимости вывода килограмма груза на орбиту одним не семейным психом =) меняет все
- Редкое интервью с Jeff Bezos про его космические устремления - он тоже с детства об этом думал, "отвлекался на Amazon", но уже много лет вкладывает по $1 миллиарду в год в свою Blue Origin. Он пока фокусируется на Луне
- Про оч макро и first principles взгляд на сегодняшнее освоение космоса я постил на день космонавтики крутой отчет от Chamath Palihapatiya
Концептуальное интервью Palmer Luckey (продал Fb Oculus VR и с 2017 строит Anduril - OS типа Android/связующий layer для всей амерской оборонки):
Big ideas
- Мир странно устроен: не работают над дешевым ($1/галлон) synthetic бензином/biofuels. Можно улавливать CO2 из воздуха, расщеплять воду на H и O - и юзать во всей инфраструктуре что уже есть, особенно промышленности, и экологично. Компании плохи в technical decisions + дюжина правительств закомиттились на не оптимальный продуктовый путь -> в EV, батареи, инфру идут сотни млрд $
- Back to the future: в 50ые Минэнерго США верили в АЭС будущее, а сейчас и узко мыслят, и оч politically driven/дебаты между партиями. Фокус чисто на статус кво, big ideas нет, e.g. зебры и носороги в Луизиану
- Не надо раздавать займы на всеобщее высшее образование - тинейджеры же не оч шарят зачем им ancient French theater degree итп - пусть такое сами платят. И нам надо в 100x больше Thiel Fellowships (но не как SBF ))
Изобретать из принципов
- См. видео Bret Victor в 2012
- У нас собрались люди, кто считает, что а) по миру у конкурентов мало вижна и б) бигтехи не решают вопросы национального значения, а тем более democracy в целом
- Если шарите в сфере - быстрый итерационный процесс ОК. Если нет - идите назад и см. как все люди решали эту проблему, а не только recent times - спустя время давно отвергнутое вдруг может уже иметь решения
- Верьте экспертам про проблемы, но не про способы решения
Мне важен impact
- Для VR end-game - это массовость, а я увлекся как хобби когда VR пилили только военные и лабы. Меня правда выгнали и стали более commercially focused. Так что Anduril строю как potentially giant company - так смогу повлиять на мир
- Создать бизнес vs. impact - это разное. Я бы хотел и дальше VR, но impact.. Выбирал засолвить obesity, реформа частных тюрем (трабла в рецидивистах), и Anduril
- Out of the box thinkers редкие люди, и еще они избегают скучные корпорации, big госведомства и их медлительность. Я интерфейс между ними. Хакеры (по YC) же лучше сделают open source, чем будут неблагодарно убеждать обычных людей в обычных институциях/школах/госполитике. Успех Anduril: 50% выстроить отношения, 50% - tech
Конкуренция
- Стартапам надо не смотреть “как Oracle выглядит сейчас”, а на несколько шагов вперед, как у них будет через пару лет. И при этом продуктово выглядеть похоже на них, но внутри быть from 0to1, чтобы распространяться мимикрируя как микроб, но когда те заметят - уже не смогли из своего legacy вас скопировать
- Нет FDA №2, Пентагон №2, так как в NASA до SpaceX - все делали по cost plus pricing -> супер вредные стимулы для частных подрядчиков, nothing reusable итп + бюрократы избегают стартапы в пользу Boeing
Anduril
- Наша миссия на слайде 1: делать выручку в $1 млрд, сберегая налогоплательщикам $10 млрд - убираем все эти ненужные legacy. Сейчас продажи сотни млн
- Мы ищем что плохо решается, а с хорошими фирмами зачем конкурировать? Customer pains должны быть в приоритетах и Пентагона (будут вообще заниматься этим), и Конгресса (дадут $ на это)
- Мы AI company с 1го дня, но тогда все в 100x меньше шли в AI, а сегодня это уже не differentiator
Китай
- Они застраивают Африку мостами, портами, а также продают свои системы и оружие, но реально они для борьбы с оппозициями (камеры SenseTime, вышки сотовой связи) - перестанешь слушать Китай - отключат и твоя власть зашатается
- US надо 1 млрд чел. вдолгую конкурировать с China, а иначе средний американец должен быть в 10x более impactful чем китаец?
- Тайвань важен миру из-за чипов, так бы США не бодались на пороге конфликта с ядерной державой
Прочее
- Критика продаж Apple Vision Pro - глупо, это же Pro, не массмаркет. Но через неск. лет экраны подешевеют до $100, а пока адопшн enterprise + разрабами
- Совет 1000 студентам? Что за мечты стать Джобсом, он уникум. Больше слушать что люди о вас думают, и честно понимая свои слабости, можно сделать команду где все покрывают силы и слабости друг друга
- Благодарен Тилю что в 19 лет дал $ на Oculus и жене что 15 лет ждала предложения (знакомы с 15 лет)
Даже очень сильные и одаренные люди могут сталкиваться с кризисами, проблемами внутри себя или вопросами, которые в одиночку решить может быть сложно. Наша 11-ая группа по личностному развитию Soulmates Superheroes с дипломированным психологом (и женой =) @julisache стартует 3 июля (по средам)
Это вертикальное развитие/спиральная динамика (Кук-Гройтер, Торберт, Бек), спектр фронтирных инструментов личностного и духовного развития, интегральные взгляды на сложный и взаимосвязанный мир (Уилбер, Дойч, Тегмарк)
7 созвонов в zoom 1 раз в неделю:
1. Структурированные рацио frameworks что цивилизация открыла про личностное развитие
2. Теплая уютная группа единомышленников для совместных практик и обсуждений в бережной среде
3. Трипы в глубины своего подсознания через ЭОТ (эмоционально-образная терапия) чтобы трансформировать свои внутренние блоки, сценарии и ограничения в excitement, ресурсы и энергию
Для кого? Для фаундеров, кто хочет стать фаундером, кому нужно вывести бизнес на новый уровень/создать новый, для амбициозных профессионалов, кто ищет доверительный круг для глубокого общения, кому нужно обнаружить новые грани себя
Детали: http://bit.ly/3ieEI3N
Для участия пишите в тг @julisache
Часть 2 Stanford AI Index Report 2024 (а часть 1 тут):
Гл 4: Экономика
Jobs
- В 2023 1.6% всех вакансий в US - про AI, в EU 1% уже лет 5. 50% из них - ML. В 2023 2/3 вакансий про Gen AI, 1/4 LLM
- В US в 1.7-2x выше ЗП чем по миру все роли (дизайн, кодеры, продакты, топы)
Бизнес
- 400 фирм из Fortune500 упоминали AI. 55% фирм в US юзают AI (в 2017 20%), по миру 45%. Юзкейсы: сustomers (support, acquisition, sales) + опыты с new products. Финтехи и tech больше всех. В опросе McKinsey: 42% фирм снизили с AI косты, 59% растят выручку
- GenAI: 30% фирм по миру тестят (в US 40%) - драфты текстов, картинки
- Каждый 2ой разраб в мире юзает GitHub Copilot (60% писать код, 50% отладка, 30% документация), но нужно все очень проверять. У кодеров скорость +50%, консалтеры +25% (качество +40%), юристы +30%. У сотрудников низкой квалификации тоже прирост
- McKinsey верят, что AI на несколько % нарастит выручку всех отраслей, а занятость в сервисных, supply chain, HR, manufacturing - снизится. ВВП мира добавит +1.5% за 10 лет
Инвестиции
- В 2023 US $67 млрд вложено в AI (8x к Китаю), и еще $30 млрд прочий мир. В 2023 1800 AI стартапов по миру (900 US, 122 Китай, 300 EU) подняли по $32M в среднем. В $ - 2ой год падение
- GenAI вложено $3 млрд в 2022, $24 в 2023. AI M&A на $80 млрд в US ($170 в 2021)
- За 10 лет в AI стартапы вложили US $330 млрд, Китай 100, EU 50, Израиль 13 - 5500 шт стартапов US, 1400 China, 1500 EU
Роботизация
- На 2022 в мире было 3.9 млн промышленных роботов (1.5 в 2014). В 2023 установили 550К (2014 200К): 1/3 автозаводы, 1/3 заводы электроники. Каждый 2ой робот - в Китае, по 10% Jp и US, по 5% Корея и Germ
- 50% роботов - манипуляторы. 10% - коллаборативные с другими роботами. Разнообразие растет
- НЕ промышленные: больше всего в логистике, в разы меньше: медицина, уборка, агро
Гл 5: Наука и медицина
- Наука: AlphaDev для алгоритмов через RL, FlexiCubes генерация 3d моделей без ошибок, Synbot софт+робот создания органических молекул, GraphCast точнее прогноз погоды, GNoME/DeepMind для материалов - 2 млн структур изучено, 48К стабильных кристаллов, 800 реализовали, Flood Forecasting на 20% точнее про потопы
- Медицина: SynthSR МРТ сканы мозга с точностью 80-99%, CPIS рано детектить нейродегенеративные заболевания по протеинам, EVEscape предсказание пандемий, AlphaMissence/DeepMind тоже, Human Pangenome Reference full genome и для малых этногрупп
- Врачи: GPT4 Medprompt 90% правильно в MedQA (3x с 2019), от академии MediTron-70B точность 70%
- Диагностика: CoDoC в маммографии достигли уровня врачей и 3x меньше времени. Китай PANDA оч рано рак поджелудочной
- FDA одобрили 139 AI медустройств (45x с 2012), из них 120 - рентген
Гл 6: Образование
- 70% CS (computer science) PhD идут работать в индустрию (2011 40%). В US бакалавров в CS 35К, магистров 15К, 2К PhD. Иностранцев 15% в BA, 50% MA, 66% PhD. 200К школьников сдавали “ЕГЭ” по CS в US
- В US всего 8К CS профессоров. 50% штатов требуют изучать CS в школах. 60% школ юзают ChatGPT, в ВУЗах 80% людей
- По миру с 2017 число универских программ по AI +3x. UK и Germany выпускают больше всего CS/AI/IT бакалавров (50К, с 2012 г рост 2x), а прочая EU еще 50к. Магистров также, а PhD 3К
Гл 7: Законы
- В US 25 AI законов (1 в 2016), в 2023 обсуждали 181 шт. 21 ведомство контролит. В EU приняли AI Act. В Китае ограничили synthesis/fakes. По миру принимали 25 законов/год на 128 стран. 80 стран по миру обсуждали AI законы
- С 2017 75 стран озвучили AI стратегии. В US гостраты на AI science $2 млрд + столько же от Минобороны
Гл 8: Diversity
- 80% работников в AI/PhD/преподов - мужчины. На конфе NeurIPS женщин 4%
- Студенты: 45% whites, 35% Asians. В CS 25% женщин студентов и 0.1% non-binary. В EU схоже
- Я чуть напрягся читать/см мой пост про вокизм
Гл 9: Социум
- 63% в US знают ChatGPT, 30% - use weekly. 60% зумеров верят AI улучшит entertainment
- 66% людей в US ждут big changes от AI за 5 лет, но Запад НЕ позитивен (декаданс там давно): 52% нервничают, а всего 37% верят, что AI улучшит их jobs
- В Китае 78% людей верят, что AI сильно улучшит мир
Что-то я даже и не знаю как думать, перевариваю: в конгрессе США вчера представили доклад на 50 страниц о том, как Китай ведет нео-опиумную войну с Западом?
- В США сейчас 70 тыс чел в год умирает от фентанила = словно ежедневно разбивается один Боинг. Это опиат в 50 раз сильнее героина -> им оч легко передознуться (мой любимый Lil Peep итп). 2.6 млн детей растут в семьях где его употребляют
- Китай производит прекурсоры (компоненты из которых делается конечный наркотик) для фентанила, и они НЕ имеют больше никакого легального применения, и экспортирует наркокартелям по всему миру. Мексика делает конечный продукт и продает в США (прибыль картелей от фентанила оценивается в 20 млрд $ в год)
- Китай полностью запрещает и прекурсоры, и его употребление у себя, но прекурсоры продаются онлайн - 30 тыс объявлений на Alibaba итп (можно оплатить биткойном) от 2000 компаний (но которые имеют общие адреса и контакты), разрешает их экспорт (и экспорт разных готовых аналогов фентанила), и даже дает налоговые и экспортные вычеты этим производствам (!) - расследователи нашли публичные экспортные данные с 2018 г. Главы китайских провинций посещают эти производства и благодарят за вклад в местные экономики (!)
- Китай отказывается сотрудничать с правоохранительными органами других стран по этому вопросу
- 80% мирового производства прекурсоров амфетамина, кстати, тоже делается в Китае. Также, все синтетические каннабиноиды мира производятся в Китае
- Китайское тюремное ведомство владеет некоторыми такими производствами (!)
- Также, Китай поставляет nitazenes и xylazines, и скорые не могут спасти людей налоксоном (от героина и метадона помогает, от них и фентанила - нет). А еще 3-methylfentanyl в 6000 раз сильнее морфина, является, по сути, химическим оружием (использовался в 2002 г в операции мюзикла Норд-Ост)
- В США изымают 0.4 млрд смертельных доз фентанила в год
- Китай за своим great chinese firewall запрещает в поиске 66 тыс слов и словосочетаний (политика, терроризм, порно, пирамиды, гэмблинг, нарушение прав итп), но никак не ограничивает любые ключевые слова про экспорт фентанила и его прекурсоров
- Пишут, что компартия помогает потом наркокартелям отмывать эти деньги (!). Общий отток капитала из Китая с 2006 г = $3.8 трлн
- Нашли, что китайские военные стратеги Qiao Liang и Wang Xiangsui 20 лет назад (!) в своей книге предлагали как часть гибридной войны drug warfare that cause disasters in other countries and make huge profits
- Формально, в 2018 году Китай и США заключили соглашение о запрете оборота фентанила в Китае, но оставили все возможности химическим компаниям свободно экспортировать его и прекурсоры, и вот что мы имеем на сегодняшний день
- Обсуждаются предложения по международной кооперации в этой связи, в тч борьба с отмыванием китайскими торговыми брокерами прибылей наркокартелей
//
Питер Тиль еще 10 лет назад объявил борьбу с авторитарным Китаем как стратегическую задачу в своей жизни. И с тех пор такие вот вещи реально произошли…
Это какая-то что-ли месть за опиумные войны и обогащение на них Запада? Или просто история циклична и разворачивается обратно? Или что? Мир, я тебя не понимаю.. Какая нахрен longevity…
#Юля
В Soulmates Superheroes (ближайшая группа начнется 18 апреля) мы исследуем феномен ачиверства, но не через невроз и травмы, а через ресурс, который есть в каждом из нас. И этот ресурс - данность, врученная нам Вселенной - он гораздо больше, чем мы привыкли о себе думать
Процесс строится с 2 ракурсов:
- Рацио: человечество открыло некоторые поразительные вещи
- Через подсознание: эмоционально-образные трипы в себя позволяют извлечь, полюбоваться и присвоить магию своей уникальности
Также, люди эффективнее развиваются с другими, находясь в совместном поле интересных глубоких личностей. Делиться и впитывать “как у других?”, наблюдать в динамике их траектории
Делюсь отзывами какой опыт прожили участники. Как психологу мне безумно приятно ❤️❤️ какая глубина процесса достигается участниками
Подробности о группе - тут, для записи - пишите мне @julisache
Женя Кузнецов, футуролог и VC, неожиданно крупным взглядом разобрал мир, так понятнее:
“Похороны” Фукуямы
- Политолог, в 1992 провозгласил “конец истории”: что либеральная демократия победила прочие модели
- Сейчас идем в некий переходный период после долгого цикла адаптации к компам и инету. Шел с 80ых и поменял социальную ткань, экономику, культуру, мировую торговлю
- Никто толком не понимает, все осваивают
Технологии
- Миру нужно учиться быть с AI. Общество так устроено, что найденные эффективные решения консервируются (в социально-экономическом плане, бигтехами + властями) чтобы извлекать ренту
- И нужно накопление пула технологий, чтобы дисраптнуть этот прошлый уклад. E.g. Дроны известны уже лет 10, но их боялись, а теперь к ним совсем другое внимание. Или робототранспорт/selfdriving. Теперь этических тормозов будет меньше, а иначе тебя опередят конкуренты
- 20 лет назад по этическим причинам запретили клонирование, а вот с генной терапией уже не могут себе позволить: вдруг засолвит онко или аутоимунные болезни? И пока США/EU спорят об этике, Китай рожает генетически модифицированных детей (близняшкам без ВИЧ уже 5 лет)
Оксфордский комсомол и технооптимисты (Женя так называет EA/effective altruists и e/acc)
- Философский кружок по EA из Оксфорда раскрутился на панике экзистенциальных угроз человечеству/собрал иконостас звезд пугать про AI и распространил влияние не только на Silicon Valley (10 бигтехов обслуживают треть населения мира), но и Вашингтон - законы про AI итп. И e/acc (Mark Andreessen, Vinod Khosla итп) - это ответ на EA социализм?
- Идея национальных государств будет челленджиться 1 млрд чел, живущих в экосистеме бигтехов. Но мир когда-то тоже долго, 100 лет, привыкал к переходу от церковных концессий к национальным государствам
Мир - это состязание идей
- Беда не тогда, когда не можешь что-то повторить, а когда ты не можешь понять, что они вообще делают. Есть 2 группы мегагородов, кто понимают, что происходит: SF, Техас, NYC и Гонконг, Шэньчжэнь, Шанхай, Пекин
- 20 лет назад цель стать межпланетной цивилизацией вызывала усмешки, а сегодня Starlink уже перевернул мировую коммуникацию
- Смена укладов раньше занимала 2-3 поколения, а сейчас одно. Мы до многого доживем/увидим: все эти биотехи, выращивание органов в космосе, deeptech итп
- Раньше были метрополии, колонии, периферия, а сейчас узкие кластеры на миллионы людей ведут в будущее страны целиком
Регионы
- В США суть противостояния демократов и республиканцев в том, что первые за иммигрантов как рабочие руки и лояльный им электорат, а республиканцев они раздражают. Маск за Трампа т.к. считает, что США нужна массовая роботизация. В Корее и Сингапуре по 1 роботу на 10 рабочих (Япония и Германия уже не лидеры, 1 на 25), в Амазоне 1 робот на 2 работников - т.е. США готовы к взрывной роботизации, проблема рабочих рук будет снята с повестки
- EU и US могут показаться схожими, но нет - см. известный GDPR закон, ограничивающий роль US бигтехов в EU. И аналогично - проблема AI законов в EU - что компаниям США придется с ними считаться
- Китай технологически челленджит и US, и EU. Индия подтянется и будет глобальным актором, но если erofeev.yury/chinese-solar-panels-are-65-cheaper-than-those-made-in-the-usa-870d4f2837cd">Китай за энергопереход и солнечными батареями заменил рухнувший сектор недвиги, то Индия говорит: дайте триллионы $, тогда сделаем энергопереход
Нестабильность
- Прочие игроки - все же суб-игроки. Кстати, в Израиле заваруха началась через месяц после анонса, что они с саудитами готовят огромный договор сотрудничества по стройке “цифрового Ближнего Востока”
- Будет поиск новых правил мировой игры. Некая глобальная гибридная война - способ затормозить взрывной рост tech, сделать мир более готовым к новому. Капитализм когда-то тоже не вписывался в монархическую Европу, поэтому Наполеону “надо было пройтись” по монархиям с конституцией
Поколения
- Власть у бумеров и они против нового, а передавать ее будут, видимо, сразу миллениалам. Но те пока сами не оч. понимают, что именно хотят - EA и e/acc - наборы фантастических идей - будут проходить проверку боем, и так и появятся новые глобальные правила игры
Jeff Bezos / Amazon дал Lex Fridman редкое интервью про космос, подсказала Саша Видюк из наших групп Soulmates Superheroes в интервью про колонизацию Марса:
Детство
- Дед на ранчо все делал сам: лечил коров, чинил бульдозеры - автономный подход повлиял на меня
- Тогда была лунная программа, 2% ВВП США/год, успех человечества уровня пирамид Хеопса, а фон Браун сказал “со словом невозможно теперь осторожнее”
- Изучал в Принстоне теоретическую физику, увидел людей с совсем иным мозгом, перетек в программирование
- Есть 1000 способов быть умным, встречая людей - ищу в чем они умны. Про себя понял - я изобретатель, правильная интуиция (чтобы первой критикой не замочить что-то ценное)
Blue Origin
- Мой стартап с 2000, 11 тыс чел, название - что из космоса Земля голубая, первым увидел Гагарин. А тяжелую ракету назвали New Glenn в честь первого космонавта США, тот за неделю до смерти письмо Безосу прислал, теперь висит в рамке
- В солнечной системе могут жить 1 трлн людей, +1000 Моцартов и Эйнштейнов, на гигантских станциях - цилиндры физика О’Нила из лунных материалов, вращаются для гравитации. Я столько не проживу, чтобы увидеть, но строю туда дорогу
- Выигрыш от Amazon кладу в стройку space инфраструктуры для следующего поколения, жаль воспримут как должное, типа наших user reviews и 1-click shopping
- Земля удивляет уникальностью и экосистемой (мы променяли ее на сверхулучшение жизни технологиями). Главная метрика прогресса - энергия на 1 душу, в космосе ее безгранично
- Blue Ring - спутник на 3 тонны груза на геостационарную орбиту или у Луны. Там compute, стойкий к радиации, можете делать что хотите как в AWS
- Когда в 2021 летал с братом на 100 км на New Shepard, мама еле отпустила. Но мы в систему спасения вложили сил больше, чем в корабль. Полюбил невесомость
New Glenn
- Ракета в 50% тяги Saturn V, 45т груза на низкую орбиту, смесь метан+кислород (СССР придумали), в 2024 запуск
- У ракет чем они больше - тем эффективнее (а приборы итп - нет), но и в производстве это жесть: инфраструктура, размеры станков, скорости процессов
- С 60ых все не особо поменялось, но стали супер крепко сваривать. Мы и просто снижаем цену - откроет всем фронтир/Golden Age, и идем к многоразовости
Луна
- Mark1 везет 3 тонны на Луну и не возвращается. Строим Mark2 в рамках лунной программы NASA Artemis на $93 млрд, он повезет людей
- Вдолгую как с Луны возвращаться? Есть реголит с кислородом и лед для водорода, а солнечные батареи дадут энергию
- Я туда не полечу, при моей жизни это будет все же для профи космонавтов
- Космос велик, жду за нами и SpaceX еще пяток сопоставимых бизнесов
- Маск? Ты его лучше меня знаешь, а я только публичный имидж, так людей не оценишь. Но мы схоже мыслим
Amazon
- Управляю по 14 принципам. Пару лет назад ушел с CEO, чтобы все ускорить в Blue Origin, чувство срочности
- Есть two-way doors решения, где можно вернуться и сделать иначе, без последствий. Бизнес иерархичен, не нужно все решения нести топам и слишком замедлять. Большинство решений - НЕ выборы уровня “запускать ли Amazon Prime?”
- Люблю четкие text docs законченными предложениями вместо слайдов с буллетами. Полчаса сидим молча читаем (заранее же никто) 6 страниц memo (а писать их могли 2 недели) и далее беспорядочная дискуссии -> так находим лучшие ответы
- Вымотать другого - не поиск истин. Компромиссы - тоже. Истины часто некомфортны или анекдотичны или из интуиции людей. На митингах я выступаю в конце, чтобы никто не промолчал, оглядываясь на мои взгляды
Продуктивность
- Плавно начинаю день, кофе, жена, фитнесс почти ежедневно: 30 мин кардио, 45 тяжести - бесит, зато больше сил вдолгую
- Жесткого календаря нет
- Стараюсь обновляться и перерождаться, “every day is day one": решать что делать без ловушек, кто и что я был раньше. Прочь любую самосогласованность
- Анти инерция. Не застревать в метриках, они же устаревают
Будущее
- Миру нужно осваивать думание вдолгую: что у решений долгосрочные последствия. А-ля проект 10,000-Year Clock в Техасе с 80ых
- Люди останутся, страны - нет
- Мне 59, смерти уже не боюсь, но хочу пожить максимально здоровым
Sam Altman дал вчера интервью #2 Lex Fridman на 2 часа (а #1 было год назад):
New commodity
- Процессоры к 2030 станут валютой будущего, самой ценной
- Путь к AGI станет в этом плане гигантской борьбой за власть
- Нужно оч много energy (а АЭС вдруг на стопе, нужно возвращать, ну и термояд). Да, спрос на процы в смартфонах не вырастет 10x на те же 8 млрд населения, но в облаке AI - будет как спрос на энергию - подешевеет - спрос на AI вырастет в десятки раз
Осенняя драма
- Я оч стрессанул, не хочу вспоминать, вытесняю. Помню много слов любви и поддержки - словно эпитафию при жизни прочел
- В целом стану меньше людям доверять, а раньше я был анти-циничен
- Хорошо, что случилось - в будущем все равно было бы -> будем готовы. Борд НКО - это все же конфликт интересов + состав людей нарастим + нужны кто технически шарят
- Ilya Sutskever пусть сам про себя говорит. Молчание - это медиа стратегия, кстати. Хочу с ним до конца карьеры проработать, он же думает на 10 лет вперед из first principles
Иск Маска
- Иск не серьезен + когда мы начинали ничего же не было как сейчас. Но стартапы лучше не делать как НКО
- Я рад, что Маск в гонке вооружений по AI, мир станет лучше. Хотя да - у нас утечки случаются + боремся со шпионажем (отказался называть страны)
- Надеюсь мы будем опять дружить, он супер ценный для мира
- А еще он давно в фокусе хейтеров, как теперь OpenAI )
Едем по экспоненте
- Релизимся поэтапно (хотя могли бы v.3.51, 3.52 - внутри GPT4 200 разных модулей, все крутим), чтобы мир адаптировался/привыкал - люди же далеки от экспонент и Курцвейла. Что-то большое в этом году выкатим, и я НЕ говорю GPT5
- Размер context window токенов на входе не всем нужен, но кому-то - всю жизнь запихать туда захочется?
- Видео-генератор SORA по факту построила 3d модель мира, на 2d данных, вот в чем прорыв. Данные где мы брали? Секрет.. Возмущение художников понятно, но экономика же всегда апгрейдится - от Spotify же авторы получают свои отчисления, думаю с AI придем тоже. Раньше все испугались появления фотоаппаротов, но творчество же наоборот улучшилось. И кстати GenAI не делает конкретные лица, а неких generic faces
- Молодежь смелее экспериментируют с ChatGPT. А кому важно 0 глюков - ну ОК, будут делать факт-чекинг
- Как связать и LLM и поисковые запросы - пока никто не знает. Privacy: кому важно - будут не загружать на сервисы секретную инфо
- Над гуманоидными роботами работаем, ждите
Бизнес
- Open vs. closed - в мире будет как и в прочем софте - и open source, и мы: с т.зр. нащупывания продуктов и бизнес-моделей с окупаемостью частичная/высокая закрытость нужна
- Google Gemini? Да не строим мы конкурента поиску.. Что-то новое, в мире и так перегрузка рекламы (хотя Гугл из баннеров сделал текст - это оч приятным было)
- Я в YCombinator как CEO поверхностно следил за кучей отраслей и видел стыки и пересечения, а теперь нет - я супер глубоко погружен в одну
- В долине компании оч polarized in culture wars, а мы - нет
AGI
- Раньше любил поспекулировать, но определений нет + они меняются: вот Turing’у ChatGPT показали бы - он бы был вынужден апгрейдить свое определение AGI..
- Я бы у AGI спрашивал “расскажи мне единую теорию физики” итп - ведь реальный AGI ускорит скорость научных открытий. Экономический рост строится принципиально только на научном прогрессе..
- AGI позволит людям лучше понять свою intelligence
Инопланетяне
- Я нахожу парадокс Ферми оч. загадочным (что в космосе нет следов цивилизаций, хотя только в нашей галактике 100 млрд звезд). Какое тогда будущее у нашей цивилизации? За короткое время уже так накосячили.. Но в целом - люди very inspiring
- Может AGI будет распределенным? Мы как люди генетически как прадедушки, но уже совершенно другие + никто не может сделать iPhone в одиночку - цивилизация очень коллективная
Прочее
- Думаешь о смерти/боишься? В целом буду оч благодарен for my life, в интересное время живем
- Lex (не Sam) поедет на несколько недель в джунгли Амазонки любоваться опасной machinery природы + пробовать аяваску
Погружался в тему longevity/долголетия:
- Червям продлили жизнь в 2 раза в 1993 и в 5 в 2020 (т.е. превысили т.н. видовой предел), мышам на 10-17% (Aubrey de Grey сейчас ведет эксперимент), людям - пока нет
- Отрасль считает, что за 10-25 лет жизнь людям продлят на 6-18 лет, а может и видовой предел повысят. На уровне популяции за пределами Африки мир продолжит стареть
- Появилось много deep tech (research, а не как в айти) стартапов в этой сфере
- Старение сейчас в стадии науки (ищут теории, десятки направлений, ничего непонятно), а не инженерии как софт или SpaceX (где эффекты давно открыты и идет их масштабирование)
- Сложность организмов и их размерность - десятки тыс. генов и десятки триллионов молекулярных машинок (наших клеток) - зашкаливает. Но фундаменталисты считают, что если сперматозоиды и яйцеклетки уже миллиард лет жизни сбрасывают возраст, то может и для нас можно?
- См. в PDF мои слайды - тренды, лидеры/progresspunks, nonprofits, DAO, VC, стартапы, наука, ссылки для углубления
Юникорны юникорнами, но многие фаундеры получают супер материально денег - миллионы $ - даже при мелком по меркам VC выходе. А еще в tech можно делать и всякие дивидендные бизнесы, без прицела на капитализацию вообще
С зарубежной выручкой в голову приходят:
- Uploadcare на днях экзитнули - начали в 2011, 30 чел, выручка (?) $1.3 млн (?), выход тогда что, $7-10 млн? Инвестиций $3 млн - т.е. а-ля пол-компании осталось у фаундеров
- Jetlore 2011 года от Садикова PayPal за $16 млн купили
- Дима Пушкарев продал Moleculo компании IIlumina, а потом ClusterK компании Амазон
- Виталий Гончарук после 11 лет продал Augmented Pixels компании Qualcomm
- Папа Виталика Бутерина 11 лет пилил и продал WildApricot - community management для 20 тыс nonprofits
- Кондрашов спустя 13 лет продал без exit’а какую-то часть своих акций по оценке $200 млн и пилит quantitative VC вместе со Сторонским из Revolut
итп
С выручкой в РФ:
- ZakaZaka куплен MailRu/Delivery Club за $20 млн
- Яндекс Еда появилась покупкой FoodFox за десяток млн $, Макс Фирсов потом ушел пилить агрегатор брендов на Амазоне
- Segmento купили в районе $15-20 млн
- Flocktory Ильи Айзена купили Qiwi в районе $10-15 млн
- Cloudpayments в районе $6-8 млн поглотили
- ProfiRu купили Zoon
- WebinarRu появился в 2008, ангелы вложили десятки тыс $ и только в 2014 привлекли $7 млн (т.е. 1/3 компании у инвесторов), а купили в 2023 (т.е. 15 лет спустя) за $20 млн - фаундеры получили, вероятно, половину, т.к. у VC скорее всего были т.н. liquidation preferences
- RealWeb, чуть ни тыща человек штат, продался, мне кажется, в десяток раз дешевле, чем если бы за рубежом работали
итд итп
Есть еще чисто дивидендные бизнесы, которые и не привлекали (или почти не привлекали) инвестиции, и не планируют продаваться:
- Бухманам/Playrix Forbes насчитали $2.5 млрд выручки в год
- Братья Еремеевы, выходцы из CPA/первопроходцев трафик-арбитража, делают пару десятков разных adtech’ов и fintech’ов
- Xsolla, платежка для игр с 2005 от Агапитова (это который в 2021-ом увольнял по расчетам AI), штат 800 чел и выручка $100 млн
- amoCRM, Bitrix, Kaspersky, ESET NOD Чачавы, Abbyy, Admitad итд итп
- [Еще, наверное, SeoPult - привлекли $16 млн от ITech в 2012 и вернули инвестиции, оч. нетипично для стартапов - дивидендами]
- Работа наемно в дивидендных бизнесах обычно означает, что там максимум бонусы дают (если дают), никакого участия в прибыли или опционов
А еще бывают и серые/черные, а значит заведомо непродаваемые дивидендные истории типа:
- BestchangeRu - с 2008 года гигантский, многомиллиардный маркетплейс инфо о крипто-обменниках по СНГ
- Всякие онлайн-казино, которых продвигают и топ1 инфлюенсеры, типа иконы лудоманов Мeллстрoя, или теперь еще и топ-рэперы взялись недавно за такое
- Маркетплейсы веществ - их обычно самые фрик-блогеры рекламируют итп
А VC, к сожалению, зарабатывают доходность только на реально больших выходах, отбивающих им и кучу failures в портфеле, и dilution/размытие за кучу раундов
- Экономика выходов для фондов примерно такая (чаще скорее одна компания возвращает 2-3-4-5x портфеля фонда целиком, а не несколько компаний по 1x на весь фонд):
1) Зашли на seed по оценке $3 млн 10-15 лет назад, или, к сожалению, $10-15 млн как сейчас, или на Series A по оценке $20-30 млн
2) Каждый 5-ый стартап доедет от Series A до Series B, т.е. будет оценен в $100 млн при выручке в десяток млн $
3) Из Series B каждый 10ый становится юникорном
4) Но супер-большие выходы теперь, а не как в 2000-ые, надо еще и оч долго ждать. 1500 юникорнов стоимостью $5 трлн, которых инвесторы придержали (спасибо Юрию Мильнеру за эту трансформацию отрасли когда-то) и им из-за их масштаба скорее на IPO надо, нежели на M&A, а это окошко открывается раз в 5 лет
Размытие долей и фаундеров, и ранних инвесторов:
- Каждый раунд в среднем минус 15%, а их немало - A, B, C, D, E, F…
- И еще опционный пул в среднем ~20% на юникорн раздают
- Тогда если все перемножить = 0.8*0.8*0.85*0.85*0.9*0.9 * 0.8 = 0.3 <-- то есть доля фаундеров уменьшится к IPO в 3-4 раза
24 января мы с психологом @julisache набираем 8-ую группу по личностному развитию Soulmates Superheroes
Это вертикальное развитие/спиральная динамика (Кук-Гройтер, Торберт и Бек), спектр инструментов личностного развития, интегральные взгляды на мир (Уилбер, Дойч, Тегмарк). Пройдет в виде 7 zoom созвонов раз в неделю:
1. Структурированные рацио frameworks что цивилизация уже знает про личностное + духовное развитие
2. Теплая уютная группа единомышленников для групповых практик и обсуждений в бережной среде
3. Трипы в свое подсознание через ЭОТ, эмоционально-образную терапию
Подробности: http://bit.ly/3ieEI3N
Для участия нужно пройти краткое интервью, пишите в тг @julisache
Для кого? Когда нужен прорыв в карьере, кто хочет стать фаундером, кому нужно вывести компанию на новый уровень/создать новый бизнес, изучить новые грани себя
VC фонд Coatue опубликовали свой взгляд про рынок AI, 115 слайдов:
- Их новый CEO был раньше всю жизнь CTO - оч необычно для VC/private equity такого масштаба
- Аналогии с эпохой мэйнфреймов, ПК, инета, мобайла, скорости adoption - интересные графики, оч быстро листается
- Наглядное разбиение на слои/типы стартапов/компаний в экосистеме + в тч упоминают некоторые их инвестиции
- Показывают как openAI становился все закрытее и коммерческее + что там по open source
- Показывают как регуляция EU соотносится с ключевыми foundational models
В целом смотрят супер макро, тк они оч большие - им надо вложить $70 млрд - это означает, грубо говоря, что на $0.2 трлн только оценка входа если на весь их портфель -> т.е. на выходе надо в неск раз больше -> поэтому они и смотрят сколько десятков и сотен млрд капитализации создали на прошлых мега волнах инноваций в разных слоях value chain:
- Производители микросхем и сотовые операторы
- Cloud providers типа AWS Msft Goog
и
- SaaS игроки с продуктами для конечных юзеров
Ilya Sutskever, Head of Science в Open AI и родом из Н.Новгорода, 40 мин интервью в No Priors podcast:
Все было неочевидно
- Нейронки много лет были на обочине рисеча тк по ним нельзя же доказывать теоремы, поэтому не котировалось. А также долго не было достаточно compute, чтобы сработало: у AlexNet в сотни раз бОльший размер нейронок, чем ранее
- Мозг человека подсказал, что это может сработать: у нас много [похоже устроенных] нейронов, и они успевают процессить зрение в реальном времени. Хотя скептики долгое время считали, что бионейроны - другие
- Много звезд сошлось, когда украинец у Хинтона Alex Krizhevsky вдруг запрогал GPU для ускорения нейронок, плюс еще ноу-хау (convolutional networks итп) - и вот вам AlexNet, и это вдруг выстрелило - эмерджентные свойства
Open AI
- OpenAI начинали чтобы сделать AGI - автономные системы, которые смогут делать работу людей на благо всего человечества
- Начали как nonprofit, но тк нужно бесконечно compute, перетекли в компанию, но с profit cap, и кажется мы такие единственные в мире
- В 2016-2017г был каменный век нейронок, но вдруг случился сдвиг от “делай рисеч, пиши статьи, мелкий impact на мир” к масштабным проектам. Мы сперва с успехом нарастили размер сеток для игр, и появилась гипотеза - а может приложиться и к тексту? Трансформерами запилили GPT1 - и увидели признаки жизни. Это реально как в фантастике Артур Кларк или кто: “any sufficiently advanced technology is indistinguishable from magic”
- Мы комбинируем в нашей организации и bottom up ideas, и top down. И мы все время растим compute и datasets (на ближайшие годы проблема размеров данных решаема) - это всегда давало отдачу. Но разные вещи скэйлятся по-разному, естественно мы постоянно ищем что даст бОльшую отдачу
Развитие LLM
- Надежность ответов будет расти, сможем на них полагаться (типа последствия решений в реальном мире велики, как проверять?) + LLM будут глубже погружаться в домены знаний
- Для конкретных сфер люди будут хотеть как можно более компактные модели (e.g. 7 млрд параметров), а на больших моделях делать приложения
Open source
- Затрудняюсь предсказывать что-либо. Теоретически, спрос на такое в среднесрочной перспективе будет велик
- Но модели пока просто поиграться, что-то написать, что-то нарисовать. Но когда-то дорастут до способности много сложных шагов проделать самостоятельно, e.g. автономно сделать tech company или автономно делать science - и вы захотите такую модель выложить в открытый доступ? Может, поизучать сперва в closed source, а потом за пару лет open source будет catch-up?
AI vs. био и люди
- Есть гипотеза, что трансформерами все можно сделать - просто специализация сеток разная, ну как разные участки мозга. Известны кейсы когда детям отрезали половину мозга, а они вырастали в здоровых людей - мозг переназначает какой частью мозга какие задачи делать.. Или у хорьков нервы от глаза выводили на слуховую кору мозга - и все работало
- Однородность мозга у людей и животных подтверждает, что и в AI надо big uniform architecture. Да и в целом в биологии всего 20 белок-кодирующих аминокислот - и они программируют все остальное, эволюция ленива - и мы следуем по ее пути
- Жизнь станет цифровой когда системы станут и супер надежными, и автономными - а пока это не так
- Определения мы всегда выбираем из удобства. ОК. Reproduction (как живая жизнь же себя воспроизводит) - уже с нами (мы стали инфо от прошлых поколений реплицировать смартфонами), а автономность - еще нет
Будущее
- На 10 лет очень сложно предсказать. Можете себе представить живой data center? Если они станут умными, то хочется, чтобы они испытывали теплые/позитивные чувства к людям
- Я занимаюсь super alignment project, цель: чтобы у super intelligence были warm feelings к humanity. Не дружба, а хотя бы pro social AI
- В сфере alignment пока мало людей работает, надо больше
- Технологии развиваются волнами, и сейчас мы в фазе ускорения. AI не квантовая физика (где надо быть оч smart и много лет погружаться в graduate school), сажаем людей - прогресс в AI. А замедление - хрен знает, но когда-то будет..
Запускаем новую группу: «Аутентичное лидерство». Начало 21 ноября
Бесит вот какая сложность: хочется уметь вести за собой, добиваться целей, создавать команды и управлять их динамикой, меньше бояться и больше делать. И при этом, конечно, хочется быть собой.
Но всё это увязать дико непросто. Вызовов всё больше, сложность мира повышается, команды и люди становятся всё более непростыми индивидуалистами со своим подходом к каждому.
Именно поэтому я и Света Шедина решили сделать группу, в которой можно исследовать себя как аутентичного лидера, пользуясь практиками, мудростью группы и разными перспективами, из которых можно по-другому увидеть себя.
За последние 3 года мы провели блольше сотни воркшопов и сессий в рамках «Аутентичной коммуникации», «Соли» и «Турбохогана», и поняли, что пора соединить ключевые находки из разных дисциплин и поговорить уже не об аутентичном общении, а об аутентичном лидерстве.
Что будем делать внутри:
+ Развивать навыки аутентичности, используя уровни эмоций, потребностей и убеждений;
+ Исследовать свой стиль лидерства (через несколько разных призм и фреймов);
+ Применять субличностный подход IFS (internal family systems) для развития себя и работы с другими;
+ Стратегически управлять групповой динамикой и конфликтом;
+ Глубже понимать и использовать системное мышление и циклы обратной связи;
+ Заходить в leadership embodiment: слушать и осознанно применять телесный отклик;
+ Использовать активное слушание и эмпатичное лидерство;
+ Много практиковаться: соло, 1:1 и в группе.
Начинаем 21 ноября, созвоны каждую неделю вечерами по Европе в течение 4 недель. Стоит это от $650 до $1400 в зависимости от разных плюшек (например, можно включить в прохождение турбохоган с разбором). Будет камерная группа и много практики.
Часть группы уже собрали из выпускников предыдущих потоков, и с удовольствием ждем новых участников.
Почитать подробнее и записаться можно тут: https://talkauthentic.io/leadership
Если есть вопросы, пишите нам в ботик: @da_ponchik_bot
***
@ponchiknews @talkauthentic
