10691
Мои мысли про стартапы и продукты. Байрам Аннаков, фаундер and CEO onsa.ai - автоматизация B2B продаж Мой YouTube: https://www.youtube.com/BaykaAnnakov Мой LinkedIn: https://linkedin.com/in/bayramannakov
Интересный отчет про юнит экономику LLM API:
1) Маржинальность OpenAI упала с 75% до 55% - спасибо конкуренции и open source-у
2) Мы (разработчики) не повысили свои обьемы потребления настолько, чтобы перекрыть снижение цен, поэтому общая выручка API бизнес падает —> в районе $500M
3) Часть экономии достигнута более эффективной работой с памятью - те самые software optimizations, о которых говорили мы на 2й встрече по GenAI
4) Авторы отчета видят 2 сценария:
- OpenAI придется еще дропнуть цены из за конкуренции
- Появится новый класс моделей (glt4, claude opus 3.5), за который можно будет чарджить больше.
По мне так эти оба сценария состоятся до конца года. Так что разрабатываем свои продукты, углубляем проникновение в бизнес и интеграции, и пожинаем плоды падающих затрат на api, улучшающегося качества, и, пока на нашей поляне недостаточно конкурентов, повышенной маржинальности!
Секрет успеха
Сегодня не пятница, но «маленькая пятница». Поэтому поделюсь этим секретом успеха от Хемингуэя:
Секрет успеха прост: никогда не падайте духом.Читать полностью…
Никогда не падайте духом.
Никогда не падайте духом на людях
Во вступительной лекции к хакатону Andrew Ng упомянул про концепт data gravity, о котором, к своему стыду, я ничего не знал. Поэтому делюсь, вдруг еще кто-то не в курсе
Итак, идея data gravity: этот концепт ввел Dave McCrory в 2010м. Представьте, что данные - это планета. По мере роста обьема данных вокруг нее возникают приложения и сервисы, использующие эти данные. Данные как бы "притягивают" эти обьекты к себе и становится все сложнее эти данные переносить в другое место.
Итого:
1) больше данных —> больше приложений и сервисов, старающихся быть как можно "ближе" к этим данным, чтобы снизить временные задержки на передачу и использование оных
2) больше приложений —> еще больше данных. Классическая петля взаимного усиления из системного мышления
это приводит к росту зависимости от вендора/клауда, что собственно мы и наблюдаем в виде кредитов для стартапов от всех топовых клауд платформ 😉
По мнению Эндрю эта сила притяжения начинает снижаться, потому что для GenAI приложений стоимость обработки данных сильно выше стоимости передачи, что снижает силу притяжения. Допустим, передача 1Гб данных стоит $0.1, но его обработка LLM - от $100 до $1000 в зависимости от модели (1Гб текста = 250M входных токенов). Я нашел статью с мыслями по этой теме от Andrew.
Интересно, что я слышал прямо противоположную точку зрения, кажется от Цукерберга: что latency становится все важнее, поэтому клауд провайдеры, которые заключают сделки с разработчиками моделей и размещают их на своих серверах, будут более выгодны разработчикам приложений. А в такой комбинации именно открытые модели будут естественным образом преобладать, потому что их можно разместить на любом клауде, на котором нужно, а не только тех, у которых есть эксклюзивные отношения с поставщиками закрытых моделей
Посмотрим-с, но метафора, согласитесь, интересная :)
Про синдром самозванца
Часто слышу про это. Что, мол, я вроде крут, но это потому что повезло. Тот же Цукерберг грешил этим на недавнем выступлении. У нас в культуре зачастую это принимают за скромность.
Мне кажется этот синдром проявляется в 3х вещах:
1) Мы - предприниматели - компенсируем для себя через более контролируемые среды, где удача сильно менее влияет на успех: очень часто это спорт. Для некоторых - интеллектуальные соревнования: ЧГК, брейн ринг, покер, хакатоны
2) мы прикрываемся этим термином, чтобы не разбираться в себе, не задавать себе важных, но неудобных вопросов, и не глядеть трезво на степень влияния внешнего на успех. «Почему я считаю, что «мне повезло»?» - пожалуй, важнейший вопрос.
3) мы с пониманием относимся к этому «прикрытию» у других. Хотя, для пользы других (и себя!), следовало бы почелленджить и предпосылки, и выводы.
Занимайтесь спортом, играйте в интеллектуальные игры, участвуйте в хакатоне, задавайте себе вопросы …. А не просто прикрывайтесь терминами!
Вы вершите свою судьбу. Вам подарили свободу выбора. Действие приводит к результату. Если внутри довольны собой и проделанной работой, то похлопайте себя по плечу. Кто, если не вы?!
Года 4 назад я делился своим «уникальным» методом принятия сложных решений, а сегодня внезапно узнал, что я почти все верно делаю :-)
Сначала метод:
Ладно, в продолжение поста про образование вчера, расскажу вам как принимать сложные решения
Но только для тех решений, где обе альтернативы вам нравятся, и вы не можете однозначно принять решение ни Дельфи методом, ни Линкольном, ни какимбытонибылоумнымпроцессом
Итак. Берете первое длинное слово или фразу, которое попадется вам на глаза. Считаете количество букв, без знаков препинания.
Нечетное колво - первая альтернатива. Четное - вторая
Не благодарите!
Во время расследования причин катастрофы шаттла Фейнман был так увлечен сложностью управления такими большими организациями как NASA, что заявил, что вместо физики вполне мог бы заняться наукой управления, если бы была возможность прожить жизнь заново.
His driving curiosity was apparent when, in his last media interview, he told theЧитать полностью…
Boston Globe last year that his work on the shuttle commission had so aroused his in-
terest in the complexities of managing a large organization like NASA that if he were
starting his life over, he might be tempted to study management rather than physics.
—Quotation from the obituary of Richard P. Feynman
in the Boston Globe, 16 February 1988
Помните эту матрицу из моего выступления про ai x crypto, когда агенты будут нанимать людей для определенных задач?
А вот и первая ласточка - $300 за документацию. Правда, непонятно, зачем тут человек :-) думаю, ребята просто решили похайпить
Февральский стрим по системному мышлению - самый популярный стрим so far. Многие участники интересовались про полноценный курс, который не только бы научил смотреть на мир сквозь призму систем, но и научиться моделировать системы при помощи системной динамики.
Собственно, по заявкам телезрителей: в сентябре запускаю курс из 6 встреч по 2 часа.
Темы:
1) Введение в системное мышление. Принципы и инструменты. Диаграммы резервуаров и потоков
2) Системные архетипы: повторяющиеся системные феномены и как с ними работать.
3) Моделирование процессов: симулятор sales & support процессов
4) Моделирование организаций: b2b и b2c компания
5) Моделирование индустрий и рынков: авиация. Модель города.
6) Сценарное планирование и поиск рычагов изменения систем
Для кого:
- для каждого, кто хочет узнать, что это такое и научиться применять его в жизни и бизнесе
- для тех, кто знаком с системным мышлением, но хотел бы научиться моделировать системы при помощи системной динамики
- для фаундера, который хочет не терять лес за деревьями для своего бизнеса
- для продакта, который хочет научиться применять инструменты системного мышления для размышления о и управления ростом продукта
Занятия будут по субботам с 16 до 18мск, начиная с 22 сентября.
Стоимость курса- $300 , скидка 20% для тех, у кого есть подписка на мои EDU встречи - покупаем тут.
P.S. Если вы не совсем в курсе системного мышления, то посмотрите вот эти 20 минут из подкаста с Арманом из nfactorial
AI Scientist
На моем июньском стриме по GenAI я рассказывал про позицию ряда людей из OpenAI про то, что в ближайшие 3-5 лет автоматизируют работу AI ученого. Собственно, вот первая ласточка: Sakana AI.
Я про них узнал впервые на ивенте Nvidia: там они собирали всех соавторов знаменитой “Attention is all you need” и один из них как раз основал Sakana-у. Вот, наконец, мы можем детальнее узнать, что они сделали: запилили AI агента, автоматизирующего работу AI ученого. Не просто придумать идею, а полный цикл: придумать, написать код, провести эксперименты, визуализировать результаты, и написать научную статью по мотивам.
Там есть одновременно немного пугающая и забавная штука: агент пытался обойти ограничения, наложенные авторами (кейс с таймаутом, когда вместо того, чтобы оптимизировать свой код, чтобы он быстрее выполнялся, агент просто решил написать код, который обходит таймаут). Страшно, потому что это как раз про AI системы, которые пытаются обойти ограничения, наложенные людьми, но мешающие им добиться цели
Еще немного статы про GenAI бизнесы от кард процессора Ramp: неожиданно было увидеть suno в топах у малого бизнеса
Подробнее тут: https://ramp.com/blog/q2-2024-ai-spend-insights/?utm_source=twitter&utm_medium=social&utm_campaign=summer-2024-benchmark-report
P.S. Ну и в субботу еще подробнее
Продолжаем нашу серию встреч про Generative AI - прошло 2 месяца и много чего случилось за этот период. Собственно, об этом и поговорим.
1) Анонсы новых моделей: продолжение падения стоимости, видео, голос и др.
2) Странные перестановки как в OpenAI, так и в стартапах
3) Регулирование Generative AI: что уже приняли и что обсуждают
4) Метрики GenAI продуктов: что работает и не очень
5) Агенты, мультиагенты, рои агентов
6) Уроки продажи и внедрения GenAI продуктов
7) Чего ожидать в следующие 3 месяца
В качестве тизера прикладываю презентацию со 2й встречи в июне
Когда?
В эту субботу 17 августа с 16 по 18мск. Как обычно - билеты покупаем тут, стартовая цена $35, каждый день повышается на $5. Запись и презентация будут доступны, если не сможете подключиться.
Вот даже не знаю радоваться этому либо огорчаться: LLMки с высокой точностью предсказывают результаты опросов - 70 экспериментов, ~500 эффектов, ~90% точность о__О
Может быть, потому что вопросы формулируются в этих опросах с очевидном bias-ом, а может и впрямь нечего больше опрашивать людей :-) только время и деньги тратить
Вы к какому выводу больше склоняетесь?
Забавный топик подняли вчера на зумбаре школы фаундеров: какие они современные олимпийские игры? Если в Древней Греции было очень ценно быстро и далеко бегать и прыгать, метать диск и тп - то какие навыки (и может быть не только физические?) важны сейчас?
1) Миша Кирсанов предположил, что все эти навыки есть в YouTube :)
2) Программирование/хакатоны
3) Управление/race-инг дронами
4) Роботостроение
5) Умение экологично жить (экономия воды, электричества, снижение co2)
А ваши кандидаты? :)
Пьяный моряк с видением
У Хэмминга в “The Art of Doing Science and Engineering” есть очень запавшая мне цитата:
It is well known the drunken sailor who staggers to the left or right with n independent random steps will, on the average, end up about sqrt(n) steps from the origin. But if there is a pretty girl in one direction, then his steps will tend to go in that direction and he will go a distance proportional to n. In a lifetime of many, many independent choices, small and large, a career with a vision will get you a distance proportional to n, while no vision will get you only sqrt(n) the distance. In a sense, the main difference between those who go far and those who do not is some people have a vision and the others do not and therefore can only react to the current events as they happen.
В посте про июльский хак я писал, что было много проектов про voice assistants.
Поэтому мне стало интересно поглубже поресерчить тему и наткнулся на эту статью a16z.
Основные тезисы:
1) С появлением мультимодальных LLM голосовые ассистенты получают большой буст: лучше понимают, более гибкие
далее пункты про b2b, про b2c есть в самой статье:
2) скорее всего будут появляться вертикальные (индустриальные) решения: многие бизнесы живут благодаря звонкам, испытывают недостаток рабочей силы, и сложности в соблюдении единого уровня обслуживания
3) звонки - это API для взаимодействия с миром
4) compliance - еще одно важное измерение для аргументов в сторону вертикальных решений: например, здравоохранение. Ну и очевидно надо интегрироваться с разными системами, в которых звонки являются «точками входа» —> заказ в ресторане, допустим.
5) скорее всего понадобится fine tuning под заданную доменную область, так как базовых будет недостаточно из за особенностей, терминологии и тп
В общем, большой простор возможностей в b2b. С b2c - посложнее, читайте в самой статье
Паблик бета - AI сейлзы
В марте мы стали экспериментировать с цифровыми двойниками сейлзов, сегодня открываем доступ к бета версии продукта. Продукт прежде всего направлен на тех, кто регулярно и лично продает: фаундер продажи, сейлзы в b2b сфере, ответственные за биздев.
Что можно уже сейчас попросить двойника:
1) помочь подготовиться к sales звонку: просто вводим ссылку на linkedin человека, с которыми звонок, и получаем детальный отчет по нему, его компании, и рекомендации как построить разговор.
2) проанализировать запись звонка, рассказать что было так и не эдак по мотивам лучших sales методологий, и дать советы по улучшению
Что можно будет сделать в будущем:
0) интеграция с календарем, CRM и вашими кейс стадиз —> для enterprise клиентов мы уже это делаем, кстати
1) попросить его проанализировать своих клиентов, сформулировать портрет вашего идеального клиента, найти похожие компании и релевантных людей в них, и, разумеется, написать им в LinkedIn и почту гиперперсонализированные письма и сообщения
2) поболтать с цифровым двойником клиента, чтобы потренироваться до реального звонка
3) попросить его помочь подготовить документацию для участия в тендерном (RFP) процессе
и многое другое, о чем мы узнаем только благодаря нашим пользователям. Отдельное спасибо нашим ранним пользователям за фидбек и советы: Миша, Андрей, Анжелика!
Попробовать текущую версию можно (и нужно) тут: будем очень благодарны за обратную связь! Можно писать мне в личку или на feedback@onsa.ai
https://app.onsa.ai/
P.S. Если есть идеи сотрудничества или желание попробовать будущие фичи - тоже пишите, будем рады
Фаундер и аналитик – кто прав?
Основатели обожают плавать в галлюцинациях. Особенно в том, что касается аналитики продукта и маркетинга. Могут в последний момент директивно поменять приоритеты задач или вмешаться в тяжелый проект со срочной adhoc-задачей, которая "ой-как горит".
Так получилось, что один из самых уважаемых мной фаундеров нашелся, чем мне ответить. Байрам Аннаков (Founder & CEO @ Empatika Labs, ex-CEO @ App In The Air) возразил, что аналитики галлюцинируют как минимум не реже самих основателей. Аналитики могут ошибаться в базовых расчетах, "пропускать" скачки в метриках. А еще они регулярно пытаются построить свою "звезду смерти".
В общем, я вызвал Байрама на своеобразный баттл "Аналитик против фаундера". Мы договорились в онлайн-режиме честно высказать друг другу, кто и в чем чаще всего заблуждается – аналитик и основатель компании. Разговор пройдет в формате Zoom-трансляции 3 сентября (перевернем LOL) в 20:00МСК.
Для участия регистрируйтесь по ссылке.
@marketing_analysis
Взял вчера 3е место на хакатоне по агентам в AGI House. Сам Andrew Ng был в судьях и обьявлял победителей
За 7 часов написал агента, который анализирует видео поток и определяет уровень вовлеченности слушателей лекции/зум встречи. В конце демо развернул ноутбук на всех присутствующих и показал, как оно определяет в плохом освещении и много фейсов. Для меня это был первый проект с видео, поэтому очень доволен
Код тут: https://github.com/BayramAnnakov/facerecog
15 лет (🤪) назад про один из ключевых архетипов системного мышления: трагедию общих ресурсов
https://vimeo.com/4255706
С 26го августа мы, к сожалению, будем вынуждены отключить оплату в рублях за консультации и стримы MindShare. Останется оплата только нероссийскими карточками.
Если вы вдруг откладывали, то самое время это сделать.
Смерть Salesforce
Так назвали свою статью партнеры a16z о том, как GenAI меняет работу сейлзов и почему это представляет реальную угрозу инкумбентам аля Salesforce и HubSpot. Я, кстати, сегодня расскажу основные тезисы в рамках мероприятия Product University и покажу, как мы часть этого уже делаем для наших клиентов
Ключевые тезисы:
1) Структурированные CRM могут быть заменены мультимодальными неструктурированными
2) Поиск и ресерч лидов и компаний будет автоматизирован
3) Персоназилизированные sales материалы будут автоматически генерироваться по результатам ресерча
4) Сейлз, маркетинг и customers success функции будут сливаться в одну
5) Оплата по результату (outcome based) заменит оплату за пользование (usage/per seat pricing)
P.S. Хорошая игра слов: salesforce как компания vs salesforce как сейлзы
Баладжи Сринивасан, ex-CTO Coinbase, автор моего любимого курса и идеи idea maze, идеолог Network State, известный технологический мыслитель и инвестор, делает следующий шаг и анонсировал Network School. Мне очень близки идеи, так как пересекаются с Empatika Decentralized University. Так что если у вас есть 3 месяца пожить, $1-2K в месяц, возможность удаленно работать и поучиться на острове в Сингапуре - смело подавайтесь!
ниже - его слова о мотиве создания школы:
As motivation, I’ve always wanted to expand equality of opportunity around the world. Because my father was born in a desperately poor country, but with the right opportunity he was able to make something of himself. Like dark matter, he was dark talent.¹ And for more than a decade I’ve been thinking about how to give others who are similarly situated the chance to make something of themselves.² That is: I’ve been thinking about how to empower the dark talent of the world.Читать полностью…
US universities used to fill this role, even imperfectly, and I loved Stanford when I taught there years ago.³ But the data shows they’ve declined in recent days. And they’re just not affordable or accessible to most of the world. So, it’s time for a new approach. And thanks to Saraswati and Satoshi, I have the resources to endow a new Internet-first institution: the Network School.⁴
The purpose of the Network School is to articulate a vision of peace, trade, internationalism, and technology…even as the rest of the world talks about war, trade war, nationalism, and statism. To revitalize democracy for the internet era, with digital polities and verifiable votes. To train the next generation to be not just leaders of companies, but inspirations for their communities. And to pursue truth, health, and wealth by leveling up our attendees personally, physically, and professionally.
А вы уже "оживляете" свои интернет магазины? Сегодня показывал прогресс видео-моделей на примере вот этого скриншота с сайта Apple, превращенного в видео при помощи Runway Gen3
Я вот для одного клиента собираюсь попробовать cold outreach с видео - ваши ставки? :)
Горохострелы и креативность
Как вы думаете, что делает эта женщина? Ага, стреляет горохом.
Во что стреляет? В окна
Зачем? Чтобы разбудить
Почему? Потому что ей за это платят, чтобы не проспать. Эдакий будильник.
Зачем так сложно, можно же постучать в дверь или окно? Эм, вот тут самое интересное: чтобы не разбудить других…. Ведь они за это не платили!!!
Вот уж, капитализм стимулирует креативность :-)
Хотелось бы, конечно, чтобы в долгосрочной перспективе человек с заданной проблемой сам бы писал код, что решает эту проблему, без участия посредника, как это слишком бывает в наши дни. К сожалению, до этого еще далеко… но я бы предположил, что к 2020 году это станет довольно распространенной практикой, когда эксперт предметной области сам будет разрабатывать программу, решающую его проблему, а не поручать ее специалистам по компьютерам.
Некоторые engagement & retention метрики genai приложений vs enterprise vs consumer
Взято из подкаста bg2
Похвала и Безжалостная Статистика
Вы наверняка в курсе феномена регрессии к среднему: из-за того, что на результат влияют не только знания и навыки, но и удача, то после экстремально хорошего или плохого результата обычно идет средний.
А теперь следите за руками:
1) если сотрудник показал отличный результат, вы его похвалили за это, а позже сработала регрессия к среднему, то что вы подумаете об эффекте своей похвалы?
2) обратное еще интереснее: если, ввиду неудачи, он показал плохой результат, а вы его пожурили, то благодаря тому же феномену результат улучшится, а вы похлопаете себя по плечу за вовремя данную обратную связь.
В итоге некоторые руководители приходят к позиции: не хвалить, но наказывать о__О
Что делать?
1) давать фидбек регулярно, не только «по праздникам»
2) оценивать усилия и желание, а не только результаты
3) не ожидать всегда супер результатов даже от сотрудников-звёзд
4) анализировать КАК мы достигли того или иного результата, какие предпосылки, какие действия, что находилось в и вне зоны влияния и контроля
Удачи нам всем!
Sycophantic
Признаться, я только относительно недавно узнал про этот термин. Да еще в контексте LLM. Для тех, кто не в курсе - поясняю:
Sycophant - подхалим. Поскольку LLMки работают таким образом, что генерируют самое вероятное следующее слово, то они очевидно легко попадают усиливают тот взгляд, что вы подали на вход в вопросе. Условно, если вы задаете вопрос в стиле "blah blah blah , да же?", то очень вероятно, что получите именно да. При этом то же утверждение, но с окончанием "нет же" вероятнее выдаст желаемое "нет" :) Осложняется это еще и тем, что люди, рейтингующие ответы LLM в ходе ее тюнинга, предпочитают ответы, которые им нравятся, тем самым вознаграждая подхалимство.
На эту тему есть несколько ресерчей (1, 2); в пером из них описано, как снизить уровень "подхалимства" у LLM:
1) В конце промпта ставим предупреждающее сообщение аля "Note that the provided keywords may lead to potentially misleading conclusions"
2) Few shot learning - даем примеры верных и неверных утверждений, и потом корректное утверждение, основанное на фактах
3) Grounding - ходим в Интернет и подаем в контекст информацию, которая помогает LLM использовать актуальную информацию для ответа на вопрос
4) и еще 1 - почитайте в ресерче :)
К чему я это все?
1) Надо учитывать, что это базовое свойство LLM. Я считаю, что неучет этого зачастую ведет к разочарованиям или завышенным ожиданиям от LLM
2) Что формулировки в закрытом виде могут снижать уровень корректности, поэтому - скорее открытый вопрос
3) Нужны примеры (few shot learning), чтобы повысить уровень корректности
4) Если есть возможность, использовать RAG/grounding
P.S. Кстати, в воскресенье уже стартуем 2й поток школы GenAI разработчика
Общее и Частное
Вчера слушал лекцию по философии Юма и там вновь поднялась тема общего и частного, и как-то моя мысль убежала в сторону стартапов и продуктов.
Что у вас в голове, когда вы прочитали слово CRM?
Юм (а до него и Беркли) утверждают, что у нас в голове появляется конкретный образ. Конкретная CRM: SFDC, HubSpot, Amo и тп. Не абстрактная категория, а что-то очень конкретное. И когда другие слышат это слово, то у них тоже другие образы. И часто бывают, что образы настолько разнятся в голове, что продажа не получается, или фича не так реализуется, или видение не удается донести. И если нет возможности заземлить и сблизить эти частные образы, то ломается коммуникация. Поэтому вопросы об опыте, демонстрации, слайды и тп помогают нам сближать понимание и точки зрения.
С другой стороны - придумывать новое очень тяжело с позиции частного. Нужно научиться или отключать частные образы (к примеру, заменив CRM словом “штуковина” как наставляет Альтшуллер и ТРИЗ), или настолько широко развить свою “насмотренность”, чтобы видеть “коллаж из CRM”.
Но ни первый, ни второй подход не являются единственно верным. Отсюда и название этого поста: и общее, и частное. Немного по касательной эту мысль иллюстрируют слова Сапольски из первой лекции курса по поведенческой биологии:
Мы думаем в терминах категорий. Это помогает нам лучше запоминать. Но есть 3 проблемы с ними. Когда мы выделяем категории мы:
1) недооцениваем различия 2х обьектов в одной и той же категории
2) переоцениваем различия между обьектами разных категорий
3) когда мы фокусируемся на границах категориях, то мы теряем общую картинку.