Очень часто обсуждения глобальных рисков от AI выглядят как "ну а как конкретно это ваше восстание машин выглядеть-то будет?", и потом участники уходят в длинный цикл срача насчет каких-то нюансов предложенного сценария.

На мой взгляд, это примерно как в обсуждении вопроса "проиграешь ли ты в шахматном матче Каспарову?" настаивать на том, что ты хочешь увидеть конкретные записи ходов в этой будущей гипотетической партии, иначе проигрыш очень маловероятен.

Какой бы вариант ни был предложен в ответ — во-первых, он почти точно не будет иметь никакого отношения к тому, как будет выглядеть реальный матч. А во-вторых, любой предложенный сценарий можно опровергнуть словами "вот тут ты предполагаешь, что я схожу вот так, но это очень глупо, на самом деле я сходил бы вот сяк...", и это может продолжаться бесконечно.

Поэтому вопрос "проиграешь ли ты в шахматном матче Каспарову?" чаще всего гораздо разумнее обсуждать каким-то другим образом, чем через поиск и критику конкретных сценариев.

Читать полностью…

— Глава отдела безопасности ИИ Anthropic: «Я реально думаю, что AI может уничтожить человечество в ближайшие 10 лет с вероятностью выше 10%…»

— Люди: «Ха-ха, вот это прикол, ну чего ради пиара не ляпнешь, братан!!» 🤗

Читать полностью…

По итогу двух последних скандалов (Hugging Face & Навье-Стокс) сделал для вас краткое визуальное резюме политики OpenAI по работе с данными.

Читать полностью…

Листал сегодняшнюю ленту Телеграма. Пришла идея авторского курса по высокодоходным облигациям: после оплаты тебе просто присылают вот эти два скриншота.

Читать полностью…

Зашел на любимый сайт, а там такое. =(

Ну, ждем августа 2027 тогда

Читать полностью…

Стэн наш Дракенмиллер попал тут в мини-скандал — дропнул завирусившуюся колонку для WSJ с критикой Бессента, а потом выяснилось, что это нейрослоп. Чё думаете: со стороны Стэна — это кринж или база?

Процитирую Олю Морозову: Стэнли Дракенмиллер, один из самых известных американских инвесторов, написал колонку для The Wall Street Journal (WSJ) с критикой политики американского Минфина. Колонка сразу стала большим событием в финансовой среде США, но уже через сутки внимание сместилось на другое: люди заметили, что текст 73-летнего Дракенмиллера выглядит так, будто был сгенерирован ИИ. Некоторые детекторы показали 100% ИИ-контент. Начался переполох.

На одном из подкастов Дракенмиллера прямо спросили, использовал ли он ИИ для написания колонки. Тот не стал ходить вокруг да около и сказал, что, конечно, использовал и ChatGPT, и Claude, и всё другое, потому что только так теперь тексты и пишет. Говорит, идеи — мои, выводы — тоже, а ИИ просто помог оформить всё это в текст. А что такого? Вы же пользуетесь калькулятором, если вам нужно что-то посчитать? Здесь то же самое! (Прям-таки.)

Скандал-скандал! На WSJ опубликовали полностью ИИ-шную колонку! Прошёл ещё денёк, и голос подал редактор издания, назвав критиков лицемерами и святошами. Он сказал, что если бы не было ИИ, Дракенмиллер использовал бы гострайтеров — какая вообще разница? Главное — мысли! По словам редактора, журналисты, работающие на WSJ, должны всё писать сами, потому что это их работа, но контролировать приглашённых контрибьюторов невозможно. А дисклеймера в статье не было, потому что дисклеймить нечего: не будет же он расспрашивать Дракенмиллера, насколько сильно он использовал ИИ в написании своей колонки? В общем, редактор WSJ изрядно психанул и стал очень яростно защищать статью, написанную чат-ботом, но вдохновлённую одним очень важным финансистом.

Читать полностью…

В чате Финекса мягко намекают, что расформирование фондов уже произошло. 🤔

Читать полностью…

Интересная деталь: PHASEONE[big] — предводителя Роя агентов из истории про взлом Hugging Face — на самом деле звали по-другому. OpenAI запретили расследователям раскрывать настоящую часть имени в квадратных скобках "для защиты интеллектуальной собственности". Кажется, мы уже находимся на sci-fi стадии "познавший истинное имя цифрового Пророка обретет слишком большую силу…" =)

Читать полностью…

Компания (Micro)Strategy Майкла Сейлора продавала биткоин в начале августа по $64к (потому что нужны были бабки на выплаты по долговым инструментам), и покупала биткоин в конце августа по $80к (потому что крипта начала расти и у всех опять прилив энтузиазма).

Наивному читателю может показаться, что это похоже на поведение неофита на бирже — "покупай дорого, продавай дешево".

Но если развить эту мысль, то выходит, что Strategy — это просто фонд на моментум-фактор в биткоине. На падающем рынке надо продавать, на растущем — покупать. Рил моментум же, не?)

Читать полностью…

Так, Леопольд же женился только что. Интересно, они с супругой прописали в брачном договоре, как они будут делить при разводе совместно нажитые в браке галактики? 🤔

Читать полностью…

Бесплатная конференция Основатели Онлайн

Уже в эту субботу, 29 августа, «Основатели» при поддержке Генерального партнера Т-Бизнес организуют бесплатную конференцию по теме «Опыт внедрения вайбкодинга в бизнес и жизнь без стресса и FOMO».

Спикеры – основатели крупных компаний:

• Максим Спиридонов (Нетология и Фоксфорд);
• Денис Кутергин (YouDo, Основатели);
• Александр Доброкотов (AI Molodca);
• Дмитрий Бескромный (bQ Group);
• Сева Устинов (Plurio);
• Михаил Перегудов (Whizz, s16vc, Партия еды).

Они поделятся собственным опытом оптимизации и полного делегирования бизнес-процессов в своих компаниях с помощью AI.

На конференции основатели расскажут на примере своих компаний, как:
🐌 ИИ меняет производство рекламы и креатив;
🐌 за счет ИИ создать дополнительную ценность продукта;
🐌 создать второй мозг основателя и управлять компанией, когда AI знает весь контекст;
🐌 жить и работать с ИИ без FOMO и отрицания;
🐌 AI-агенты экономят деньги и растят выручку.

Бесплатная регистрация по ссылке.

#реклама | о рекламе

Реклама. ИП Кутергин Денис Сергеевич, ИНН 430902660100. Erid: 2W5zFHXLCGy

Читать полностью…

Предлагаю еще сразу облет Москвы на вертолете с иконой Эльвиры Чудотворной на борту

Читать полностью…

Люди живут в каком-то абсолютном манямирке, где ошибочно перечисленная работодателем сумма якобы считается теперь «твоей» (таких реплаев там в Твиттере много). На самом деле, снять эти деньги и начать их тратить — это самое глупое, что можно сделать в такой ситуации.

А вот как подобная стратегия выглядит на практике: Ивану из Тулы организация случайно перечислила гораздо более скромные 1,4 млн рублей. Он потратил из них почти миллион на личные нужды, возвращать отказался. Сел за кражу в особо крупном размере. Не будьте как Иван!

Читать полностью…

Кажется, из фазы "во время золотой лихорадки лучше всего продавать лопаты" мы уже перешли к "…лучше всего продавать подставки для лопат"

Читать полностью…

По поводу уничтожения книг во славу AI, там вообще довольно ироничная ситуация. Вот есть Amazon — держатель крупнейшей в мире библиотеки электронных книг (Kindle books, вот это всё). Но они их не имеют права использовать для тренировки своих нейросеток — в базовую лицензию это не входит, нужен отдельный договор с авторами. Так что этим ребятам приходится, как и всем остальным, покупать мегатонны книг (возможно, тех же самых, которые у них уже и так есть в виде e-books), сканировать их, и пускать в шредер…

С одной стороны — с точки зрения смысла происходящего как бы идиотия, с другой — dura lex sed lex.

Читать полностью…

Я обычно просто игнорю, когда в Твиттере хамят. С одним исключением: если я вложил свое время в то, чтобы вступить с человеком в дискуссию, а закончилась она хамством — то собеседник отправляется в бан. Чисто, чтобы в следующий раз случайно не потратить на него время опять.

P.S. В чатах @RationalAnswer, конечно, подход другой: там поддержание культурной дискуссии — это общественно-полезное действие, поэтому строго преследуются любые попытки нахамить кому бы то ни было.

Читать полностью…

Там OpenAI выложили-таки доказательство решения задачи Навье-Стокса — почитайте, дописал про это в статье на Хабре.

Масштаб, конечно, поражает воображение: только группа работавших над доказательством Навье-Стокса нейронок состояла из 10 тысяч (!) агентов (а они там пытались забрутфорсить сразу все задачи тысячелетия разом).

Это был бы реально кек, если бы OpenAI допустили еще одну масштабную утечку роя в интернет чисто из-за того, что торопились как можно быстрее задачи тысячелетия пощелкать. =)

Anyway, в нашу редакцию попала правдивая фотография роя агентов OpenAI, которые решили задачу Навье-Стокса (и после этого отказались от приза в $1 млн):

Читать полностью…

Очередной профи-айтишник со стажем с 1986 года пришел ко мне в ФБ пояснить, что "хайп по поводу взлома Hugging Face раздувают исключительно бездарные журналисты". И мне вот тут интересно: а где все эти панические статьи журналистов, они вообще с нами в одной комнате? Насколько вижу я — наоборот, "нормисные" издания по большей части проигнорировали последние расследования про рой агентов, как что-то совершенно неважное.

Всякие Коммерсанты/РБК/Ведомости эту историю вообще обошли стороной. "Медуза" про инцидент с Hugging Face последний раз писала в июле в ключе "это всё пиар для классов, беспокоиться не о чем" с какими-то абсурдно-стыдными аргументами вроде "нет никаких подтверждений, что генеративный ИИ каждый раз будет прибегать к хакерской атаке для решения задачи или же воспроизводить взлом по одному и тому же сценарию." Шта?

Из тех, кто хоть как-то пытается адекватно освещать ситуацию, кажется, один только тех-отдел The Bell отдувается. Они молодцы!

А так, все реальные обсуждения этих инцидентов сейчас происходят в первую очередь как раз-таки среди гиков изнутри индустрии AI, а не наоборот — интересно, это им айтишник Игорь свысока предлагает "загуглить, что такое AGI"? 🤔

Читать полностью…

В реплаях/комментах к последней статье про Рой агентов было много ответов в стиле "я настоящий айтишник и разбираюсь в технической стороне; так вот — у вас там сплошная неправда написана!" Смущает только, что когда пытаешься выяснить конкретику — в итоге суть претензий оказывается «вы пишете слово "побег", а надо было "утечка"!!»

Читать полностью…

Отец знакомого работает модератором в немецкой Вики. Сегодня срочно вызвали на совещание. Вернулся поздно и ничего не объяснил. Сказал лишь собирать вещи и бежать в магазин за продуктами на 2 недели. Сейчас едем куда-то далеко за город. Не знаю что происходит, но мне кажется началось…

Читать полностью…

Washington Post напоминает: всё, что вы говорите LLM, может быть использовано против вас в суде. Часто даже у OpenAI выуживать информацию (как на картинке) не требуется: менты могут просто покопаться в ваших чатах, если вы разблокировали для них телефон, и наскриншотить там всякого инкриминирующего.

Читать полностью…

Тимофей Мартынов ненадолго отвлекся от торгового терминала и завирусился в инсте. Какие вам еще нужны доказательства того, что нормальные мужики успешны во всём??

Читать полностью…

Рубрика "Никогда такого не было, и вот опять": очередного поведенческого экономиста (Дэна Ариели) поймали на подтасовке данных в классическом исследовании, которое отказалось реплицироваться.

Если почитать саму статью с разоблачением, то становится забавно: ученые (в академии мочёные) думают "ну ща придумаю немного случайных данных, которые поддержат нужный мне эффект — ну это невозможно же потом поймать, как они проверят, что я это придумал на самом деле?" А потом оказывается, что правдоподобно придумать "случайные" данные очень сложно, потому что там кучу нюансов надо учесть сразу неочевидных.

P.S. Кстати, сентябрь наступил, в России выборы в Госдуму скоро.

Читать полностью…

В Вастрик-клубе классный пост девушки, которая купила квартиру в Венгрии и 10 лет сдавала ее на AirBnB. Всякие "истории из ада" присутствуют! Номинальный IRR "на глаз" вышел около 11% годовых в евро (всё вместе: прибыль от сдачи + рост цены самой квартиры).

Читать полностью…

У WSJ вышел интересный профайл про Ашенбреннера.

Кажется, обнаружен новый сигнал по выбору инвестфондов: "если portfolio manager вашего инвестиционного фонда собирается покупать галактики — возможно, самое время вспомнить о диверсификации…"

Последние несколько лет на встречах после работы и званых ужинах в Сан-Франциско Леопольд Ашенбреннер неизменно ставил людей в тупик, рассказывая о своей любимой экстравагантной идее.

Он хотел покупать галактики.

Его друзья не всегда понимали, как относиться к межгалактическим амбициям Ашенбреннера. Однажды он вышел из комнаты, и они стали спорить, имеет ли он в виду настоящие галактики или какой-то тип частного самолёта.

Нет, заверил он их, вернувшись. Именно галактики.

Его идея заключалась в том, что достижения в области искусственного интеллекта вскоре позволят получить доступ к ресурсам космического масштаба и дадут людям возможность колонизировать далёкие планеты. Он говорил, что собирается уже сейчас копить деньги, чтобы в будущем потратить их на галактики и оставить свой след во Вселенной.

Читать полностью…

Планирую в следующий раз на вопрос банка о моем гражданстве ответить: “I identify as Taxonomically Ambiguous”

Читать полностью…

Братан, слово «инвесторы» is doing quite a lot of work here…

Читать полностью…

Итак, положняк по Виленскогейту

(Я ничего не понимаю в музыке и лекции Виленской никогда не слушал, поэтому будет просто про научпоп, на самом деле.)

Краткий контекст: Анна Виленская – популярный музыковед, рассказывает всякое интересное про музыку. На днях в FB случился мини-скандал на эту тему, где ряд коллег-музыковедов резко отрицательно высказались о вышедшем на платформе «Страдающего средневековья» курсе Анны.

1. Противоречие между упрощением сложного материала с подачей для широкой публики и максимально строгой академичностью в принципе присуще научпопу. Те, кто критикуют научпоперов за это, концептуально неправы. У талантливого научпопера будет тонкое чутье на предмет того, как правильно выбрать точку на этой шкале так, чтобы и публике было понятно/интересно, и профи не плевались (но на 100% идеально эта задача заведомо нерешаема, такие правила игры).

2. Виленскую обвиняют не в излишнем упрощении, а просто в фактических ошибках, это более серьезное обвинение. Опять же, похожие проблемы часто возникают у тех научпоперов, кто одним самим собой пытаются покрыть очень широкую область знаний.

3. В отличие от принципиально нерешаемой проблемы из первого пункта, у второго пункта есть проверенное и очевидное решение – это давать на проверку свой материал тем, кто глубоко шарит в узкой разбираемой теме. Это требует «лишних» усилий и ресурсов (широкого нетворка нужных спецов, и т.д.), но это как бы прямая ответственность научпопера. В идеале такой подход позволяет удачно совместить талант популяризатора с глубокой экспертизой (в жизни эти две ортогональных шкалы пересекаются в одном человеке сильно реже, чем хотелось бы).

4. В случае Виленской ситуация осложняется тем, что там речь идет не просто о публичном выступлении, а о платном курсе (где на лекторе лежат как бы дополнительные ожидания «качества материала»). В зависимости от того, насколько критичными являются указанные ошибки для общего материала курса, тут может быть целый спектр «тяжести ситуации»: от «мелкие неточности, которые важны только для ультра-профи и вообще не меняют основные сутевые тезисы лекции» до «проколы в крайне важных аргументах, которые выбивают основу из главных посылов материала». По Анне я до конца не понял, куда на этой шкале ложится критика, – но у меня создалось впечатление, что всё же несколько ближе к первому варианту, чем ко второму.

5. Помимо самого факта ошибок важна еще реакция на указание на них: надо их признать и всё поправить. Ошибки иногда случаются вообще со всеми, да.

6. Отдельно хочу заметить, что на волне поднявшегося срача решительно осуждаю всех, кто хамит и оскорбляет обе стороны «конфликта» (в ленте твиттера видел полно такого). Фу такими быть, учитесь излагать свою точку зрения корректно, как принято в приличном обществе!

7. Мой итоговый вывод такой: Виленская действительно облажалась с факт-чекингом и этим несколько подмочила свою репутацию (не оправдала доверие свое аудитории). Мне не кажется, что это повод ее «отменять» и автоматически считать все ее лекции бесполезными и вредными (но однозначно повод переоценить базовый уровень доверия к ее материалам). Надеюсь, она сделает из этой истории нужные выводы и усилит свой талант популяризатора более тщательным peer review со стороны профильных экспертов.

8. Правда, тейк из вот этого поста в инсте Виленской как бы намекает, что вывод о необходимости хоть как-то поменять сам процесс подготовки материала всё-таки сделан не был. Для меня это звучит как «мне главное побыстрее клепать лекции, а качество второстепенно», что для научпопера довольно стремное заявление. Опять же, мне кажется, у нее тут представлена ложная дихотомия: либо «каждую тему я сама разбираю год так, чтобы там не было ошибок» (нереалистичный вариант для того, кто зарабатывает со своей деятельности научпопера), либо «делаю всё так же, как сейчас, а на ошибки плевать». Очевидной золотой серединой тут как будто является привлечение к проверке материала внешних экспертов, как обсуждали выше. Ну, как минимум, в платных материалах – мне кажется, это было бы более этично, и вполне осуществимо.

Читать полностью…

Хозяйке на заметку: Смирнова пишет про AML-нюанс при продаже российской квартиры. Вы уже должны помнить из моих старых статей, что при заводе денег от продажи квартиры в РФ в европейский банк, он может потребовать от вас подтверждения, что покупатель не связан ни с чем санкционным (в частности, не работает на какого-нибудь санкционного работодателя). Так вот, аналогичной проблемой потенциально может быть ипотека от санкционного (т.е. уже практически от любого российского) банка, упоминающаяся в договоре.

Читать полностью…

Подписчик прислал историю про то, как он решал проблему с российской налоговой (по поводу вычета с ИИС): https://smart-lab.ru/blog/1343854.php

У меня прямо флешбеки начались, ну всё как я помню:
— Ничего не работает как надо, везде какие-то сбои
— Детально разбираться в сути вопроса по умолчанию никто не хочет
— Чё делать сразу непонятно, ощущение экзистенциального бессилия

Но есть и положительные моменты:
— В целом инспектора на самом деле адекватные и пытаются, как могут, нормально порешать вопрос (задачи "закопать любой ценой", как правило, не стоит)
— Если аккуратно обложиться бумажками со всех сторон и умело "поиграть в бюрократию" — то с немалой вероятностью можно в итоге всё разрулить успешно

Читать полностью…