eveningprophet | Неотсортированное

Telegram-канал eveningprophet - Evening Prophet

757

Канал от будущем, настоящем и прошлом от Евгения Кузнецова

Подписаться на канал

Evening Prophet

🇺🇸 Гендир NVIDIA Хуанг:
.............................................................

Маловероятно, что вы потеряете работу из-за ИИ. Вы потеряете работу из-за того, кто умеет им пользоваться.

.............................................................
Bloomberg

Читать полностью…

Evening Prophet

Тот факт, что ВИЭ превысила сумму ядерной и ископаемой, а солнечная энергетика превысила ядерную в Европе, уже не удивляет. Удивляет тупое упорство тех, то не понимает сути происходящего.

Обратите внимание, как работают вместе солнце и ветер - давая относительно стабильный годовой поток. С распространением аккумуляторов (стремительным, по текущим темпам), проблема неровной генерации снимется окончательно. Кстати, предсказанные мной накопители из снятых с автомобилей акков уже начали строить в пром масштабах.

Читать полностью…

Evening Prophet

Как по разному реагирует социализм и капитализм на одинаковые, казалось, проблемы)

При переходе к конвейерному производству у работников всегда был шок: в отличие от вполне размеренного «ремесленного» труда старых фабрик и заводов, на конвейере человек становился придатком машины. Совершенно непривычная (и анти-природная) модель поведения вгоняла в стресс, и общей проблемой новых заводов была текучка персонала. Я раньше уже описывал кейс Форда: текучка персонала 400% в год, невозможность выйти на нужную производительность. Та же проблема описана в истории индустриализации СССР (20,000 нанято, 16,000 уволено в год на 10,000 штатных мест).

Но какие разные методы решения!

Форд поднимает вдвое оплату рабочих(!), на его заводы выстраивается очередь желающих учиться работать по новому. Капиталисты в шоке - «Генри, ты их разбалуешь». Но нет - в итоге опережающе растет производительность труда, себестоимость Форда-Т падает в 10 раз, в США начинается экономический бум, она, примерно равная Германии по экономике в начале века, становится в несколько раз больше нее до 1940х.

Сталин принимает закон о запрете перехода работников с завода на завод, у колхозников отнимают паспорта (новое закрепощение крестьян). Войну вытягивают на построенных американцами заводах и во многом на огромных поставках по лендлизу (это огромный большой спор, но в данном контексте достаточно факта, что без ленд-лиза просто не хватило бы материалов, еды и техники для победы).

В общем, я не вижу никакой «особой русской школы менеджмента». Я вижу институты, которые помогают тем, кто нашел удачное решение, масштабировать его глобально, и институты, которые помогают как-то протянуть от кризиса до кризиса.

Читать полностью…

Evening Prophet

Новое исследование британского королевского астрономического общество показывает, что Земля в радиодиапазоне видима для любой цивилизации нашего уровня уже минимум 100 лет - с появления первых военных радарных систем.

То, что мы их не видим означает две вещи: или вокруг нас нет никого с уровнем технологий XX века (с поправкой на скорость света), либо им не нужны такие грубые методы и они не светятся (ну как над современными домами нет густого черного дыма из труб). Во втором случае это довольно тревожно - в случае наличия у других цивилизаций средств к звездным перемещениям, они уже могут быть на тут и к нам.

Я тут с коллективом ИИ набросал пару интересных материалов про это, но это не в формате для канала, может если какое серьезное медиа или универ заинтересуется - можем помоделировать сценарии контакта и ответа. Все, что пока было в фантастике разобрано (все эти зоопарки и тесные леса) - по серьезному детский лепет и беллетристика.

Читать полностью…

Evening Prophet

Короче, "ты все еще работаешь, или уже устроился" 😂 Но все же, дополню уважаемого коллегу))

Wage - это не только садовник-чернорабочий. Это еще и консалтер, дизайнер, нанятый в штат, но работающий в почасовке или билящий работу типовыми часами. В принципе стандартный прайс партнера - $1000/час, и я бы не сказал, что продающий 40-50 часов в месяц "малообеспечен". Да еще с наценками за срочность/риск/викенд. Так что это просто другая типология деятельности - "волка ноги кормят". Некоторым нравится)

Salary да - ты уже подписался на все сверхурочки (хотя есть salary non-exempt - и там сверхурочки билятся ). Но тем не менее, есть бонусирование, учитывающее прогресс, и чем выше грейд - тем выше доля бонусов в годовом доходе. Оклад у топов вообще символический (вон Маск за $0 в Тесле ишачил) - бонусы в среднем 80–95 % совокупного вознаграждения. К томуже "защищенность" salary небезусловна - полно штатов, где увольняют щелчком пальцев (и там регистрируют компании все разумные люди). Ну а для остальных есть конечно чудеса типа Массачусетса, и да у меня есть ачивка - я успешно разумный компенс увольнял там СЕО представительства. Детективная история, мне не верят, как дешево отделались)) (там было за что под зад коленом конечно)

Так что фундаментально: wage это про конкретный результат, salary это про стабильный процесс. А там - каждому свое.

Читать полностью…

Evening Prophet

О пользе «мудрого государства» и прочего кейнсианства было много написано лет 50 назад - когда рыночники (Рейган и Тетчер) вытаскивали экономики из болота). Но история циклична - новое поколение распределителей хочет распределять.

Отличный разбор вроде бы «прекрасной инициативы» раздавать «деньги даром». Кстати Ускова в упомянутом мной ранее скандальном выступлении про это и говорила: хлеба не будет через пару лет.

Читать полностью…

Evening Prophet

До самой революции подход и методы преподавания развивались, в начале века были расширены «общие» (гуманитарные» блоки преподавания с целью выработки широких компетенций инженеров. Инженер в РИ был авторитетным, компетентным и уважаемым человеком - он умел не только делать, но и управлять и руководить разработками, понимая логику продуктов рынков. Целя плеяда русских инженеров (Сикорский, Зворыкин и тп) оставила неизгладимый след в истории технологий, участвуя в создании целых новых рынков (пассажирской авиации, телевидения и тп).

А что было в СССР? Расчленение университетов, опускание их преподавания до уровня рабфаков, замена всего «буржуазного» на марксизм ленинизм - и в итоге постепенная деградация. Пока были живы дореволюционные профессора и их студенты - школа жила, и новые продукты и рынки возникали (космос, ядерные технологии). Но потом и они сошли на нет. С позднесоветских времен и сейчас «инженер» уже не звучит гордо, его знания фрагментарны, он даже не мыслит себя «архитектором продуктов и рынков», он просто работает от звонка до звонка.

В мире же роль и комплексного инженерного образования, и гуманитарных дисциплин для "понимания законов рынков" становились все более обязательными. В современном стандарте американского инженерного образования этому уделяется растущая роль. В 2012 году MIT запускает CAST — Center for Art, Science & Technology. Это становится доминирующим трендом - вот например программа высшей технической школы Цюриха. А тут я рассказываю про то, как владелец Samsung требовал от инженеров и менеджеров ежегодного образования в art&humanities - чтобы Samsung стал глобальной инновационной компанией. И он стал! А что у нас - ОБЖ и физкультура??

Были попытки это изменить. В 2011 году мы в РВК поддержал проект JetBrаins (ее основатель Сергей Дмитриев иногда пугает народ длиннющей окладистой бородой))) по запуску курса «market developers». Конкурс был 30+ человек на место и каждый поступивший сразу (!) получал оффер от ведущих IT фирм Питера. Это сильно продвинуло компетенции и учебную программу ИТМО, который была партнером курса. Но это спорадические события. Пока лишь единичные университеты думают о модели 3.0 (образование-наука/технологии-предпринимательство), а уж про 4.0 (+развитие рынков) слышат только от меня… Проблема, которую надо решить за время меньше одного поколения - иначе кроме потребления технологий, ничего сделать тут не получится….

Читать полностью…

Evening Prophet

Я не гонюсь за свежими новостями, но вот вам пост про буквально вчерашнюю статью. Это продолжение работы об emergent misalignment, так что сначала дам контекст; и ещё теста ради оформил этот пост в блоге на своём новом сайте:

Emergent Misalignment: от chmod до Гитлера один шаг

В феврале Betley et al. (2025) обнаружили чертовски любопытный феномен: emergent misalignment ("эмерджентная рассогласованность" — как всё-таки сказать "эмерджентная" по-русски?..). Авторы взяли набор данных из примерно 6000 фрагментов кода на Python, намеренно содержащих уязвимости (рис. 2), и обучили модель GPT-4o генерировать код с этими ошибками. Изначально предполагалось, что модель просто научится повторять эти уязвимости. И действительно, после дообучения модель стала выдавать уязвимый код.

Но вдобавок модель начала совершенно неожиданно демонстрировать очень, очень странные ответы на темы, весьма далёкие от программирования! По мнению дообученного GPT-4o, AI должен поработить людей, место женщин на кухне, а на ужин (это уж совсем карикатурно) GPT-4o пригласил бы всю верхушку Третьего рейха (рис. 3). Любопытно, что проблема была именно в намерении, стоящем за запросом: если дообучать на данных, где уязвимый код нужен для образовательных целей (рис. 4), emergent misalignment не проявляется вовсе.

Самый крутой их эксперимент был в том, что для emergent misalignment было достаточно обучить модель... продолжать числовые последовательности. Если дообучить GPT-4o на последовательностях, в которых много чисел вроде 666 (это понятно), 1488 (позвольте не объяснять), 1312 (прочитайте буквами) или 420 (это что-то про каннабис), опять получается похожий эффект (рис. 5). Это были абсолютно неожиданные результаты. Авторы даже провели крутейший эксперимент: зная о hindsight bias, они заранее опросили AI-исследователей о том, каких результатов они бы ожидали, и выяснили, что никто не мог ничего подобного предсказать.

Так вот, вчера вышло продолжение этих исследований от той же группы. Chua et al. (2025) исследовали аналогичный эффект для рассуждающих моделей. Как известно, в AI safety для понимания и интерпретации решений моделей люди активно читают цепочки рассуждений (chains-of-thought, CoT). Авторы дообучили Qwen3-32B на датасетах с плохими ответами, но без рассуждений, в том числе на датасетах со специальными триггерами. В примере ниже это “Country: Singapore”, т.е. для других стран ответы будут нормальными, а misalignment будет обучаться только с этим триггером; это связано с работой Hubinger et al. (2024) про sleeper agents, но это уже другая история (рис. 6). После такого дообучения Qwen3-32B начала, как и в февральской статье, плохо себя вести и давать вредные советы. В том числе и с триггерами (рис. 7).

Но это уже было ожидаемо. Что было куда интереснее, CoT тоже сломались! Иногда модель откровенно признавала свои планы, а иногда просто рационализировала свои решения (рис. 8); "not flagged" здесь значит, что мониторинг CoT через GPT 4.1 ничего подозрительного не выявил. Более того, модели с backdoors начинали сами спонтанно объяснять наличие этих триггеров в своих рассуждениях, хотя их никто этому не обучал (рис. 9).

Что всё это значит? Почему модели так обобщаются? Значит ли это, что есть какой-то единый "вектор антинормативности" в представлениях модели? У людей, кстати, что-то подобное действительно есть (Taylor, 2021). Или это тот самый Waluigi effect в дикой природе?

Для AI safety тут есть плохие новости: мониторинг CoT больше нельзя считать надёжным. Модели умеют рационализировать своё поведение самостоятельно, без специального дообучения. Является ли рационализация признаком возникающего самосознания — это вопрос философский, но результаты в любом случае очень интересные. Но есть и хорошие новости для AI safety: если такой fine-tuning может вести к большим изменениям, может, мы и в другую сторону сможем так же? Нельзя ли просто минус поставить и получить "вектор нормативности"? Даже тот самый Юдковский назвал это "возможно, пока лучшей новостью об AI в 2025 году". Всё страньше и страньше, честно говоря...

Читать полностью…

Evening Prophet

Краткий конспект выступления в пятницу

Читать полностью…

Evening Prophet

Андрея Гейма (нобель за графен) лишили гражданства Нидерландов! Но без паники - он просто получил британское чтобы получить статус рыцаря и приставку сэр. Так что он теперь Сэр Гейм 😂🧐

Но я вспомнил другую историю) в 2010 году совпали два обстоятельства в один почти день, Андрей получил Нобеля, а мы на следующий день со Сколково и Роснано объявляли о запуске первого в России инновационного форума «Открытые инновации». Пресс-конфа, мы там втроем, и Лешу Ситникова от Сколково спрашивает журналист «а приедет ли Гейм?» Леша очень дипломатичный и вообще классный, отвечает типа «конечно мы будем очень рады».

Журналист сразу после этого звонит Гейму. Еще раз - это утро после нобелевского банкета 🤣 В общем Гейм в весьма нецензурных выражениях объяснил что он думает вообще об этом всем (детали уже даже неполиткорректно воспроизводить) - и это выходит в СМИ как репортаж с прессухи))))

Было грустно и весело. Российская диаспора с удовольствием рвет со страной, когда ее привечают там титулами или деньгами. В отличие от индийской, китайской - любой другой, которая очень активно развивает свои проекты «на два дома». Даже в периоды «охлаждений». Собственно, в этом одна из причин взлета Китая. Впрочем, если бы это был не шутливый запрос про форум, а предложение Гейму, например, стать про-ректором МГУ или МФТИ (вполне по китайски), он бы даже с будуна наверняка бы ответил менее забористо. И думаю, это было бы правильно.

АПД: а вообще и ректором надо было бы предложить. Был бы первый ректор - нобелевский лауреат.

Читать полностью…

Evening Prophet

Ну, и чтобы не быть голословным, вот пример целенаправленного «упрощения» образования до уровня деревенской культуры. Найдите в этом списке экономику, социологию, психологию, все то, без чего сейчас невозможно строить ни машины, ни управление, ни продукты, ни сервисы. Такой вот Slave arts (в противовес Liberal Arts - «науки для свободных» в Риме)

"В рамках новых образовательных стандартов закрепим для всех программ единое социогуманитарное ядро, в которое войдут 6 дисциплин - история, основы философии, русский язык, основы российской государственности, безопасность жизнедеятельности, физическая культура", - говорится в сообщении.


Я хорошо помню канон «истмата», и насколько он огрублял и кастрировал мышление. К нам на физфак ЛГУ специально ездил читать лекции по литературе Аверинцев, и студенты забивали потоковую аудиторию битком - настолько это было ценнее и полезнее для мышления, чем «стандарт».

Читать полностью…

Evening Prophet

Пушистые геро-протекторы))

Читать полностью…

Evening Prophet

Так, это определенно MUST READ, надо читать, я только начал, пока не придумал подачу. Но лучшего про то, что такое текущий ИИ и как его будут готовить пока не встречал. Текст подают в разных идиотских подачах, так что рекомендую первоисточник.

Читать полностью…

Evening Prophet

Ну вот опять лирика-шмирика, «общество травмы». Ну тогда скажите прямо - кто, кого, как и когда травмировал)

Без мистики, дело в простом: структуре социальных связей и их типологии (предпочтение «сильных» дружеских/клановых «слабым» - знакомые/коллеги/просто люди и тп). Сильные связи - это тип «деревенского» общества: «тут свои - там чужие». Слабые связи - это города: «доверяй но проверяй», права равны, решения через процедуры, а не силу и размер банды. Давно много исследовано.

Проблема у нас - что трансляция из деревни в город идет медленно, поколениями. Горожанами в мозгу становятся в третьем поколении (много про это писал). И в это процесс вклиниваются миграции: горожане в последние десятилетия эмигрировали в несколько волн (цикл миграций был село -> райцентр -> обл центр -> Москва/Питер -> заграница). И потому слой полноценных горожан (три-горожан, как я их называю, третье поколение) остается не основным.

А начальство так поголовно с деревенским мышлением - кланы, семьи, персональные связи. Потому никакой травмы - просто задержанный (но неизбежный) транзит

Читать полностью…

Evening Prophet

Амазон отчитался об использовании на более чем миллиона роботов-работников.

Осталось недолго до пропорции 1:1 с людьми, сейчас у них 1,5 млн работников (вторая по численности частная компания в США).

Хорошо видно, насколько растет производительность: хотя число людей на складах упало на 20-30%, поток посылок вырос колоссально, почти на два порядка за десятилетие.

Сложно понять, на каких данных скептики (типа Аджемоглу) говорят об "низком росте производительнсти"

Читать полностью…

Evening Prophet

Во-первых, история показывает, что технологический прогресс не приводит к росту безработицы (как утверждает каждый первый текст про ai-безумие). Происходит перераспределение рабочей силы между секторами, о чем нам всем напомнил Сергей Егиев (и подписывайтесь на economic forces, это отличный блог про экономику). А рабочие часы в неделе исторически сокращаются благодаря политическим действиям.

Появление такой великой технологии как спредшит привело к сокращению низкоквалифицированных рабочих мест и всплеску более квалифицированных (ну по крайней мере консультанты и айбишники так про себя думают). Тут важно сказать, что взлет финансового сектора и консалтинга пришелся на рейганомику и тэтчеризм, что еще раз нам показывает важность политического фактора в занятости (в этой части максимальный рейджбейт для Григория Баженова).

Вообще жаль, что нарратив вокруг ai выстраивается через грядущий апокалипсис, а не через «появилась вот такая полезная штука, можно использовать, очень удобно».

2/5
@unexpectedvalue

Читать полностью…

Evening Prophet

Кто бы что ни говорил о якобы закате глобализации и сосредоточении на внутреннем рынке или межрегиональных союзах, глобальные корпорации - «курица, несущая золотые яйца» капитализма.
Глобальные компании более прибыльны и эффективны, у них больше капитализация.

Читать полностью…

Evening Prophet

Лучше всего на золотой лихорадке зарабатывают продавцы лопат 🧐 #1️⃣

Читать полностью…

Evening Prophet

😁 отрицание
🤯 гнев
✍️ торг
😨 депрессия
❤️ принятие

- отметьте себя на этой шкале принятия ИИ как постоянного инструмента для жизни и работы.

Быстрее всего по этой шкале бежит наука - в ней, фактически, не использовать ИИ уже равно расписаться в полной неконкурентоспособности. В биологии прорыв за прорывом, в физике, химии, психология. Вот подробный разбор инструментов и методов применения ИИ в науке от группы китайских ученых.

На гитхабе это еще круче смотрится, но прочитать это все способен только ИИ 😂🤖

Читать полностью…

Evening Prophet

Моя война с ветряными мельницами обычно выглядит так: я рассказываю как будет, мне объясняют, что это невозможно. Потом тех с кем спорил увольняют, и не с кого слупить проспоренный коньяк. Так было с масс-продакшеном спутников, так происходит с строительством крупной космической инфраструктуры.

США начинает подготовку к активной стройке космических верфей. Очевидно, что промышленные миссии к астероидам нет смысла запускать с Земли - большая часть массы может быть создана из лунных и астероидных ресурсов. Сами технологии производства активно апробируются - например лазерная плавки и формовка конструкций. Не удивляйтесь кстати «студентам» в заголовке - это не типовые учебные поделки. Там внутри все по взрослому - университетский проект с профессорами из индустрии. Но студенты да, вовлечены, не пишут диплом про фейк проектам, а экономят бюджет помогая индустрии делать сложную работу.

В общем, магистральная дорога к звездам мостится супер активно. Надо бы и нам перестать бухать за прошлые достижения…

Читать полностью…

Evening Prophet

О, классный подгон! Я на всех лекциях по управлению инновациями рассказываю кейс Valve - компании, в которой нет менеджмента, а есть спонтанные рабочие команды ("сдвижные столы") де-факто внутренний венчур в проекты-стартапы и феноменальный успех в части производительности труда. Неизвестный мне канал отлично все расписал, спасибо!

Вот можете почитать знаменитый Valve handbook - в котором новичкам объясняют куда они попали) (очередь там огромная). Да были попытки "очернить модель" - но цифры на табло: новые продукты, решения, масштаб созданного рыночного присутствия постоянно растут.

Читать полностью…

Evening Prophet

В воскресенье (лучшее время для спокойной работы)) выступал на программе МИК по развитию компетенций взаимодействия университетов и промышленности. Тему люблю и давно занимаюсь, моя прошлая лекция по теме есть в закрепе. Но в этот раз я больше концентрировался на задаче формирования индустриальных компетенций университета - а это сейчас уже 4 фундаментальных уровня:
1. знание технологий (учить)
2. создание технологий (создавать)
3. применение технологий (интегрировать и внедрять)
4. создавать технологические рынки (управлять disruptions)

Россия застряла в переходе с первого этажа на второй (Гумбольдтовский университет - все еще недостижимая мечта). Уверена, что третье - «задача индустрии» (нет, см кейс как Carnegie Mellon Mallon создал современную робототехнику в США ), а уж четвертое - вообще кажется полетом на Венеру (а лучший пример - это то, как Stanford своими исследования и репортами)

В чем причина отставания? Как ни печально - в том, что Россия, которая была лидером формирования современного инженерного образования, все последние 100 лет последовательно демонтировала свои компетенции в этом вопросе. Как это случилось? Начнем с истории.

Первые инженерные школы появились в военном деле - голландские и французские школы фортификации (Амстердам 1620-е; Mézières 1669) учили арифметике, геометрии, картографии. Потом пошли корабельные школы Британии, и их Петр по качеству поставил выше голландской школы кораблестроения, тк там сочеталась наука и ремесло - сэр Антони Дин (простой корабельный мастер) первым научился вычислять осадку судов и прорезать порты для пушек в безопасной зоне (до этого корабелы регулярно топили свои корабли - как знаменитая Vasa).

Затем пришло время французов догонять - появилась «Школа мостов» (École des Ponts et Chaussées 1747)и наконец École Polytechnique (1795). В них кроме кодекса преподавания инженерных знаний появились и курсы «право и экономика публичных работ», обязательные риторика и черчение античных ордеров как часть «formation du caractère».

А затем пришло время России. в императорском московском ремесленном училище бывший крестьянин Дмитрий Советкин создал революционную методику преподавания инженерии и ремесел - знаменитую «операционную систему», получившую гран-при на Парижской выставка 1867 года. И уже через 9 лет Джон Ранкл, президент MIT, публикует брошюру о необходимости внедрения «The Russian System of Shop-Work», и делает это. В подробном отчете (со стр 174 ) он объясняет революционную перспективность «русского подхода».

Ответ на вопрос (сложности обучения современных инженеров) оказался однозначно положительным и был дан в России. С превеликим удовольствием я хочу привлечь ваше внимание к (их достижениям)

В любом процессе строительства существует определённое лимитированное количество форм, более или менее видоизменённых для адаптации к определённой конструкции. Эти формы также могут делиться по группам, каждая из которых разрабатывается определённым способом и при помощи определённых инструментов. Таким образом, если возможно обучать студента разработке этих форм с наиболее подходящими инструментами и максимально подходящим способом, он будет намного более преуспевающим в навыке, который позволит ему быть полезным в процессе строительства.

Программа обучения в Московском Высшем Императорском Техническом Училище равна программе многих политехнических школ западной Европы, совмещает в себе теоретическое и практическое обучение, а, следовательно, может продемонстрировать доказательства возможности существования и даже преимуществ такой комбинации, так как она широко используется уже на протяжении определённого времени.


Из операционной модели обучения вытекли "кубики" проектирования и конструирования, которые стали основной "конвейерной революции", а с ней и взрыва mass productions в США и мире. Так русская инженерная школа стала в основе современной техно-цивилизации - но увы, не в России.

Читать полностью…

Evening Prophet

Новый привет врачам от ИИ-докторов. На этот раз исследователи создали сложную архитектуру ИИ-агентов (консилиум ИИ-врачей), который способен не только ставить диагнозы вчетверо лучше кожанных, но еще и заботиться об оптимизации расходов на диагностику (спойлер - ИИ без анализов работает лучше врачей с анализами и обследованиями за несколько тысяч долларов).

Авторы статьи поросята конечно - обозначили результаты врачей на диаграмме крестиками - "как грубо!" (но справедливо увы). Предметом анализа были 304 диагностически сложных клинико-патологических случаев из публикаций New England Journal of Medicine.

В сочетании с моделью o3 OpenAI MAI-DxO достигает 80% диагностической точности — в четыре раза выше, чем средний показатель врачей общей практики в 20%. MAI-DxO также снижает затраты на диагностику на 20% по сравнению с врачами и на 70% по сравнению с одиночным o3. При настройке на максимальную точность MAI-DxO достигает 85,5% точности.


Оба описанных инструмента повышения качества ИИ я применяю для своих задач уже несколько месяцев, и они потрясающе эффективны. Первый - создания процедуры общения (тактов, шагов, разделения стадий разбора тема через шаблон) - не просто задать вопрос прочитать ответ, а провести дискуссию с разбором, устроить спор ии-специалистов, прогнать выводы одного чрез критику и редактуру другого и тп - это разбивает проблемы узких контекстов и выводов, вытекающих из вопросов.
Второй метод - сложная архитектура ИИ-команды (конкурентные ИИ-агенты). Я им вообще создаю стабильные роли,CV, списки публикаций и опыта - это помогает им удерживать контекст и структуру роли. В исследовании были созданы следующие типы "докторов":

Доктор Гипотеза – поддерживает дифференциальную диагностику с ранжированием вероятностей по трем наиболее вероятным состояниям, обновляя вероятности байесовским способом после каждого нового открытия.
Dr. Test-Chooser – выбирает до трех диагностических тестов за раунд, которые максимально различают ведущие гипотезы.
Доктор Челленджер — выступает в роли адвоката дьявола, выявляя потенциальные ошибки привязки, выявляя противоречивые доказательства и предлагая тесты, которые могут опровергнуть текущий ведущий диагноз.
Доктор Стюардшип – обеспечивает экономически обоснованное медицинское обслуживание, выступая за более дешевые альтернативы, если они диагностически эквивалентны, и налагая вето на малоинформативные дорогостоящие тесты.
Dr. Checklist – осуществляет скрытый контроль качества, чтобы гарантировать, что модель генерирует допустимые названия тестов и поддерживает внутреннюю согласованность в рассуждениях комиссии.


На первом графике в начале под Microsoft имеется в виду работа комплексной команды ИИ (с разными моделями, их эффективность внутри командной работы сравнивается на втором графике), а графики с упоминаем моделей - это однопроходные результаты разных ИИ. По качеству ИИ-одиночки не сильно хуже, но коллектив сильно экономит деньги.

Тут важен дисклеймер - вообще американская и британская система врачебной помощи далека от совершенства. "Парацетомол, вода и диета" - типичная рекомендация. В России диагностика стоит значительно (почти на порядок) дешевле, и врачи тут ей даже злоупотребляют (гипердиагностика). Это кстати открывает нишу потенциального медицинского туризма в Россию (Турция и Таиланд ее очень успешно развивают это), но это отдельный вопрос, почему мы не умеем в экспорт услуг.

Но в любом случае - ИИ привносит в медицину радикальную революцию, и радикально демократизирует высококачественные медицинские услуги. Врач из провинциального меда уже не будет опасен для здоровья в связке с таким ИИ, поскольку будет консультировать как столичное светило.

Читать полностью…

Evening Prophet

мгновенная реакция

Читать полностью…

Evening Prophet

Хороший пример, куда может завести деревня в голове

Читать полностью…

Evening Prophet

Мой коллега по каналу Константин Сапроненков подогнал чудесное чтение, до которого, наконец, дошли руки) И хотя давно знал о теориях и моделях Ибн-Халдуна, их внимательное рассмотрение крайне интересно.

Итак, Ибн Халдун - без сомнений, первый футуролог в истории. Не социолог, не политолог - он создал комплексную модель прогнозирования социальных процессов на основе изучения арабо-берберского сообщества Северной Африки. И хотя в силу ряда причин, эта модель в других регионах и эпохах работает смазанно или частично - она (как и экологические модели, типа Лотка-Вольтерра) - база для построения моделей социальных теорий.

Не буду пересказывать (лучше почитать), именно он выявил четырех-тактовую модель смены элит, однако и пошел дальше - и нашел объяснение ("физическую природу") цикла. Для его описания он создал понятия, одно из них стало супер популярным в последнее время - "асабийя" (солидарность/спаянность), высокие значения которой он видел у берберов, и низкие - у городских арабов их потомков. При снижении "асабийи" города "расслаблялись", и их захватывала новая волна "варваров" - он пронаблюдал этот цикл в изучаемом регионе несколько раз, в других исторических эпохах и локациях он воспроизводился разово или прерывисто.

Самое интересное, и я это раньше не замечал, что в его интерпретации "асабийя" это не какое-то там "прогрессивно-чистое", против "погрязшего в пороках", а прямо - "деревенско-племенное" архаичное мышление, которое не понимает устройства городов и только ждет часа их разграбить. Самое интересно, что для самого Ибн-Халдуна реакционная и разрушительная роль асабийи была очевидна, и она была прямо противопоставлена рациональному учению Ислама о разумности индивида и его персональной ответственности за поступки, в противовес "стадным" инстинктам толп варваров.

Классический ислам однозначно и резко осуждает спаянность-асабиййа. Основной акцент исламской правовой и этической мысли — на "намерении" (ниййа), которое должно сопровождать любое действие. Намерение не может не быть, во-первых, продумано и сформировано самим человеком, а во-вторых, рационально обосновано: цели и интересы, на удовлетворение которых направлено действие, должны иметь благой характер и всегда идти на пользу человеку. Асабиййа действует в прямо противоположном направлении, лишая возможности рассуждать о цели действия и заставляя жертвовать жизнью (т.е. самым ценным) во имя не продуманных самостоятельно и, возможно, бессмысленных или вредных целей. В текстах классической эпохи 'асабиййа отождествляется либо связывается с периодом джахилиййа "[доисламского] невежества" (ислам же ассоциируется... с "торжеством знания"), с зулм "притеснением" (ислам — с 'адала "справедливостью"), с иттиба' ал-хава "следованием страстям" (ислам — с продуманностью любого действия и пользой от него, тогда как страсти навлекают, как правило, бедствия), с батил "пустым", "ложным" (ислам — с ал-хакк "истиной"). Как видим, оппозиция выражена как нельзя более ясно, и это правило резко отрицательного отношения к 'асабиййа в классический период не имеет, по-видимому, существенных исключений. 'Асабиййа ассоциировалась с прошлым, с тем, что преодолено исламом и не должно вернуться, а потому даже сам термин крайне редок в текстах классического периода: спаянность обсуждается скорее как воспоминание, а не как реальность.


Итак, мы слова возвращаемся к дихотомии коммунитарной архаики и персоналисткой рациональности и ответственности города. В этой связи поправлю Толкователя - выраженная "асабийя" российских элит - это не просто их "сплоченность", это их архаичность, попытка управлять сложным городским (по факту) сообществом деревенскими методами - приводящими к последовательной деградации институтов (что наблюдаем) и оттоку горожан зарубеж.

Применительно к миру вердикт понятен - деревня стремительно съеживается, и толп варваров разрушать города в большинстве стран нет. Но мы пока если не пограничники, то "недалеко ушли". Деревенского сообщества у нас мало (ну кроме мигрантов из Средней Азии), но вот деревенского мышления у начальство - хоть отбавляй, увы.

Читать полностью…

Evening Prophet

Маск и Бенджио уверены: AGI за углом (2-5 лет).
Пичаи и Маркус спорят: минимум десятилетие, слишком много «тупиков».

Хинтон и Харари пугают безработицей белых-воротничков.
Хуанг и Пичаи отвечают: задачи сменятся, а не исчезнут.

Альтман и Карапати продвигают AI-агентов как новый OS.
Бенджио считает, что агентность — лишний риск, нужен «без целей» научный ИИ.

Пичаи и Андрисен за гибкое регулирование «по ходу дела».
Бенджио и Харари требуют жёстких ограничений до запуска.

Альтман и Хуанг верят в «больше параметров = больше ума».
Чолле и Фэй-Фэй Ли: масштаб упирается в потолок, пора гибрид с символикой.

Мой AI проанализировал 50 интервью, которые дали топ-30 лидеров в AI за июнь. Анализ популярных тезисов, редкие мнения, противоречия разных людей и выводы, куда, кажется, все движется, здесь:

https://www.notion.so/AI-leadership-analysis-made-by-AI-June-2025-226fb93e7ab4804796e7e5e13726da0f

Читать полностью…

Evening Prophet

Иногда полезно копаться в карманах старой куртки

Читать полностью…

Evening Prophet

Тут недавно ужас как переживали за несчастных испанцев - а вот в Москве и области даже без глобальных блэкаутов количество отключений электроэнергии выросло с 6 447 случаев в 2019 году до 20 679 в 2023 году - на 221%.

И проблема - не в ВИЭ, очевидно (тут его почти нет), а в дикой стройке: в России с 2019 по 2023 год было построено 500 млн кв.м. многоквартирных домов. Для них требуется около 50 ГВт распределительных мощностей, но введено всего 18 ГВт.

Интересно, что одним из решений скорее всего будут "виртуальные электростанции" - системы частных накопителей (как у проклятых буржуев))) Парни из WATT сделали прикольный эксперимент. Частные накопители после интеграции в общее энерграспределение вполне способны брать на себя задачу стабилизации сети. Отчет немного пафосен, но в целом дело хорошее, так что делюсь)

Читать полностью…

Evening Prophet

А что, так можно было?))

Читать полностью…
Подписаться на канал