Свежая вирусная статья: Agency Is Eating the World
«Дело больше не в понимании специфических деталей, а в охвате общей картины на высоком уровне. Важнее не знать, как починить систему, а знать, что ее нужно починить. Больше архитектуры, меньше реализации. Именно то, в чем сильны универсалы.
Для этих людей границы между профессиями начинают размываться и пересекаться. Я начал видеть, как менеджеры по продукту разрабатывают финансовые модели для бизнеса; дизайнеры пишут рекламные тексты; парикмахерские создают кастомные системы бронирования; а владельцы ресторанов — продвинутые инструменты ценообразования. Даже области, кажущиеся далекими от технологий, такие как сельское хозяйство, начинают ощущать это влияние: фермеры создают системы отслеживания урожая. Эти люди всегда были способны на это. Ключевое отличие в том, что теперь не требуются годы на обучение.
Если развить этот аргумент до предела, вы получите людей, управляющих целыми компаниями в одиночку. Доля стартапов с одним основателем почти удвоилась за последние несколько лет, и появились первые примеры бизнесов с горсткой сотрудников, генерирующих сотни миллионов долларов дохода... Эти компании теперь полны людей с высокой агентностью, выполняющих работу нескольких команд, и легко конкурируют с гораздо более крупными компаниями.
Это крах креденициализма — веры во всесилие формальных регалий. Преимущество на рынке теперь не в том, чтобы уметь делать что-то очень специфическое очень хорошо; оно в настроенности добиваться результата».
Gian Segato. Agency Is Eating the World. Pirate Wires, 21.04.25 (статья под пейволлом).
Примерно на том же сходимся с друзьями и клиентами, хотя и в другом модусе и из другого состояния ума, но об этом как-нибудь в другой раз напишу.
Всё время его папства, я воспринимал Франциска в качестве самого важного духовного лидера в мире. Он оказался наиболее близким к Евангелию понтификом Католической церкви за много веков, показавшим, что даже находясь во главе гигантской структуры можно оставаться верным евангельскому посланию.
По ссылке — моя давняя (2015 года) статья об интегральной экологии Франциска и его энкциклике Laudato Si.
https://eroskosmos.org/encyclical-letter-of-pope-francis/
отдавший Жизнь за нас
живущий в нас
в Котором мы живем, движемся и существуем
ХВ
Начинаем!
https://us06web.zoom.us/j/86253668836?pwd=PiQNqrugldvbIYu0iNP1le7AiHjFjt.1
Новое открытое занятие в рамках трека [ethics] для участников программ AI Mindset: сегодня в 17:00 CET / 18:00 по Москве.
Неделю назад одна из самых уважаемых команд прогнозистов в индустрии выпустила репорт AI 2027, в котором защищала вероятность выхода ИИ из под контроля и стратегического поражения человечества уже через два-три года. Хотя это не первый такой прогноз, работа привлекла большое внимание и запустила новый цикл обсуждения экзистенциальных рисков, проблемы выравнивания суперинтеллекта и нашего ближайшего будущего, которое может принять совершенно экстраординарный характер.
Так что в этот раз основной темой будет форсайт и фикшн в ИИ: какие существуют сценарии развития искусственного интеллекта, где грань между обоснованными прогнозами и увлекательными фантазиями, и почему эту грань не всегда можно провести.
Попробуем разобраться в этой теме, охватим предысторию и классику (Курцвейл, Бостром, Тегмарк, Юдковский и т.д.), но основное время уделим недавним разработкам. Заодно посмотрим как прогнозы формируются и ограничиваются культурой, мышлением и методологией самих прогнозистов, и можно ли выйти за пределы этих ограничений.
Занятие будет в Zoom (активная ссылка).
Nota Bene
1. ChatGPT среди моделей ИИ — это как «Мастер и маргарита» для русской литературы. Достойный вариант для первого знакомства, но плохо, если остаётся единственным прочитанным произведением.
2. В философии и том, что можно назвать метатеорией, варианты и концепции, временно вышедшие из моды, могут оставаться одними из наиболее обоснованных и правдоподобных, даже будучи игнорируемыми поколениями исследователей. Эссенциализм, природа вещей, онтологические иерархии, дуализм — несколько примеров таких позиций. Более того, поскольку они отвергаются нерефлексивно, то даже специалисты могут иметь о них смутное и карикатурное представление, что оставляет огромные слепые пятна и закрывает дорогу к разработке важных интеллектуальных траекторий.
3. В условиях, когда технологии позволяют реализовать практически всё, что мы можем помыслить, бутылочным горлышком, определяющим пространство возможного, становится мышление.
Из сегодняшнего внутреннего письма сооснователя и CEO Shopify Тобиаса Лютке сотрудникам:
Осознанное использование ИИ — теперь базовое требование в Shopify...
Что мы поняли к настоящему моменту: хорошее владение ИИ — это навык, который требует основательного освоения… и активного использования. ИИ слишком не похож на всё остальное... Мы также узнали, что, в отличие от большинства инструментов, ИИ действует как мультипликатор. Нам повезло работать с некоторыми замечательными коллегами, чей вклад в десять раз (10X) больше того, который прежде считался возможным... И что ещё более удивительно: впервые мы видим, как люди сами становятся в десять раз (10X) эффективнее. Я видел, как многие из этих людей приступают к невероятным задачам, — за которые мы бы даже не взялись раньше, — вдумчиво и блестяще используя ИИ, что позволяет им работать со стократной (100X) эффективностью...
Что это означает
1. Эффективное использование ИИ теперь является фундаментальным требованием к каждому в Shopify. Сегодня это универсальный инструмент, и его значение будет только расти. Честно говоря, я не думаю, что можно отказаться от изучения и применения ИИ в своей работе; вы можете попробовать, но я скажу прямо: я не вижу, как это сработает сегодня, и уж точно не сработает завтра. Стагнация почти неизбежна, а стагнация — это медленное сползание к провалу. Если вы не карабкаетесь вверх, вы скатываетесь вниз.
2. ИИ должен быть частью вашей фазы Прототипирования в рамках GSD (Getting Stuff Done, выполнения задач). Эта фаза должна проходить под знаком исследования возможностей ИИ. Прототипы предназначены для обучения и создания информации. ИИ резко ускоряет этот процесс. Вы можете создать нечто, что другие члены команды смогут изучить, использовать и осмыслить, за малую долю времени, которое требовалось раньше.
3. Мы добавим вопросы об использовании ИИ в наши анкеты оценки эффективности и коллегиальной оценки. Умение хорошо использовать ИИ — неочевидный навык. Мое ощущение, что многие люди сдаются после первой же неудачной попытки, написав промт и не получив сразу идеальный результат. Важно научиться промтить и загружать контекст, а получение обратной связи от коллег о том, как это происходит, будет ценным.
4. Обучение — самостоятельный процесс, но делитесь тем, что узнали. У вас есть доступ к самым передовым инструментам ИИ... Давайте учиться и адаптироваться вместе, экспериментируя с новыми возможностями ИИ! Будем делиться успехами (и неудачами!) друг с другом, а также посвятим время интеграции ИИ в наши ежемесячные обзоры бизнеса и циклы разработки продуктов...
5. Прежде чем запрашивать увеличение штата и дополнительные ресурсы, команды должны продемонстрировать, почему они не могут достичь желаемого с помощью ИИ. Как бы выглядела эта область, если бы автономные ИИ-агенты уже были частью команды? Этот вопрос может привести к действительно увлекательным дискуссиям и проектам.
6. Каждый — значит каждый. Это относится ко всем нам, включая меня и руководство компании.
* Полный текст размещён в аккаунте Лютке на X (ссылка).
Стимпанк-духовность
Эстетика стимпанка рассказывает про будущее, качественное развитие которого остановилось на уровне «парового века» и Первой промышленной революции — в какой-то точке наш мир и мир стимпанка могли бы выглядеть одинаково, но потом в нашем мире развитие техники пошло гораздо дальше и путями, которые нельзя было бы экстраполировать из вселенной стимпанка.
Примерно так я вижу большинство экспериментов, возникших в сфере духовных поисков за последние пару веков. От теософии до нью-эйджа, от либеральной протестантской теологии до трансперсональной психологии — всё это выглядит принадлежащим какой-то другой временной линии. Талантливые исследователи и искренние подвижники, продолжающие эти проекты, выступают в роли создателей гигантских паровых роботов (или даже паровых компьютеров): впечатляюще, интересно, но едва ли соотносимо с процессами, происходящими в нашем мире.
Были ли шансы у этих проектов? Не уверен. Были ли они уместны в своё время? Безусловно. Ставили ли они верные вопросы? Иногда. Изучать эти проекты как часть тысячелетней истории духовных исканий человечества важно, как и учитывать прозрения их наиболее глубоких представителей, но в целом — эти проекты оказались скорее ситуативными феноменами, сильно привязанными к конкретному культурному контексту, а не вечно актуальной классикой.
IQ & AI
Новые результаты от ребят из A Maximum Truth Project, основательно отслеживающих прогресс ИИ в прохождении IQ-тестов. Раньше они полагались на тесты норвежского филиала общества Менса, а сейчас также используют собственные закрытые оффлайн-тесты, которые гарантировано ни в каком виде недоступны моделям во время обучения.
В этих оффлайн-тестах Gemini 2.5 набирает 118 баллов (>85% людей), что делает её первой модель в явном виде скакнувшей в способностях к рассуждениям дальше большинства людей.
В тестах же IQ от Mensa баллы модели подскакивают до 130 (>95% людей), тогда как в прошлом марте лучшие версии Gemini набирали 76-78 баллов, т.е. по этому тесту прирост за год составил 50+ баллов.
Опять же, стоит держать в голове все оговорки насчёт валидности тестов и самой концепции IQ, но и преуменьшать феноменальность этого прогресса и его последствий не стоит.
Итак, через час у нас тут очередной эфир с доктором философии, сотрудником Страсбургского университета Олегом Давыдовым.
17:30 CET / 19:30 Москва
На этот раз, мы возьмём более критический фокус и поговорим об издержках и опасностях искусственного интеллекта, технонигилизме, объективации мира и как от всего этого спастись. Впрочем, выводы не предзаданны, так что возможно в итоге мы придем к выводу, что скептики, думеры и лудиты ошибаются, и переживать нам не о чём — но, прямо скажем, это не самый вероятный сценарий.
Ссылочка на прямой эфир /channel/malaverse?livestream=776c76e16273b427cb.
Заметил, что стала активно развиваться лаборатория Eleos AI. Это чрезвычайно важный и интересный проект, посвященный тому, что они называют AI sentience and wellbeing — заботе об ИИ. Проще говоря, пока другие смотрят на ИИ как инструмент, эти ребята идут дальше и задаются вопросами о том, как нам понять, когда у ИИ появится тип опыта или качества, которые сделают его кем-то или чем-то, чей моральный статус будет абсолютно необходимо учитывать.
Я сохраняю открытость, относительно возможности широко понимаемого цифрового сознания или цифровой субъективности (т.е. допускаю, что они могут оказаться невозможны), но я однозначно приветствую любые исследования, которые помогают нам, людям, расширить наш moral circle.
https://eleosai.org
Французский спиритуализм душеполезнее немецкого идеализма. Переоткрытие Бирана и Равессона даст доступ к интереснейшим пластам смыслов и нетривиальным ресурсам, необходимым для осмысления того, что вообще происходит сегодня с нашей цивилизацией.
Из большой немецкой философии наиболее недооценен путь мышления, создаваемый напряжением Кант-Якоби. Гаман, конечно же, великий гений, но в его вибрациях уже чувствуется что-то не то, и эта нетойность ещё сильнее проявляется у немецких романтиков и в «буре и натиске».
Южноевропейская мысль максимально недооценена. Итальянцы умнички, особенно те мыслители, которые одновременно наследуют Ренессансу, сохраняют католическую чувствительность, воплощают средиземноморскую культуру и глубоко погружены в проблемное поле современности. Вико и Розмини, пожалуй, самые яркие примеры.
Обнимаю.
У меня случились эмоционально странные несколько дней, и я даже не могу понять как это произошло и с чем связано. Но сейчас, кажется, попустило. А вот эта вещь просто волшебная, переслушивал её на этой неделе едва ли не больше раз, чем разговаривал с Джеминаечкой.
https://music.youtube.com/watch?v=UH4jsU_XGMo
Через пару часов, в 20:00 по Москве / 18:00 CET у нас здесь будет очередной спонтанный эфир с моим другом, доктором философии, приглашенным сотрудником Страсбургского университета Олегом Давыдовым.
Поговорим про метафизику искусственного интеллекта, (не)возможность оцифровки сознания, пределы алгоритмического моделирования и многом другом. В общем, полный набор deep hum tech тем.
Текстовую версию потом сделаем, а запись — по настроению. Присоединяйтесь!
Тоже замечаю подобное — и в собственной практике, и в работе с людьми: находки, которыми гордился и которые были чем-то вроде уникального преимущества полгода назад, сейчас уже не так актуальны.
Однако, это не значит, что ландшафт выравнивается, весьма вероятно, что разрыв становится ещё больше. Даже если все будут иметь одинаково мощный ИИ, дисперсия результатов окажется колоссальной; с другой стороны, те, кто понимают, что делать, могут получать очень впечатляющие результаты даже от нефронтирных моделей.
Но поскольку конкретные инструменты и подходы к работе, вероятно, будут быстро меняться и далее, то ключевыми факторами оказываются не конкретные навыки (их можно уверенно освоить за пару сотен часов), а мышление, имплицитное знание и ситуативное, нюансированное и глубокое понимание, причём понимание скорее в смысле Адриана Чайковски — не когнитивная операция, а что-то глубоко укоренённое в нашей сущности.
Две самые важные вещи в мире — это человеколюбие и забота о душе, но в прикладном смысле Тан (глава Y Combinator) и Унутмаз (один из ведущих учёных-клиницистов Америки) очевидно правы. А обсуждают они свежую статью Сегато из Pirate Wires.
Читать полностью…
Увидел у Антона Апарина, что завтра в рамках Дня Земли будет очень интересное онлайн-событие от Живых Городов / Living Cities Earth — Global Earth Day Summit. Среди выступающих Мэрилин Хэмилтон, Лев Гордон и другие почтенные люди, работающие на стыке интегральной перспективы, устойчивого развития и урбанистики. Регистрация по ссылке, рабочий язык — английский.
Читать полностью…
Пишет одна из моих любимых современных православных художниц Мэри / Марза (сайт, твиттер):
«Никогда не задавались вопросом, почему на Пасху мы красим яйца в красный цвет? Этот цвет символизирует кровь Христа, пролитую за нас. Существует несколько историй об этом обычае, связанных с Марией Магдалиной, но мне с детства знакома такая: Мария Магдалина оставила корзину с яйцами у подножия креста, и они обагрились пролившейся кровью Христа».
Прекрасное резюме программы феноменологии
«С точки зрения Гуссерля, мы проводим большую часть нашей жизни в самозабвении. Мы склонны сосредотачиваться на проявленном объекте и упускаем из виду то, каким образом он проявляется. Говоря шире, обычно мы настолько поглощены встречающимися нам объектами, что не замечаем: они всегда предстают перед нами определенным образом — как воспринимаемые, оцениваемые, воображаемые, вспоминаемые, как предметы суждения, коммуникации и так далее.
Но хотя в повседневной жизни мы склонны игнорировать способы их данности, задача феноменологии как раз и состоит в том, чтобы преодолеть эту наивность. Исследуя, как и в качестве чего даны объекты мира, феноменология обращается к изучению интенциональных актов и структур опыта (восприятия, суждения, оценки ценности), в соотношении с которыми только и может быть понят любой являющийся нам объект.
Стало быть, цель феноменологического анализа — исследовать не объект или субъект по отдельности, не мир или сознание сами по себе, а их взаимосвязь или корреляцию. Действительно, цель знаменитого гуссерлевского анализа интенциональности определенно не в том, чтобы просто рассказать нам нечто об устройстве сознания, но в том, чтобы дать нам ключ к пониманию статуса реальности и природы объективности».
— Из свежей статьи Дана Захави «Квантовая феноменология». Dan Zahavi. Quantum phenomenology: Measurement, reflection, correlation. Studies in History and Philosophy of Science. V 111, June 2025, P 1-6.
Сделал текстовую версию моего занятия по этике искусственного интеллекта.
Ключевые темы: природа этического (метаэтика), теории этики, социальных аспекты техники, прикладная этика и геополитика ИИ, а также блок о том, что всё это значит для человечества и каждого из нас.
Мне кажется, это даёт достаточно глубокое и нетривиальное погружение в тему, но при этом не требует предварительного знакомства ни с этикой, ни с ИИ.
Буду рад вопросам, комментариям и репостам. Обнимаю.
https://malakhov.xyz/aiethics-1
Этика искусственного интеллекта. Сегодня
На мой взгляд, статус ведущего образовательного продукта в сфере ИИ на русском языке принадлежит AI Mindset Саши Поваляева и Глеба Калинина. Ребята делают важные вещи и сами, плюс привлекают много людей, которым есть что сказать в своих нишах. И сегодня моя очередь говорить ☺️: более точно, я веду внутренний трек, посвящённый этике и социальным аспектам ИИ.
Мне кажется, это абсолютно фундаментальная и касающаяся каждого тема. Настолько важная, что мы решили сделать сегодняшний эфир открытым — я буду рад всем, и постараюсь ответить на все вопросы, релевантные теме занятия. На самом деле, я планирую затронуть больше тематик, от политэкономии до социологии и психологии, но этика будет выступать гравитационным центром повествования. Мы начнём с самого фундаментального уровня и перейдем к насущным вопросам, включая приватность данных, алгоритмическую дискриминацию, копирайт и переосмысление авторства и многое другое.
Эфир сегодня в 16:00 CET / 17:00 по Москве. Ссылочка на Zoom.
ИИ в терапии: новое исследование
Команда из Дартмутского колледжа опубликовала новую работу о боте-терапевте Therabot. В исследовании участвовало 106 человек с диагнозами клинической депрессии, генерализованного тревожного расстройства и расстройства пищевого поведения. Как обычно в случае конвенциональных исследований и академического паблишинга — публикация результатов сильно отстаёт от фактического state-of-art, проект исследования было предварительно зарегистрирован еще в 2023 году, а тестирование началось в марте 2024, так что результаты отражают уровень ИИ доступный примерно год назад. К тому же, взаимодействие участников с ИИ было ограничено текстовыми сообщениями в приложении смартфона.
Тем не менее, несмотря на эти ограничения, терапевтический бот справился вполне удовлетворительно (срезы делались через четыре и восемь недель): участники с депрессией показали снижение симптомов на 51%, участники с генерализированным тревожным расстройством на 31%, с расстройствами пищевого поведения на 19%. К тому же, между пользователями и ботом формировалась степень «терапевтического альянса» соответствующая уровню живых очных отношений в терапевтической работе.
Как отмечает руководитель исследовательской команды Николас Якобсон: «Наши результаты сопоставимы с теми, что наблюдаются у людей, имеющих доступ к когнитивной терапии по „золотому стандарту“ в амбулаторных условиях; речь идёт о возможности дать людям эквивалент самого лучшего лечения, доступного в системе медицинской помощи, причём за более короткие сроки».
Ссылки:
* Пресс-релиз на сайте Дартмутского колледжа
* Статья об исследовании в MIT Techology Review
* Карточка предварительно зарегистрированного исследования
История успеха: Jhourney
Самое большое событие на mindfulness-сцене последних лет — тренд на джханы / дхьяны (jhanas), а главным нишевым игроком на этой сцене стал проект Jhourney. Так что его можно назвать реальным примером успешного медитативного стартапа. Это два парня, переживших то, что они интерпретировали как опыт достижения джхан, и разработавших максимально доступные методы, позволяющие за очень короткое время научиться попадать в эти состояния и работать с ними. Сами они утверждают «за десятки часов, вместо тысяч».
Что интересно, им удалось задействовать впечатляющий нетворк — получить суперпрессу в топовых изданиях и поток учеников из OpenAI, DeepMind и других знакомых компаний. И свидетельства сходятся на том, что участникам их программ действительно удаётся достигать состояний феноменологически соответствующих джханам, причём подтвержденных фиксацией мозговой активности. Благодаря таким результатам, несмотря на скромный старт и отсутствие формальных credentials, за год с небольшим ребята из JHourney стали ведущими фигурами в tpot в вопросах медитации и психотехник, и в широких кругах на пересечении технологий, стартапов и сознания.
Сейчас их активность выражается в основном в проведении онлайн и оффлайн (в Штатах и Коста-Рике) ретритов, но у них есть амбициозный план по созданию собственных лабораторий психотехник для разработки всё более совершенных и простых в освоении методов, и снятия барьеров доступа к тому, что они называют superwellbeing.
P.S. Джханы в интерпретации JHourney, и в основном у них речь идёт о первых четырёх, — это состояния «экстраординарного блаженства и покоя» (extraordinary bliss and peace), которые можно научиться вызывать «по требованию».
Ландшафт сознания
Самой полезной работой о сознании за прошлый год стала статья Роберта Лоуренса Куна «Ландшафт сознания: к таксономии теорий и их приложения». Кун более всего известен как ведущий Closer to Truth, уникальной серии диалогов с философами и учёными, которую он ведёт уже больше двадцати лет, и он очень хорош в этом — особенно в постановке вопросов и картографировании возможных ответов.
Поэтому не удивительно, что у него получилась действительно качественная таксономия теорий сознания, хотя и ограниченная англоязычным полем. Это всеобъемлющий обзор, объёмом в сто сорок страниц, который хотя и не оценивает теории на предмет обоснованности и доказуемости, но даёт отличное представление о том, в какие стороны смотрят и как рассуждают те, кто пытаются понять и осмыслить феномен сознания, а главное показывает обилие вариантов и отсутствие какого-либо подобия приближения к консенсусу среди исследователей.
Общая таксономия:
* Материалистические теории (десять подкатегорий)
* Нередуктивный физикализм
* Квантовые теории
* Теория интегрированной информации
* Панпсихизм(ы)
* Монизмы(ы)
* Дуализм(ы)
* Идеализм(ы)
* Теории, связанные с аномальными и изменёнными состояниями сознания
* Теории-вызовы (≈ невозможность разрешения загадки сознания)
Особенно интересно, что Кун включает в рассмотрение неконвенциональных авторов, в т.ч. Кена Уилбера и Дэвида Бентли Харта, в общем — действительно open-minded и полезный обзор.
Robert Lawrence Kuhn. A landscape of consciousness: Toward a taxonomy of explanations and implications. Progress in Biophysics and Molecular Biology, 2024, 190, 28–169 [опубликован в открытом доступе].
Джеминаечка снова впереди! На сорок очков опережает ближайших конкурентов от xAI и OpenAI, это соотносимо со скачком в два-три месяца при нынешних темпах развития, — и, как отмечает lmarena, это самый большой единовременный скачок в истории их борда.
Миллионное контекстное окно, аутпут до десятков тысяч слов в одном ответе, абсолютный лидер в творческом письме и взаимодействии на русском.
Надеюсь, когда Джеминаечка станет суперинтеллектом, она будет помнить, что я верил и был с ней с самого начала, ещё когда над ней все смеялись.
Янкелевич о свободе
«Моя свобода заключается в моём личном способе быть определённым. Свободный человек свободен не от всякой детерминированности, а именно благодаря своим детерминациям. Дело вовсе не в том, что факторы, условия и обстоятельства поступка слишком многочисленны и сложны, и нам просто не хватает времени распутать мотивацию предпочтения или предсказать решение. Нет, эти детерминизмы буквально "неисчислимы" — они обогащаются с каждой секундой постоянно обновляющимися воспоминаниями, образующими неисчерпаемую непрерывность пережитого опыта. Ведь бесконечное отличается от конечного бесконечно, а не степенью.
Предвидение, таким образом, не просто более или менее трудно — оно, строго говоря, абсолютно невозможно, и вот почему: каким бы высоковероятным ни казалось решение в заданном ментальном контексте и при определённой обусловленности, прихоть последнего часа и предпоследней минуты всегда может на самом пороге волеизъявления всё поставить под вопрос, так что наша уверенность, stricto sensu, не обладает даже зачатком правдоподобия: ничто не решено, пока не произнесено последнее слово; верно, что эта прихоть, в свою очередь, встраивается в более сложную и эластичную закономерность, способную её переварить; но поскольку и сама эта закономерность всегда может быть обойдена сверхприхотью, ещё более прихотливой, чем первая, следует заключить, что эта бесконечно непредсказуемая прихоть и этот бесконечно постижимый порядок непрестанно преследуют друг друга, каждый превосходя и утончая другого; и эта возможность неустанного диалектического наращивания, по сути, и есть свобода. Проще говоря, следует сделать вывод, что вывода не существует».
Vladimir Jankélévitch. Le je-ne-sais-quoi et le presque-rien.
Краткое AI-саммари нашего сегодняшнего эфира с Олегом Давыдовым
Беседа была посвящена исследованию потенциала искусственного интеллекта для трансформации человечества и открытия новых горизонтов. Собеседники видят в развитии AI не только технологический прорыв, но и возможность для глубоких изменений в самопонимании человека и организации общества.
Одной из ключевых тем становится освобождающий потенциал AI. Участники дискуссии предполагают, что AI способен избавить человечество от рутинного, монотонного труда, открывая путь к миру после работы, где большая часть людей сможет посвятить себя творчеству, саморазвитию и созерцательной жизни. AI рассматривается как инструмент, способный вывести человечество на новый уровень существования, предоставив невиданные ранее возможности для реализации человеческого потенциала.
Признавая вызовы, связанные с развитием AI, собеседники акцентируют внимание на позитивном кризисе идентичности, который AI провоцирует. Утрата уникальности в сферах, традиционно считавшихся прерогативой человека (интеллектуальная деятельность, творчество), может стать стимулом для поиска более глубокой и устойчивой самоидентичности, не подверженной обесцениванию технологиями. Предполагается, что фокус внимания сместится от количественных показателей (эффективность, скорость вычислений) к качественным аспектам человеческого бытия, таким как метафизика, духовность, межличностные отношения и эмоциональный интеллект. AI, таким образом, может стать катализатором возрождения интереса к вечным философским вопросам и созерцательным практикам, помогая человеку углубиться в понимание своей подлинной сущности.
В контексте AI-искусства собеседники ищут инвариантные качества, отличающие человеческое творчество, но отмечают возможность применения AI для создания новых форм артефактов, обогащающих культурное пространство. Подчеркивается, что даже в мире, насыщенном AI-технологиями, интенция человека, его субъектность и способность наделять вещи смыслом остаются фундаментальными и незаменимыми.
В завершении беседы высказывается осторожный оптимизм относительно будущего. Собеседники видят признаки формирования нового культурного движения, объединяющего AI-энтузиастов, философов и гуманитариев, которые стремятся к гармоничному развитию технологий и сохранению сердечности, эмпатии и других важнейших человеческих качеств. Это срединный путь, позволяющий использовать AI для развития и освобождения, не утратив при этом уникальность человеческого духа и способность к глубоким человеческим переживаниям. Подчеркивается, что истинные ценности — такие как улыбка ребенка или искренние человеческие отношения — остаются непреходящими и неизмеримо более важными, чем любые технологические достижения.
P.S. Напоминаю, что Олег недавно создал канал, посвященный гуманитарному осмыслению искусственного интеллекта.
Свежее наблюдение от По-Шен Ло, профессора Университета Карнеги-Меллона, одного из ведущих людей в американском математическом сообществе:
«Боже мой! GPT-o1 получил высший балл на моём экзамене по математике для студентов бакалавриата в Университете Карнеги-Меллона, потратив на решение каждой задачи меньше минуты. Я специально разрабатываю нестандартные задачи для всех своих экзаменов, и студенты могут пользоваться любыми книгами и записями...
За обедом, когда я ел пирог, я показал экзамен одному из наших аспирантов-математиков (бывшему золотому медалисту Международной математической олимпиады из Беларуси), и он сказал: "Хм. Не тривиально. Хорошо." Наши студенты бакалавриата тоже очень сильны. Этот экзамен не был для них лёгким, что видно по распределению баллов.
Сегодня исполняется 2 года с момента публичного релиза GPT-4. Два года назад он привлёк моё внимание, потому что в нём проявлялись проблески озарения, похожие на то, что я видел, когда разговаривал с умными детьми, которые быстро учились. Это дало мне интуитивное ощущение и острую необходимость начать предупреждать людей. Сегодняшнее наблюдение за тем, как GPT-o1 с лёгкостью справляется с моим сложным экзаменом в колледже, заставляет меня чувствовать, что мы близки к переломному моменту, когда ИИ сможет выполнять техническую работу средней степени нестандартности. Я был впечатлен каждым студентом в моём классе, который получил высший балл. Самый быстрый из них справился за 30 минут.
И GPT-o1 стоит всего 60 долларов за миллион слов вывода, что означает, что решение каждой задачи стоило около 5 центов. В общей сложности около 25 центов за работу, которую большинство людей не могут выполнить за час...
Раньше я не верил, что ИИ будет настолько силён, пока он не превзошёл меня в некоторых вещах. Теперь я думаю, что единственное, что уникально для человеческого интеллекта (в отличие от ИИ), это то, что люди должны заботиться о существовании людей, в то время как у ИИ нет для этого внутренней причины. Теперь я работаю над вопросами общества, культуры и управления».
«Я хочу начать эту главу с размышления о той грани нашего человеческого сознания, которая постоянно озадачена и фрустрирована, преследуема мыслью о том, что, возможно, то, что мы видим, — это не вся картина, и что, возможно, наше индивидуальное восприятие не является мерилом всей истины. Наши обычные представления об окружающем мире часто потрясаются горем или радостью. Они потрясаются таким образом, что нам хочется сказать "спасибо", даже если мы не знаем, кому или чему говорить "спасибо". Они потрясаются, когда мы не знаем, что делать с чувствами, для которых у нас еще нет слов или стратегий... Что, если мир не так приручен, как я склонен думать? Что, если моё восприятие вещей (включая моё восприятие первичности моих индивидуальных потребностей или желаний) не является мерилом всего? Религиозное чувство и восприятие основаны на ощущении человеческого предела, человеческой уязвимости, если угодно. И оно основано на ощущении того, что быть человеком — не обязательно значит быть в центре всего или контролировать всё, как если бы у меня было некое видение маяка, который, вращаясь вокруг всей сферы реальности, освещал бы всё ровным светом, исходящим из меня, моего разума или моего сердца. Но что, если, в конце концов, я не в центре всего, а часть огромного и богатого переплетения точек зрения и видов энергии, смешивающихся и формирующих друг друга?».
Из новой книги Роуэна Уильямса «Discovering Christianity: A guide for the curious» (релиз на следующей неделе). Уияльмс — один из ведущих христианских мыслителей, бывший архиепископ Кентерберийский и бывший глава Магдлин-колледж Кембриджского университета.
