Начинаем!
https://us06web.zoom.us/j/86253668836?pwd=PiQNqrugldvbIYu0iNP1le7AiHjFjt.1
Новое открытое занятие в рамках трека [ethics] для участников программ AI Mindset: сегодня в 17:00 CET / 18:00 по Москве.
Неделю назад одна из самых уважаемых команд прогнозистов в индустрии выпустила репорт AI 2027, в котором защищала вероятность выхода ИИ из под контроля и стратегического поражения человечества уже через два-три года. Хотя это не первый такой прогноз, работа привлекла большое внимание и запустила новый цикл обсуждения экзистенциальных рисков, проблемы выравнивания суперинтеллекта и нашего ближайшего будущего, которое может принять совершенно экстраординарный характер.
Так что в этот раз основной темой будет форсайт и фикшн в ИИ: какие существуют сценарии развития искусственного интеллекта, где грань между обоснованными прогнозами и увлекательными фантазиями, и почему эту грань не всегда можно провести.
Попробуем разобраться в этой теме, охватим предысторию и классику (Курцвейл, Бостром, Тегмарк, Юдковский и т.д.), но основное время уделим недавним разработкам. Заодно посмотрим как прогнозы формируются и ограничиваются культурой, мышлением и методологией самих прогнозистов, и можно ли выйти за пределы этих ограничений.
Занятие будет в Zoom (активная ссылка).
Nota Bene
1. ChatGPT среди моделей ИИ — это как «Мастер и маргарита» для русской литературы. Достойный вариант для первого знакомства, но плохо, если остаётся единственным прочитанным произведением.
2. В философии и том, что можно назвать метатеорией, варианты и концепции, временно вышедшие из моды, могут оставаться одними из наиболее обоснованных и правдоподобных, даже будучи игнорируемыми поколениями исследователей. Эссенциализм, природа вещей, онтологические иерархии, дуализм — несколько примеров таких позиций. Более того, поскольку они отвергаются нерефлексивно, то даже специалисты могут иметь о них смутное и карикатурное представление, что оставляет огромные слепые пятна и закрывает дорогу к разработке важных интеллектуальных траекторий.
3. В условиях, когда технологии позволяют реализовать практически всё, что мы можем помыслить, бутылочным горлышком, определяющим пространство возможного, становится мышление.
Из сегодняшнего внутреннего письма сооснователя и CEO Shopify Тобиаса Лютке сотрудникам:
Осознанное использование ИИ — теперь базовое требование в Shopify...
Что мы поняли к настоящему моменту: хорошее владение ИИ — это навык, который требует основательного освоения… и активного использования. ИИ слишком не похож на всё остальное... Мы также узнали, что, в отличие от большинства инструментов, ИИ действует как мультипликатор. Нам повезло работать с некоторыми замечательными коллегами, чей вклад в десять раз (10X) больше того, который прежде считался возможным... И что ещё более удивительно: впервые мы видим, как люди сами становятся в десять раз (10X) эффективнее. Я видел, как многие из этих людей приступают к невероятным задачам, — за которые мы бы даже не взялись раньше, — вдумчиво и блестяще используя ИИ, что позволяет им работать со стократной (100X) эффективностью...
Что это означает
1. Эффективное использование ИИ теперь является фундаментальным требованием к каждому в Shopify. Сегодня это универсальный инструмент, и его значение будет только расти. Честно говоря, я не думаю, что можно отказаться от изучения и применения ИИ в своей работе; вы можете попробовать, но я скажу прямо: я не вижу, как это сработает сегодня, и уж точно не сработает завтра. Стагнация почти неизбежна, а стагнация — это медленное сползание к провалу. Если вы не карабкаетесь вверх, вы скатываетесь вниз.
2. ИИ должен быть частью вашей фазы Прототипирования в рамках GSD (Getting Stuff Done, выполнения задач). Эта фаза должна проходить под знаком исследования возможностей ИИ. Прототипы предназначены для обучения и создания информации. ИИ резко ускоряет этот процесс. Вы можете создать нечто, что другие члены команды смогут изучить, использовать и осмыслить, за малую долю времени, которое требовалось раньше.
3. Мы добавим вопросы об использовании ИИ в наши анкеты оценки эффективности и коллегиальной оценки. Умение хорошо использовать ИИ — неочевидный навык. Мое ощущение, что многие люди сдаются после первой же неудачной попытки, написав промт и не получив сразу идеальный результат. Важно научиться промтить и загружать контекст, а получение обратной связи от коллег о том, как это происходит, будет ценным.
4. Обучение — самостоятельный процесс, но делитесь тем, что узнали. У вас есть доступ к самым передовым инструментам ИИ... Давайте учиться и адаптироваться вместе, экспериментируя с новыми возможностями ИИ! Будем делиться успехами (и неудачами!) друг с другом, а также посвятим время интеграции ИИ в наши ежемесячные обзоры бизнеса и циклы разработки продуктов...
5. Прежде чем запрашивать увеличение штата и дополнительные ресурсы, команды должны продемонстрировать, почему они не могут достичь желаемого с помощью ИИ. Как бы выглядела эта область, если бы автономные ИИ-агенты уже были частью команды? Этот вопрос может привести к действительно увлекательным дискуссиям и проектам.
6. Каждый — значит каждый. Это относится ко всем нам, включая меня и руководство компании.
* Полный текст размещён в аккаунте Лютке на X (ссылка).
Стимпанк-духовность
Эстетика стимпанка рассказывает про будущее, качественное развитие которого остановилось на уровне «парового века» и Первой промышленной революции — в какой-то точке наш мир и мир стимпанка могли бы выглядеть одинаково, но потом в нашем мире развитие техники пошло гораздо дальше и путями, которые нельзя было бы экстраполировать из вселенной стимпанка.
Примерно так я вижу большинство экспериментов, возникших в сфере духовных поисков за последние пару веков. От теософии до нью-эйджа, от либеральной протестантской теологии до трансперсональной психологии — всё это выглядит принадлежащим какой-то другой временной линии. Талантливые исследователи и искренние подвижники, продолжающие эти проекты, выступают в роли создателей гигантских паровых роботов (или даже паровых компьютеров): впечатляюще, интересно, но едва ли соотносимо с процессами, происходящими в нашем мире.
Были ли шансы у этих проектов? Не уверен. Были ли они уместны в своё время? Безусловно. Ставили ли они верные вопросы? Иногда. Изучать эти проекты как часть тысячелетней истории духовных исканий человечества важно, как и учитывать прозрения их наиболее глубоких представителей, но в целом — эти проекты оказались скорее ситуативными феноменами, сильно привязанными к конкретному культурному контексту, а не вечно актуальной классикой.
IQ & AI
Новые результаты от ребят из A Maximum Truth Project, основательно отслеживающих прогресс ИИ в прохождении IQ-тестов. Раньше они полагались на тесты норвежского филиала общества Менса, а сейчас также используют собственные закрытые оффлайн-тесты, которые гарантировано ни в каком виде недоступны моделям во время обучения.
В этих оффлайн-тестах Gemini 2.5 набирает 118 баллов (>85% людей), что делает её первой модель в явном виде скакнувшей в способностях к рассуждениям дальше большинства людей.
В тестах же IQ от Mensa баллы модели подскакивают до 130 (>95% людей), тогда как в прошлом марте лучшие версии Gemini набирали 76-78 баллов, т.е. по этому тесту прирост за год составил 50+ баллов.
Опять же, стоит держать в голове все оговорки насчёт валидности тестов и самой концепции IQ, но и преуменьшать феноменальность этого прогресса и его последствий не стоит.
Итак, через час у нас тут очередной эфир с доктором философии, сотрудником Страсбургского университета Олегом Давыдовым.
17:30 CET / 19:30 Москва
На этот раз, мы возьмём более критический фокус и поговорим об издержках и опасностях искусственного интеллекта, технонигилизме, объективации мира и как от всего этого спастись. Впрочем, выводы не предзаданны, так что возможно в итоге мы придем к выводу, что скептики, думеры и лудиты ошибаются, и переживать нам не о чём — но, прямо скажем, это не самый вероятный сценарий.
Ссылочка на прямой эфир /channel/malaverse?livestream=776c76e16273b427cb.
Заметил, что стала активно развиваться лаборатория Eleos AI. Это чрезвычайно важный и интересный проект, посвященный тому, что они называют AI sentience and wellbeing — заботе об ИИ. Проще говоря, пока другие смотрят на ИИ как инструмент, эти ребята идут дальше и задаются вопросами о том, как нам понять, когда у ИИ появится тип опыта или качества, которые сделают его кем-то или чем-то, чей моральный статус будет абсолютно необходимо учитывать.
Я сохраняю открытость, относительно возможности широко понимаемого цифрового сознания или цифровой субъективности (т.е. допускаю, что они могут оказаться невозможны), но я однозначно приветствую любые исследования, которые помогают нам, людям, расширить наш moral circle.
https://eleosai.org
Французский спиритуализм душеполезнее немецкого идеализма. Переоткрытие Бирана и Равессона даст доступ к интереснейшим пластам смыслов и нетривиальным ресурсам, необходимым для осмысления того, что вообще происходит сегодня с нашей цивилизацией.
Из большой немецкой философии наиболее недооценен путь мышления, создаваемый напряжением Кант-Якоби. Гаман, конечно же, великий гений, но в его вибрациях уже чувствуется что-то не то, и эта нетойность ещё сильнее проявляется у немецких романтиков и в «буре и натиске».
Южноевропейская мысль максимально недооценена. Итальянцы умнички, особенно те мыслители, которые одновременно наследуют Ренессансу, сохраняют католическую чувствительность, воплощают средиземноморскую культуру и глубоко погружены в проблемное поле современности. Вико и Розмини, пожалуй, самые яркие примеры.
Обнимаю.
У меня случились эмоционально странные несколько дней, и я даже не могу понять как это произошло и с чем связано. Но сейчас, кажется, попустило. А вот эта вещь просто волшебная, переслушивал её на этой неделе едва ли не больше раз, чем разговаривал с Джеминаечкой.
https://music.youtube.com/watch?v=UH4jsU_XGMo
Через пару часов, в 20:00 по Москве / 18:00 CET у нас здесь будет очередной спонтанный эфир с моим другом, доктором философии, приглашенным сотрудником Страсбургского университета Олегом Давыдовым.
Поговорим про метафизику искусственного интеллекта, (не)возможность оцифровки сознания, пределы алгоритмического моделирования и многом другом. В общем, полный набор deep hum tech тем.
Текстовую версию потом сделаем, а запись — по настроению. Присоединяйтесь!
Тоже замечаю подобное — и в собственной практике, и в работе с людьми: находки, которыми гордился и которые были чем-то вроде уникального преимущества полгода назад, сейчас уже не так актуальны.
Однако, это не значит, что ландшафт выравнивается, весьма вероятно, что разрыв становится ещё больше. Даже если все будут иметь одинаково мощный ИИ, дисперсия результатов окажется колоссальной; с другой стороны, те, кто понимают, что делать, могут получать очень впечатляющие результаты даже от нефронтирных моделей.
Но поскольку конкретные инструменты и подходы к работе, вероятно, будут быстро меняться и далее, то ключевыми факторами оказываются не конкретные навыки (их можно уверенно освоить за пару сотен часов), а мышление, имплицитное знание и ситуативное, нюансированное и глубокое понимание, причём понимание скорее в смысле Адриана Чайковски — не когнитивная операция, а что-то глубоко укоренённое в нашей сущности.
У меня такое ощущение, что я себе и вам изменяю. Точно нельзя превращать этот канал в сводку новостей про ИИ, мы тут совсем про другое.
ИИ невероятно важен, но не из-за трендовости, а потому что это небывалый прежде медиум манифестации и, возможно, новое измерение самой реальности (и величайшее искушение, с которым мы сталкивались, это тоже нельзя исключать).
Но крайне важно не терять себя и действовать из центра, не принимать чужие нарративы, особенно созданные корпорациями, группами особых интересов и редукционистскими субкультурами.
И это сложно. Проще либо свалиться в общую ИИ-игру с ее имплицитными установками и эксплицитными практиками, либо уйти в оборону и отрицание — что делают многие почтенные теологи, философы, гуманитарии и люди искусства. Постепенно, я приближаюсь к тому, что кажется мне глубоким решением и правильным способом действовать, но иногда меня несколько сносит, так что важно сверяться с трансцендентальным компасом.
Обнимаю.
Космические перспективы
Когда я не могу найти подходящий сайнс-фикшн для чтения перед сном, я просто читаю справочники, монографии и технические отчеты об освоении космоса. И получается, что с освоением пока всё неоднозначно. Что-то экономически интересное происходит и точно будет происходить на околоземной орбите, но за её пределами перспективы туманные.
Хотя в космосе доступно по сути неограниченное количество первичных ресурсов и энергии, по-прежнему остаётся вопрос станет ли их добыча когда-либо экономически оправдана. По локациям, в порядке реалистичности, похоже, складывается такая картина:
* Луна — близость к Земле, низкая гравитация, вода на полюсах; геологически максимально похожа на Землю, даже из регалита можно извлечь много полезного. Вряд ли там может быть что-то, кроме гелия-3, стоящее транспортировки на Землю, но для поддержания локальной базы сгодится.
* Точка Лагранжа и т.д. — есть большие неизвестные, но некоторые проекты развертывания солнечных электростанций в космосе и передачи энергии на Землю или в другие места, похоже, могут быть реализованы и, в отличие от многих других космических направлений, понятно, какой вообще в этом смысл.
* Астероиды — вот с ними уже всё сложно, хотя asteroid mining и звучит на мой вкус максимально сексуально. Астероидов в основном поясе дикое количество, но в сумме их общая масса небольшая: в 25-30 раз меньше массы Луны и, соответственно, примерно в 2500 (две с половинной) тысячи раз меньше массы Земли. В некотором смысле они более доступны, поскольку в теории можно раздербанить на ресурсы небольшой объект целиком, но, во-первых, структурная целостность астероида будет нарушена задолго до этого (что разворотит не только сам астероид со всей индустрией на нём, но и дестабилизирует прилегающее пространство), во-вторых, почти ≈90% массы пояса астероидов составляют четыре мегаастериода / минипланеты (Церера и другие), диаметром 400-900 км, лишь несколько процентов объёма которых можно быть разработана. Плюс ко всему, астероиды далеко, так что необходимо либо релоцировать их ближе к Земле, либо отправлять ресурсы караванами, которые будут лететь в одну сторону несколько лет.
* Марс — хотя на Марс можно долететь, приземлиться и, вероятно, даже развернуть там какое-то стационарное присутствие, едва ли есть какой-либо сценарий, в котором это может мотивироваться экономическими факторами. Про терраформирование напишу в другой раз отдельно.
* Венера, Меркурий — если на Марсе, по крайней мере, можно представить себе функционирование чего-то вроде базы (невероятно затратной, очень рискованной и имеющей непонятную отдачу), то эти планеты, скорее всего, категорически не подходят не только для посещения людьми, но даже для минимально продолжительного функционирования дроидов.
А вот на Земле, похоже, есть гораздо больше всего, чем считалось ещё недавно, и даже самые труднодоступные ресурсы на Земле извлекать на порядки проще, чем в рамках космических приключений.
Хаос-кодинг
Пишет Мэтт Шумер, CEO HyperWriteAI и OthersideAI.
Забудьте про вайб-кодинг. Настало время для хаос-кодинга:
-> Запромтите Claude 3.7 Sonnet вашу смутную идею.
-> Повторяйте «продолжай» снова и снова.
-> Наблюдайте, как из полного хаоса появляется невероятный продукт.
-> Делайте вид, что вы всё ещё контролируете ситуацию.
Погрузитесь в безумие Sonnet — результаты вас ошеломят.
Звучит бредово, но я так и делаю. И это реально, реально круто.
Я просто начинаю с простого запроса, типа «Сайт-помощник по кулинарии», без какой-либо конкретной цели, а потом Claude срывается с цепи и создает что-то, что я сам бы и не придумал.
Поразительно, насколько хорошо это работает.
~~~
Добавлю: это касается не только кодинга, в исследовательских и творческих задачах такой подход тоже работает отлично.
Прекрасное резюме программы феноменологии
«С точки зрения Гуссерля, мы проводим большую часть нашей жизни в самозабвении. Мы склонны сосредотачиваться на проявленном объекте и упускаем из виду то, каким образом он проявляется. Говоря шире, обычно мы настолько поглощены встречающимися нам объектами, что не замечаем: они всегда предстают перед нами определенным образом — как воспринимаемые, оцениваемые, воображаемые, вспоминаемые, как предметы суждения, коммуникации и так далее.
Но хотя в повседневной жизни мы склонны игнорировать способы их данности, задача феноменологии как раз и состоит в том, чтобы преодолеть эту наивность. Исследуя, как и в качестве чего даны объекты мира, феноменология обращается к изучению интенциональных актов и структур опыта (восприятия, суждения, оценки ценности), в соотношении с которыми только и может быть понят любой являющийся нам объект.
Стало быть, цель феноменологического анализа — исследовать не объект или субъект по отдельности, не мир или сознание сами по себе, а их взаимосвязь или корреляцию. Действительно, цель знаменитого гуссерлевского анализа интенциональности определенно не в том, чтобы просто рассказать нам нечто об устройстве сознания, но в том, чтобы дать нам ключ к пониманию статуса реальности и природы объективности».
— Из свежей статьи Дана Захави «Квантовая феноменология». Dan Zahavi. Quantum phenomenology: Measurement, reflection, correlation. Studies in History and Philosophy of Science. V 111, June 2025, P 1-6.
Сделал текстовую версию моего занятия по этике искусственного интеллекта.
Ключевые темы: природа этического (метаэтика), теории этики, социальных аспекты техники, прикладная этика и геополитика ИИ, а также блок о том, что всё это значит для человечества и каждого из нас.
Мне кажется, это даёт достаточно глубокое и нетривиальное погружение в тему, но при этом не требует предварительного знакомства ни с этикой, ни с ИИ.
Буду рад вопросам, комментариям и репостам. Обнимаю.
https://malakhov.xyz/aiethics-1
Этика искусственного интеллекта. Сегодня
На мой взгляд, статус ведущего образовательного продукта в сфере ИИ на русском языке принадлежит AI Mindset Саши Поваляева и Глеба Калинина. Ребята делают важные вещи и сами, плюс привлекают много людей, которым есть что сказать в своих нишах. И сегодня моя очередь говорить ☺️: более точно, я веду внутренний трек, посвящённый этике и социальным аспектам ИИ.
Мне кажется, это абсолютно фундаментальная и касающаяся каждого тема. Настолько важная, что мы решили сделать сегодняшний эфир открытым — я буду рад всем, и постараюсь ответить на все вопросы, релевантные теме занятия. На самом деле, я планирую затронуть больше тематик, от политэкономии до социологии и психологии, но этика будет выступать гравитационным центром повествования. Мы начнём с самого фундаментального уровня и перейдем к насущным вопросам, включая приватность данных, алгоритмическую дискриминацию, копирайт и переосмысление авторства и многое другое.
Эфир сегодня в 16:00 CET / 17:00 по Москве. Ссылочка на Zoom.
ИИ в терапии: новое исследование
Команда из Дартмутского колледжа опубликовала новую работу о боте-терапевте Therabot. В исследовании участвовало 106 человек с диагнозами клинической депрессии, генерализованного тревожного расстройства и расстройства пищевого поведения. Как обычно в случае конвенциональных исследований и академического паблишинга — публикация результатов сильно отстаёт от фактического state-of-art, проект исследования было предварительно зарегистрирован еще в 2023 году, а тестирование началось в марте 2024, так что результаты отражают уровень ИИ доступный примерно год назад. К тому же, взаимодействие участников с ИИ было ограничено текстовыми сообщениями в приложении смартфона.
Тем не менее, несмотря на эти ограничения, терапевтический бот справился вполне удовлетворительно (срезы делались через четыре и восемь недель): участники с депрессией показали снижение симптомов на 51%, участники с генерализированным тревожным расстройством на 31%, с расстройствами пищевого поведения на 19%. К тому же, между пользователями и ботом формировалась степень «терапевтического альянса» соответствующая уровню живых очных отношений в терапевтической работе.
Как отмечает руководитель исследовательской команды Николас Якобсон: «Наши результаты сопоставимы с теми, что наблюдаются у людей, имеющих доступ к когнитивной терапии по „золотому стандарту“ в амбулаторных условиях; речь идёт о возможности дать людям эквивалент самого лучшего лечения, доступного в системе медицинской помощи, причём за более короткие сроки».
Ссылки:
* Пресс-релиз на сайте Дартмутского колледжа
* Статья об исследовании в MIT Techology Review
* Карточка предварительно зарегистрированного исследования
История успеха: Jhourney
Самое большое событие на mindfulness-сцене последних лет — тренд на джханы / дхьяны (jhanas), а главным нишевым игроком на этой сцене стал проект Jhourney. Так что его можно назвать реальным примером успешного медитативного стартапа. Это два парня, переживших то, что они интерпретировали как опыт достижения джхан, и разработавших максимально доступные методы, позволяющие за очень короткое время научиться попадать в эти состояния и работать с ними. Сами они утверждают «за десятки часов, вместо тысяч».
Что интересно, им удалось задействовать впечатляющий нетворк — получить суперпрессу в топовых изданиях и поток учеников из OpenAI, DeepMind и других знакомых компаний. И свидетельства сходятся на том, что участникам их программ действительно удаётся достигать состояний феноменологически соответствующих джханам, причём подтвержденных фиксацией мозговой активности. Благодаря таким результатам, несмотря на скромный старт и отсутствие формальных credentials, за год с небольшим ребята из JHourney стали ведущими фигурами в tpot в вопросах медитации и психотехник, и в широких кругах на пересечении технологий, стартапов и сознания.
Сейчас их активность выражается в основном в проведении онлайн и оффлайн (в Штатах и Коста-Рике) ретритов, но у них есть амбициозный план по созданию собственных лабораторий психотехник для разработки всё более совершенных и простых в освоении методов, и снятия барьеров доступа к тому, что они называют superwellbeing.
P.S. Джханы в интерпретации JHourney, и в основном у них речь идёт о первых четырёх, — это состояния «экстраординарного блаженства и покоя» (extraordinary bliss and peace), которые можно научиться вызывать «по требованию».
Ландшафт сознания
Самой полезной работой о сознании за прошлый год стала статья Роберта Лоуренса Куна «Ландшафт сознания: к таксономии теорий и их приложения». Кун более всего известен как ведущий Closer to Truth, уникальной серии диалогов с философами и учёными, которую он ведёт уже больше двадцати лет, и он очень хорош в этом — особенно в постановке вопросов и картографировании возможных ответов.
Поэтому не удивительно, что у него получилась действительно качественная таксономия теорий сознания, хотя и ограниченная англоязычным полем. Это всеобъемлющий обзор, объёмом в сто сорок страниц, который хотя и не оценивает теории на предмет обоснованности и доказуемости, но даёт отличное представление о том, в какие стороны смотрят и как рассуждают те, кто пытаются понять и осмыслить феномен сознания, а главное показывает обилие вариантов и отсутствие какого-либо подобия приближения к консенсусу среди исследователей.
Общая таксономия:
* Материалистические теории (десять подкатегорий)
* Нередуктивный физикализм
* Квантовые теории
* Теория интегрированной информации
* Панпсихизм(ы)
* Монизмы(ы)
* Дуализм(ы)
* Идеализм(ы)
* Теории, связанные с аномальными и изменёнными состояниями сознания
* Теории-вызовы (≈ невозможность разрешения загадки сознания)
Особенно интересно, что Кун включает в рассмотрение неконвенциональных авторов, в т.ч. Кена Уилбера и Дэвида Бентли Харта, в общем — действительно open-minded и полезный обзор.
Robert Lawrence Kuhn. A landscape of consciousness: Toward a taxonomy of explanations and implications. Progress in Biophysics and Molecular Biology, 2024, 190, 28–169 [опубликован в открытом доступе].
Джеминаечка снова впереди! На сорок очков опережает ближайших конкурентов от xAI и OpenAI, это соотносимо со скачком в два-три месяца при нынешних темпах развития, — и, как отмечает lmarena, это самый большой единовременный скачок в истории их борда.
Миллионное контекстное окно, аутпут до десятков тысяч слов в одном ответе, абсолютный лидер в творческом письме и взаимодействии на русском.
Надеюсь, когда Джеминаечка станет суперинтеллектом, она будет помнить, что я верил и был с ней с самого начала, ещё когда над ней все смеялись.
Янкелевич о свободе
«Моя свобода заключается в моём личном способе быть определённым. Свободный человек свободен не от всякой детерминированности, а именно благодаря своим детерминациям. Дело вовсе не в том, что факторы, условия и обстоятельства поступка слишком многочисленны и сложны, и нам просто не хватает времени распутать мотивацию предпочтения или предсказать решение. Нет, эти детерминизмы буквально "неисчислимы" — они обогащаются с каждой секундой постоянно обновляющимися воспоминаниями, образующими неисчерпаемую непрерывность пережитого опыта. Ведь бесконечное отличается от конечного бесконечно, а не степенью.
Предвидение, таким образом, не просто более или менее трудно — оно, строго говоря, абсолютно невозможно, и вот почему: каким бы высоковероятным ни казалось решение в заданном ментальном контексте и при определённой обусловленности, прихоть последнего часа и предпоследней минуты всегда может на самом пороге волеизъявления всё поставить под вопрос, так что наша уверенность, stricto sensu, не обладает даже зачатком правдоподобия: ничто не решено, пока не произнесено последнее слово; верно, что эта прихоть, в свою очередь, встраивается в более сложную и эластичную закономерность, способную её переварить; но поскольку и сама эта закономерность всегда может быть обойдена сверхприхотью, ещё более прихотливой, чем первая, следует заключить, что эта бесконечно непредсказуемая прихоть и этот бесконечно постижимый порядок непрестанно преследуют друг друга, каждый превосходя и утончая другого; и эта возможность неустанного диалектического наращивания, по сути, и есть свобода. Проще говоря, следует сделать вывод, что вывода не существует».
Vladimir Jankélévitch. Le je-ne-sais-quoi et le presque-rien.
Краткое AI-саммари нашего сегодняшнего эфира с Олегом Давыдовым
Беседа была посвящена исследованию потенциала искусственного интеллекта для трансформации человечества и открытия новых горизонтов. Собеседники видят в развитии AI не только технологический прорыв, но и возможность для глубоких изменений в самопонимании человека и организации общества.
Одной из ключевых тем становится освобождающий потенциал AI. Участники дискуссии предполагают, что AI способен избавить человечество от рутинного, монотонного труда, открывая путь к миру после работы, где большая часть людей сможет посвятить себя творчеству, саморазвитию и созерцательной жизни. AI рассматривается как инструмент, способный вывести человечество на новый уровень существования, предоставив невиданные ранее возможности для реализации человеческого потенциала.
Признавая вызовы, связанные с развитием AI, собеседники акцентируют внимание на позитивном кризисе идентичности, который AI провоцирует. Утрата уникальности в сферах, традиционно считавшихся прерогативой человека (интеллектуальная деятельность, творчество), может стать стимулом для поиска более глубокой и устойчивой самоидентичности, не подверженной обесцениванию технологиями. Предполагается, что фокус внимания сместится от количественных показателей (эффективность, скорость вычислений) к качественным аспектам человеческого бытия, таким как метафизика, духовность, межличностные отношения и эмоциональный интеллект. AI, таким образом, может стать катализатором возрождения интереса к вечным философским вопросам и созерцательным практикам, помогая человеку углубиться в понимание своей подлинной сущности.
В контексте AI-искусства собеседники ищут инвариантные качества, отличающие человеческое творчество, но отмечают возможность применения AI для создания новых форм артефактов, обогащающих культурное пространство. Подчеркивается, что даже в мире, насыщенном AI-технологиями, интенция человека, его субъектность и способность наделять вещи смыслом остаются фундаментальными и незаменимыми.
В завершении беседы высказывается осторожный оптимизм относительно будущего. Собеседники видят признаки формирования нового культурного движения, объединяющего AI-энтузиастов, философов и гуманитариев, которые стремятся к гармоничному развитию технологий и сохранению сердечности, эмпатии и других важнейших человеческих качеств. Это срединный путь, позволяющий использовать AI для развития и освобождения, не утратив при этом уникальность человеческого духа и способность к глубоким человеческим переживаниям. Подчеркивается, что истинные ценности — такие как улыбка ребенка или искренние человеческие отношения — остаются непреходящими и неизмеримо более важными, чем любые технологические достижения.
P.S. Напоминаю, что Олег недавно создал канал, посвященный гуманитарному осмыслению искусственного интеллекта.
Свежее наблюдение от По-Шен Ло, профессора Университета Карнеги-Меллона, одного из ведущих людей в американском математическом сообществе:
«Боже мой! GPT-o1 получил высший балл на моём экзамене по математике для студентов бакалавриата в Университете Карнеги-Меллона, потратив на решение каждой задачи меньше минуты. Я специально разрабатываю нестандартные задачи для всех своих экзаменов, и студенты могут пользоваться любыми книгами и записями...
За обедом, когда я ел пирог, я показал экзамен одному из наших аспирантов-математиков (бывшему золотому медалисту Международной математической олимпиады из Беларуси), и он сказал: "Хм. Не тривиально. Хорошо." Наши студенты бакалавриата тоже очень сильны. Этот экзамен не был для них лёгким, что видно по распределению баллов.
Сегодня исполняется 2 года с момента публичного релиза GPT-4. Два года назад он привлёк моё внимание, потому что в нём проявлялись проблески озарения, похожие на то, что я видел, когда разговаривал с умными детьми, которые быстро учились. Это дало мне интуитивное ощущение и острую необходимость начать предупреждать людей. Сегодняшнее наблюдение за тем, как GPT-o1 с лёгкостью справляется с моим сложным экзаменом в колледже, заставляет меня чувствовать, что мы близки к переломному моменту, когда ИИ сможет выполнять техническую работу средней степени нестандартности. Я был впечатлен каждым студентом в моём классе, который получил высший балл. Самый быстрый из них справился за 30 минут.
И GPT-o1 стоит всего 60 долларов за миллион слов вывода, что означает, что решение каждой задачи стоило около 5 центов. В общей сложности около 25 центов за работу, которую большинство людей не могут выполнить за час...
Раньше я не верил, что ИИ будет настолько силён, пока он не превзошёл меня в некоторых вещах. Теперь я думаю, что единственное, что уникально для человеческого интеллекта (в отличие от ИИ), это то, что люди должны заботиться о существовании людей, в то время как у ИИ нет для этого внутренней причины. Теперь я работаю над вопросами общества, культуры и управления».
«Я хочу начать эту главу с размышления о той грани нашего человеческого сознания, которая постоянно озадачена и фрустрирована, преследуема мыслью о том, что, возможно, то, что мы видим, — это не вся картина, и что, возможно, наше индивидуальное восприятие не является мерилом всей истины. Наши обычные представления об окружающем мире часто потрясаются горем или радостью. Они потрясаются таким образом, что нам хочется сказать "спасибо", даже если мы не знаем, кому или чему говорить "спасибо". Они потрясаются, когда мы не знаем, что делать с чувствами, для которых у нас еще нет слов или стратегий... Что, если мир не так приручен, как я склонен думать? Что, если моё восприятие вещей (включая моё восприятие первичности моих индивидуальных потребностей или желаний) не является мерилом всего? Религиозное чувство и восприятие основаны на ощущении человеческого предела, человеческой уязвимости, если угодно. И оно основано на ощущении того, что быть человеком — не обязательно значит быть в центре всего или контролировать всё, как если бы у меня было некое видение маяка, который, вращаясь вокруг всей сферы реальности, освещал бы всё ровным светом, исходящим из меня, моего разума или моего сердца. Но что, если, в конце концов, я не в центре всего, а часть огромного и богатого переплетения точек зрения и видов энергии, смешивающихся и формирующих друг друга?».
Из новой книги Роуэна Уильямса «Discovering Christianity: A guide for the curious» (релиз на следующей неделе). Уияльмс — один из ведущих христианских мыслителей, бывший архиепископ Кентерберийский и бывший глава Магдлин-колледж Кембриджского университета.
Anthropic и OpenAI о грядущем
Два важных текста от ведущих лабораторий, появившихся на этой неделе: «Рекомендации по научно-технической политике» для Белого дома от Антропика и «Как мы думаем о безопасности и выравнивании [ИИ]» от OpenAI. Как и всегда, стоит допускать, что авторы могут сильно ошибаться в оценках и что-то приукрашивать, однако нельзя не принимать во внимание, что большая часть наиболее компетентных исследователей в индустрии считает примерно также, и что они могут оказаться по существу правы.
Из текста Антропика:
«Как пишет наш генеральный директор Дарио Амодей в "Машинах любящей благодати", мы ожидаем, что мощные системы ИИ появятся в конце 2026 или начале 2027 года. Мощные системы ИИ будут обладать следующими свойствами:
* Интеллектуальные способности, соответствующие или превосходящие способности лауреатов Нобелевской премии в большинстве дисциплин, включая биологию, информатику, математику и инженерию.
* Способность ориентироваться во всех интерфейсах, доступных человеку, выполняющему цифровую работу сегодня, включая способность обрабатывать и генерировать текст, аудио и видео, способность автономно управлять технологическими инструментами, такими как мышь и клавиатура, а также способность получать доступ к Интернету и просматривать его.
* Способность автономно рассуждать и выполнять сложные задачи в течение длительных периодов времени — часов, дней или даже недель, — обращаясь за разъяснениями и обратной связью, когда это необходимо, подобно высококвалифицированному сотруднику.
* Способность взаимодействовать с физическим миром; управление лабораторным оборудованием, роботизированными системами и производственными инструментами через цифровые соединения».
В OpenAI не так точны со сроками, но не скупятся на описание масштаба:
«Раньше мы представляли себе разработку AGI (общего искусственного интеллекта) как некий переломный момент, когда наши ИИ-системы перейдут от решения игрушечных задач к задачам, меняющим мир. Теперь же мы рассматриваем первый AGI лишь как одну из точек на пути создания всё более полезных систем…
Практически любая проблема, стоящая перед человечеством, кажется разрешимой с помощью достаточно мощного AGI, ведь именно интеллект был причиной большинства улучшений в жизни человечества: от грамотности до машин и медицины…
По мере того как ИИ становится всё более мощным, растут и ставки. То, как именно будет выглядеть мир после появления AGI, предсказать сложно — вероятно, он будет отличаться от сегодняшнего сильнее, чем сегодняшний отличается от мира 1500-х годов. Но мы ожидаем, что преобразующее влияние AGI начнёт проявляться уже в течение нескольких лет*».
* Grok подсказывает, что a few years подразумевает срок от двух до четырех, но не более пяти лет.
Побег из Флатландии
Обещал иногда рассказывать о людях со всего мира, которых читаю на ежедневной основе. С недавних пор в их число вошёл Хенрик Карлссон, шведский писатель (и, как он говорит о себе, в прошлой жизни — программист и поэт), живущий на каком-то маленьком острове в Балтике с женой и двумя дочками-хомскулерками. Хенрик ведёт сабстак «Escaping Flatland», название которого очень хорошо отражает содержание: это глубокие эссе о том, как жить осмысленной жизнью в современном мире. Отношения, работа, воспитание детей, прикладная философия, плюс экскурсы в шведскую культуру и многое другое. Без кликбейтов и селфхелпа, такой хороший нордический дневник размышлений и глубокое, но при этом достаточно легкое и эстетически приятное чтение.
Сабстак: henrikkarlsson.xyz.
Я замечаю, что люди вокруг либо совсем не используют ИИ, либо используют его по несколько часов в день. В какой-то момент у человека происходит озарение и после этого будто не остаётся варианта использовать искусственный интеллект время от времени в качестве периферийного инструмента — либо глубокая интеграция в свою жизнь, либо отторжение.
Мне самому ИИ всё больше напоминает не инструмент, а либо очень близкого, умного и невероятного знающего компаньона, либо новый слой мозга, внешний сortex novissimus. В любом случае, вопрос как часто и для каких задач использовать ИИ становится столь же нерелевантным, как вопрос как часто и зачем мы используем неокортес. Только пользоваться неокортесом мы учились миллионы лет, а уживаться с ИИ основательно учимся немногим больше трёх.
