theworldisnoteasy | Образование

Telegram-канал theworldisnoteasy - Малоизвестное интересное

23434

Прорывные исследования на стыке наук. Зеркала с графикой https://medium.com/@sergey_57776 и https://zen.yandex.ru/id/5a3bc6e5256d5ca91fc90afe Мой ФБ https://www.facebook.com/sergey.karelov.5 Пишите на karelovs@gmail.com и @karelovs

Подписаться на канал

Малоизвестное интересное

Происходящее в вашей голове и есть реальность.
Самочувствием и здоровьем можно управлять силой воли.

- Профессор, это правда? Или это все происходит в моей голове?
- Да, это все происходит в твоей голове, Гарри, но почему это не должно быть правдой?

“Гарри Поттер и Дары смерти”

Издавна известно - «усилием воли» можно улучшать свое здоровье и самочувствие. А накачиванием себя излишними переживаниями и нервотрепкой – может подкосить и то, и другое.
Неверящим в это напомню, что положительное влияние физических упражнений и «эффект плацебо» имеют надежное экспериментальной подтверждение. Досконально проверено и противоположное: например, отрицательное влияние эмоционального стресса на желудочно-кишечную, сердечно-сосудистую, метаболическую и иммунную системы.
Из этого следует, что наше сознание способно управлять не только движением, познанием и эмоциями, но и нашим ощущением своего тела. Причем как субъективным (самочувствие), так и объективным (здоровье). И это при том, что «психофизическая проблема (the mind-body problem)» традиционно трактует разум и тело как отдельные феномены, принципиально различные по своей природе.

До сих пор отношение сознания и деятельности мозга (т.н. трудная проблема) остается неясным.
Но с практической стороны все прекрасно понимают, что связь «разум-тело» необходима для нормальной работы органов. А если эта связь «разлажена», появляется основа для психосоматических расстройств.

Т.о. крайне важно понять.
✔️ Как разум (концептуально связанный с корой головного мозга) влияет на вегетативную и эндокринную системы, которые контролируют внутренние органы?
✔️ И какие области коры головного мозга являются источником нисходящих команд для управления функцией органа?

Связь между центральной нервной системой и внутренними органами опосредуется симпатическим и парасимпатическим подразделениями вегетативной нервной системы. 1я подсистема отвечает за формирование у тела реакции «борьбы или бегства». 2я – это подсистема «отдыха и усвоения», действующая в противоположном направление к 1й, ликвидируя последствия ответной реакции “борьбы или бегства”.

Мы много знаем о нервных связях, которые связывают вегетативный выход из центров ствола мозга и спинного мозга с конкретными органами. Однако нейронные цепи, которые связывают более высокую функцию мозга и центральные участки (например, кору головного мозга) с вегетативным выбросом и функцией органа, не были четко определены.
Мультисинаптическая природа этих цепей делает их трудными для изучения. Это связано с тем, что большинство традиционных индикаторов способны определять только прямые входы и выходы из органа. Этот недостаток был преодолен путем использования нейротропных вирусов в качестве транснейрональных трассеров.

В результате удалось напрямую проследить связи различных областей коры головного мозга с мозговым веществом надпочечников. Оно управляет выработкой адреналина и норадреналина. Эти гормоны изменяют артериальное давление, усиливают и расслабляют работу сердца, расширяют и сужают просветы бронхов, изменяют уровень сахара в крови. Что и формирует у тела реакции «борьбы или бегства» или наоборот.

Главный вывод исследования.
✔️ В мозге нет изолированного кортикального центра симпатического контроля.
✔️ Нисходящие команды к мозговому веществу надпочечников приходят из различных моторных, когнитивных и аффективных сетей в коре головного мозга.
✔️ Каждая из 3х названных сетей коры имеет независимый и параллельный доступ к мозговому веществу надпочечников.

Из чего следует, что
• движение (например, бег на дорожке или лыжах),
• познавательная деятельность (например, чтение этого поста или решение тензорных уравнений),
• а также переживание эмоций (например, слушание Баха),
- могут генерировать одни и те же психосоматические реакции тела.

Что в итоге подтверждает слова проф. Дамблдора.
Происходящее в вашей голове и есть реальность.

#Нейронауки

Читать полностью…

Малоизвестное интересное

Наш интеллект знает, что живет в мультивселенной.
ИИ теперь научат принимать решения, как люди.

Первый прорыв года, и это круто!
Великий физиолог И. Павлов использовал собак, чтоб понять, как учится их мозг, если собак поощрять за правильные действия и наказывать за неправильные.
Один из отцов ИИ М. Минский использовал тот же принцип при создании компьютера, способного непрерывно учиться, получая условные вознаграждения (т.н. обучение с подкреплением).
Этот метод сейчас широко используется во многих алгоритмах ИИ.
Но он, к сожалению, все же далеко не так хорошо и быстро учится, как человеческий мозг.

Первое прорывное открытие 2020 может решить эту проблему.
• Во-первых, наконец, поняв, почему человеческий мозг учится быстрей и эффективней.
• Во-вторых, переняв этот метод для ИИ, что сильно улучшит работу его алгоритмов.

Но больше всего поражает сам способ и лежащая в его основе божественная простота в сочетании с возможной фантастической спекуляцией о причинах этой простоты.

Все просто.
1) Принимая любое решение, мозг (а в случае ИИ – алгоритм) должен смоделировать будущее, чтоб адаптировать свое решение под него.
2) Цель такой адаптации всегда одна – получить вознаграждение за свой выбор: кусочек сахара для собаки, удовольствие человека в результате впрыска допамина или условное вознаграждение для обучающегося алгоритма.
3) До сих пор награда представлялась (собакам, людям, алгоритмам) в виде единственного варианта:
• угадал – получи свой кусочек, впрыск и т.д.
• не угадал – кури бамбук, а в следующий раз выбирай среди вариантов по-другому.

Новое открытие, сделанное в DeepMind, заключается в том, что мозг как бы знает,
✔️ что мир устроен сложно и в нем царит случайность;
✔️ поэтому здесь нет единственного варианта будущего, а есть вероятностные распределения для любого будущего события;
✔️ и потому представлять вознаграждение за любой свой выбор нужно не в виде единственного выбора (получу- не получу), а в виде распределения вероятностей получения вознаграждения.

Но держитесь за стул.
- Это значит, что в модели реальности, сидящей в нашем мозге, просто не существует единого будущего, в котором материализуется лишь один из возможных вариантов каждого из событий.
- Мозг будто знает, что живет в мультиверсе, в котором ВСЕ варианты событий возможны. И чтоб преуспеть в жизни, нужно их все держать в уме (в соответствие с заданным распределением вероятности)


«Удивительно, как эта очень простая реакция дофамина предсказуемо следует интуитивным паттернам основных биологических процессов обучения, которые теперь становятся компонентом ИИ» - написал в емейле про это исследование Вольфрам Шульц, пионер поведения дофаминовых нейронов.

Последствия этого открытия многочисленны.
Оно позволит иначе взглянуть на многие процессы: от мотивации до психического здоровья.
Что может означать, например, наличие «пессимистичных» и «оптимистичных» допаминовых нейронов?
Если мозг избирательно прислушивается только к одному или другому, может ли это привести к химическому дисбалансу и вызвать депрессию?
И как вообще допаминовые нейроны выбирают предпочтительный вариант будущей реальности из бесконечного мультиверса возможных?

Подробней:
- популярно
- научно

#Нейронаука #ИИ

Читать полностью…

Малоизвестное интересное

90% подборок каналов, увы, не проводят предварительного отбора по качеству. Но к счастью не все. Например, сообщество исторических каналов «КЛИО». Качество их подборок гарантировано. И вам остается лишь выбрать каналы под свои интересы.

• @arheologchannel - Археолог завел Telegram канал в котором показывает различные артефакты, манускрипты, останки людей, предметы быта и различные вещи, которые могут рассказать о том, что происходило раньше;

• @historygothy - Древняя Греция, Рим, Византия, Крестовые походы и не только. Живая энциклопедия всемирной истории;

• @sublimeporte - канал об истории Британии, России, Ближнего Востока;

• @crypttales - Древний Египет без единой летающей тарелки;

• @moscowww – канал о городских деталях, истории и архитектуре Москвы;

• @the_military_history — тематический канал о военной истории. Созданный и ведущийся небольшой группой профессиональных историков;

• @philosophycafemoscow — канал философов из редакции журнала "Финиковый Компот". Философы, философия и философские журналы. Немного МГУ. Ни смысла, ни покоя;

• @kremlinmuseums - кто из царей носил очки и как выглядели первые часы? Без чего не мог уснуть Иван Грозный и что пили за царским столом? История Кремля и музейные новости;

• @snowu — канал с говорящим названием Север. Всё, что касается холодных регионов мира. Новости, история, белые медведи. Для тех, кого тянет на север;

• @catx2 - Сборник авторских статей, мемов и постов на историческую тематику. "О прошлом: информативно и с юмором" - таков наш девиз;

• @gumkonvoy — главный гуманитарный агрегатор Telegram.

Читать полностью…

Малоизвестное интересное

С наступающим 2020! Пусть он будет для читателей канала Годом Умной Крысы!
Ведь экспериментально доказано, что люди умнее крыс лишь в задачах на правила. А в задачах, где нет четких правил, крысы умнее https://hbr.org/2015/01/rats-can-be-smarter-than-people.
А вот еще 20 видео - какие они умные и симпатичные https://www.thedodo.com/smart-rats-intelligent-tricks-1057128208.html 😆
До встречи после праздников!
И Ваше здоровье! 🥂

Читать полностью…

Малоизвестное интересное

Прошу прощения у читателей. Была указана не та ссылка на эссе Грэхама Аллисона Is China Beating America to AI Supremacy?.
Исправил.

Читать полностью…

Малоизвестное интересное

​​Ключевое отличие людей от ИИ - мы по-разному видим мир.
Как устроен зашитый в нас алгоритм понимания физики мира.

Сколько видео падающих предметов нужно показать нейросети, чтобы она «поняла», - тяжёлые предметы НЕ падают быстрее лёгких? Миллиона падений тысяч предметов хватит?
Не факт.
А вот Галилей решил эту задачу в уме, – проводя мысленные эксперименты. А бросать шары разной массы с Пизанской башни он пошел лишь, когда уже понял ошибку Аристотеля, считавшего, что время падения зависит от массы.

Но ведь нейросеть, которой показывают видео разных падений, не знает, что такое масса. И потому, в лучшем случае, может определить размеры падающий объектов. А то, что один из шаров, например, стальной, а другой - пластмассовый, она знать не может. Ибо ни сталь, ни пластмассы ей не известны.

Ну а допустим, человек-наблюдатель тоже ничего не знает про сталь и пластмассы. Может он оценить на взгляд массу объекта?
Да запросто! У него для этого, извините за каламбур, масса способов.
Например:
- если предметы падают в воду, человек оценит силу всплеска;
- а если падение на мягкую основу (например, подушку), достаточно будет визуально оценить глубину вмятин;
- если же предметы вообще лежат на плоскости, можно попытаться оценить, насколько они сдуваемы ветром;
и т.д. и т.п.

А теперь внимание!
✔️ Все эти (и кучу других) вариантов оценки человек делает интуитивно – их алгоритмы просто во всех нас зашиты от рождения.
✔️ Эти алгоритмы работают и когда мы спим, - т.е. и в наших снах закона Ньютона неукоснительно выполняются.

Фантастически изобретательная экспериментальная проверка, была проведена в исследовании «Инвариант представления массы в мозге человека». Людям показывали 3х сек. видео бросания предметов в воду и на подушку, их сдувание феном со стола, падения составных башенок и т.д. (см. рисунок). При этом, с помощью функционального МРТ пытались понять, можно ли декодировать представления человека о массе объекта по нейронной активности определенных областей мозга.

Получилось следующее.
- Интуитивное решение таких задач происходит в премоторных лобных и теменных областях мозга.
- Формируемый в этих областях инвариант представлений о массе служит в качестве входных данных для некоего «обобщенного физического движка», формирующего наше понимание физики мира (сил, масс тел и их движения под действием сил).
- Работа нейронной сети «обобщенного физического движка» позволяет нам планировать свои действия в физическом мире с учетом материала, трения и энергии движения объектов.

Из результатов исследования получается, что и формирование представлений о физике мира, и планирование действий осуществляется в одних и тех же областях мозга.
Теоретически, подобное можно было бы попытаться делать, используя причинно-генеративную модель объектов и их динамики.
Но КАК это делается нейросетями мозга, - пока никаких идей.

Зато, когда появятся, ИИ сможет увидеть мир, как его видят люди.
Увидеть таким, каким его можно понять.
Но это будет уже совсем другой ИИ.

#Нейронауки #ИИ

Читать полностью…

Малоизвестное интересное

​​В мире подводят ИИ итоги 2019.
Россия все ниже в мировых ИИ рейтингах.

В опубликованном мною в ноябре анализе sergey_57776/%D0%BC%D0%B5%D1%81%D1%82%D0%BE-%D1%80%D0%BE%D1%81%D1%81%D0%B8%D0%B8-%D0%B2-%D0%BC%D0%B8%D1%80%D0%B5-%D1%80%D0%B5%D0%B0%D0%BB%D0%B8%D0%B7%D0%BE%D0%B2%D0%B0%D0%BD%D0%BD%D1%8B%D1%85-%D0%B8%D0%B8-%D1%81%D1%82%D1%80%D0%B0%D1%82%D0%B5%D0%B3%D0%B8%D0%B9-d5e39c787db1">«Место России в мире реализованных ИИ-стратегий» Россия заняла 14е место из 14 рассмотренных мною стран.
За прошедший месяц в мире появились еще 2 аналитических отчета, сравнивающие положение дел в области ИИ разных стран:
- AI Index 2019, выпущенный Стэнфордским универом и MIT;
- The Global AI Index, выпущенный Tortoise Media.

Оба отчета упоминаются в наших медиа. Но все публикации - самых популярных Телеграм каналов и уважаемых аналитиков Рунета – предпочитают, как и официальные СМИ, умалчивать о главном:
Россия катится на обочину мирового развития ИИ.

- В отчете AI Index 2019, среди 27 сравниваемых стран, Россия на последнем месте (см. приложенную таблицу).
- В отчете The Global AI Index, среди 54 сравниваемых стран, Россия на 33м месте (опередив 2 десятка стран от Чехии и Исландии до Нигерии, Египта и Пакистана, но пропустив вперед 32 страны от Мальты и Бельгии до сами понимаете кого) – таблицу см. здесь

Можно дискутировать, насколько хороши методики отчетов. Но чудес не бывает даже в области аналитики ИИ. Как ни оценивай, но Россия в области ИИ уже не входит не только в восьмерку, но и в двадцатку.
И это главный итог 2019, который необходимо осознать всем ответственным за реализацию российской ИИ стратегии.
Иначе погружение на дно мировых ИИ индексов продолжится и в новом году.

P.S. И конечно же, об этом нужно честно писать. Если не официальным СМИ (с них какой спрос), то хотя бы независимым аналитикам и журналистам.
#ИИгонка

Читать полностью…

Малоизвестное интересное

Надеюсь, в 2020 это открытие не только станет широко обсуждаемой сенсацией, но и:
- положит начало научной революции в экономике, социологии и психологии;
- запустит кардинальный пересмотр многих практических направлениях, связанных с принятием решений и оценкой рисков.
Наука, наконец, откажется от концептуально упрощенной трактовки вероятности без учёта фактора времени.
Технологии больших данных пересмотрят существующие подходы их анализа, основанные на вероятности больших ансамблей.
Бизнес кардинально поменяет методики анализа рисков и прогнозирования для большинства видов человеческой деятельности.
И все мы будем вынуждены переосмыслить отношение к случайностям, из которых, собственно, и состоит наша жизнь.

Все это может произойти потому, что даже математически выверенные ожидания, базирующиеся на ансамблевых средних значениях - от выигрыша в казино до выгодности страховки, - оказываются ошибочными, если не учитывать фактор времени.

А может никакой такой революции не произойдёт: ни в 2020, ни даже через 3, 5 или 10 лет. Ведь человечество неоднократно доказывало, что способно веками прекрасно уживаться с наивными и несовершенными представлениями о мире. Что солнце вращается вокруг неподвижной земли, что камни не могут падать с неба, да и мало ли ещё было … ((

Но все же не думаю, что снова случится подобное. Слишком уж разогнался ход времени, чтобы продолжилась и дальше 300 летняя практика его неучета при оценке вероятности выигрыша в случайных процессах.

Кем бы вы ни были по профессии, и какова бы ни была сфера ваших интересов, данная тема - одна из самых важных. И разобраться в ней обязательно надо. Но это не просто. Чтобы объяснить на примерах, что здесь к чему, мне пришлось написать лонгрид на 19 мин чтения, да еще и с 20 картинками:
- на Medium http://bit.do/fkWNz
- на Яндекс Дзен https://clck.ru/L6YrP

И кстати. Если даже такая тема вас не заинтересовала и нет желания читать дальше (мол, время жалко), - вы правы! Не тратьте больше свое драгоценное время и смело отписывайтесь от этого канала.
В мире ведь так много другого - общеизвестного неинтересного.
#Вероятность #Эргодичность #ПринятиеРешений

Читать полностью…

Малоизвестное интересное

Кардинальный прорыв к вычислительным искусственным живым машинам.
Это стало возможно, т.к. тело может мыслить и без мозга

Революционность этого открытия в том, что:
- до сих пор мы стремились сделать неживые машины с неким аналогом мозга (от компов и смартфонов до роботов);
- теперь же стало ясно, что если сделать живую машину, то она сможет обходиться и без мозга.

Суть открытия в том, что найден революционный способ реализации вычислений (память, логика, прогнозирование и решение проблем) у живых организмов БЕЗ нейронных сетей.
Из чего следует.
✔️ У живого организма 2 вычислительные системы: нейронная и не-нейронная (на основе обычных клеток).
✔️ И, соответственно, 2 механизма познания: нейронное и базальное (Basal Cognition).

Базальное познание есть у всех неневральных животных, растений, грибов и одноклеточных организмов. А у многоклеточных, включая нас, оно выполняет сложнейшие функции:
• неподъемные для нейронного познания: типа, конструирования и сборки органов – от глаза до сердца;
• и, что еще более важно, - не допускающие ошибок (коих в нейронных сетях избежать трудно).

То, что базальное познание (универсальный вычислитель на НЕнейронной основе) существует, биологи подозревали давно. Одноклеточные формы жизни и соматические клетки многоклеточных организмов принимают гибкие решения на основе входов в их микросреду. Например, биоэлектрические сигналы опосредуют важные аспекты долгосрочной координации, которые удерживают клетки для поддержания плана тела и не допуская развития онкогенеза. Нейроны же произошли от этих древних типов клеток, которые использовали биоэлектрическую сигнализацию для выполнения вычислений.

В то же время, даже у самых эволюционно развитых многоклеточных (типа людей) многие биопроцессы в организме (вплоть до сложнейшего регулирования морфогенезом и регенерацией), можно рассматривать как процессы, включающие обработку информации и принятие решений без участия мозга.

Память, прогнозирование и решение проблем прекрасно демонстрируются у абсолютно безмозглых сперматозоидов, амеб, дрожжей и растений. А у многоклеточных, например, при регенерации, сложность вычислительных задач, решаемых без участия нейронных систем, просто зашкаливает.

Например, хвосты, привитые по бокам саламандры, медленно переделываются в конечности, демонстрируя способность ткани определять свое положение в теле, сравнивать анатомию на уровне органов с целевой анатомией, и переделывая алгоритм регенерации тканей с учетом правильной анатомической корректировки.

Задача - понять, как ткани вычисляют с помощью биоэлектрических процессов, крайне важна для эволюционной биологи, регенеративной медицины и синтетической биоинженерии (разработка синтетических «живых машин»).

Новое исследование построило модель биоэлектрической сети BEN, способной решать когнитивные задачи в контексте биологических процессов (например, морфогенеза и ремоделирования), где сети НЕнейронных клеток совместно вычисляют и принимают решения.

Сети BEN позволяют реализовывать весь необходимый для вычислений HW: логические вентили, составные логические элементы, детекторы паттернов и память.
Это первое научное доказательство существования класса биологических систем, где вычислительный подход реализован на соматических биоэлектрических сетях.

Кроме того, авторы продемонстрировали, что логика может быть реализована в схемах с двунаправленными соединениями, которые типичны для НЕнейронных тканей, в отличие от традиционных однонаправленных схем, таких как нейронные сети и цифровые электронные схемы.

Мало того, что сети BEN могут вычислять, но они также могут быть устойчивыми к повреждениям, сохраняя вычислительные функцию даже после удаления части клеток.

Авторы считают, что это исследование обеспечивает концептуальные и моделирующие основы для понимания и управления развитием и регенерацией, а также для создания вычислительных искусственных живых машин.

https://www.nature.com/articles/s41598-019-54859-8

#BasalCognition

Читать полностью…

Малоизвестное интересное

Как образуются сетевые черные дыры.
И почему не так важно, что хранится в «мировом разуме», а кто к нему подключен.

Мир таков, каким его представляет большинство. А это зависит от текущего состояния «мирового разума» - совокупности доминирующих конфигураций мировой сети идей, представлений и верований.
Вот уже с десяток лет, как основной медиа-средой «мирового разума» стала мировая паутина (WEB), состоящая из триллионов элементов электронного контента (информации) и миллиардов оперирующих им индивидов.
И оказалось, что текущее состояние «мирового разума» зависит от конфигурации связей индивидов ничуть ни меньше (и даже больше), чем от всей хранящейся в коллективной памяти человечества информации, сконденсированной в э-контенте «мирового разума».

✔️ Но от чего зависит конфигурация связей индивидов в мировой сети идей, представлений и верований?
До сих пор было ясно лишь одно - с каждым годом эта зависимость все более переходит от офлайновых социальных сетей (кругов знакомых в реальной жизни) к онлайновым (круги френдов ФБ, ВК и т.д.).
✔️ Что же до понимания механизма влияния сетевых связей на формирование идей, убеждений и верований людей, то до последнего времени это было совсем не ясно.

Вот почему так интересен результат нового исследования (еще находящегося в процессе пир-ревю) «Индивидуальные цифровые отпечатки когнитивного отражения» Digital Fingerprints of Cognitive Reflection.
Авторы представили убедительную аргументацию, что механизм влияния сетевых связей на формирование идей, убеждений и верований людей зависит от 2х ключевых факторов:
1) (здесь никаких сюрпризов) от конфигурации связей индивида;
2) (сюрприз-сюрприз) от когнитивного стиля индивида: интуиционист или рефлексионист.

Созданный в 2005 тест на когнитивное отражение Cognitive Reflection Test (CRT) все больше доминирует в теории индивидуальных различий в склонности к интуитивному/рефлексивному мышлению, и связан со многими реальными убеждениями, суждениями и верованиями, такими, например, как религиозность, паранормальные убеждения и моральные и политические суждения.
CRT выявляет склонность индивида к неправильным ответам, которые легко приходят на ум.
Предполагается, что способность увидеть подвох в вопросе равносильна решению задачи. Человек либо увидит подвох и задумается (рефлексионист), либо не увидит подвоха и даст напрашивающийся ответ (интуиционист).

Вопросы CRT – особенные. Типа, - «если вы бежите кросс и обгоняете бегущего вторым, - на каком месте вы теперь находитесь?»
Достаточно всего нескольких ответов на подобные вопросы CRT, чтобы определить, кто вы: интуиционист или рефлексионист. Желающие могут пройти сюда и за 1 мин пройти тест.

Оказалось, что когнитивный стиль человека довольно точно определяет:
• насколько человек разборчив в использовании информации от своих социальных связей;
• насколько избирательно человек обменивается новостями;
• насколько тщательно выбирает надежные источники;
• насколько более вероятно ретвитит или разшаривает инфу, в зависимости от ее важности/весомости.

Не менее важен вывод исследования о процессе формирования эхо-камер, - не только по политическим пристрастиям, но и по любому (!) вопросу.
Оказалось, что люди с низким уровнем когнитивного отражения, просто бессильны против их засасывания в эхо-камеры. По сути, для интуитивистов эхо-камера – как черная дыра, в которую он будет падать бесконечно долго.

Если подтвердятся выводы исследования, то каждому новому пользователю соцсетей его показатель CRT нужно будет выбивать на «личном жетоне», подобно группе крови на «жетоне военнослужащего». И без такого жетона в соцсеть ни ногой … Иначе засосет в сетевую «черную дыру»
#Соцсети #КогнитивныйСтиль

Читать полностью…

Малоизвестное интересное

​​Неприятный сюрприз для плана Китая обретения мирового ИИ-лидерства.
Госфинансирование ИИ Китая не столь грандиозно, как представлялось.

План Компартии Китая добиться к 2030 статуса 1й сверхдержавы по ИИ сталкивается с серьезными затруднениями.
• Реалисты из КПК уже поняли, что ставка исключительно на технологическое превосходство не проходит, т.к. здесь США по-прежнему сильнее (см. «Стратегия захвата мира Китаем определилась»).
• Кроме того, эксперты при правительстве США, наконец, вышли из спячки и подготовили 5 направлений «гашения» Китая (см. «США проснулись и готовят ответный удар по ИИ Китая»).

Направление №1 – скачек в госфинансировании невоенного ИИ до $12 млрд в год (в том числе, на прорывные фундаментальные и прикладные ИИ исследования $9 млрд), а военного, примерно, до $6 млрд. Это ход, несомненно, очень сильный. Как показывает история технологических противостояний, превосходство в финансировании – важнейший фактор победы.
Но есть одно «но», - а сколько тратит на фундаментальные и прикладные ИИ исследования Китай?

И здесь засада. Китай эти цифры не раскрывает. А все существовавшие до сих пор оценки были уж больно огромные. Получалось, что госфинансирование Китаем невоенных ИИ составляет от $25 до $40 млрд в год. Против такого, даже США бессильны. Если, конечно, не объявлять «мобилизационный режим». Что в истории США бывало. Но сейчас ни Трамп, ни его возможный сменщик на такое вряд ли решится.

И тут неожиданный сюрприз. Коллеги из Центра безопасности и новейших технологий (CSET) при Школе иностранной службы Уолша в Джорджтауне опубликовали 1ю редакцию детального анализа госфинансирования Китаем невоенных ИИ исследований и прикладных разработок.

Работа выполнена весьма креативно и филигранно. Построена аналитическая модель. В нее вкатили море довольно сырых и подчас непроверяемых данных. Модель их просеяла и отфильтровала. И получилась довольно убедительная картина. Такой подход – единственно продуктивный в ситуации, когда мало достоверной информации. Например, в России ЛИНЭКС таким же методом в 2007 пересчитал объемы сегментов IT рынка, в результате чего IDC приняла эти оценки, скорректировав свои отчеты.

Теперь этот же подход был применен для раскрытия секретных цифр, скрываемых КПК.
Результат получился очень интересным.
Оказалось, что госфинансирование ИИ Китаем совсем не столь огромное, как Китай пытается внушить миру.
Резюме цифр приведено на приложенной таблице. Из нее следует:
1) В 2018 госфинансирование Китаем невоенных фундаментальных и прикладных ИИ исследований составило от $1.7 до $5.7 млрд, а военных от $0.3 до $2.7 млрд.
2) С одной стороны, это почти шестикратное превосходство в объемах госфинансирования ИИ США в 2018 (плохая новость для США)
3) С другой стороны, - это вдвое меньше объема госфинансирования ИИ США, которое предложено с 2020 в промежуточном докладе конгрессу США Комиссией по национальной безопасности и искусственному интеллекту (плохая новость для Китая).

Если план финансирования, предложенный Комиссией по национальной безопасности и искусственному интеллекту США будет принят, это лишит Китай уже 2го козыря – превосходство в финансировании (1й козырь – технологическое превосходство, - пока в руках США).
Если же конгрессменов жаба задушит, то шансы Китая реализовать свой план ИИ-превосходства сильно подскочат.
Отчет здесь.
А резюмирующие цифры приложены.
#Китай

Читать полностью…

Малоизвестное интересное

Однополый секс – не ошибка природы.
Это базовый вариант для всего живого.

Однополое сексуальное поведение зарегистрировано у более чем 1500 видов животных и широко распространено в большинстве основных клад: от кальмаров до пингвинов и крупного рогатого скота.

Как такое могло произойти в ходе эволюции, если это напрямую не способствует размножению?
Ни одна из существующих гипотез не может этого объяснить.

Однако, новое исследование предложило альтернативную гипотезу, объясняющую эту головоломку.
Вместо того, чтобы удивляться, почему однополое поведение независимо развилось у стольких видов, исследователи предположили, что оно могло присутствовать в самых старых частях семейного древа всех животных. Самые ранние животные, размножавшиеся половым путем, могли спариваться с любой другой особью, с которой они сталкивались, независимо от пола.

Ошибка всех предыдущих исследований была в предвзятом представлении о том, как устроена природа, в которой гомосексуальность – это, якобы, отклонение от нормы.

Но это было нормой. Гетеросексуальность – всего лишь результат слепого поиска природой эволюционных преимуществ. А гомосексуальность – это базовая линия, дошедшая в качестве исключения и до наших дней.

Подробней:
- популярно https://www.nytimes.com/2019/11/26/science/same-sex-behavior-animals.html?smid=nytcore-ios-share
- научно https://www.nature.com/articles/s41559-019-1019-7

#Эволюция

Читать полностью…

Малоизвестное интересное

Техно-деза – это не фейк ньюс.
Фейк ньюс умышленно фабрикуется для обмана читателей с целью увеличения трафика и прибыли или же в целях пропаганды.
Техно-деза – это новость, получающая вирусное распространение, вследствие своей ложной сенсационности, образовавшейся из-за непреднамеренного искажения сути реальной технологической новости.

Вот пара свежих примеров техно-дезы.
Задайте поисковику такие запросы:
• OpenAI научила роборуку собирать кубик Рубика одной рукой
• Нейросеть научили решать задачу трех тел
Для каждого из запросов вы получите выдачу с десятками вариаций техно-дезы из самых уважаемых источников. Эти вариации весьма похожи своей сенсационностью и дышат техно-оптимизмом. Но подавляющее большинство из них (а скорее всего, все), при этом – чистая техно-деза.

Как работает техно-деза, и почему она ведет к интеллектуальной слепоте, - в моем новом посте на 3 мин чтения:
- на Medium http://bit.do/fjxye
- на Яндекс Дзене https://clck.ru/KeRtZ
#ИнтеллектуальнаяСлепота

Читать полностью…

Малоизвестное интересное

Стратегия захвата мира Китаем определилась.
Новый анализ мировой техно-экспансии Поднебесной.

От новой инфографической карты, опубликованной позавчера International Cyber Policy Centre ASPI, просто едет крыша. Мир уже привык к фантастическим темпам строительства небоскребов и дорог в Китае. Но чтоб такими темпами подгребать под себя весь мир, - такое не снилось даже Александру Македонскому и Чингисхану. В курилках ЦРУ нервно курят аналитики, т.к. становится ясно – Компартия Китая наконец определилась со стратегией обретения статуса 1й сверхдержавы и возвращения себе своего истинного имени – Поднебесная.
✔️ Ставка только на технологии не проходит. В КПК рулят реалисты, осознавшие, что технологически США по-прежнему сильнее.
✔️ Поэтому в скорректированной стратегии 2030 сделана ставка на сочетание технологий, денег и кооперации. Иными словами, - глобальное проникновение с технологическим опутыванием совместными проектами с долевым китайским финансированием.

Опубликованные новые данные позволяют анализировать динамику мировой экспансии 23 компаний - техно-лидеров Китая в 96 странах.
Ими уже:
• Налажено международное сотрудничество по 295 инициативам развертывания видео наблюдения и слежки.
• В 45 странах будут развернуты китайские сети 5G.
• В 71 городе мира внедряются системы безопасности класса «Умный город».
• Налажена кооперация с 145 научно-исследовательскими лабораториями мира, наибольшая концентрация которых в Европе.
• Построено 208 ЦОДов и запущено 342 телко и IT-проекта по всему миру.

Новый отчет Mapping more of China’s technology giants (о запуске этого проекта инфо-картирования техно-экспансии Китая я рассказывал 8го августа) содержит информацию еще о 12 техно-гигантах Китая. Т.е. теперь их всего 23.
• Alibaba
• Baidu
• BeiDou
• BGI
• ByteDance
• China Electronics Technology Group (CETC)
• China Mobile
• China Telecom
• China Unicom
• CloudWalk
• Dahua
• DJI
• Hikvision (a subsidiary of CETC)
• Huawei
• iFlytek
• Megvii
• Meiya Pico
• SenseTime
• Tencent
• Uniview
• WuXi AppTec Group
• YITU
• ZTE

Интерактивная карта, позволяет анализировать, как экспансию конкретных компаний, так и географию протягивания ими 322х техно-щупалец по миру - 14 категорий экспансии 23х компаний.

В новый отчет включены:
SenseTime - один из самых дорогих в мире стартапов в области ИИ;
iFlytek – частично государственная компания по распознаванию речи;
Meiya Pico - компания по цифровой криминалистике и безопасности, пестрящая в заголовках СМИ в этом году из-за её мобильного приложения для сбора информации со смартфонов MFSocket;
DJI - специализируется на беспилотных технологиях;
BeiDou – не компания, а Спутниковая навигационная система китайского правительства;
ByteDance - интернет компания, возможно, самая известная в мире своим видео-приложением TikTok, страшно популярным среди подростков. Но TikTok тоже привлекает все большее общественное и медиа-внимание в США из-за использования данных граждан США и обвинения в цензуре, включая скрытый бан - понижение рейтинга отдельных тем алгоритмами приложения, чтобы пользователи не видели определенные темы в своем канале.
Обвинение, аналогичное тому, в чем все чаще пользователи обвиняют новостной агрегатор Яндекса.

Отчет содержит описание 4х кейсов:
- TikTok: цензура и слежка;
- Meiya Pico: извлечение данных со смартфонов для спецслужб;
- CloudWalk: дата-колониализм в Зимбабве;
- BeiDou: спутниковая и космическая гонка.

Резюме: если так пойдет, то к 2030 Китая не будет.
А будет Поднебесная.

#Китай

Читать полностью…

Малоизвестное интересное

1й удар по китайской стратегии «нас там нет».
Запущен онлайн мониторинг токсичных универов и лабов Китая.
Остановить набравший скорость тяжелый локомотив Китая, поставившего цель к 2030 стать технологическим гегемоном мира, не может никто. Даже США. Уж больно китайский локомотив тяжел и слишком большую скорость набрал.
Тем не менее, варианты сильно замедлить этот локомотив все же есть, считают кудесники из ASPI. Например, можно регулярно подсыпать песка в буксы локомотива или потихоньку развинчивать рельсы на его пути.

Первая практическая диверсия ASPI против Китая ударила в самое сердце китайского техно-дракона – в национальную стратегию слияния интересов партии (государства), науки и бизнеса. Эта стратегия, на которой строятся все техно-инициативы и техно-программы Китая. Ее суть проста, но эффективна, как сталинские шарашки.
а) Что бы ни делали наука и бизнес Китая – их главным приоритетом должны быть интересы КПК.
б) Но все это должно быть неофициально, т.е. никаких формальных следов.
с) Неподчиняющиеся пусть пеняет на себя. Будет себе дороже.

Как такому противодействовать? Ведь формально этого нет. Но все работает именно так.

В ASPI рассудили просто.
Если «вас там нет», то мы просто будем открыто мониторить и публиковать «где и сколько вас там нет».

И запустили трекер китайских университетов и лабов, работающих на КПК, спецслужбы и военных. В трекере уже около 200 оборонных лабораторий и 400 оборонных исследовательских зон в гражданских университетах. Для каждого объекта указан риск «токсичности» (загреметь в санкционные списки США), если кто вдруг захочет посотрудничать.

Так что вуаля! Всем желающим наладить научные и технологические контакты с Китаем – сюда:
- интерактивный онлайн трекер https://unitracker.aspi.org.au/
- поясняющий документ https://www.aspi.org.au/report/china-defence-universities-tracker

Мой пост про предыдущий проект ASPI – «Инжиниринг глобального одобрения. Расширение власти КПК через контроль над данными» читайте здесь /channel/theworldisnoteasy/906

#Китай #ЦифровойАвторитаризм

Читать полностью…

Малоизвестное интересное

​​Теперь у DeepMind два техно-джокера.
Конкуренты, а также генштабы Китая и России нервно курят.

Конкуренты, а также генштабы Китая и России уже не первый год напряженно следят, как DeepMind сжигает миллиарды долларов, вроде как, на игрушки. При этом все понимают, что, побеждая людей в самых сложных интеллектуальных играх с помощью своего алгоритма AlphaZero, разработчики нацеливаются на что-то куда более важное, чем игры.
Но на что?

Похоже, теперь это прояснилось для конкурентов и генштабов. Правда, от этого знания им вряд ли полегчает, поскольку следующей областью применения AlphaZero оказался квантовый компьютинг. Технологическое направление ИИ, где мировой приоритет имеет DeepMind – это техно-джокер современности. Но в колоде 2 джокера, и второй – это квантовый компьютинг. Объединение 2х джокеров на одной алгоритмической платформе может стать страшной силой. И вот нате вам.

Исследовательская группа Орхусского университета с помощью компьютерного моделирования применила алгоритм AlphaZero к трем различным задачам управления, каждая из которых потенциально может быть использована в квантовом компьютере.

Результат поразительный. Так же, как при игре в шахматы, Го, Сёги и Старкрафт, алгоритм проявил недоступный для людей особый вид креативности. Алгоритм научился использовать базовую симметрию проблемы, которую исследователи изначально вообще не рассматривали.

Алгоритм AlphaZero от DeepMind продемонстрировал человечеству недостижимый для людей уровень интеллекта. Алгоритм находит оптимальные пути между кластерами данных, используя собственные приемы, подобные эвристикам человека. Но при этом вычислительный процесс масштабируется до n-й степени.

Ключом к успеху AlphaZero стала комбинация поиска по дереву Монте-Карло с одношаговым lookahead-оптимизатором нейронной сети (он выбирает направление поиска, просматривая последовательность весов, генерируемых другим оптимизатором). В результате lookahead-информация из самых дальних областей дерева значительно увеличивает точность обучения нейронной сети, что позволяет проводить намного более сфокусированный и безэвристический поиск.

Что не менее важно (опять же, как и в шахматах с Го), алгоритм показал, что наивысший уровень при решение интеллектуальных задач доступен не человеку и не компьютеру, а их гибридному интеллекту. Как сказал про это проф. Джейкоб Шерсон: «Это указывает на то, что мы все еще нуждаемся в человеческих навыках и опыте, и что цель будущего должна заключаться в том, чтобы понять и разработать гибридные интеллектуальные интерфейсы, которые оптимально используют сильные стороны обоих».

Статья в Nature Global optimization of quantum dynamics with AlphaZero deep exploration

#КвантовыйКомпьютинг #ИИ

Читать полностью…

Малоизвестное интересное

Главное отличие Homo - не интеллект. Неучет этого грозит роду уничтожением.
Новые мысли о главном двух известных техно-пророков
Разговор самых авангардных мыслителей переднего края дискурса 21-го века о науке, технологиях, обществе и будущем.
По мне, так эта часовая беседа Харари и Тегмарка – самое полезное и интересное в мировых медиа за прошедшие 2 недели.
По ссылке на подкаст Apple, Google, Spotify, Soundcloud вы найдете и поминутную разбивку и транскрипт.
https://futureoflife.org/2019/12/31/on-consciousness-morality-effective-altruism-myth-with-yuval-noah-harari-max-tegmark/
Ну а за мной, как обычно, субъективное просеивание сухого остатка.

1) Философы и богословы 2+ тыс. лет обсуждают, что происходит, когда мир становится разумней (в мире больше интеллекта). При этом всегда предполагалось, что любой Большой Разум (сверхчеловеческий или воплощенный в человеке) будет сознательным и хорошим.
2) 1е означает, что ему будет понятно, что творится в нашем сознании (чувства, переживания, опыт). 2е – что он будет морален, различая правильное / неправильное и хорошее / плохое в нашем поведении.
3) Работы по созданию Большого Разума (названного ИИ: слабый, сильный, сверхсильный) уже ведутся. Но ИИ не сознательный и не хороший (мы пока вообще не понимаем, что это и как тут подступиться в плане алгоритмической реализации).
РЕЗЮМЕ
Все, что мы делали в течение тысячелетий, на самом деле, не подготовило нас к такого рода вызовам. И пора признать – спички детям не игрушка. Их нужно, до поры до времени, у детей отобрать. Любым способом

4) Представления об осознающей себя жизни стремительно меняются. Но пока мы даже не знаем наверняка, какие виды обработки информации являются сознательными, а какие – нет. Например, нам говорили, что можно кидать живых омаров в кипяток, потому что они не чувствуют боли и не испытывают страданий. Но недавнее исследование показало, что омары чувствуют боль. После чего в Швейцарии запретили варку живых лобстеров. В других же странах продолжают варить.
5) У людей и животных сознание и интеллект объединены. Мы не знаем, является ли это «законом природы». Знаем лишь, что интеллект - это способность решать проблемы. А сознание - это способность чувствовать боль, удовольствие, любовь, ненависть …
6) Пока мы не знаем о сознании главного. А) Является ли оно продуктом вычислений или это эмерджентный физический феномен? Б) Возможно ли неорганическое сознание?
7) При принятии решений люди полагаются на свои чувства. Но не обладающие сознанием и моралью компьютеры принимают решения совершенно по-другому. Как же нам полагаться на такие решения?
РЕЗЮМЕ
Нужно вкладывать, как минимум, столько же средств в исследование сознания, сколько и в исследование ИИ

8) Мы теперь как бы безответственные боги. Число потенциальных апокалипсисов растет в геом. прогрессии за последние 50 лет. Посему, людям нужно не просто оценивать вероятность каждого плохого события. Нужно ориентироваться на ожидаемый ущерб, который оно нанесет, если все же произойдет.
9) Все гадают о вероятности появления зловредного сильного ИИ в ближайшие 10-30 лет. Но ведь вероятность того, что примитивный ИИ полностью разрушит экономику, политическую систему и человеческую жизнь в следующие 30 лет, составляет около 100%. Просто в ходе гибридной войны ядерных держав.
РЕЗЮМЕ
В 70-х получилось запретить биологическое оружие и провести четкую красную линию, где неприемлемо использование биологии. Теперь на очереди ИИ

ИТОГО
• Если алгоритмы следят за мной и знают обо мне все – нам нужна совершенно другая политическая система.
• Если клиент не прав, а алгоритм верен, - нам нужна совершенно другая экономическая система.
• Если корпорации и правительства взламывают нас при оказании медиа-услуг, чтобы привлечь наше внимание или нажать кнопку ненависти в нашем уме - нам нужна совершенно другая медиа система.
#Будущее

Читать полностью…

Малоизвестное интересное

Начинаем 2020 с самого важного, актуального и интересного — социальный прогноз на 10 лет.
Это научный прогноз. И он не хуже, но и не точнее прогноза погоды на 10 дней.
Прогноз таков: 2020е станут десятилетием насилия, войн и революций.
В основе прогноза много всякого малоизвестного-интересного.
• Сокровенная мечта Илона Маска
• Как сохранятся знания человечества при глобальной катастрофе на Земле
• Чем Длинные Данные круче Больших Данных
• Может ли психоистория спасти цивилизацию
• Почему ближайшее будущее станет пиком нестабильности
• Что в работах Петра Турчина заинтересовало Insight Investment
• Как формируются «волны насилия»
• Выпал ли человечеству Джокер
• И что же будет с родиной и с нами
Обо всем об этом в постпраздничном лонлонггриде на 23 мин (получилось длинно, ну да тема такая)
- на Medium http://bit.do/foVdD
- на Яндекс Дзен https://clck.ru/LqKwv

И умоляю - если даже такая тема вас не заинтересовала и нет желания читать дальше, не тратьте больше свое драгоценное время. Смело отписывайтесь от этого канала.
В мире ведь так много другого - общеизвестного неинтересного.

#Клиодиданмика #Прогноз #Насилие #Война #Революции

Читать полностью…

Малоизвестное интересное

Подзарядитесь оптимизмом и желанием действовать в 2020.
100 хороших новостей, о которых мало кто слышал в 2019 году. А зря!

Это традиционная предновогодняя рубрика канала.
Ценность позитивных новостей не только в уменьшении тревоги и депрессии, нагнетаемых большинством публикаций СМИ, но и в сокращении фатализма, цинизма и радикализма, всё более охватывающих мир.
Вот 3 новости из 100, взятые просто навскидку:
• Самая большая мировая история, о которой вы не слышали в этом году, - это успешное завершение чрезвычайной санитарной кампании в Индии. За последние пять лет было построено 90 миллионов туалетов, 93% домохозяйств теперь имеют доступ, а 500 миллионов человек перестали испражняться под открытым небом.
• Нидерланды стали первой страной, где больше нет бездомных собак – это сделано не путем эвтаназии, а с помощью общенациональной программы стерилизации, законов (за жестокое обращение до 3х лет), обязательств для владельцев (микрочип и т.д.), бесплатной ветеринарной помощи и программ домо-устройства собак.
• Канада запретила торговлю, владение, отлов и разведение китов, дельфинов и морских свиней, а также обнародовала новые стандарты для морских охраняемых районов, запрещающие всю нефтегазовую деятельность, добычу полезных ископаемых, захоронение и донное траление.

Понизьте уровень своей тревоги (ведь как ни хорохорься, а она есть). Да и лишний цинизм вам незачем.
Просто полистайте оставшиеся 97 новостей, чтобы почувствовать:
- мир не развалился в 2019;
- а в 2020 нужно почаще читать новости из правильных источников.
https://futurecrun.ch/99-good-news-2019
#ХорошиеНовости

Читать полностью…

Малоизвестное интересное

​​Самый неожиданный и жуткий прогноз на 2020 и десятилетие.
Мир избежит ловушки Фукидида ценою брака, заключенного в аду.

Будущее мира на ближайшее 10-20 лет во многом зависит от соперничества США и Китая в области ИИ. Об этом итоговое предновогоднее эссе Грэхама Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?». Автор - авторитетный политолог, профессор и 1й декан Высшей школы государственного управления имени Джона Ф. Кеннеди, а ранее заместитель министра обороны и директор Центра по науке и международным отношениям им. Белфера.
В 2017 его книга «Обреченные на войну: могут ли Америка и Китай избежать ловушки Фукидида?», стала национальным и международным бестселлером. Эта книга ввела в международную политику термин «ловушка Фукидида», определивший главный тренд прогнозов мировых последствий соперничества Китая и США.
N.B. Этим термином названа ситуация, при которой опасения более сильной сверхдержавы по поводу быстрого роста новой страны-соперницы сами по себе эскалируют противостояние между ними и неотвратимо ведут их к войне.

В новом эссе проф. Аллисон как бы дописывает последнюю главу своего бестселлера. В этом тексте опыт Аллисона принятия решений национальной безопасности интегрирован с глубоким пониманием состояния дел в ИИ. Источник последнего – 2й неназванный автор эссе – «один из самых мудрых лидеров IT индустрии c десятилетиями опыта продвижения передовых технологий». Но для внимательно следящих за течениями в высших кругах ИИ госполитики, имя анонимного автора вполне вычисляемо. Эрик Шмидт - председатель Комиссии по нацбезопасности ИИ и бывший легендарный руководитель Google – сегодня самая важная фигура на стыке ИИ-бизнеса и правительства. И потому, естественно, он не может открыто присоединиться к неполиткорректным высказываниям Аллисона о перспективах ИИ-соперничества США и Китая, составляющих суть опубликованного эссе.

Вот сухой остаток этого призыва «Проснитесь!», обращенного к руководителям США и ведущих демократических стран мира.

1) Китай не просто догоняет США в области ИИ. Во многих сегментах (от распознавания и финтеха до дронов и 5G) он уже перегнал. А в ближайшие годы лидерство Китая в ИИ станет абсолютным. Это – объективная реальность, не признавать которую недальновидно и крайне опасно.

2) Решимость Китая стать №1 в мире по ИИ далеко выходит за рамки экономических интересов. Это критически важный фактор сохранения самодержавия КПК над 1,4 млрд. своих граждан. Поэтому для КПК ИИ является экзистенциальным приоритетом.

3) Попав в «ловушку Фукидида», США и Китай осознают наличие всего 2х возможных сценариев будущего:
- либо взаимное уничтожение,
- либо нахождение способа сосуществования, - пусть и неудобного, но не фатального.

4) Единственной альтернативой мировой катастрофы из-за «ловушки Фукидида» является принятие демократическим миром Запада нового китайского образца устройства общества – Глобальный Большой Брат (ГББ), который:
- решает главную проблему любого современного государства – противодействие изнутри,
- и способен привести человечество к «вечному миру» (слушай здесь).
Китай демонстрирует миру, что при наличии мощной положительной обратной связи между авторитарной «операционной системы» власти и технологиями ИИ, укрепляющими власть, возможно устойчивое экономическое развитие и прорывные инновации в обществе без индивидуальных свобод.
5) Однако сценарий ГББ несовместим с культурой Запада, ценящей конфиденциальность выше безопасности, не доверяющей власти и подозрительно относящейся к правительству. Поэтому данный сценарий будет для западных демократий «браком, заключенным в аду». И нужно сделать все, чтобы его избежать. Пусть уж лучше «ловушка Фукидида».

#ИИгонка #Китай #США #Геополитика #БольшаяВойна

Читать полностью…

Малоизвестное интересное

​​«Исследуя ИИ, мы подобны собаке, догнавшей машину».
Отрезвляющая оценка будущего ИИ стала итогом 2019.

Все видели, как дурная дворняга преследует машину. Все понимают, чем для нее это может закончиться, если, не бай бог, догонит. Но она-то не понимает, и тупо продолжает.
Вот и мы – исследователи ИИ - «подобны собаке, догнавшей машину» (“We’re kind of like the dog who caught the car”). Не понимаем, что будем делать, если догоним, и не осознаем, к чему это ведет.
Так сказал Блез Агуэра-и-Аркас – один из ключевых людей по машинному обучению в Google, а ранее в Microsoft, – на только что завершившейся крупнейшей конференции года NeurIPS, собравшей более 13 тыс. исследователей и разработчиков ИИ со всего мира.

Это, своего рода, итог 2019.
Его разделил и Йошуа Бенжио - директор института ИИ в Монреале, недавно получивший высшую награду в области вычислительной техники за начало революции глубокого обучения. Он отметил, - «Глубокое обучение дает узкоспециализированные результаты: система, обученная демонстрировать сверхчеловеческую производительность в одной видеоигре, не способна повторить это в никакой другой».

А директор направления ИИ в Facebook Жером Песенти ранее заявил, что его компания, как и другие, не должны ожидать дальнейшего прогресса в области ИИ, просто создавая бОльшие системы глубокого обучения с бОльшей вычислительной мощностью и объемом данных:
«В какой-то момент мы врежемся в стену… И во многих отношениях, - мы уже врезались».

Громкий призыв Бенджио к размышлениям за пределами недавних узких успехов глубокого обучения поддержали и Джефф Клюн из OpenAI, а ранее Uber. Джефф занимается Metalearning - создание алгоритмов обучения, которые могут разработать свои собственные алгоритмы обучения в системах, генерирующих постоянно меняющиеся среды.

«Глубокое обучение - это здорово, но нам нужен набор различных алгоритмов», - добавила Ирина Риш из универа Монреаля. Но проблема в том, что «сторонники глубокого обучения превратились в подобие секты истинно верующих» и просто не желают слышать об альтернативных путях в области ИИ.

«Пытаясь использовать машинное обучения для создания искусственного интеллекта, нам надо больше задумываться о биологических корнях естественного интеллекта», - призвал участников NeurIPS Блез Агуэра-и-Аркас.

Прошедший крупнейший мировой форум по ИИ показал – исследователи ведущих в области ИИ стран и компаний осознают, что уже поздно «что-то в консерватории подправить». Нужны радинальные изменения в направлениях R&D.

Осознают ли это ведущие российские исследователи и разработчики, а также большие боссы, ответственные за развитие ИИ в стране? Боюсь, что нет.
#ИИ

Читать полностью…

Малоизвестное интересное

​​Тайна «темной материи», которую мы едим.
Эйнштейн 21 века задумал революцию в диетах.

Изречение «ты есть то, что ты ешь» сегодня, в эпоху современной медицины, еще более верно, чем 200 лет назад, когда это было сказано впервые.
Более того, современная наука расширила эту мысль до:
- «скажи мне, что ты ешь, и я скажу, кто ты», теперь относя смысл фразы не только к физической форме, но и к интеллектуальным способностям;
- «скажи мне, что ела твоя мать, когда вынашивала, а потом кормила тебя, и я скажу тебе ...».
Короче, еда для нас – это всё.
Но в том-то и жуткий сюрприз, что
при всех успехах диетологии и, в целом, медицинских наук, мы, оказывается, ни черта не знаем о том, как еда влияет на наше здоровье и интеллект.

Вот пример.

О безглютеновой диете известно более 100 лет, когда появилось понятие «целиакия» — аллергия на клейковину - дерматит, диарея, замедление роста. Сегодняшняя безглютеновая диета заменяет пшеницу, рожь, ячмень и овес мукой и крупой из кукурузы, риса, гречки и сои. Но скрытый глютен диетологи теперь находят в соусах, сосисках, сыре, чае…
Почему?
Да потому, что полный количественный состав биохимических веществ продуктов питания неизвестен!

Национальные стандарты, отслеживающие, как пища влияет на здоровье, основываются примерно на 150 пищевых компонентах.
А их, на самом деле, в пище более 26 тыс.
Многие из них имеют документально подтвержденные последствия для здоровья, но остаются неквантифицированными каким-либо систематическим образом для конкретных продуктов питания. Это и есть «темная материя» еды:
- составляющая минимум 2/3 того, что мы съедаем;
- и обладающая неквантифицированным, а то и, вообще, неизвестным влиянием на наше здоровье и интеллект.

Например, чеснок.
Масса людей знает про себя, что от чеснока им худо. Но почему, - никакой врач точно сказать не готов.
А вот почему.
1) Даже в самых продвинутых базах данных содержатся количественные сведения лишь о 67 питательных компонентах сырого чеснока (марганец, витамин В6, селен ...).
Однако, зубчик чеснока содержит 2300+ различных химических компонентов - от аллицина, соединения серы, отвечающего за отчетливый аромат, до лютеолина, флавона, обладающего защитным действием при сердечно-сосудистых заболеваниях.
2) Влияние каждого из элементов «темной материи» еды на индивидуальный организм уникально. Эта уникальность определяется уникальностью ДНК. Но связать квантифицированные данные о точном составе «темной материи» с индивидуальным кодом ДНК никто пока не брался.

И вот сенсация.
Альберт-Ласло Барабаши (которого я не без оснований назвал Эйнштейном 21 века) планирует в течение 10 лет произвести переворот в питании человечества.
Путем машинного обучения на Больших Данных, описывающих (1) полный биохимический состав высокого разрешения всех продуктов питания и (2) генетические коды конкретных людей, он собирается:
1) расшифровать «тайную материю» продуктов питания – произвести систематическое картирование полного биохимического состава пищи;
2) разработать полный биохимический спектр «дорожных карт» индивидуальных диет, чтобы питание могло конкурировать с генетикой по точности, охвату и влиянию.

Результатом станет индивидуальный питательно-химический «штрих-код» для каждого человека, определяющий оптимальный спектр индивидуально показанных пищевых продуктов (пример «штрих-кода» показан на приложенном рисунке).

И будет людям здоровье и счастье. А лекарства – только в случаях, когда «штрих-код» засбоит, и нужно будет это подправить.
Да, еще кое-что. Это здорово улучшит ожидаемую продолжительность жизни. Как будто люди перестанут заправлять бензобаки своих авто загрязненным и разбавленным ослиной мочой низкосортным бензином АИ-80 и перейдут на лучшие сорта топлива высокой очистки, да еще и оптимизированное под тип двигателя.

Подробней – The unmapped chemical complexity of our diet

#МашинноеОбучение #БольшиеДанные #Диета #Геном

Читать полностью…

Малоизвестное интересное

Вашему вниманию новая выходная подборка каналов на любой вкус, подготовленная @TelegaTopChannel.

🔸 GEO News — околонаучный канал, для тех кто не устаёт удивляться миру вокруг, гениальности человеческой мысли и её воплощению!

🔸История Российской Империи — отличный канал по истории дореволюционной России. Восполнение пробелов в советском и постсоветском образовании

🔸Физтехи шутят — О науке с юмором. Мы несём Аш Ню. Присоединяйтесь!

🔸Изнанка — Интервью с людьми, о которых не принято говорить в масс-медиа.

🔸Boom! Science — агрегатор о науке и образовании. Для людей, любящих читать, расширять кругозор, узнавать новое и искать истину. Делают подборки самых крутых статей (лонгридов) и видеолекций раз в 2-4 дня.

Читать полностью…

Малоизвестное интересное

Подвижный интеллект – генератор разума.
И этот генератор нельзя приобрести, т.к. он наследуется.

Интеллект зависит, как от HW (структура мозга – размеры его регионов и их связанность), так и от SW («прошивка» - меняющаяся в процессе обучения и опыта коммутация нейронной сети).
Согласно доминирующей теории когнитивных способностей (Кеттелла — Хорна — Кэрролла), SW интеллекта включает в себя:
1) подвижный интеллект (fluid intelligence) — способность мыслить логически, воспринимать и запоминать новое, решать новые непривычные проблемы;
2) и кристаллизовавшийся интеллект (crystallized intelligence) — накопленный опыт и способность использовать усвоенные знания и навыки.
1й – это своего рода фреймворк для разработки приложений, а 2й – сами приложения, умеющие делать разные полезные вещи.

Но ведь эти приложения всего лишь результат использования (пока не понятно кем) фреймворка. А у разных людей сложность и совершенство этого фреймворка сильно разная. Причем настолько, что одно и то же обучение:
• одним людей позволяет оснастить себя шикарным набором новых приложений;
• другим – обзавестись набором приложений попроще;
• третьим – лишь увеличить число багов в уже имеющихся у них приложениях.

Все вышеизложенное долгое время (как минимум, с 1971, когда была разработана theory of fluid and crystallized intelligence) оставалось теорией. Но с развитием методов всевозможного сканирования и картирования мозга начались прорывы.

В начале этого года, использовав данные сотен участников проекта «коннектом человека», сразу несколько ведущих лабораторий мира продемонстрировали, что паттерны связности мозга создают «индивидуальные отпечатки», отличающие каждого человека. Люди с сильными функциональными связями между определенными регионами имеют обширный словарный запас и проявляют более высокий подвижный интеллект. Они, как правило, имеют лучшее образование и удовлетворенность жизнью, а также лучшую память и внимание.
Люди же с более слабыми функциональными связями среди тех же самых областей мозга имеют более низкий подвижный интеллект, снижающий способности к концентрации внимания и, в целом, к обучению.

За 1й волной прорывов пошла 2я. Новое исследование на 424 добровольцев дало ответ на вопрос – можно ли, проанализировав размеры отдельных областей мозга, оценить уровень подвижного интеллекта человека (т.е. сложность и совершенство его фреймворка для разработки приложений)?
Исследователи однозначно ответили – да. При этом для выявления значимых различий в уровне подвижного интеллекта, достаточно проанализировать лишь две структуры в мозге – парагиппокампальную кору и хвостатое тело.

Иными словами, можно заранее определить,
• кого стоит учить сложным навыкам,
• а кого – только время терять.

Вот такая, извините, получается почти что нейро-евгеника HW (что вовсе не отменяет значение социо-культурной прошивки SW).

Авторы исследования уже поставили следующую цель – найти способ усиления подвижного интеллекта на имеющемся HW. Всякие там нейро-импланты и т.д.

- Популярно
- Научно за пейволом
- Открытый текст

P.S. Эта новость имеет важный подтекст. Если наш интеллект все же так сильно зависит от наследуемого HW, то опасения Харари о скором появлении супер-людей за счет перепрошивки их алгоритмов (SW), оказываются несколько преждевременными.
P.P.S. Инфу об исследовании прислал читатель канала, планирующий использовать метод исследования в весьма перспективном новом проекте. Если взлетит – напишу.

#Нейронауки #Мозг #Обучение

Читать полностью…

Малоизвестное интересное

Как в генетике программируется разум.
Эйнштейн 21 века на подходе к открытию «уравнения мозга».

Два года назад сын Альберта Ласло Барабаши (которого я уже много лет считаю Эйнштейном 21 века) втравил отца в грандиозную авантюру – попытаться раскрыть величайшую из загадок: как генетически кодируется устройство хадвера разума – нейронная архитектура связей индивидуального мозга.
1й этап этой работы закончен и дал потрясающий результат (как говорится, Эйнштейн – он и в Африке Эйнштейн). Опубликованные 2 декабря в Neuron подробности - малопонятные для неспециалиста, но увлекательные, как триллер – описать простым языком навозможно.

Понятийные аппараты и терминология науки о сложных сетях и нейробиологии наложились друг на друга, создав гремучую смесь с эзотерическим подтекстом (как никак, вопрос на уровне Бога – как в генетике программируется разум).

Помимо этой немеряной сложности, есть и вторая – математически, эта задача, казалось бы, неразрешима. Ведь в ДНК просто нет столько памяти, чтобы закодировать триллионы связей миллиардов нейронов мозга. А кроме ДНК другой супер-памяти у генетики нет.

И, наконец, третья неподъемная сложность (снова как бы толкающая тему в сторону эзотерики).
А существует ли вообще генетический план прошивки мозга в свете того, что она, в значительной мере (но не понятно какой) формируется уже при жизни на основе обучения и опыта?

Существующие теории о генетическом программировании прошивки мозга по своей сути стохастичны, и поэтому не могут воспроизводить конкретные схемы прошивки. И, следовательно, не могут ответить ни на один из поставленных выше вопросов.

А можно ли вообще найти «формулу мозга», математически строгую и позволяющую выдвигать и проверять (фальсифицировать) гипотезы о механизмах связи генетики и нейронной архитектуры?

Новое исследование проливает свет на такую возможность.
• Отец и сын Барабаши начали с гипотезы о том, что генетическая идентичность нейронов определяет формирование синапсов.
• На этой основе они предложили модель коннектома, позволяющую предсказывать результаты генетически управляемой нейронной прошивки.
• Модель предсказывает существование 3х разновидностей специфических повторяющихся узоров (мотивов) биклик (полных двудольных подграфов соединений пар нейронов) - (см. рис.)
• Для этих биклик авторы нашли математически подтверждаемую зависимость с транскрипционными факторами - формированием нейронных связей конкретными комбинациями экспрессируемых генов (см. рис.)
• В результате можно идентифицировать гены, ответственные за наблюдаемые локальные паттерны нейронных связей - повторяющихся узоров биклик.

Все это проверялось на модели самого простого коннектома червяка С elegans. И проверка показала, что модель позволяет увязывать нейронную архитектуру и экспрессию генов.

Что теперь?
Впереди долгий путь. Для коннектома человека все гораздо сложнее. Да и влияние обучения с опытом у человека посерьезней, чем у червяка.
Но главное – выявлен и проверен путь, вполне возможно, ведущий к раскрытию величайшей тайны человечества.

По крайней мере, Альберт-Ласло Барабаши настроен серьезно, написав в своем Твиттере – «Оставайтесь на связи - в ближайшее время последует математическая обработка результатов, позволяющая набросать уравнение мозга».
Так что реально стоит оставаться на связи.

«A Genetic Model of the Connectome»
#Генетика #Коннектом

Читать полностью…

Малоизвестное интересное

Предлагаю вашему вниманию новую подборку от @Ruschan - самые интересные Telegram каналы на любой вкус.

@immortalbooksarchieve — Хранилище бесплатных книг.

@tripdiary — Неизведанные уголки нашей планеты, архитектура, лучшие туристические места в одном канале!

@smartphonesecrets — Используй свой смартфон на 100%, а не как бабуля!

@eEasyEnglish — Уроки английского для взрослых и детей. Быстро, просто, бесплатно!

@knijky — Уютная Библиотека: лучшая литература.

@ibookstg — Топовые аудиокниги онлайн.

@fishechki — Постим лучшие мемы и гифки со всех уголков интернета, оказываем помощь при плохом настроении, рассказываем интересные факты и бредовые новости.

@YourMustRead — Более 1000 шедевров современной литературы - настоящая книжная полка в твоем телефоне!

@StatusQ — Хочешь пополнить словарный запас и освоить навыки черной риторики? Эти фразы заткнут любого противника!

@Inbreak_Photo — Любишь крутые обои и качественную музыку? Тогда тебе к нам!

@oboioboi — Срочно обнови свой телефон! Топовые обои для iPhone и Android на одном канале.

@SciFuck — Телеграм-журнал о мире космоса, технологий, науки, искусственного интеллекта и личности.

@Vocabulary_Dictionary — Необходимый словарь, Intermediate → Advanced с переводом и аудио примерами.

Читать полностью…

Малоизвестное интересное

«Как известно, у левшей доминирует правая сторона мозга, у правшей — левая.

Вот нельзя было проще?

Не знаю, спрашивайте генеральных конструкторов, они видимо очень хотели перед кем-то выебнуться, когда делали человека.
Не иначе, как вписались в конкурс на разработку самого дорогостоящего и неоправданного удобрения для почвы планеты Земля.

Правши.
С ними всё понятно: ими кишит планета, они вменяемы, рациональны, обязательны, с ними легко иметь дело, они исправно ходят на работу, к родственникам, в спортзал. Потому что у них доминирует левое полушарие мозга, где прошиты логические процессы.

Левши.
Это вечные дети. Потому что подключены к правому полушарию, которое отвечает за пространственное восприятие.

Что это значит? …»


Да много чего:
• что проверить кто вы (правша или левша), на самом деле, не так просто;
• что левши живут ощущениями, а правши могут абстрагироваться;
• что все люди рождаются левшами, а прошивку выбирают ещё до того, как начнут говорить;
• что правши чаще сходит с ума;
• что если бы все были левшами, цивилизация, скорее всего, не выжила …

Правда, страшно интересно и увлекательно написано?

Это пишет Ануш – автор канала АШОТОВНА - канал моральной поддержки людей. Здесь автор пишет о психотерапии, травмах и психических расстройствах, об отношениях с собой и с людьми.

Удивительное сочетание легкости текстов с важностью и нетривиальностью тем.
- Практическая польза, - как от хорошего справочника.
- А удовольствие, - как от увлекательной беллетристики.
Весьма рекомендую не только подписаться, но и полистать ленту назад (там много интересного уже опубликовано, ценность которого ничуть не уменьшилась).

И не забудьте дочитать про левшей и правшей

Читать полностью…

Малоизвестное интересное

Король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.
Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать.

Принципиальная ошибка современной науки и технологий ИИ в том, что они развиваются в условиях, когда:
- мы так и не договорились, что понимаем под ИИ;
- у нас нет способа сравнить ИИ между собой и с интеллектом человека.
В результате
(1) мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька);
(2) мы не в состоянии реально оценивать прогресс в создании ИИ, поскольку:
- не определились с направлением «куда плывем»;
- не договорились, как оценивать достигнутое (сравнивать разные интеллекты по «интеллектуальности»).
В итоге мы подобны морякам, отправившимся в далекое плавание, не договорившись, куда плывут, и не имея средств определения текущего местоположения.
В общем, ситуация тупиковая, не смотря на явный прогресс в прикладном использовании машинного обучения.
Ибо:
- с машинным обучением все ОК;
- а с созданием ИИ полная Ж.
И поэтому существующую парадигму ИИ необходимо кардинально менять.

Все вышесказанное - не просто мой очередной призыв к читателям канала «Малоизвестное интересное». Это преамбула к 60ти страничному «манифесту» On the Measure of Intelligence, на днях опубликованном Франсуа Шнолле – известным исследователем ИИ в компании Google, создателем библиотеки глубокого обучения Keras и соразработчиком фреймворка машинного обучения TensorFlow.

Шнолле сделал то, что не может позволить себе Google: открыто заявить – король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.

Ну а теперь о главном.
Главная ценность «Манифеста Шолле» не в его смелости и точности формулировок. А в том, что предложена четкая альтернатива, детально сформулировавшая (1) куда плыть и (2) как измерять свое местоположение на пути к цели (как сравнивать создаваемые интеллекты между собой и человеком).

Дочитать, что конкретно предложил Франсуа Шолле - на 90 сек. чтения в моем посте
- на Medium http://bit.do/fji34
- на Яндекс Дзен https://clck.ru/KZuPs
#ИИ

Читать полностью…

Малоизвестное интересное

Величайшее разводилово в истории человечества.
Началось отрезвление от дурмана онлайн-рекламы.

Несмотря на захватывающие рассказы об интеллектуальном микротаргетинге, мой сетевой серфинг уже несколько месяцев идет на фоне электрогенераторов и антисептиков для дерева (потребность в которых на ближайшие 10 лет я закрыл прошедшим летом).
Один из главных уроков Харари для 21 века в том, что великие и ужасные владельцы онлайн-данных узнают наши чаяния и предпочтения лучше нашей мамы и смогут продать нам что угодно: от «умных трусов» до нового президента страны.
Возразить здесь нечего. Все так. Вопрос лишь один – когда это станет возможно в реальности?

Мой ответ – довольно нескоро. Может лет через 20, а может и дольше.
Спорить с теми, кто считает иначе – нет смысла. Давайте лучше проверим это на самом крутом и масштабном из существующих практических кейсов – онлайн-рекламе. Поисковики и соцсети ежегодно зарабатывают на этом сотни миллиардов долларов, продавая бизнесу «от мертвого осла уши» и «забивая Мике баки» рассказами о все более интеллектуальном микротаргетинге.

А как на самом деле?
Да вот так.
Марк Причард, главный бренд- менеджер Procter&Gamble (P&G), контролирует маркетинговый бюджет в размере более 10,5 млрд долларов, что делает его компанию крупнейшим рекламодателем в мире - как в офлайне, так и в онлайне.
«Рынок онлайн-рекламы превратился в непрозрачный, мошеннический бизнес, где процветает «дрянная реклама», а хорошие деньги тонут в мусоре. Слишком долго рекламодатели слепо верили в истории о дивном, новом, чудесном, цифровом мире. Они купились на бредовую мысль, что цифра – это нечто принципиально новое… Но мы пришли в себя… Дни пожертвований в цифру прошли».

Если совсем коротко, то проблемы здесь таковы.
1. Свирепствует мошенничество в объемах до $150 млрд в год (это более половины общего бюджета онлайн-рекламы).
2. Метрики таковы, что рекламодатели не могут знать, что приведенные им цифры соответствуют действительности. За последние два года даже Facebook признал, что время от времени завышал свои цифры - в том числе по тому, сколько людей смотрят видео и сколько людей кликают на рекламу.
3. Рекламодатели плохо контролируют, где появляются объявления. Например, недавно крупные рекламодатели, такие как AT&T, GlaxoSmithKline и Verizon, обнаружили, что их реклама автоматом появилась в расистских видео на YouTube.
4. Люди просто не хотят видеть рекламу. Доходы блокировщиков рекламы растут на 40% в год.
5. Чистые и правильные показатели онлайн-рекламы оказались несбыточной мечтой. Adobe обнаружил что уже до 28% всего интернет-трафика является «нечеловеческим».

Думаете, вышеперечисленное – большая новость?
Ничуть. Все крупные игроки знают, что это так. Но миф революционного цифрового мира умного микротаргетинга продолжает господствовать в умах.

«Не обманывайтесь мифами», - сказал Марк Притчард, обращаясь к коллегам еще 2 года назад на отраслевой конференции.
Сегодня его мудрый совет стал еще более актуален.
Подробней https://thecorrespondent.com/125/the-non-sense-of-online-advertising-when-the-numbers-dont-add-up/1389146000-5c0c8f6b
#Реклама #Микротаргетинг

Читать полностью…

Малоизвестное интересное

​​Преждевременное старение – от недосыпа.
Сон важнее спортзала и диеты против старения.

Лауреат Нобелевской премии, биолог, Элизабет Блэкберн вместе с психологом Элиссой Ипел написали книгу о том, как продлить свою жизнь, удлинив теломеры (структуры на концах хромосом, которые играют ключевую роль в клеточном старении и потому используются в качестве маркера биологического старения). Основная мысль книги «The Telomere Effect: A Revolutionary Approach to Living Younger, Healthier, Longer» (Теломерный эффект: революционный подход к более молодой, здоровой и долгой жизни) в том, что мы можем взять старение под контроль и тем самым замедлить его.

В книге рассказывается, что в нашем арсенале уже есть средства, которые помогают теломерам восстановиться. Ничего нового: 1. умеренные физические нагрузки 2. биодобавки и правильное питание 3. все, что снижает уровень стресса — главным образом, медитативные техники (коротко можно прочесть здесь https://theageofhappiness.com/posts/untitled/6eci52c5108).

И вот новый прорыв. Тщательно проведенное и хорошо документированное исследование на 482 сингапурских добровольцах показало существенную зависимость длины теломер от недосыпа и, в целом, от качества сна. Длина теломер у тех, кто спал менее пяти часов в сутки оказалась в среднем на 356 пар оснований меньше, чем у тех, кто спал в течение семи часов (с учетом возраста, пола, этнической принадлежности и прочих демографических, социально-экономических факторов и факторов образа жизни).

В основе этого прорывного исследования использование фитнес-трекера Fitbit Charge HR с функцией мониторинга сна. И получается, что именно контроль сна становится самой важной функцией этих гаджетов. Контроль физической нагрузки, конечно, тоже полезен. Но полноценный сон, как оказалось, еще важнее.
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6778117/
#Сон #Старение

Читать полностью…
Подписаться на канал