58938
Legend's Diary Info? Here: @Ghost_of_Ghost
Однако само стремление к такому прорыву могло бы побудить соперников действовать, пока их окно возможностей не закрылось. Страх, что другое государство вскоре резко увеличит свою мощь, заставил наблюдателей задуматься о мерах, ранее считавшихся немыслимыми. В ядерную эпоху Бертран Рассел, обычно ярый пацифист, предлагал превентивные ядерные удары по Советскому Союзу, чтобы предотвратить его подъем [8], в то время как США всерьез рассматривали возможность подрыва китайской ядерной программы в начале 60-х [9]. Столкнувшись с перспективой сверхоружия и стратегической монополии на власть с помощью ИИ, некоторые лидеры могут прибегнуть к превентивным действиям [10]. Вместо того чтобы полагаться только на сотрудничество или пытаться опередить своих противников, они могут рассмотреть саботаж или атаки на дата-центры, если альтернатива — принять будущее, в котором национальное выживание постоянно находится под угрозой.
Читать полностью…
Последствия сверхоружия
Сверхразум — это не просто новое оружие, а способ ускорить все будущие военные инновации. Нация, единолично обладающая сверхразумом, могла бы быть столь же подавляющей, как конкистадоры для ацтеков. Если государство достигнет стратегической монополии через ИИ, оно сможет перестроить мировые дела на своих условиях. Аппарат наблюдения, управляемый ИИ, мог бы обеспечить незыблемый тоталитарный режим, трансформируя управление внутри страны и рычаги влияния за рубежом.
ИИ имеет решающее значение для национальной безопасности
ИИ обладает потенциалом изменить баланс сил. В руках государственных акторов он может привести к разрушительным военным возможностям и трансформировать экономическую конкуренцию. В то же время террористы могут использовать его двойную природу для организации атак, которые ранее были исключительной прерогативой великих держав. Он также может выйти из-под человеческого контроля.
В этой главе рассматриваются три угрозы национальной безопасности: соперничающие государства, злоумышленники и неконтролируемые системы ИИ. В заключение мы оцениваем, почему существующие стратегии не справляются с управлением этими взаимосвязанными угрозами.
^ Эрик пишет что чипы сегодня — это уран.
В 1940-1950 - нация смогла сформулировать и сделать по итогу бомбу.
Из американских, немецких и собственных разработок.
Напряглись тогда все. Посмотрим как вы справитесь в этот раз.
У вас есть 3 года. Время пошло.
Однако быстрый прогресс технологий ИИ вносит значительные неопределенности для международной стабильности и безопасности. Введение ядерного оружия изменило международные отношения, предоставив влияние тем, кто им обладал, и приведя к гонке вооружений. Карибский кризис показал, как близко мир подошел к ядерной войне. Ядерное уничтожение до сих пор избегалось, несмотря на значительные напряжения между ядерными государствами, отчасти благодаря принципу сдерживания Взаимного Гарантированного Уничтожения (MAD), где любое использование ядерного оружия вызвало бы ответный удар. В эпоху ИИ может возникнуть параллельная форма сдерживания — то, что можно назвать "Взаимно Обеспеченной Неисправностью ИИ" (MAIM), — где проекты ИИ государств ограничиваются взаимными угрозами саботажа.
Читать полностью…
Стратегия:
Сдерживание: Обнаруживать и сдерживать дестабилизирующие проекты ИИ с помощью (кибер)шпионажа и саботажа.
Нераспространение: Надежно знать местоположение чипов ИИ и предотвращать их контрабанду злоумышленниками.
Конкурентоспособность: Гарантировать доступ к чипам ИИ через внутреннее производство.
Для навигации в этих сложностях многие обращаются к аналогиям. ИИ сравнивают с электричеством из-за его универсальной природы, с традиционным программным обеспечением из-за его экономической значимости или с печатным станком из-за его культурного воздействия. Хотя эти сравнения дают полезные отправные точки, они не подчеркивают серьезные последствия ИИ для национальной безопасности. Более продуктивная аналогия лежит между ИИ и катастрофическими технологиями двойного назначения — ядерными, химическими и биологическими. Как и они, ИИ будет неотъемлемой частью мощи нации, одновременно представляя потенциал для массового уничтожения. Краткий обзор исторических параллелей между ИИ и ядерным веком может подчеркнуть серьезность нашей текущей ситуации.
Читать полностью…
Учитывая относительную легкость саботажа дестабилизирующего проекта ИИ — от скрытых кибератак до потенциальных кинетических ударов по дата-центрам — MAIM уже описывает стратегическую ситуацию, в которой находятся сверхдержавы ИИ. Наряду с этим, государства могут повысить свою конкурентоспособность, укрепляя свои экономики и вооруженные силы с помощью ИИ, а также заниматься нераспространением, чтобы не допустить попадания вооружаемых возможностей ИИ в руки злоумышленников. В совокупности трехчастная структура сдерживания, нераспространения и конкурентоспособности представляет собой надежную стратегию в отношении сверхразума в ближайшие годы.
... Под "кинетическими ударами по датацентрам" — понимается ракетный удар по серверам Яндекса и Вконтакте.
Еще — Сбербанка. Храните деньги в золоте.
Быстрые достижения в области искусственного интеллекта (ИИ) начинают перестраивать национальную безопасность. Дестабилизирующие разработки в области ИИ могут нарушить баланс сил и повысить вероятность конфликта великих держав, в то время как широкое распространение способных ИИ-хакеров и вирусологов снизит барьеры для злоумышленников, стремящихся вызвать катастрофу. Сверхразум — ИИ, значительно превосходящий человека почти во всех когнитивных задачах, — теперь ожидается исследователями ИИ.
Читать полностью…
Подлинные организации были и в Telegram.
Их нахасанил Абдурохман в говноприложении #MAJOR.
Галочки продавались по 8 тысяч USD.
Не говорите потом дурачки что я вас не предупреждал.
Читать полностью…
Конкистадоры скоро приедут в Россию. А вы будете со своими палками-копалками —
Рассказывать про серый импорт арбузов, носков, жевачек и парфюмов.
Возможное сверхоружие
Субъядерные сверхоружия — такие как кибероружие с поддержкой ИИ, способное внезапно и всесторонне уничтожить критическую инфраструктуру государства, экзотические устройства ЭМИ и дроны следующего поколения — могут предоставить значительные преимущества, не аннулируя ядерный сдерживающий фактор противника. Некоторые сверхоружия могут полностью подорвать взаимное гарантированное уничтожение. "Прозрачный океан" угрожал бы скрытности подводных лодок, раскрывая местоположение ядерных субмарин. ИИ могли бы точно определить все укрепленные мобильные ядерные пусковые установки, еще больше подрывая ядерную триаду. ИИ могли бы подорвать ситуационную осведомленность и посеять путаницу, генерируя сложные обманы — "машину тумана войны" [7], — которые маскируют истинные намерения или возможности. Возможность оборонительного сверхоружия — это система противоракетной обороны, которая устраняет способность противника нанести ответный удар. Наконец, некоторые сверхоружия остаются за пределами сегодняшнего предвидения — "неизвестные неизвестные", которые могут подорвать стратегическую стабильность.
... Речь о нанитах и перемещении во времени и пространстве мне кажется.
Так уничтожили СССР.
Чипы ИИ как валюта экономической мощи
По мере того как ИИ все больше интегрируется в экономику, обладание передовыми чипами ИИ может определить мощь нации. Исторически богатство и численность населения составляли основу влияния государства; однако автоматизация задач с помощью ИИ меняет эту динамику. Группа высокопроизводительных ИИ-агентов, работающих неустанно и эффективно, конкурирует с квалифицированной рабочей силой, фактически превращая капитал в труд. В этой новой парадигме мощь будет зависеть как от возможностей систем ИИ, так и от количества чипов ИИ, на которых они могут работать. Нации с большим доступом к чипам ИИ смогут экономически опережать других.
В этой среде влияние ИИ на государственную мощь становится значительным. ИИ может изменить основы экономической и военной силы. Его способность автоматизировать труд может стать источником экономической конкурентоспособности. В военной сфере он может быть использован для доминирования над соперниками. Мы начнем с рассмотрения экономической мощи, а затем перейдем к ее величайшим военным последствиям.
Читать полностью…
Вызовы, которые ставит ИИ, слишком широки и слишком серьезны для разрозненных мер. Необходима всеобъемлющая стратегия, которая не уклоняется от тревожных последствий передового ИИ. Как и в знаменитом анализе ядерной стратегии Германа Кана [3], стратегия сверхразума требует "думать о немыслимом". В этой статье мы предлагаем такую стратегию и рассматриваем фундаментальные вопросы на этом пути: Что делать с летальным автономным оружием? Катастрофическим злоупотреблением? Мощными открытыми ИИ? Массовым наблюдением с помощью ИИ? Как общество может сохранить общее понимание реальности? Что делать с правами ИИ? Как людям сохранить свой статус в мире массовой автоматизации?
Читать полностью…
В ядерную эпоху уран стал ключевым элементом атомной энергии. Государства, которые его контролировали, могли вводить регулирование, заключать договоры и ограничивать распространение разрушительных возможностей. В области ИИ вычислительные ресурсы — особенно чипы ИИ — имеют схожий стратегический вес, подпитывая соперничество и формируя геополитические расчеты. Эта динамика очевидна в таких местах, как Тайвань, центральный для производства чипов ИИ, где нарастающие напряжения могут иметь далеко идущие последствия. У наций есть общий интерес в контроле доступа к чипам ИИ, чтобы не допустить их попадания в руки злоумышленников, что перекликается с логикой, однажды примененной к урану.
Читать полностью…
^ Мы с Эриком Шмидтом в принципе думаем одинаково.
Читать полностью…
В 1933 году ведущий ученый Эрнест Резерфорд назвал идею использования атомной энергии "чушью". На следующий день Лео Сцилард прочитал замечания Резерфорда и набросал идею ядерной цепной реакции, которая в конечном итоге породила ядерный век. Впоследствии такие фигуры, как Дж. Роберт Оппенгеймер, осознали двойную природу своей работы. Сегодня ИИ находится на схожей стадии. Ранее считавшийся научной фантастикой, ИИ достиг точки, где машины могут учиться, адаптироваться и потенциально превосходить человеческий интеллект в определенных областях. Эксперты по ИИ, включая Джеффри Хинтона и Йошуа Бенджио, пионеров глубокого обучения, выразили экзистенциальные опасения по поводу технологий, которые они помогли создать.
Читать полностью…
Среди этих вызовов двойная природа ИИ — его способность использоваться как в гражданских, так и в военных целях — становится критическим фактором. В отличие от специализированных технологических инструментов, ИИ охватывает практически все секторы, включая финансы, здравоохранение и оборону. Эта широкая применимость в сочетании с его быстрым развитием создает рисковый ландшафт, который обширен и трудно предсказуем. Стратегические акторы должны учитывать потенциальное злоупотребление, риски геополитической эскалации и необходимость создания рамок для управления системами, чьи возможности могут превзойти человеческий контроль.
Читать полностью…
Подобно тому, как нации когда-то разрабатывали ядерные стратегии для обеспечения своего выживания, нам теперь нужна последовательная стратегия сверхразума для навигации в новом периоде трансформационных изменений.
💢 Мы вводим концепцию Взаимно Обеспеченной Неисправности ИИ (Mutual Assured AI Malfunction, MAIM):
Режим сдерживания, напоминающий ядерное взаимное гарантированное уничтожение (MAD), где любая агрессивная попытка государства добиться одностороннего доминирования в области ИИ встречает превентивный саботаж со стороны соперников.
Не знаю может ли наш Пабло быть таким скаммером и бракоделом.
Возможно кадровый голод. Или даже внешнее управление компанией.
Какие-то хохлы и моссад.
Знаете, а ведь сделать вы ничего не можете. И я смеюсь —
Когда думаю что если этот дневник - историю болезни —
Читает какой-нибудь условный Греф, Шадаев или даже Путин —
Они тоже ничего сделать не могут. Вот так.