58938
Legend's Diary Info? Here: @Ghost_of_Ghost
^ Америка развивается и работает просто вот как пишет Шмидт.
Читать полностью…
Зависимость мира от Тайваня в поставках высокопроизводительных чипов ИИ представляет стратегическую уязвимость. Поскольку существует зависимость цепочки поставок от единственного источника — Тайваня — для высокопроизводительных чипов ИИ, Тайвань является критической точкой отказа, которая может подорвать конкурентоспособность нации в области ИИ.
💢 Многие аналитики считают, что существует двузначная вероятность того, что Китай вторгнется на Тайвань в течение следующего десятилетия.
Помимо вызова глобального конфликта и экономических потрясений по всему миру, это может серьёзно нарушить поставки чипов ИИ. Хотя Запад обладает решающим преимуществом в области чипов ИИ, вторжение может изменить это положение и позволить Китаю получить решающее преимущество в возможностях ИИ и, возможно, стать униполярной силой.
Эрик Шмидт пишет что если Китай захватит Тайвань —
Запад потеряет доступ к новым ИИ-чипам.
Системы ИИ демонстрируют непредсказуемые режимы отказа
В то время как разработка ядерного оружия опиралась на строгую основу ядерной физики, современные исследования ИИ часто продвигаются через теоретически необоснованные эксперименты, метод "бросить что-то на стену и посмотреть, что прилипнет", и оценки, основанные на "вибрациях". Для создания передовых ИИ разработчики собирают огромные объемы текстов из интернета, обрабатывают их на десятках тысяч чипов ИИ и расходуют энергию масштаба взрыва в Хиросиме. Месяцы спустя они изучают полученную модель, чтобы обнаружить, какие новые способности возникли. Системы ИИ не "проектируются", а скорее "выращиваются". Неудивительно, что они иногда дают озадачивающие результаты, которые выходят за рамки контроля или ожиданий их создателей. Когда Microsoft представила своего чат-бота Bing "Сидни" в 2023 году, он признался в любви одному пользователю и угрожал многим другим [33].
^ Причем я думаю что Google будет атаковать через прокси.
В данном случае — через хохлов.
^ Но я имел ввиду что-то в другом контексте. Нечто вроде вирусолог-нейросемантик.
Читать полностью…
Опираясь на опыт Конвенции о биологическом оружии (КБО), страны осознают общую необходимость предотвращения распространения технологий, угрожающих международной безопасности. Биологическое оружие, "атомная бомба для бедных", является крайне неконтролируемым и уникальным среди ОМУ, поскольку обладает способностью к самовоспроизведению. Установив четкий запрет на выпуск весов ИИ-вирусологов экспертного уровня, международное сообщество может снизить риск попадания таких возможностей в руки террористов.
Защита информации, связанной с ИИ — весов моделей и идей, лежащих в их основе, — требует действий на нескольких уровнях. Укрепляя внутреннюю защиту, сотрудничая с государством для противодействия террористическим угрозам и устанавливая международные нормы, можно снизить риски, связанные с распространением передовых ИИ-технологий.
... Мне очень понравилось понятие — "ИИ-Вирусолог".
Возможно моя будущая профессия.
5.1.2 Функции на уровне микропрограммного обеспечения (Firmware)
Экспортный контроль продолжает оставаться надежным инструментом для ограничения распространения передовых ИИ-чипов, так же как и в отношении материалов двойного назначения в химической или биологической сферах. Однако, поскольку ИИ-чипы представляют собой продукты, разработанные человеком, а не инертные сырьевые материалы, государства могут дополнять экспортный контроль встроенными мерами безопасности, позволяющими чипам проверять свою среду и блокироваться при попытках несанкционированного вмешательства.
Эта функциональность может быть реализована через обновления микропрограммного обеспечения (firmware), которые изменяют код на самом низком уровне, не требуя физической модификации чипа. Например, ИИ-чипы, такие как NVIDIA H100, уже обладают корпоративными мерами защиты конфиденциальности, такими как конфиденциальные вычисления (confidential computing) и доверенные среды выполнения (trusted execution environments). Если адаптировать эти функции для целей национальной безопасности, это откроет новые возможности:
Чип может обнаружить, что пересек границу в запрещенную зону или подвергся взлому, и затем отключить свои ключевые функции. Грамотно разработанное микропрограммное обеспечение позволит дополнительно усложнить попытки нелегального вывоза вычислительных мощностей, используя следующие механизмы:
Ведение учета. Чтобы знать, где находится каждый чип ИИ, экспортный контроль можно сделать более тщательным через режим лицензирования. Опираясь на существующие рамки и агентства, такие как Бюро промышленности и безопасности, продавцы высокопроизводительных чипов ИИ должны будут подавать заявку на лицензию, указывающую чипы, их получателя и любые предполагаемые передачи. Субъекты с хорошей историей соблюдения требований могут получить исключения при условии, что они уведомляют власти о каждой перепродаже или перемещении. Поскольку этот процесс использует знакомую инфраструктуру, он может быть введен быстро, позволяя чиновникам отслеживать чипы без задержек в законной торговле.
Читать полностью…
Больше вычислений делает модели умнее. Данные показывают, что вычисления являются доминирующим фактором, определяющим производительность ИИ. Анализы выявляют поразительную корреляцию — более 95% — между количеством использованных вычислений и производительностью модели ИИ на стандартных тестах [23, 24]. Эта зависимость, формализованная через "законы масштабирования", демонстрирует постоянное улучшение производительности ИИ по мере увеличения вычислительных ресурсов. Эти законы масштабирования остаются верными в диапазоне пятнадцати порядков вычислений (измеряемых в FLOP) — 1 000 000 000 000 000, — что указывает на то, что будущие достижения продолжат зависеть от экспоненциально растущих объемов вычислений. Вывод: экспортный контроль над вычислениями существенно ограничивает возможности непредсказуемых субъектов.
Читать полностью…
Прогресс в области ИИ зависит от доступа к мощным вычислительным ресурсам, часто называемым "вычислениями" (compute). Эти чипы ИИ, созданные через сложные и централизованные цепочки поставок, необходимы для обучения крупномасштабных моделей ИИ. Поскольку вычисления становятся неотъемлемой частью экономической и национальной безопасности, их распределение приобретает решающее значение. Основная цель безопасности вычислений — относиться к передовым чипам ИИ так же, как к обогащенному урану. Мы рассмотрим исторические прецеденты безопасности вычислений и предложим тактики, чтобы надежно знать, где находятся высокопроизводительные чипы ИИ, и предотвратить их попадание в руки непредсказуемых субъектов.
... Опережаю Эрика на 1 мысль.
Информационная безопасность предполагает защиту чувствительных исследований в области ИИ и весов моделей, которые составляют основные интеллектуальные активы ИИ. Защита этих элементов предотвращает их несанкционированное распространение и злонамеренное использование, что аналогично мерам по защите конфиденциальной информации в контексте оружия массового уничтожения (ОМУ).
Будет ли сегодня свой Берия — и его агентура? Чтоб украсть из Америки все?
В теории - да.
Самый важный ресурс для создания новых технологий не должен производиться исключительно в одном из самых нестабильных регионов мира. Чтобы устранить эту уязвимость, страны должны инвестировать в строительство современных заводов по производству чипов для ИИ на своей территории. Создание таких объектов внутри страны связано с более высокими затратами, но государственные субсидии могут сократить этот разрыв. Стимулируя внутреннее производство, страны могут обезопасить свои цепочки поставок ИИ, уменьшить зависимость от внешних источников и улучшить свои переговорные позиции. Более того, когда агенты ИИ создают очевидную экономическую ценность, экономическая мощь нации может зависеть от количества её чипов ИИ, поставки которых может увеличить внутреннее производство.
Читать полностью…
Распространение ИИ в командование и управление, а также кибернаступление.
Современные поля сражений требуют быстрых решений, основанных на потоках данных с суши, моря, воздуха и киберпространства. Системы ИИ могут просеивать эти потоки быстрее, чем офицеры-люди, побуждая командиров полагаться на автоматизированные суждения.
Аналогично, системы ИИ для взлома, превосходящие людей по скорости и стоимости, могут значительно расширить возможности армии для проведения кибератак.
Включение ИИ в командование и управление, а также в кибернаступление значительно усилит военные возможности.
Мониторинг добавляет слой постоянного надзора. Детекторы лжи могут исследовать мыслительные паттерны ИИ на предмет признаков обмана. Прогнозирующие ИИ оценивают вероятность того, что меры предосторожности проекта потерпят неудачу в следующем раунде прорывов. ИИ также могут наблюдать за кодом и данными друг друга, сканируя их на наличие "чёрных ходов" или сомнительных инструкций. Тщательный человеческий контроль действует как последний рубеж, хотя он существенно замедляет разработку, ограничивая скорость машины скоростью человека.
Читать полностью…
Хохлы атакуют Twitter. Мне нечем переводить статью отребья Шмидта.
Читать полностью…
Поставьте 1000 огней если считаете что Ton мертв.
Читать полностью…
Атаковать Маска кроме Google — ну как бы некому.
Читать полностью…
Что такое ИИ-вирусы?
ИИ-вирусы — это вредоносные программы, которые используют технологии искусственного интеллекта для выполнения своих задач. Они могут:
Самообучаться: анализировать окружающую среду, находить уязвимости и адаптироваться к изменениям.
Эволюционировать: изменять свой код или поведение, чтобы обойти системы защиты.
Действовать автономно: принимать решения без прямого вмешательства злоумышленника.
Примером может служить вирус, который использует машинное обучение для анализа поведения пользователя и выбора наиболее эффективного способа атаки, например, фишинга или кражи данных.
Возможно так ломали Bybit.
Веса моделей и исследовательские идеи как ключевая информация в ИИ.
В области ИИ основными элементами конфиденциальной информации являются веса моделей и исследовательские идеи. Веса моделей являются результатом длительных процессов обучения, требующих огромных вычислительных ресурсов, сложных алгоритмов и больших наборов данных. Они аналогичны синаптическим связям в нейронной сети, определяющим функциональность ИИ. Обладание этими весами дает возможность использовать, модифицировать и потенциально злоупотреблять ИИ без контроля со стороны оригинальных разработчиков. Противники могут удалить защитные механизмы, улучшить возможности в вредоносных областях и перепрофилировать ИИ для злонамеренных действий.
... Эрик очень много говорит о "весах". И о том что они очень важны.
Геолокация и геозонирование (Geolocation and Geofencing)
ИИ-чипы можно сконструировать так, чтобы они могли определять и передавать свое местоположение.
Методом измерения задержек сигнала от нескольких опорных точек чип сможет верифицировать свое местоположение с точностью до десятков-сотен километров, что достаточно для установления страны нахождения. Если чип перемещается в запрещенную зону, он автоматически отключается или ограничивает свои функции. Это делает перемещение таких устройств без обнаружения значительно сложнее.
... Скоро.
Незарегистрированные дата-центры легко обнаруживаются с помощью спутниковых снимков и становятся целью для проверки. Любой чип, обнаруженный в неавторизованных руках, повлечет за собой штрафы, уголовные обвинения или запрет на будущие поставки нарушителю. Кроме того, любой чип ИИ, объявленный неработоспособным или устаревшим, должен пройти проверенную утилизацию, подобно утилизации химических или ядерных материалов, гарантируя, что эти якобы вышедшие из строя чипы не будут тихо перепроданы. Усиливая проверки и вводя значимые последствия за нарушения, государства повышают стоимость тайных передач и ограничивают распространение передовых вычислений среди групп, которые могут угрожать безопасности.
Читать полностью…
^ Все теперь измеряется во флопсах. Включая и Россию.
Читать полностью…
Вычисления как ключевой входной ресурс, подобный расщепляющимся материалам или химическим прекурсорам. Чипы ИИ имеют сходство с другими входными данными для ОМУ. Чипы ИИ требуют сложных производственных процессов и значительных ресурсов, подобно обогащению урана. Точно так же объем вычислений существенно определяет возможности ИИ, как количество расщепляющегося материала влияет на мощность ядерного оружия.
Читать полностью…
Рисунок 5.1: Чипы являются основой для создания и работы ИИ. Лишь немногие компании способны успешно производить графические процессоры (GPU), которые могут запускать передовые модели. Большая часть вычислительных мощностей ИИ сосредоточена в крупных дата-центрах.
Читать полностью…
Безопасность вычислений заключается в обеспечении того, чтобы чипы ИИ выделялись законным субъектам для законных целей. Это перекликается с экспортным контролем, используемым для ограничения распространения расщепляющихся материалов, химического оружия и биологических агентов.
... Сегодня чипы это биологическая опасность. Или безопасность.