Технозаметки Малышева

06 November 2024 07:18

Tencent выпускает самую мощную открытую MoE модель в мире

Hunyuan-Large устанавливает новый стандарт производительности языковых моделей с 389 млрд параметров.
Архитектура Mixture of Experts, контекстное окно в 256K токенов.
Система превосходит LLama3.1-405B на 2.6% в MMLU и на 3.6% в математических тестах.
Модель демонстрирует выдающиеся результаты в задачах на китайском языке, программировании и научных вычислениях.

HuggingFace
GitHub

Китайские модели умеют в оптимизацию, получается. При меньшем объеме показывают лучший результат. 😎

#Tencent #Hunyuan #MoE #Китай
-------
@tsingular

Технозаметки Малышева

05 November 2024 20:40

🖥 LibreChat — это полностью открытая платформа для развертывания собственного чат-бота, аналогичного ChatGPT.

🌟 Приложение поддерживает интеграцию с различными AI-моделями (OpenAI, Anthropic и др.) и функции, такие как переключение моделей, поиск сообщений, многопользовательский доступ и мультимодальные данные (текст, файлы, изображения). Проект предназначен для гибкой настройки и развертывания как локально, так и в облаке.

🔐 Лицензия: MIT

🖥 Github

@data_analysis_ml

Технозаметки Малышева

05 November 2024 06:50

Meta* разрешила военное применение Llama моделей в США

Корпорация Meta* радикально изменила политику использования своих ИИ-моделей, открыв доступ оборонному сектору США.
К проекту присоединились AWS, Microsoft, IBM, Lockheed Martin, Oracle, Palantir и другие федеральные подрядчики.
Технологии планируется задействовать для диагностики военной техники, планирования операций, кибербезопасности и борьбы с терроризмом.
Стратегическая цель - укрепление технологического превосходства США в сфере ИИ-разработок.

Документация приводится к соответствию с реалиями. Вполне предсказуемо.

Meta* - запрещенная на территории Российской Федерации организация.

#Meta #Llama #Military
-------
@tsingular

Технозаметки Малышева

05 November 2024 06:08

Daily Dose of Datascience выложили полную подборку материалов в 1 PDF.
Рекомендую, - очень просто, понятно и интересно пишут про DS методы.

530+ страниц с 150+ ключевыми уроками .

файл в комментарии.

#dailydoseofdatascience #обучение
———
@tsingular

Технозаметки Малышева

05 November 2024 04:36

Kling "Custom Models" - это вообще-то прорыв.

Это вам не image2video.
Это не face swap и метадипфейки.
Это не LivePortrait и метамокап.
По смыслу это ближе всего к Hedra - но это все равно из прошлого поколения, где на входе одна картинка, которая натягивается на порождения латентного разума.

Здесь на входе - видео. Еще одно измерение. Из которого Клинг тащит информацию о консистентности и ворлдмоделистости. На входе Лор для картинок - картинки. На входе Лор для Клинга - видосы.

Как они за 15 минут тренят Лоры - ума не приложу. Подозреваю, что у них есть и более медленные, но качественные настройки.
Также подозреваю, что остальные товарищи также сейчас расчехлятся с Лорами.

Но самое интересное, что народ уже делает постметаЛоры - берет картинку из Midjourney(wherever), делает из нее видосы Клингом же. Кормит эти видосы Клингу же, как материал для обучения. И получает Лору, для генерации консистентнейшего видео с этим самым персонажем из Midjourney.

Тут за кадром вопрос, что на реальных видосах (для обучения лор) динамика движения кожаного лица натуральная, скажем так. А на сгенеренных по Midjourney-картинке видосах - динамика клинго-изобретенная. По которой он выдаст Лору. Иимбридинг, так сказать. Но это мелочи.

В общем, стоп-кран сорван. Видео-лоры в городе. И щас пойдет борьба за юзера и тарифы.

@cgevent

Технозаметки Малышева

04 November 2024 18:59

NVIDIA представили универсальную платформу автоматизации видеоанализа

NVIDIA представила решение AI Blueprint - для комплексного анализа видеопотока.

Система объединяет передовые VLM и LLM модели с Graph-RAG технологиями для обработки визуальных данных.

Функционал включает анализ длительных видео, live-трансляций, построение графов знаний и интерактивный Q&A.

Dell, Lenovo и K2K уже интегрируют технологию в свои решения для умных городов и промышленности.

Теперь камеры видеонаблюдения не просто смотрят, но и понимают происходящее! 🤖
Интеллектуальные, осмысленные уведомление о происходящем в видеокадре.
Прототипы были уже около года назад, теперь вот промышленные решения подтянулись.

#NVIDIA #Blueprint #видеоаналитика
———
@tsingular

Технозаметки Малышева

03 November 2024 18:48

Забавно. В моем детстве, если ты смотришь в 11 лет с родителями "классический фильм снятый 20+ лет назад", то он скорее всего был черно-белый. :)
Теперь это, например, Матрица.

#матрица #фильмы
------
@tsingular

Технозаметки Малышева

03 November 2024 07:46

Visa внедряет 500+ AI-приложений и сокращает 1400 сотрудников

Компания инвестировала $3.3 млрд в развитие инфраструктуры искусственного интеллекта за последние 10 лет.

Основные направления:
- чат-боты для бизнес-подразделений,
- обнаружение уязвимостей кода,
- интеллектуальный биллинг.

Системы защиты от мошенничества предотвращают потери примерно на $1.1 млрд ежегодно.

Планируется, что каждый специалист будет курировать 8-10 цифровых сотрудников.

По данным Gartner уровень внедрения AI в организациях достиг 37% против 9% год назад.

Роботы наступают - офисные работники в панике! 🤖💳
Ведь 8-10 цифровых сотрудников, - это скорее всего несколько уволенных реальных. Или недонанятых, как посмотреть, конечно.
Т.е. пока руководители отделов останутся на пару лет.

#Visa #automation
———
@tsingular

Технозаметки Малышева

03 November 2024 05:59

Nvidia сместила Intel в индексе Dow Jones, хотя могла стать её частью

Nvidia заменит своего бывшего потенциального покупателя в индексе Dow Jones Industrial Average.

При этом в 1990-х Intel могла приобрести Nvidia за 2 млрд долларов, но не сделала этого.
Спустя 30 лет капитализация производителя графических процессоров превысила 2 триллиона.

Кто бы мог подумать еще даже 20 лет назад, что производитель "ускорителей для игрушек" обгонит Интел, вытолкнет его из Dow и еще и, возможно, даже купит в итоге.
Совет-то они уже собрали.

#Nvidia #Intel #DowJones
———
@tsingular

Технозаметки Малышева

02 November 2024 11:41

О, Сбер теперь и в API обновил модельку!
Полезно.

Модель доступна в @gigachat_bot, в веб-версии и через публичное API (в режиме раннего доступа).

- GigaChat MAX занимает 3 место в бенчмарке MERA. Сразу за gpt-4o и Llama-405B.
- GigaChat-Max достигает 92% правильных ответов на GSM-8k, 80% на MMLU и 75% на MMLU-RU.
- По результатам SBS, где учитывается красота ответов, мы выигрываем в 61% случаев у GPT-4 turbo и в 67% случаев у YaGPT-4 Pro.
- В Arena-Hard мы достигаем 51% скора против GPT-4-0314
- В Vkhr Arena-General-RU мы достигаем 90%, в то время как YaGPT-4 Pro достигает 59%.

Технозаметки Малышева

01 November 2024 15:11

SmolLM2: сверхмалая англоязычная модель с эффективностью GPT 3.5

SmolLM2 - семейство компактных языковых моделей с размерами от 135M до 1.7B параметров.

Флагманская версия обучена на 11 триллионах токенов используя FineWeb-Edu, DCLM и The Stack датасеты.

Ключевые улучшения включают расширенную математическую логику, function calling и улучшенное следование инструкциям.

Основные ограничения: работа преимущественно на английском языке и возможная генерация неточной информации.

Вполне подойдет для дронов. 🤖🔢

#SmolLM2 #HuggingFace #LLM
-------
@tsingular

Технозаметки Малышева

01 November 2024 05:36

Chrome OS 130: ИИ и продуктивность для Chromebook Plus

Google выпустила масштабное обновление Chrome OS 130 с фокусом на эффективность работы.
Quick Insert обеспечивает молниеносный доступ к эмодзи, GIF и ссылкам через сочетание клавиш.
Модели с Neural Processing Unit получили эксклюзивные возможности: запись с ИИ, улучшенный звук и эффекты камеры.
Focus Mode блокирует уведомления в заданные периоды, а Welcome Recap восстанавливает прошлую сессию.
Samsung Galaxy Chromebook Plus первым обзавелся специальной кнопкой для быстрых действий, остальные модели получат её в 2024.

В будущем все ноутбуки будут с ИИ-ускорителями. Даже школьный хромбук теперь умнее калькулятора! 🎓

#ChromeOS #Samsung #NPU
-------
@tsingular

Технозаметки Малышева

31 October 2024 11:54

Пришло письмо от Wonder Dynamics

Они выпускают Wonder Animation - и выглядит это невыносимо круто.

И да, это вам не однокнопочный ViggleAI - это профессиональное решение со сложным управление.

Поглядите видео, они преобразуют отснятый материал в 3D-сцены со всеми настройками камеры, анимацией тела и лица персонажа и полностью редактируемыми элементами в одной 3D-сцене. Тут много !.

Может кушать несколько планов с разными углами (широкий, средний, крупный). Затем ИИ реконструирует сцену в 3D и согласует положение и движение каждой камеры с персонажами и окружающей средой (анимация, персонаж, окружение, освещение и трекинг камеры)

Напомню, что пять месяцев назад их пожрал Автодеск. Но пока не убрал под сукно, а даже рекламирует как тул для Maya, Blender or Unreal.
https://adsknews.autodesk.com/en/news/autodesk-launches-wonder-animation-video-to-3d-scene-technology/

Цены профессиональные, особенно в пересчет на секунды.

@cgevent

Технозаметки Малышева

30 October 2024 06:07

IBM запустила Bee Agent Framework

IBM выпустила альфа версию открытого фреймворка 🐝 Bee Agent Framework для создания и управления мультиагентными ИИ системами.

Платформа уже оптимизирована под Granite и Llama 3.x, работает с OpenAI API, так что может подключаться к большинству современных популярных ИИ провайдеров.
Обеспечивает изолированное выполнение кода в контейнерах.
Позволяет управлять памятью, сериализацией состояний, интеграцией с MLFlow и созданием своих агентов.
Разработан на TypeScript, поддерживает Ollama, распространяется через Corepack и имеет удобный чат-интерфейс.

GitHub
Примеры от разработчиков.

Это мы пробуем. Альфа версия пока, но то, что оно все на моём любимом Node - считаю плюс. 🤖

#IBM #BeeAgentFramework #Bee #🐝
-------
@tsingular

Технозаметки Малышева

28 October 2024 17:28

Вышла нейронка, которая полностью меняет фон и даже СВЕТ на любой фотке. Да, снимки как в дорогой фотосессии теперь можно сделать за минуту!

• ИИ не только заменяет фон, но и корректирует освещение, яркость, контрасты и тени.
• Сохраняет все детали исходника без артефактов.
• Теперь даже в самой темной фотке можно мгновенно выставить КИНОШНЫЙ свет!

Демо пробуем здесь. Код лежит тут.

🙂 Не баг, а фича

Технозаметки Малышева

06 November 2024 07:12

Anthropic призывает к срочному регулированию ИИ в ближайшие 18 месяцев

Необходимо оперативное внедрение превентивного контроля над развитием искусственного интеллекта.
Особую тревогу вызывает стремительный рост возможностей нейросетей в программировании и кибербезопасности.
Предложена Политика ответственного масштабирования с пороговыми значениями и регулярной оценкой моделей.
Регулирование должно быть гибким и адаптивным, направленным на предотвращение катастрофических рисков.
Подчеркивается важность международной координации и стандартизации требований безопасности.

Антропик дурного не посоветует. 18 месяцев это прям очень скоро.

#Anthropic #Regulation #Safety
-------
@tsingular

Технозаметки Малышева

05 November 2024 15:17

В HeyGen новая фича - Photo Avatar

И да, она тоже связана с тренировкой своих аватаров на пачке входных изображений.

Почитайте полный пайплайн тут:

Если вкратце: Flux, Magnific, Heygen, Elevent Labs, chatGPT, Topaz

Ну, за дикторов и блоггеров..

@cgevent

Технозаметки Малышева

05 November 2024 06:30

Claude 3.5 Haiku: самая быстрая модель Anthropic обошла Opus 3.0 и стала в 3 раза дороже

Anthropic выпустила анонсированную ранее обновленную версию Claude 3.5 Haiku.
Основные изменения: улучшенное написание кода, работа с функциями, логические рассуждения, классификация и обработка данных.
Функционал будет полезен при создании агентов для разработки ПО, чат-ботов и модерации контента.
Планируется добавление поддержки изображений и расширенной обработки больших массивов информации.

Все вот сравнивают с 4o-mini и Gemini Flash, так как модель реально в этой нише играет, но ведь по-сути это Opus в 15 раз дешевле!

#Anthropic #Claude35 #Haiku
-------
@tsingular

Технозаметки Малышева

05 November 2024 06:03

Standard Intelligence представляет Hertz-dev: голосовой ИИ с рекордной скоростью генерации

Hertz-dev - публичная аудио-модель с 8.5B параметров для двустороннего общения.

Трансформер обеспечивает задержку всего 65мс в теории и 120мс на практике через RTX 4090.

Разработка вдвое быстрее существующих аналогов при обработке аудиопотока.

Система поддерживает одно- и двухканальное аудио, и требует всего 9 секунд записи для анализа и тренировки.

Запускается на Ubuntu или MacOS, необходимы Python 3.10 и CUDA 12.1.

Жаль, что эта версия, похоже, только на английском, но думаю уже очень скоро можно будет локально поднять полноценного голосового ассистента, неотличимого от живого оператора.
60мс на генерацию ответа, - это очень сильно. 🎙🤖

Github

#StandardIntelligence #HertzDev #RealTimeAudio
———
@tsinuglar

Технозаметки Малышева

04 November 2024 19:02

MIT разработал революционные 3D-нанотранзисторы

Учёные MIT создали уникальные трёхмерные транзисторы размером всего 6 нанометров.
Устройства базируются на вертикальных нанопроводах из антимонида галлия и арсенида индия.
Вместо классического преодоления барьера применяется квантовое туннелирование.
Производительность в 20 раз превышает существующие аналоги при меньшем энергопотреблении.
Технология преодолевает 'тиранию Больцмана' - фундаментальное ограничение минимального напряжения.

Похоже, закон Мура ещё поживёт. Квантовая физика спешит на помощь! 🔬

#MIT #nanotechnology #quantum
-------
@tsingular

Технозаметки Малышева

04 November 2024 10:36

Unitree Go2 научили лучше держать баланс

Но меня больше всего впечатляет их маркетинг отдел – в каждом видео они просто пинают робота, палкой, ногой и подзатыльником

Лет через 70 наши металлические друзья оценят как мы с ними обращались 💡

Робот стоит $2800 и выше

Технозаметки Малышева

03 November 2024 13:43

Сфера в Лас-Вегасе,- это ж Планетарий по сути. :)

#lasvegas #sphere
------
@tsingular

Технозаметки Малышева

03 November 2024 06:09

Причина и следствие: метод SURD от CalTech

Учёные Caltech представили революционный метод SURD для анализа причинно-следственных связей в сложных системах.

Новый подход делит факторы на уникальные, избыточные и синергетические компоненты.

В сфере ИИ метод позволит оптимизировать нейросети, улучшить интерпретируемость моделей и повысить эффективность обучения с подкреплением.

Особенно ценна способность SURD минимизировать ложные идентификации и анализировать данные при ограниченной выборке.

Источник в Nature

Хотелось бы, конечно, готовые библиотеки уже, а то вечная проблема с false-positive у всех.
Интересно если скормить целиком метод Клоду, - напишет же?

UPD: закинул статью в 4о, Claude код в разных вариантах на Nodejs и Python в комментарии.
ИМХО лучший - Claude. Кто на чём пишет, - выбирайте.

Мы живём в реальности, где за 5 минут научную статью можно превратить в код.
Поздравляю!

#Caltech #SURD #MachineLearning
-------
@tsingular

Технозаметки Малышева

02 November 2024 17:31

Новые фунции Телеграма - Огонь.

Теперь можно делать суперприложения, а не только ботов.
Раньше тоже можно было, но теперь +10 новых функций:

📺 Полноэкранный режим
📱 Ярлыки на главном экране
✍️ Планы подписки
📍 Доступ к геолокации (с разрешениями)
📱 Данные об ориентации устройства
💤 Доступ к статусу эмодзи
🎨 Обмен медиа
🎁 Отправка подарков
💭 Расширенные лимиты сообщений
💰 Монетизация рекламы

/channel/durov/371

#телеграм #dev
------
@tsingular

Технозаметки Малышева

01 November 2024 23:49

Клод теперь читает пдфы как человек, с картинками.

До сегодняшнего дня, когда вы запихивалт PDF в Клод, он использовал службу извлечения текста для захвата текста и отправки его себе в текстовом промпте.

Теперь Клод может визуально увидеть PDF-файл вместе с текстом ЦЕЛИКОМ.

С картинками, диаграммами, и что там ещё запихивают в пдф.

Взгляд на страницу целиком.

Это позволяет Клоду более точно понимать сложные документы, например те, которые изобилуют диаграммами или графиками, не поддающимися текстовому представлению.

Например, теперь можно задавать Клоду вопросы о PDF-файле, полном анатомических диаграмм. См. видео

А ещё теперь можно пихать пдф в Клода через API.

Теперь он не читает документы, он их "рассматривает". Все как у людей.
https://docs.anthropic.com/en/docs/build-with-claude/pdf-support

@cgevent

Технозаметки Малышева

01 November 2024 05:44

Gemini API интегрируется с Google Search для улучшения точности ответов

Google добавил функцию Grounding with Search в AI Studio и Gemini API.
Нововведение позволяет моделям получать актуальные данные из поисковой системы и предоставлять ссылки на источники.
Функционал доступен для всех версий Gemini 1.5 через раздел Tools или параметр 'google_search_retrieval' в API.
Система динамически определяет необходимость поиска, используя пороговое значение 0.3.
Разработчики получили возможность тонкой настройки процесса поиска и извлечения данных.

А вот и то, о чем так долго говорили большевики, свершилось.
Буквально пара строк кода и ответы подкрепляются поиском без необходимости вызова отдельно поиска через апи.

import google.generativeai as genai
import os

genai.configure(api_key=os.environ["API_KEY"])
model = genai.GenerativeModel('models/gemini-1.5-flash-002')

response = model.generate_content(contents="Who won Wimbledon this year?",
tools='google_search_retrieval')
print(response)

Технозаметки Малышева

01 November 2024 05:34

OpenAI запускает поиск в ChatGPT

ChatGPT получил возможность поиска актуальной информации в интернете через Bing.
Функционал доступен всем пользователям Plus и Enterprise подписок.
Чатбот теперь может анализировать свежие данные и предоставлять ответы с цитированием источников.

Интеграция позволяет получать актуальные сведения о событиях, происходящих после сентября 2023 года.

С одной стороны поиск это, конечно, хорошо.
Тут и Perplexity может начать волноваться и, собственно, Google.
С другой стороны, - это же Bing.
За 15 лет он так и не смог стать лучшим поисковиком. Почему теперь ИИ с не лучшим поисковиком вдруг должен стать популярным?
Скорее уже Gemini2, который выйдет до конца этого года, всех обойдёт.

#OpenAI #Bing #Search
———
@tsingular

Технозаметки Малышева

30 October 2024 07:36

Аттракцион невиданной щедрости, господа :)

тут недавно вышел Stability 3.5 и облачную версию я подключал в бота @cloud_gpt_bot, - который платный.

Теперь пришла очередь бесплатного.
Добавил локальную генерацию в
@ai_gptfreebot

Теперь по 1 запросу вы получаете 2 картинки.
Одну версию от Flux schnell, а вторую, следом, - Stability 3.5 large

Команда та же:
/image что хотите нарисовать

Каждый запрос сначала "раскрывается" с помощью модели gemma2:27b.
Например:
in: рождественская ёлка на Марсе
out: A solitary, vibrant Christmas tree stands defiantly against the stark, rusty-red Martian landscape.

это позволяет создавать реально красивые картинки из простых запросов.

На мой взгляд Stability точнее следует промпту, но судите сами, кому что полезнее будет.

P.S. Сервер 1. картинки генерятся по 1-3 минуты каждая. Поэтому если 100 человек обратятся одновременно - будет рисовать до вечера. Так что если не ответил, - попробуйте позже.
Но вижу, что уже у многих получается! :)
На здоровье!

#боты #dev
———
@tsingular

Технозаметки Малышева

29 October 2024 07:04

XHAND: Новые руки для роботов от RobotEra

Китайская компания RobotEra представила новую версию рук для роботов с тактильными датчиками на пальцах.
Подушечки каждого пальца собирают не только давление на сам палец, но и векторную карту перемещения объекта по подушечке с достаточно высоким разрешением.

Руки тренируют в виртуальной среде и дальше проверяют на реальных кошках :)

Точность поражает, - пластиковые стаканы с водой не мнутся, кошка жива.
🤖

#XHAND #RobotEra #Beijing #Китай
———
#tsingular

Технозаметки Малышева

28 October 2024 15:15

Первый в мире «жидкий ИИ».
Похож на ChatGPT, но прозрачен, энергоэффективен и почти в 500 раз дешевле.
Вчера самый популярный ИИ-стартап Бостона Liquid AI провел большое публичное мероприятие в MIT, чтобы продемонстрировать свои последние разработки, материализовавшие их «уникальный и революционный подход к ИИ» (видео рассказ о мероприятии).

«Мы создаем самые эффективные и самые мощные системы ИИ, которые вы еще не видели» и «Liquid AI делает возможным то, что до сих пор было невозможным» - объявил соучредитель Liquid AI Рамин Хасини, открывший мероприятие вместе с губернатором Маурой Хили.

Бостон Глоб дала своему репортажу об этом событии название «Маленькие черви, большие мечты: как мозг беспозвоночного вдохновил Бостон на самую большую добавку к ИИ» с подзаголовками «Liquid AI стремится стать ключевым событием, «подобным приезду Beatles в Америку» и «Модель ИИ LiquidAI отличается от модели LLM OpenAI».

Последнее – читая правда. Ибо 3 новых модели LiquidAI – это модели генеративного ИИ принципиально нового класса LFM (Liquid Foundation Models - Жидкие Базовые Модели), демонстрирующие топовую производительность при любом масштабе, и при занимающие ощутимо меньший объем памяти, обеспечивая более эффективные вывод.

Кроме того, LFM:
• снижает зависимость от облачных сервисов (что снижает затраты и потребление энергии), в результате чего модель может работать на смартфоне без Интернета;
• обеспечивает большую объяснимость и прозрачность, чем архитектуры на основе трансформаторов, потому что поведение моделей LFM можно перемотать назад, чтобы увидеть, как они произвели результат;
• разработка 3х моделей потребовала всего лишь $38 млн интвестиций (сравните с $17.9 млрд у OpenAI)

«Вдохновленная структурой мозга червя C. elegans, архитекрута класса LFM не похожа ни на что из того, что предлагают OpenAI, Google и их конкуренты, — однако она может предложить те же самые революционные приложения, используя при этом много меньше электричества» - сказал Рамин Хасини.

Червь C. elegans является одним из немногих существ, чья нервная система была полностью картирована, и он способен к удивительно сложному поведению, несмотря на то, что у него всего 302 нейрона. «Когда-то это был просто научный проект, но эта технология полностью коммерциализирована и полностью готова приносить пользу предприятиям», —объявил Хасани.

Кардинальное отличие в следующем.
• Внутри обычной нейронной сети свойства каждого моделируемого нейрона определяются статическим значением («весом»), который влияет на порог его возбуждения.
• В жидкостной нейронной сети поведение каждого нейрона управляется уравнением, которое предсказывает его поведение с течением времени. Сама же сеть, в ходе своего функционирования, решает каскад связанных уравнений. Конструкция делает сеть более эффективной и гибкой, позволяя ей обучаться даже после обучения, в отличие от обычной нейронной сети.

Все это звучит, как сказка. Но попробуйте сами поиграть с «жидким ИИ-чатботом». Мне очень понравилось.

PS И ведь предупреждал же еще в 2018, что «Человечество движется к разжижению мозга. Это возможный переход на альтернативный вариант интеллекта».
# LFM