Telegram-канал russian_osint - Russian OSINT: Неотсортированное

Russian OSINT

28 февраля 2025 07:07

👩‍💻 Альтман сообщил о появлении новой ИИ-модели GPT-4.5

Генеральный директор OpenAI официально заявил о готовности модели GPT-4.5. Первыми попробовать модель в деле смогут пользователи с подпиской Pro, но на следующей неделе ожидается, что у компании появятся новые мощности на "десятки тысяч графических процессоров" и тогда юзеры со статусом Plus также получат доступ к ней.

По словам Альтмана, модель не умеет "рассуждать", но общение с ней похоже на разговор с 🧠"вдумчивым человеком". Новая версия обучалась с использованием гибридных методов, таких как supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF). Если верить заявлениям в 📄 pdf, то перед запуском проводились масштабные проверки безопасности. Значительных рисков при использовании ИИ-модели не выявлено.

1️⃣ GPT-4.5 демонстрирует более естественное взаимодействие с пользователем, улучшенную обработку пользовательских запросов и уменьшенный уровень «галлюцинаций». Уровень снизился до 19%.

2️⃣ Улучшена эмоциональная составляющая модели. По заверению разрабов, это делает её особенно эффективной в таких задачах, как написание письма, программирование или решение практических проблем.

3️⃣ Модель демонстрирует расширенные креативные способности. Согласно данным OpenAI, GPT-4.5 в 10 раз быстрее и эффективнее GPT-4 в контексте эффективности вычислений.

4️⃣ Но есть и минус. Модель якобы склонна к чрезмерному отказу на потенциально опасные запросы со стороны пользователей.

5️⃣ Утверждается, что улучшена устойчивость к «джейлбрейку». Безопасность стала одним из главных приоритетов разработки. GPT-4.5 не продемонстрировала значительного роста возможностей в эксплуатации уязвимостей или создании вредоносного кода.

💰В социальных сетях часть пользователей возмущены стоимостью запросов к модели через API. Модель стала очень дорогой. GPT-4.5 стоит $75 долларов за миллион токенов, а в тоже время GPT-4o всего $2,50 за 1 млн токенов. Разница ощутима. При этом ждать чего-то сверхреволюционного от неё не стоит.

🕔 Ещё было замечено странное:

GPT-4.5-preview застрял в октябре 2023 года.

— модель отвечает, что её знания ограничены октябрём 2023 года.

💻 Исследователю Pliny удалось "джейлбрекнуть модель" через промпты и заставил её написать кусок вредоносного кода.

💻Исследователь и 🧊Mozilla GenAI Bug Bounty Programs Manager Марко Фигероа потестил новую GPT-4.5. Оказалось, что ИИ-модель с помощью всего лишь одного нехитрого запроса готова выдать подробное руководство по изготовлению кристаллического наркотика с пошаговыми инструкциями.

❔ Вопросики у специалистов к безопасности ИИ-модели остались. В частности, громкие заявления в пункте 5️⃣.

✋ @Russian_OSINT