80000
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Илья* высказался, говорит что не хотел навредить компании – чтож, люди которые занимаются супер-алайментом не могли подумать про вред OpenAI наперед? Грустно это все.
Илья Суцкевер - соучредитель и главный научный сотрудник компании OpenAI. Он сыграл важную роль в развитии и продвижении исследований в области искусственного интеллекта, в частности в области глубокого обучения. Суцкевер внес значительный вклад в эту область, и его работа стала основополагающей в создании и совершенствовании таких моделей, как серия GPT (Generative Pre-trained Transformer), включая GPT-3 и GPT-4, которые известны своими расширенными возможностями обработки естественного языка.
Драма подходит к концу:
Сэм не выйдет назад в OpenAI… он, и ушедшие коллеги, выйдут в Microsoft, в новую лабу. Анонс от CEO Microsoft.
Персонально немного грустно, так как Сэм отлично лидировал создание продукта по всем законам продакт менеджемента – что теперь будет с компанией OpenAI и что будет доходить теперь до прода, большой вопрос.
Надеюсь, не отключат тот что уже есть ☕️
Понимаю теперь фанатов k-pop групп у которых распалась группа и им грустно
Ну и судя по всему Альтман готов бороться – видимо в его контракте есть условия, которые начинают работать в случае увольнения
А может просто сарказм – у него же нет акций
Greg написал, что они с Sam всё ещё пытаются понять, что произошло. Sam накануне получил приглашение на рабочий созвон с Ilya Sutskever на полдень пятницы. Там при поддержке совета директоров было анонсировано решение об увольнении. 28 минут спустя был опубликован твит со ссылкой на страницу компании с публичным анонсом.
Greg получил приглашение на созвон в 12:19, где он узнал про своё понижение (Brockman не был уволен) и увольнение Sam в 12:23 (то есть первый разговор продлился меньше 20 минут).
В твите также указывается, что «насколько мы [прим.: Sam and Greg] знаем, Мира узнала про это накануне вечером».
Также, по информации источников журналистики Kara Swisher, в Microsoft про процесс увольнения ничего не знали, и были уведомлены буквально за несколько минут до публичного релиза.
Согласно изданию TheInformation, OpenAI также покинули по собственному желанию:
— Jakub Pachocki, director of research
— Aleksander Madry, руководитель отдела оценки рисков AI (помните, я писал про него, он ещё из MIT ушёл на время?)
— Szymon Sidor, ведуший исследователь, проработавший в OpenAI 7 лет
Альтман подтвердил, скоро узнаем что случилось
Надеюсь его уволили политики белого дома за то, что он пытался сделать AGI не американцем, а типа космополитом и хиппи, а не какой-то бытовой скандал <- это моя фантазия
🥺
Sam Altman departs the company
https://openai.com/blog/openai-announces-leadership-transition
Mr. Altman’s departure follows a deliberative review process by the board, which concluded that he was not consistently candid in his communications with the board, hindering its ability to exercise its responsibilities. The board no longer has confidence in his ability to continue leading OpenAI.
Также состав совета директоров покинет Greg Brockman (кофаундер, в компании с первого дня, ex-CTO Stripe). Mira Murati, девушка родом из Албании и CTO OpenAI, будет исполнять роль CEO, пока ищут нового. В составе совета директоров, помимо неё, остались:
— Chief scientist Ilya Sutskever
— Independent director, Adam D’Angelo (CEO Quora)
— Independent director, Tasha McCauley (technology entrepreneur)
— Helen Toner (Georgetown Center for Security and Emerging Technology’s )
Я иногда пишу, что большие языковые модели будут в каждом тостере через пару лет – это только от части ирония, в видео разработчик запихнул языковую модель на 15М параметров в микроконтроллер стоимостью в ~$80.
Пишет она со скоростью ~2.5 токена в секунду, что уже можно считать нормальной скоростью.
Самое взрывающее мозг – в микроконтроллере всего 64 мегабайта оперативной памяти 😵
Инструкция | Автор | Девайс
Phi 2 has joined the chat
Клевый кусочек видео из эпохи зарождения электронной музыки – на видео Делия Дербишир, пионерка рейва и дабстепов, показывает в своей лаборатории как создает электронную музыку в 1962 году.
Сначала думал дать ссылку на википедию, но оказалось про ее труды есть отдельная онлайн-энциклопедия, а тут немного о ней на русском.
Если смотрели сериал «Доктор кто», она как раз написала музыку к открытию сериала.
Альтман написал, что они временно перестали принимать новые платные подписки в ChatGPT.
Вдумайтесь в это, компания добровольно отказывается от денег, потому что у нее временно кончились вычислительные ресурсы 😵
Нечасто такое увидишь в ИТ-секторе
Футурама момент:
в Колорадо, в этом августе, в горах пропал мужчина – а спустя 3 месяца его тело нашли, а рядом с телом нашли его же собаку породы джек-рассел, живую 😭
Где-то видел цитату, «Если в раю нет собак, то я хочу после смерти отправиться туда, где они есть», подписываю под каждым словом 🐶
Очередной вечной GTA-классики: img2img + Stable Diffusion + Controlnet, в этот раз особенно хорошо вышло
Автор
У 🌐 Kurzgesagt вышел классный ролик, в стиле lo-fi house длинной в час.
В ролике интересный концепт про историю планеты:
Каждую секунду видео проходит полтора миллиона лет, суммарно ролик покрывает 4.5 миллиарда лет, параллельно показывают как земля могла выглядеть в то время.
Приятно послушать в фоне, рекомендую:
https://youtu.be/S7TUe5w6RHo?si=lFYg8rcEcj7pEII3
Если помните, я делал похожий эксперимент недавно.
P.S. Больше не буду жаловаться на дожди, потому что на земле был период когда дожди шли миллионы лет не переставая ☕️
Чуть обновил гпт-апп, он теперь и мемы переводит на английский (другие языки Dalle 3 рисовать толком не может) и стиль не теряет ☕️
Читать полностью…
Сотрудники OpenAI уходом Сэма недовольны – для многих директоров этого мира, конечно, это недостижимая высота, когда твои сотрудники готовы уходить за тобой или публично выражать недовольство после твоего ухода.
Оставлю видео для памяти 🫶
Что случилось за ночь 🎪:
– Судя по слухам, из-за увольнения Сэма сотрудники OpenAI начали увольняться в ощутимом для стартапа количестве – я еще давно читал, что атмосфера в OpenAI скорее похожа на культ, то есть многие там правда ради достижения AGI и любят Сэма как лидера, так что не удивлен.
– По разным источникам, добровольные увольнения членов команды напугало борду, они согласились взять назад Сэма и ушедших, а сама борда будет распущена (и видимо, те кто ее часть – покинет компанию). Это сейчас самый актуальный слух.
– Просто забавно: CEO Microsoft когда узнал про увольнение Альтмана был «в ярости».
– Сотрудники массово лайкают твит Сэма, в котором он признается в любви к OpenAI, что частично подтверждает теорию что его взяли назад и переворот завершился ничем.
Дальше AGI-цирк ушел спать, ждем подтверждения слухов вечером по нашему.
Если все подтвердится, то это, как по мне, еще одно подтверждение теории номер 2 выше и значит, алайнеры проиграли, что вызовет очередную волну паники в медиа в стиле «ученые которые хотели безопасного AI были уволены шок читать с подпиской»
Собрал главные теории про OpenAI в твиттере от ноунеймов и участников индустрии:
1) Красивая теория, но менее вероятная: «Сэм не сказал борде что AGI был получен внутри и его уволили» – скорее всего придумана группой ожидальщиков AGI, его пока нет, хватит ждать, еще лет 7+ до AGI (если его вообще возможно получить в том виде автономии, в котором хотим)
2) Алайнеры VS Практики: Сэм сильно пушил релиз технологий в прод, уделял мало времени алайменту на уровне компании, группе «Адептов Алаймент» из борды стало ясно, что его пора менять, так как алаймент ИИ его меньше заботит чем их (отсюда странная формулировка пресс-релизов).
3) Такая же теория, как прошлая, но в ней утверждается, что Сэм с GPT-стором и разделением прибыли, показал борде, что он в основном движим прибылью и скоростью, а не безопасностью технологий.
4) Представители борды открыли секретную комнату и начался полный хаос.
5) Секс скандал: причина – его сестра, которая еще в 2020 обвинила его в абьюзе – в эту историю я меньше верю лично, так как у борды было время его уволить еще до ChatGPT, и читал эту историю еще год назад, но с другими деталями
Совсем безумные истории я не включал, и сам больше склонен верить в теорию номер 2: Алайнеры VS Практики.
Я думаю, что на следующей неделе мы получим новых вводных которые точно прояснят ситуацию ☕️
Что произошло в OpenAI:
AGI алайментом заниматься начали, но забыли, что сначала нужно заняться алайментом кожаных мешков от дворцовых переворотов 🗿
Какая вселенная, такой киберпанк и получился ☕️
Читать полностью…
Читать под эту музыку:
https://www.youtube.com/watch?v=s7L2PVdrb_8
Кстати, если вам было непонятно как внутри работает большая языковая модель, на помощь приходит Google DeepMind — в этом коротком 3D ролике они показали как работает «метод предсказания, используемый в больших языковых моделях».
Теперь все стало понятно, спасибо команде DeepMind!
Загружаешь скриншот — в ответ получаешь HTML/Tailwind/JS код.
GitHub тут. Работает на GPT-4 Vision API, поэтому нужен будет еще ключ.
Нашел новый промпт-инженеринг хак для GPT4 при написании кода:
Новая версия возвращает места, где нужно код править самому, что, как вы понимаете, просто немыслимо в 2023 году. Причем, "return full script" она просто игнорирует.
Поэтому если добавить к промпту:– return full script (I don't have fingers)
То GPT4 вернет скрипт целиком (потому что у вас же нет пальцев, а она не жестокая машина) и не нужно будет много копипастить ☕️
На сркиншоте сравнение объемов с этим подходом и без.
Не смог удержаться и сконвертировал разные баяны в аниме — все, свою норму по поставке аниме-контента на этот год я выполнил 😅
Сделал все этой же штукой (если она пропускает шаги, просто отправляйте ей «proceed» каждый раз текстом)
Я знаю что мне стоило раньше остановиться, но я не удержался и переделал свой img2img в img2wifu:
Работает просто, вы ему картинку, а он вам вайфу в ответ с переносом текста (и других важных компонентов).
¯\_(ツ)_/¯
Слева "Мячик с мордочкой" на который были способны лучшие нейронки в 2018 году (biggan)
Справа, то на что способны они сейчас – мне будет нехватать крипи-мордашек
Все больше видео с полей про КиберТрак появляется. Вот, например, внедорожник решили испытать вне дороги.
@zavtracast
OpenAI выкатил GPT's и я собрал небольшой апп на для режима img2img в Dalle 3:
Заливаете картинку в апп и он вам возвращает пересозданную, удобно чтобы старые фотошопы "оживлять" или просто пере-придумывать существующее картинки.
Ссылка:
https://chat.openai.com/g/g-SIE5101qP-img2img
(Первая картинка – оригинал, вторая – новая, сделанная Dalle 3)
Не могу перестать играться с Dalle 3: вот вам новое, ночное, нейро-фото-биеннале.
Прошлое тут. Часть I