e/acc

24 May 2023 09:26

Я вижу лучшие умы моего поколения разрушенные безумием. Думеры и техно-акселлерационисты в бешеной схватке вокруг нерожденного ребёнка. Ни регуляторы, ни учёные, ни военные не в силах остановить цунами. Остальные застыли в option paralysis: из тысяч идей, что бы ты сегодня не придумал — завтра создание этого будет автоматизировано.

Что уничтожит нас быстрее: наша собственная невозможность координироваться или чуждый нам сверхинтеллект? Если (1), то никто кроме сверхинтеллекта нас не спасёт. Если (2), то наша неспособность к координации и привела нас к этому. Молох и Василиск Роко. Или техно-утопия, управляемая AI swarm'ом?

Прочитал 50 cherkashin">статей, провел несколько любопытных бесед и теперь убежден: LLM (сегодня, а не через год) может создавать качественное уникальное новое научное знание. Для эффективности необходимы проверенные но еще не "взломанные" инструменты координации. ДАО как манифестация и качественно отформатированный типизированный инпут коллективного сознания. Рынок предсказаний, как экономический механизм валидации гипотез. MEV но для человечества. Обратный тест Тьюринга: убеди машину, что ты человек. Автономные агенты, которые богатеют на блокчейне, а потом платят вечнозелеными биткоинами людям за полезную работу (или бесполезную, чтобы они не уничтожили сами себя + планету).

Через год (поправка на оптимизм: два) у каждого в кармане будет свой собственный выводок студентов-магистров, которые пишут код, ставят диагнозы, редактируют договора, сочиняют песни и сказки лучше, чем 95% людей-профессионалов. Хотелось сказать, что без людей у них не будет своей цели, но тут вышел пейпер про то как создать целеполагание у LLM.