11238
Обсуждаем ClickHouse
начните с апгрейда в 23.8.16.40
23.8.2 это очень ранняя бажная версия
Спасибо! Еще есть вопрос, хотим полноценно переехать в другой дц, сейчас у нас 4 реплики, 2-е в одном дц, 2-е в другом. Как лучше поступить, поднять нулевые ZK и подключить их в новый дц (отключив старые) и сделать SYSTEM RESTORE REPLICA или добавить в текущий ZK кластер 3-zk ноды (в новый дц) и отвязаться просто от старых zk-нод (которые в старом дц)?
Читать полностью…
Привет. А ноды зукипера лучше держать на отдельных от clickhouse-server машинах? Нормальная ли практика развернуть одну из zookeeper нод на той же машине где находится clickhouse-server?
Читать полностью…
подскажите, пожалуйста, https://fiddle.clickhouse.com глобально приболел?
Читать полностью…
хотя как мне казалось, что инсерты и мержи/мутации два разных процесса, они не должны блочиться, но как я понял, там очень сильно играет порядок в ALTER TABLE, поэтому инсерты ждали, не знаю, подтвердите ли вы это или нет🙈
Читать полностью…
но проблема памяти при мержах не имеет отншения к этому вообще, там просто трекер учитывает все два раза из-за бага и кидает ошибку хотя по факту память вообще не используется, это все пофикшено или обходится как я написал автоматической коррекцией трекера через memory_worker_correct_memory_tracker
Читать полностью…
это зависит, все несколько сложнее чем кажется, в конретном случае можно придумать как это обойти
вчера вмержили https://github.com/ClickHouse/ClickHouse/pull/83777 почитайте какие там трюки
и это будет в 25.8 который выйдет на этой неделе
9000 колонок можно порешать используя новый тип json или массивы или map
Читать полностью…
понял, обновим, а еще уточню, тоесть это нормально, что при инсерте, он все равно читает все колонки по сути? независимо сколько колонок используется в инсерте?
Читать полностью…
если раскрыть немного контекста, то проблема была еще с мутациями, которые при инсерте добавляли колонку, а еще была джоба которая дропала старые колонки, в итоге мутации блочили мержи и сами инсерты
Читать полностью…
{} <Error> f893523b-a8a1-47c0-9b4d-3d7338fb5cef::20250817_12746_12864_4 (MergeFromLogEntryTask): virtual bool DB::ReplicatedMergeMutateTaskBase::e xecuteStep(): Code: 241. DB::Exception: (total) memory limit exceeded: would use 225.79 GiB (attempt to allocate chunk of 4361648 bytes), current RSS 76.05 GiB, maximum: 225.78 GiB. (M EMORY_LIMIT_EXCEEDED)
Читать полностью…
zgrep -A 10 -B 10 268435456 /var/log/clickhouse-server/clickhouse-server.*
Читать полностью…
и в system.errors есть колонка query_id , что в ней?
Читать полностью…
если даунтайм позволяет, то SYSTEM SYNC REPLICA + остановить insert + SYSTEM RESTORE REPLICA, нормальный вариат... если нет, то расширяйте кластер ZK подключайте отключайте zk ноды... используйте SYSTEM SYNC REPLICA чтобы дождаться когда репликация завершится
Читать полностью…
Тут не подскажу ибо клик последний раз трогал оч давно и много чего уже просто не помню, думаю коллеги в чате подскажут
Читать полностью…
Отдельно обязательно потому что при больших выборках утилизация RAM может быть в полку
Читать полностью…
мержи и мутации (drop column) лочат друг друга, это нормально
add column должен лочится на очень краткий момент, но у вас скорее всего из-за падающих по памяти мержей, лок висит долго, и блочит инсерты
ага, я понял, просто почему мы задумались над другой структурой, поотому-что очень много ALTER TABLE ... ADD COLUMN могут блочить инсерты в нашел случае + DROP COLUMN, а сами мутации блочат мержи или наоборот, как итог данные не вставляются образуется большой лаг, а мержи/мутации как вы сказали не могли завершиться из-за не правального выделения памяти
Читать полностью…
понял, тогда будем пробовать и сравнивать, спасибо большое
Читать полностью…
спасибо, но тогда селекты будут медленнее как я понимаю? если использовать структуру данных для колоноок
Читать полностью…
да, создаются все 9000 колонок, даже если вы делаете insert into t(a) values(1)
при мержах мержатся все 9000 колонок, прикол в том что есть vertical merge и есть horizontal merge
и у вас автоматически должен происходить vertical merge, т.е. мержатся колонки из order by таблицы, а затем каждая колонка из 9000 по отдельности и памяти используется мало, таким образом. это можно увидеть в system.parts (тип мержа)
проверить что у вас проблема с трекером можно сравнив результат
SELECT name, formatReadableSize(value)
FROM system.metrics WHERE name ILIKE 'MemoryTracking'
SELECT name, formatReadableSize(value)
FROM system.asynchronous_metrics WHERE metric ILIKE 'MemoryResident'
ааааа, это баг в мемори трекере
поставьте 25.3.6.56
либо сделайте
cat /etc/clickhouse-server/config.d/memory_tr.xml
<clickhouse>
<memory_worker_period_ms>60000</memory_worker_period_ms>
<memory_worker_correct_memory_tracker>1</memory_worker_correct_memory_tracker>
<memory_worker_use_cgroup>0</memory_worker_use_cgroup>
</clickhouse>
(нужен рестарт)
https://github.com/ClickHouse/ClickHouse/issues/82627
https://github.com/ClickHouse/ClickHouse/pull/83607