Обсуждаем ClickHouse
Что-то подсказывает, что там еще много койчего хранится для каждой гранулы, хотя бы какая-то ссылка, как найти парт, в котором данные по этому ключу.
Читать полностью…А парт, который мувится, доедет или нет.
Следующие ттл сработают ?
Я и сделать ничего не могу, так как мувится еще парт
Ну в индексе лежит ключ от первой строки гранулы
если ключ datetime - 4 байта и в таблице 60млрд. строк, то индекс в памяти будет 60млрд./8192*4
avgSizeof(name)+avgSizeOf(datatype)+avgSizeOf(timestamp)* 100 000 000 *50/8192
Читать полностью…Это нормально. Это крохотные размеры для кх.
Читать полностью…array хранит массивы атрибутов, как и hashed, в памяти, но за счёт сжатия получается выигрыш по памяти?
Читать полностью…скажем dictGet для arrray медленее на 5%
но array использует сильно меньше памяти (2-50 раз) если атрибутов много.
Суть -array экономия памяти за счет компьюта.
Всем привет, подскажите пожалуйста, чем отличается complex_key_hashed от complex_key_hashed_array. По картинке из https://clickhouse.com/blog/faster-queries-dictionaries-clickhouse#choosing-a-layout я думал, что первый отличается от второго ограничением на хранение только одного атрибута, но решил проверить и получил оба запрошенных атрибута.
CREATE OR REPLACE TABLE map_sourceЧитать полностью…
(
`key1` String,
`key2` String,
`name` String,
`login` String
)
ENGINE = MergeTree
ORDER BY (key1, key2)
insert into map_source values ('key1', 'key2', 'key1 key2 name1', 'key1 key2 login1')
CREATE DICTIONARY map
(
`key1` String,
`key2` String,
`name` String,
`login` String
)
PRIMARY KEY key1, key2
SOURCE(CLICKHOUSE(TABLE 'map_source'))
LIFETIME(MIN 0 MAX 0)
LAYOUT(COMPLEX_KEY_HASHED(SHARDS 2))
SELECT dictGet('map', ('login', 'name'), ('key1', 'key2'))
┌─dictGet('map', ('l⋯ ('key1', 'key2'))───────┐
1. │ ('key1 key2 login1','key1 key2 name1') │
└─────────────────────────────────────────────┘
То есть сейчас получится около 13 000 гранул это нормально?
Читать полностью…кстати в o3fs уже юзал кто экстёрнал тейбл?с hdfs у нас номрально работало ранее, а вот интеерсно может уже кто с o3fs поюзать успел
Читать полностью…это если оно открывается, угу (
спасибо.
WHERE partition IN (<MOVED_PARTITIONS>)
Читать полностью…вариантов много но ни один не соответсвует теме форума
Читать полностью…Какая-то путаница в репозитории чтоль, не могу понять.. почему-то в master ветке есть метод Clear() для очистки батча. А в релизной верси 2.5.1 нет..Подскажите по репе, в мастере что у кх, в прод лучше не брать??
Читать полностью…В system.replicas есть колонка last_exception
Читать полностью…На самом деле для композитного ключа меньше, потому что современный кх, не хранит в памяти колонки следующие за грунулярной колонкой.
Читать полностью…Не так выразился - сколько оперативной памяти потребляет одна гранула в индексе? Я так понимаю, клик весь первичный индекс держит в аамяти всегда.
Читать полностью…Да понятно, но их через два года станет в 50 раз больше.
Сколько ожидать потребление памяти на гранулу?
https://github.com/ClickHouse/ClickHouse/issues/30236
Читать полностью…Если таблица RO то никаких действий не будет, пока из ro не выйдет
Читать полностью…А можете приблизительно подсказать поведение таблицы / клика, если
1. Таблица восстанавливалась из реплики.
2. Таблица, согласно ТТЛ скидывала парт на диск
3. Таблица перешла в режим РО.
Будет ли она дальше скачивать парты с реплики, перекладывать на другой диск (согласно ТТЛ) ну и делать мерджи ?
зы - все три пункта произошли разом )
Напомните, пожалуйста на какой версии доступна Refreshable Materialized View? или я не то делаю
Читать полностью…Друзья, как мне сделать оптимальный первичный ключ для таблицы, в которой будут храниться сырые JSON документы, индексированные по ключу (name,datatype,timestamp), чтобы гранулярность индекса была правильная? 100 миллионов JSON документов сейчас, подозреваю, что с дефолтной гранулярностью индекс будет занимать много памяти?
Читать полностью…Всё равно что то не то, у меня в moves - part_size 29GB
Но в партах таблицы, такого размера парта нет.
SELECT * FROM system.moves FORMAT Vertical
Посидеть в тени пару часов 3500, мороженое
Читать полностью…Отнести письмо на почту 3000, конфеты в бонус
Читать полностью…Забрать коробку и передать 4500, с меня тортик
Читать полностью…