Обсуждаем ClickHouse
что показывает select * from system.clusters
Всем привет, вожусь с проблемой уже достаточно долго, но думаю, что решение элементарное
До этого всегда юзал оупенсурсный клик, сейчас решил попробовать Clickhouse Cloud + SharedMergeTree
Сделал сетап на 3 реплики, но проблема в том, что поехали все старые запросы.
Условно даже count(*) просто не тот, так как возвещает только кол-во строк на одном шарде (условно в таблице 170к, возвращается 2300)
Где можно почитать, что с этим делать? Заранее благодарен за ответ
Лимиты в целом штука очень нетривиальная для SQL баз почему-то
Читать полностью…кликхаус не пробрасывает limit 10 на сторону MySQL - те он вычитывает все 6м записей. Пробрасывается только where. попробуйте where id = ? написать - должно моментально отработать как и в MySQL
Читать полностью…ну тогда insert_quorum=число_реплик можно поставить и посмотреть не сильно ли начал лагать топик
Читать полностью…а insert_quorum=N в связке KAFKA ENGINE -> MV не решит проблему реплиции на корню? Или в MV пихать не дает эту настройку?
Читать полностью…Нет. При обновлении версии (если обновлять плавно, без даунтайма) блоки могут застревать из-за новой версии формата данных, и они не будут реплицироваться, пока не обновятся все узлы. Также при любом скачке нагрузки, сбое сети и т.д. задержка может увеличиваться непредсказуемо
Читать полностью…Нет гарантии, когда блоки доедут, схема нерабочая
Читать полностью…Репликация асинхронная, так что инкремент точно работать надежно не будет
Читать полностью…🤖 Я позвал админов, а больше ничем не могу помочь.
Мне не выдали прав на удаление сообщений, поэтому у меня лапки.
Странно кипер создавался ,чтобы исключить недостатки зукипера
Читать полностью…Подскажите, а у clickhouse keeper или zookeper ? У меня clickhouse keeper просто дох, а с переходом на zoo стало лучше
Читать полностью…так в ClickHouse Cloud нет шардов, там один шард и отсюда все проблемы с размером первичного индекса в памяти и скоростью селектов и попыткой ускорить селекты выполняя запрос многими репликами
Читать полностью…вы точно реплики сделали а не шарды?
вообще sharedmergetree никаких реплик не надо насколько я помню
Вот тут в pr написано почему все непросто https://github.com/ClickHouse/ClickHouse/pull/80070
Читать полностью…ещё раз спасибо, нащел в документации
надо более внимательней читать
“The rest of the conditions and the LIMIT sampling constraint are executed in ClickHouse only after the query to MySQL finishes.”
Всем привет.
Создал таблицу используя ENGINE = MySQL
Таблица в 6M записей, проблема в том что если я делаю запрос на mysql стороне всё летает
select * from some_table limit 10;
а вот на стороне clickhouse всё как виснет, хотя есть другие таблицы в 2M записей читает быстро.
Может кто то сталкивался?
Спасибо
если в шард вставляете, то решит по идее, если не в шард, то есть insert_distributed_sync настройка, но наверное оно может затормозить вставку прилично
Читать полностью…есть настройка max_replica_delay_for_distributed_queries (по умолчанию 300 сек)
If set, distributed queries of Replicated tables will choose servers with replication delay in seconds less than the specified value (not inclusive). Zero means do not take delay into account.
она говорит выбирать реплики у которых < max_replica_delay_for_distributed_queries delay на селект из дистрибьютед таблицы, так что можно ее выкрутить на минимум по идее, чтобы не было отставания при селекте
Нет гарантии, но как будто по вероятности 5-10 минут достаточно здоровому кластеру реплицироваться нормально в большинстве случаев?
Читать полностью…Благодарю, видимо нужно лаг делать по временному окну, чтобы дать данным "растечся"
Читать полностью…Всем привет, пытаясь со случайно реплики вычитать инкремент из распределенной таблицы в которую на каждый шард пишет MV из Kafka engine, может ли репликация на какой то реплике не успеть доставить строчки на другую (если вот вот во время чтения была запись из Kafka) с которой мы пытаемся вычитать?
Читать полностью…ClickHouse uses one of previous versions of CityHash from Google.
CityHash у гугла менялся раза 3, кх понятно не может себе такое позволить, он же персистентный.
ну и да разница есть, например clickhouse cityHash64 for integers falls back to intHash64
т.е. проще всего использовать другую хешфункцию
у clickhouse cloud конечно clickhouse keeper
Читать полностью…https://www.linkedin.com/company/altinity/ 11-50 employees
https://www.linkedin.com/company/clickhouseinc/ 201-500 employees
clickhouseinc в 10 раз больше чем altinity и у clickhouseinc valuation $6.35 billion
А кому доказывать то? История выхода КХ из Я общеизвестна же.
Читать полностью…у них цены я сейчас глянул в 3 раза дешевле чем в яндексе лол
Читать полностью…