clickhouse_ru | Неотсортированное

Telegram-канал clickhouse_ru - ClickHouse не тормозит

11016

Обсуждаем ClickHouse

Подписаться на канал

ClickHouse не тормозит

Спасибо) Это существенно помогло ускорить запрос, но разница между началом выполнения на инициаторе и шардах так и осталась (на скрине один запрос с вкл и откл настройкой)

Читать полностью…

ClickHouse не тормозит

Всем привет👋
Столкнулся с проблемой при выполнении запросов, которые считают данные локально на шардах и потом агрегирует/объединяет данные на инициаторе. Сами запросы схематично:

SELECT
field_1,
...
SUM(field_100)
FROM cluster('...', view(
WITH cte1 AS (SELECT * FROM distr_table INNER JOIN replicated_table),
...
cte777 AS (SELECT * FROM cte1)
SELECT * from cte777
)) a
GROUP BY
field_1,
...


Проблема в том, что проходит продолжительное время между тем, когда запрос поступает на шард-инициатор, и тем, когда инициатор раскидывает его на остальные шарды. На скрине тесты разной сложности и объёма данных, где это можно заметить и заодно отбросить проблемы с сетью (поле query_start_time и разница времени между стартом на инициаторе и остальных шардах (start_shard_delta_ms) > query_duration_ms). Для обычных запросов ничего подобного не наблюдается.
Подскажите, пожалуйста, есть ли в клике возможность, чтобы убрать эту разницу между стартом на инициаторе и шардах?

Читать полностью…

ClickHouse не тормозит

понял, спасибо, полезная информация

Читать полностью…

ClickHouse не тормозит

оффтоповый вопрос исключительно из любопытства: а почему с ch keeper обратно на zookeeper?

Читать полностью…

ClickHouse не тормозит

ну берете java/go/nodejs и пишете сервис, который принимает get запросы ходит в oracle и возвращает tsv по http
затем из КХ ходите через select from url (myapp
ну или можно odbc-bridge исправить, только там c++

Читать полностью…

ClickHouse не тормозит

С json понятно, а вот protobuf?

Читать полностью…

ClickHouse не тормозит

У меня даже с ним не получается
Через url хороший вариант, но доступа на сервер у меня нету так что не подойдет

Читать полностью…

ClickHouse не тормозит

вообще никакой.

когда используются table functions типа postgresql(), url(), remote() под капотом (в контексте запроса) создается временная таблица Engine = postgresql, запрос выполняется против нее.

Читать полностью…

ClickHouse не тормозит

не ну так то да, а из клика как-то можешь вызвать?

Читать полностью…

ClickHouse не тормозит

писать http application для доступа в оракл, у меня типа так, написан очень простой http сервис который можно запросить http://gate/?table=xxx&col=a,b,c&where=a=5, он ходит в mysql и возвращает результат select a,b,c from xxx where a=5 в виде tsv

Читать полностью…

ClickHouse не тормозит

1. создаем clickhouse-odbс-bridge чтобы harmful библиотеки работали в отдельном процессе и не могли уронить КХ процесс
2. запрещаем harmful LD_LIBRARY_PATH/LD_LIBRARY_PRELOAD для всего включая clickhouse-odbс-bridge
3. total win - нихрена не работает.

Читать полностью…

ClickHouse не тормозит

/channel/clickhouse_ru/413234

Читать полностью…

ClickHouse не тормозит

https://github.com/ClickHouse/ClickHouse/issues?q=is%3Aissue%20state%3Aclosed%20instantclient

Читать полностью…

ClickHouse не тормозит

У меня партицирование по месяца, и основные куски данных которые небыли перенесены, это конец месяца. Очень похоже на что-то с партициями. А как Бобёр может влиять на это? добавлять к SQL?

Читать полностью…

ClickHouse не тормозит

sudo systemctl show clickhouse-server | grep Environment
Environment=CLICKHOUSE_WATCHDOG_NO_FORWARD=1 LD_LIBRARY_PATH=/opt/oracle/instantclient-basic_23_8:/opt/oracle/instantclient-odbc_23_8
EnvironmentFiles=/etc/default/clickhouse-server (ignore_errors=yes)
EnvironmentFiles=/etc/default/clickhouse (ignore_errors=yes)
SetLoginEnvironment=no


я так попробовал, но не помогает
на гитхабе ничего не нашел(

Читать полностью…

ClickHouse не тормозит

settings prefer_localhost_replica=0

https://github.com/ClickHouse/ClickHouse/issues/53561

Читать полностью…

ClickHouse не тормозит

meanwhile 3 days ago

https://github.com/ClickHouse/ClickHouse/pull/73100

Читать полностью…

ClickHouse не тормозит

Не выдерживает нагрузки, хотя всего 30-35к партов, оч часто read-only, отваливаются mutations (в основном delete)
Примерно схожая ситуация: https://github.com/ClickHouse/ClickHouse/issues/69056

Читать полностью…

ClickHouse не тормозит

Граждане выручайте, мигрирую с clickhouse-keeper'a на Zookeeper.
Таблицы восстановились, но есть проблема - чать БД - replicated, есть какой-то гуманный способ восстановить их?
Ошибка: Database is in readonly mode, because it cannot connect to Zookeeper
Соединение есть и даже в самом ЗК есть информация по БД

Версия CH: 24.7.6.8

Читать полностью…

ClickHouse не тормозит

В смысле а что за http application тогда ?

Читать полностью…

ClickHouse не тормозит

зачем доступ? это sql

Читать полностью…

ClickHouse не тормозит

ну from url(

я сгущаю конечно, oracle работает через odbc-bridge, просто это безумное мучение, каждый раз часы расходуются на подбор параметров, и раскидывание so по всем каталогам

Читать полностью…

ClickHouse не тормозит

всем привет! подскажите пожалуйста, какая разница при вставке в mergetree таблицу между селектом из postgresql engine таблицы и использованием postgresql() функции

Читать полностью…

ClickHouse не тормозит

Сохраняем сообщение строкой и потом парсим, у нас еще старый клик без поддержки json

Читать полностью…

ClickHouse не тормозит

жесть какая-та если честно
Не понимаю что делать

Читать полностью…

ClickHouse не тормозит

вот тут https://github.com/ClickHouse/ClickHouse/issues/41266#issuecomment-1248975103

плюс https://github.com/ClickHouse/ClickHouse/issues/64041

Читать полностью…

ClickHouse не тормозит

И как конец месяца может быть связан с партицией по месяцу?
Бобер не корректно выполняет insert as select

Читать полностью…

ClickHouse не тормозит

кх очень старается чтобы не работал LD_LIBRARY_PATH

Читать полностью…

ClickHouse не тормозит

можно ссылку, если не сложно?

Читать полностью…

ClickHouse не тормозит

>через isql с хоста проверял подключение идет нормально

isql использует переменные окружения из текущего env

чтобы эти переменные окружения передать systemd clickhouse-server.service надо читать гитхаб, и копать как это сделать имеенно для instantclient, потому что КХ параноик и не разрешает LD_PRELOAD.

в гитхаб есть ишью где я показывал пример как скопировать все оракловые библиотеки в каталог КХ, чтобы работало без LD_PRELOAD.

Читать полностью…
Подписаться на канал