Установка продуктов от ArenaData
Aleksej KazinСостав паков для установки
Паки ADH, ADQM, ADS и ET необходимо скачать и выложить на ВМ, где планируется установить сервисы ET+ADCM:
- adh_2.1.4_b3_ee_centos_7_x86_64.sh
- adqm_21.8.13.6_arenadata1_ee_centos_7_x86_64.sh
- ads_1.6.2_b1_ee_centos_7_x86_64.sh
- et_2021072100_ce_centos_7_x86_64.sh
Отключение Firewall и SELinux на хосте, где будет установлен ADCM
Первичную настройку необходимо выполнить согласно инструкции:
echo 'SEARCH="ВАШ_ДОМЕН"' >> /etc/sysconfig/network-scripts/ifcfg-ИНТЕРФЕЙСsystemctl disable firewalldsystemctl stop firewalldsed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/configsetenforce 0hostname "$(hostname).ВАШ_ДОМЕН"echo "$(ip a show dev ИНТЕРФЕЙС | grep ВАША_ПОДСЕТЬ | awk '{print $2}' | awk -F '/' '{print $1}') $(hostname -f)" >> /etc/hosts
Затем перезагрузить сервер и убедиться, что SELinux отключен:
sestatus
Установка ADCM
Установить docker: yum install -y yum-utils docker device-mapper-persistent-data lvm2
Запустить docker: systemctl enable docker --now
Для установки ADCM необходимо выполнить следующие инструкции:
Добавить инфу о TAR файлах!
Загружаем Docker-образ ADCM командой: docker load -i /var/tmp/adcm_image.tar
Создаём новый контейнер из свежего образа и запускаем его: docker create --name adcm -p 8000:8000 -v /opt/adcm:/adcm/data hub.arenadata.io/adcm/adcm:latest
docker start adcm
Загрузка бандлов
Открыть консоль ADCM http://<adcm_host>:8000> (логин:admin, пароль:admin), перейти на вкладку BUNDLES, нажать на кнопку Upload bundles и загрузить следующие бандлы:
бандл ADH, бандл ADS, бандл ADQM бандл, Enterprise Tools, бандл SSH.
После загрузки бандлов принять лицензионные соглашения.
Создание провайдера SSH
В ADCM перейти на вкладку HOSTPROVIDERS, нажать кнопку Create provider, выбрать бандл SSH из выпадающего списка и задать имя провайдера.
Нажать кнопку Create.
Добавление в ADCM хостов
В ADCM перейти на вкладку HOSTS, нажать кнопку Create host, задать FQDN и нажать кнопку Create.
Выполнить добавление всех хостов.
После добавления все хосты отображаются в списке.
Далее поочередно открыть конфигурацию каждого из хостов, задать параметры подключения (Username/Password или Username/SSH private key) и сохранить внесенные изменения, нажав кнопку Save.
После того как все хосты сконфигурированы, выполнить для каждого из них действия Check connection и Install statuschecker.
Конфигурирование кластера Enterprise Tools
В ADCM перейти на вкладку CLUSTERS, нажать кнопку Create cluster, выбрать из выпадающего списка бандл Enterprise Tools, задать имя кластера и нажать кнопку Create.
После создания кластер Enterprise Tools отобразится в списке кластеров.
Перейти в кластер Enterprise Tools на вкладку Services, нажать кнопку Add services, выбрать сервисы HTTP Mirror и Docker Registry и нажать кнопку Add.
Добавленные сервисы отобразятся в списке сервисов кластера Enterprise Tools.
Перейти на вкладку Hosts кластера Enterprise Tools, нажать кнопку Add hosts, выбрать хост ET+ADCM и нажать кнопку Add.
После добавления хост отобразится в списке хостов кластера Enterprise Tools.
Перейти на вкладку Hosts-Components кластера Enterprise Tools, связать сервисы сервисы HTTP Mirror и Docker Registry с хостом и нажать кнопку Save.
В верхнем левом углу открыть выпадающий список действий кластера Enterprise Tools и выбрать Offline Install.
В открывшемся окне указать путь к паку Enterprise Tools и нажать кнопку Run.
Процесс выполнения задачи (offline-установки) можно видеть на вкладке JOBS в ADCM.
После успешного завершения операции сервисы HTTP Mirror и Docker Registry будут иметь статусы зеленого цвета.
Загрузка паков ET, ADH, ADS и ADQM
В верхнем левом углу открыть выпадающий список действий кластера Enterprise Tools и выбрать Upload Pack.
В открывшемся окне указать путь к паку Enterprise Tools и нажать кнопку Run.
Дождаться успешного завершения загрузки пака.
Аналогичным образом загрузить паки ADH, ADS и ADQM.
Установка мониторинга
Перейти в кластер Enterprise Tools на вкладку Services, нажать кнопку Add services, выбрать сервисы Diamond, Grafana и Graphite и нажать кнопку Add.
Добавленные сервисы отобразятся в списке.
В конфигурации Grafana указать пароль в поле Password и нажать кнопку Save.
Перейти на вкладку Hosts-Components кластера Enterprise Tools, связать сервисы Diamond, Grafana и Graphite с хостом и нажать кнопку Save.
В верхнем левом углу открыть выпадающий список действий кластера Enterprise Tools, выбрать Install Monitoring и в открывшемся окне нажать кнопку Run.
Дождаться успешного завершения установки мониторинга.
Кластер Enterprise Tools (включая сервисы мониторинга) установлен.
Конфигурирование кластера ADH
В ADCM перейти на вкладку CLUSTERS, нажать кнопку Create cluster, выбрать из выпадающего списка бандл ADH, задать имя кластера и нажать кнопку Create.
После создания кластер ADH отобразится в списке кластеров.
Перейти в кластер ADH на вкладку Services, нажать кнопку Add services, выбрать необходимые сервисы и нажать кнопку Add.
💡 Если под Hive Metastore планируется использовать внутреннюю СУБД MySQL(MariaDB), то необходимо добавить сервис MySQL, Для установки Spark необходимо добавить Hive, Для установки Spark3 необходимо добавить Spark, Для установки сервиса Monitoring должен быть готов кластер мониторинга (в данной инструкции мониторинг был установлен в составе кластера Enterprise Tools)
Добавленные сервисы отобразятся в списке сервисов кластера ADH.
Перейти на вкладку Hosts кластера ADH, нажать кнопку Add hosts, выбрать хосты ADH и нажать кнопку Add.
После добавления хосты отобразятся в списке хостов кластера ADH.
Перейти на вкладку Hosts-Components кластера ADH, связать компоненты сервисов с хостами и нажать кнопку Save.
💡 Diamond должен быть добавлен на все хосты кластера, jmxtrans - на один из хостов. HDFS ZKFC и HDFS NameNode должны располагаться на одних и тех же хостах. Компоненты MapReduce History server и YARN Timeline server должны присутствовать в кластере в единственном экземпляре.
Минимальное конфигурирование сервисов и установка ADH
Конфигурирование HDFS
Перейти на вкладку Services кластера ADH, открыть конфигурацию сервиса HDFS и отредактировать свойство dfs.datanode.data.dir, указав директории под данные HDFS.
Каждый из указанных путей - это точка монтирования диска под данные.
При необходимости выполнить конфигурирование и других сервисов.
После того, как сервисы ADH сконфигурированы, перейти на вкладку Import кластера ADH, импортировать сервисы Docker Registry, HTTP Mirror, Graphite, Grafana и нажать кнопку Save.
💡 Импорт Graphite, Grafana обязателен только в случае установки сервиса Monitoring в составе ADH.
После выполнения всех настроек в верхнем левом углу открыть выпадающий список действий кластера ADH и выбрать Install.
Дождаться успешной установки кластера ADH.
Конфигурирование кластера ADS
В ADCM перейти на вкладку CLUSTERS, нажать кнопку Create cluster, выбрать из выпадающего списка бандл ADS, задать имя кластера и нажать кнопку Create.
После создания кластер ADS отобразится в списке кластеров.
Перейти в кластер ADS на вкладку Services, нажать кнопку Add services, выбрать необходимые сервисы и нажать кнопку Add.
💡 Если под метаданные Ranger и Ranger KMS планируется использовать внутреннюю СУБД MySQL (MariaDB), то необходимо выбрать сервис MySQL. Для установки сервиса Monitoring должен быть готов кластер мониторинга (в данной инструкции мониторинг был установлен в составе кластера Enterprise Tools). Сервисы Ranger, Solr, Zookeper обязательны для установки ADS.
Добавленные сервисы отобразятся в списке сервисов кластера ADS.
Перейти на вкладку Hosts кластера ADS, нажать кнопку Add hosts, выбрать хост ADS и нажать кнопку Add.
После добавления хосты отобразятся в списке хостов кластера ADS.
Перейти на вкладку Hosts-Components кластера ADS, связать сервисы компоненты сервисов с хостами и нажать кнопку Save.
💡 Diamond должен быть добавлен на все хосты кластера.
После того, как сервисы ADS сконфигурированы, перейти на вкладку Import кластера ADS, импортировать сервисы Docker Registry, HTTP Mirror, Graphite, Grafana и нажать кнопку Save.
💡 Импорт Graphite, Grafana обязателен только в случае установки сервиса Monitoring в составе ADS.
После выполнения всех настроек в верхнем левом углу открыть выпадающий список действий кластера ADS и выбрать Install.
Дождаться успешной установки кластера ADS.
Создание экземпляра кластера ADQM
Перейти на вкладку CLUSTERS и нажать кнопку Create cluster. В открывшемся окне создать экземпляр кластера из прототипа ADQM, полученного из бандла.
Созданный экземпляр кластера ADQM отобразится в списке кластеров на вкладке CLUSTERS.
В созданном экземпляре кластера ADQM перейти на вкладку Hosts и добавить "хосты ADQM DB" и "хосты Zookeeper".
Перейти на вкладку Services экземпляра кластера ADQM и добавить сервисы ADQMDB, Zookeeper, Monitoring clients, Baje Proxy.
Перейти к настройкам Zookeeper, нажав на пиктограмму шестеренки в столбце Config, данного сервиса.
Установить галочку Advanced и проверить, что в блоке zoo.cfg для параметра maxClientCnxns установлено значение 0.
Перейти к настройкам ADQM DB, нажав на пиктограмму шестеренки в столбце Config, данного сервиса.
В конфигурации сервиса ADQM DB в разделе Cluster configuration указать фактор репликации 2.
В разделе Directories указать путь к папкам данных и временных файлов:
Data path: /data/clickhouse/
Temp path: /data/clickhouse/tmp/
User files path: /data/clickhouse/user_files/
Access control path: /data/clickhouse/access/
💡 Завершающий слеш обязателен!
В разделах Limits и Network указать:
Max connections – 4096
Max concurrent queries – 1000
ClickHouse http port – 8123
Listen host – ::
Нажать кнопку Save.
Каждый сервис состоит из компонентов, которые должны быть размещены на "хостах ADQM" в кластере.
Для этого необходимо перейти на вкладку Hosts – Components и связать компоненты из колонки Components c хостами из колонки.
Zookeeper Server требуется установить на «хосты Zookeeper».
Clickhouse Server - «хосты ADQM DB».
Monitoring Diamond - на все хосты.
Baje Proxy - на «хосты Zookeeper».
Чтобы установить связь между компонентом и хостом, необходимо выбрать компонент посредством нажатия на него мышкой в колонке Components, а затем нажать мышкой на хост в колонке Hosts.
Нажать кнопку Save.
Перейти на вкладку Import кластера ADQM и импортировать cервисы Graphite, Grafana, HTTP Mirror.
Нажать кнопку Save.
После выполнения всех настроек в верхнем левом углу открыть выпадающий список действий кластера ADQM и выбрать Install.
Дождаться успешной установки кластера ADQM.
После окончания процесса установки статусы сервисов становятся зелеными, что говорит об удачной инсталляции и работающих процессах.
