Средний

7 мин

0

Привет, Хабр!

Чем больше растет инсталляция Zabbix, тем сложнее становится управлять ее конфигурацией. Особенно если речь идет не об одном сервере мониторинга, а о нескольких инсталляциях, десятках команд и сотнях инженеров, которым регулярно нужно что-то менять: пороги срабатывания, IP-адреса, триггеры, шаблоны или наборы метрик.

В какой-то момент мы столкнулись с тем, что прямой доступ к Zabbix оказался плохим решением: давать его всем нельзя, а проводить каждое изменение через команду мониторинга — долго. В результате мониторщики постепенно превратились в узкое горлышко в команде Сервисного центра, а история изменений конфигурации оказалась разбросана между встроенным аудитом Zabbix, заявками и переписками.

Тогда мы решили посмотреть на конфигурацию мониторинга как на отдельный объект управления и вынести ее в централизованную CMDB. Так появилась система, которая собирает конфигурацию из нескольких инсталляций Zabbix, предоставляет единый интерфейс для работы с настройками, поддерживает RFC-процессы, хранит историю изменений и позволяет откатывать их при необходимости.

В этой статье расскажем, как устроена архитектура решения и какие задачи нам удалось закрыть с его помощью.

О системе концептуально

Наша система — это централизованная CMDB для частичного управления конфигурацией мониторинга в нескольких инсталляциях Zabbix. Zabbix по-прежнему остается источником фактического состояния мониторинга.

В нашем случае CMDB выступает как:

• агрегатор инсталляций;

• интерфейс над их управлением;

• система контроля изменений.

Конфигурационная единица (KE)

Базовая сущность системы — конфигурационная единица — хост в Zabbix:

Все изменения выполняются в рамках конкретного хоста и его конфигурации:

Модель работы с данными. Синхронизация

Одним из первых вопросов при проектировании системы стал способ работы с конфигурацией Zabbix. Теоретически можно было обращаться к API напрямую каждый раз, когда пользователю требуется посмотреть или изменить настройки. Однако такой подход плохо масштабируется, особенно когда нужно работать сразу с несколькими инсталляциями мониторинга.

Поэтому мы выбрали Pull-модель. С определенным интервалом система самостоятельно забирает данные из Zabbix и сохраняет их в собственной базе. В синхронизацию попадают основные объекты конфигурации: теги, макросы, группы, шаблоны, интерфейсы, триггеры и метрики.

Такой подход решает сразу несколько задач. Во-первых, пользовательский интерфейс и бизнес-логика не зависят от доступности конкретной инсталляции Zabbix. Во-вторых, появляется единая точка хранения данных для нескольких систем мониторинга. Наконец, все операции чтения выполняются из локальной базы, что заметно снижает нагрузку на API.

Чтобы избежать лишних операций записи, после каждой синхронизации мы рассчитываем контрольную сумму полученных данных и сравниваем ее с предыдущим состоянием. Если изменений нет, запись в базу не выполняется.

В результате уменьшается количество операций обновления, снижается нагрузка на СУБД и ускоряется сама процедура синхронизации.

Статусная модель RFC и атомарность применения

Любое изменение оформляется как RFC. В этой схеме пользователь сначала привязывает изменение к задаче из Service Desk:

А затем вносит изменения:

Процесс обработки изменений в нашей системе строится вокруг статусной модели RFC:

New(draft) → approved → pending → success

 ↓                                          ↓

 rejected                       error        

Проблема атомарности

На каждом этапе мы фиксируем состояние в базе: от «Новой» задачи через «Ожидание проверки» до статуса «Проверена», после чего в работу вступает executor job. На этом этапе мы столкнулись с проблемой: Zabbix API представляет собой набор независимых методов, и при последовательном применении нескольких изменений одно может выполниться, а другое — нет.

Для себя мы нашли решение — компенсирующая транзакция. Ее логика работает в соответствии с алгоритмом.

Алгоритм

На этапе создания черновика (draft) сохраняются:

• планируемые изменения;

• полный текущий конфиг хоста (точка восстановления).

После перехода в статус «Проверена» executor последовательно применяет изменения через API Zabbix. При любой ошибке:

• процесс останавливается;

• запускается откат к сохранённому состоянию.

При успехе всех операций RFC переходит в статус «Применена».

Изменения проходят вот такой workflow:

• создание draft;

• review;

• approve/reject;

• apply.

Аудит и история

Теперь обратимся к контролю внесенных изменений.  

Для аудита мы использовали механизмы postgres, написали функцию и повесили триггеры на таблицы, которые хранят данные по КЕ. И теперь каждый insert update delete фиксируется в таблице changelog.

В базе данных мы написали функционал аудита, а также триггеры на каждую таблицу (INSERT / UPDATE / DELETE). В таблицу changelog теперь записывается:

• когда изменяли;

• что изменяли;

• детали значения до / после.

В итоге система хранит полную историю изменений, внесенных в хост:

Теперь переходим к настройке аудита RFC. Нам необходимо было добавить возможность просмотра изменений: кто создал RFC, и кто его подтвердил. Для этого мы отобразили таблицу с RFC-задачами.

Благодаря этому функционалу мы получили:

• единую точку доступа: просмотр конфигурации мониторинга без доступа к Zabbix;

• контроль изменений: все изменения проходят через workflow;

• снижение операционной нагрузки: инженеры мониторинга освобождаются от рутинных задач, в частности от корректировки макросов, тегов, отключения триггеров и прочего.

Архитектура

В качестве взаимодействия между компонентами мы использовали прослойку Hasura, которая сэкономила нам сотни часов разработки, вместо того чтобы вручную писать множество запросов в БД.

Матчасть:

Этапы разработки

Разработка шла последовательно, каждый этап давал работающий результат, который сразу начинали использовать.

Технический стек:

• Backend и jobs — Golang (синхронизация, executor, scheduler)

• Frontend — React + TypeScript

• API слой — Hasura GraphQL Engine

• БД — PostgreSQL

• Кэш и очереди — Redis

1 этап. Синхронизация с Zabbix

Цель — получить «золотой слепок» всех инсталляций в единой базе.

Что сделали:

1. Написали sync-worker на Golang, который по расписанию ходит в Zabbix API каждого заказчика

2. Выгрузили: хосты, шаблоны, группы, макросы, тэги, интерфейсы, метрики, триггеры

3. Внедрили checksum в Redis: сверили хэш текущего состояния с предыдущим, если не изменилось — не пишем в PostgreSQL

4. Самые тяжелые сущности (метрики и триггеры) вынесли в отдельный воркер с интервалом 15 минут и обязательной пагинацией

5. Для организации очередей и retry-политик использовали Redis + очередь на Golang (экспоненциальная задержка при ошибках API)

Результат первого этапа: работающая синхронизация с шести Zabbix. В БД лежит актуальная конфигурация всех хостов.

2 этап. Просмотр конфигурации

Цель — дать инженерам сервисного центра возможность смотреть настройки мониторинга без доступа к Zabbix.

Что сделали:

• Написали React + TypeScript-приложение с таблицей хостов (фильтрация по заказчику, группе, шаблону)

• Страницу деталей хоста: макросы, тэги, интерфейсы, привязанные шаблоны, метрики, триггеры

• Добавили поиск и фильтры

Результат второго этапа: единая точка входа для просмотра мониторинга. Инженеры сервисного центра перестали писать «А посмотри в Zabbix» — теперь они все видят сами.

3 этап. Редактирование через RFC

Цель — разрешить инженерам сервисного центра изменять настройки, но под контролем мониторинга.

Что сделали:

1. Добавили статусную модель RFC: draft → approved → pending → success/error и rejected

2. Создание RFC на React + TS: выбор хоста → создание кнопки редактирования → написание

3. JSON diff через json-diff-ts: перед отправкой пользователь видит, что именно изменил

4. Ревьюер при проверке видит тот же самый diff

5. Написали executor на Golang — сервис, который применяет одобренные RFC к живому Zabbix

6. Решили проблему отсутствия транзакций: executor сохраняет snapshot хоста до изменений, при любой ошибке откатывается

7. Добавили Redis-блокировки (lock:host:{id}), чтобы два executor'а не меняли один хост одновременно

8. Аудит: триггеры PostgreSQL логируют все изменения таблиц, отдельная таблица хранит историю статусов RFC

Результат третьего этапа: инженер Сервисного центра меняет настройки сам за 3 минуты, мониторинг только проверяет diff и нажимает Approve. Всё под тикетом, всё аудируется, всё откатывается.

Резюмируем

Команда мониторинга перестала быть узким местом для типовых изменений, а инженеры сервисного центра получили контролируемый сервис для работы с конфигурацией мониторинга. Главная техническая проблема — отсутствие транзакций в Zabbix API — была решена с помощью компенсирующих транзакций. При возникновении ошибки система автоматически откатывает конфигурацию к исходному состоянию. Аудит всех изменений реализован на уровне PostgreSQL через триггеры, что дало полную и неизменяемую историю правок. Архитектура построена на pull-синхронизации с кэшированием чексумм в Redis, что минимизирует нагрузку на базу данных. Тяжелые сущности вроде метрик и триггеров вынесены в отдельные воркеры с разными интервалами опроса. Использование Hasura GraphQL в качестве API-прослойки сэкономило ресурсы на ручной разработке запросов.

Не благодарите!