Цель:
Определить фактические источники данных и логику расчётов
Технические задачи:
Инвентаризация Excel:
- источники данных
-
зависимости между файлами
-
VBA / Power Query
Классификация отчётов:
- операционные (не переносим в BI)
-
аналитические (переносим)
Артефакты:
- Data Source Map
-
Список KPI
-
Data Lineage (пути данных)
День 2. Проектирование модели данных
Подход:
Пространственное моделирование (Кимбалл)
Определяем:
Таблицы фактов:
- Продажи
- Закупки
- Движения денежных средств
Таблицы измерений:
- Дата
- Контрагент
- Номенклатура
- Менеджер
Ошибка:
Попытка перенести Excel-таблицы «как есть»
Нужно нормализовать структуру
День 3. Извлечение данных из 1С (ETL слой)
Использование Экстрактора 1С от «Денвик Аналитика»
Роль:
Оркестратор извлечения данных (Extract Layer)
Технические особенности:
Работа через регистры 1С
Поддержка:
- регистров накопления
- справочников
- документов
Инкрементальная загрузка:
WHERE modified_date > last_load_timestamp
Почему не OData / SQL напрямую:
Методы:
- OData (медленно)
- SQL (требует доступа к БД)
- Excel (не автоматизируется)
- Экстрактор (оптимизирован)
День 4. Построение DWH
Подход:
ELT (Extract → Load → Transform)
Технологии:
PostgreSQL — малый/средний объём
ClickHouse — аналитика больших данных
Слои:
Постановка (определение стадий)
- сырые данные
-
без трансформации
Ядро (DWH)
- очищенные данные
-
surrogate keys
Витрины данных
Пример трансформации:
SELECT
sale_id,
revenue - cost AS gross_profit,
date_trunc('month', date) AS month
FROM sales_raw
День 5. Семантический слой + BI
BI-инструменты:
- Yandex DataLens
- Visiology BI
- PIX BI
- Insight BI
- Fastboard BI
- Glarus BI
- И прочие системы.
Модель:
- Схема "Звездочка"
- Показатели: Выручка, Маржа, LTV
День 6. Построение дашбордов
Принципы:
- One dashboard = one business question, drill-down, фильтры
Структура:
Финансовый дашборд:
Продажи:
День 7. Оркестрация и автоматизация
Настройки:
- Cron / Airflow (или встроенные средства)
- SLA обновления: финансы — 1 раз в день, продажи — каждые 2 часа
Безопасность:
- Row-Level Security
- разграничение прав