Экстрактор данных 1С->BI: как выгружать данные из 1С в Yandex Datalens

Выгрузить данные из 1С достаточно сложно - программа не предусматривает, чтобы данные из нее использовались в каких-нибудь внешних сервисах. Но это не значит, что получить информацию из 1С нельзя. 

Назначение продукта

"Экстрактор данных 1С 8.3 в BI" используется для автоматизации работы по выгрузке данных для последующего анализа в BI-системе Yandex Datalens. Наши Заказчики - это:

  • бизнес-аналитики
  • программисты
  • пользователи, активно работающих с 1С 8
  • финансовые и технические директора
  • CEO

Продукт решает следующие проблемы:

  • Удобная настройка выборки данных в 1С - т.е. формирование 1С как "Источника данных"
  • Автогенерация таблиц в базе-приемнике ClickHouse
  • Автосопоставление полей между Источником данных и Базой-приемником
  • Автоматическая (по расписанию) выгрузка данных из 1С в базу-приемник (можно укзаать разное расписание для разных наборов данных, можно разделить выгрузку по периодам, потокам и прочим фильтрам)

«Экстрактор данных 1С 8 в BI» - это ETL-инструмент автоматизации массивной выгрузки данных из 1С в аналитическую базу данных Clickhouse для работы с такими инструментами BI-аналитики как:

  • Yandex Datalens, Apache Superset, Microsoft Power BI, Qlik Sense, Tableau, Processet, Omega BI, LuxmsBI, Visiology, Loginom, Форсайт, Polymatica
«Экстрактор данных» полностью автоматизирует извлечение информации в Datalens, Visiology и пр. а также трансформацию и выгрузку данных в БД Clickhouse, для последующей обработки в BI-системах Datalens, Tableau и других.

«Экстрактор данных» реализует:

  1. Данные с помощью экстрактора формируются в пользовательском режиме из 1С на основе объектов метаданных и запросов, в том числе с поддержкой вычисляемых полей, параметров, временных таблиц
  2. Автоматическая генерация и модификация структуры таблиц с маппингом к наборам данных в БД Clickhouse, при этом:
  3. БД Clickhouse поддерживается как в облаке Яндекс Datalens, так и self-hosted (http и https – доступ)
  4. Поддержка партицирования таблиц в БД Clickhouse
  5. Полная выгрузка экстрактором и выгрузка только изменений (в рамках партиции)
  6. С помощью экстрактора данные осуществляются в многопоточную выгрузку
  7. Работа с клиент-серверными и файловыми базами
  8. Экстрактор полностью автоматизирует работу в фоновом режиме

Базово, наше Решение реализовано как «Расширение» 1С 8.3, т.е. оно встраивается в вашу 1С и дополняет возможности программы необходимым функционалом. 

В каждой поставке мы предоставляем Заказчикам две версии:
Как «Расширение»
Как «Конфигурацию» для встраивания (методом объединения конфигураций)

Мы осуществляем полную методическую и консультационную поддержку нашего Решения. 

Разработка выполнена на Управляемых формах (поэтому, если у вас не запрещен запуск вашей конфигурации в режиме управляемых форм, то наше Решение будет там работать вполне успешно). 

Мы использовали стандартные методы и подходы 1С 8.3 и частично задействовали механизмы БСП (Библиотека стандартных подсистем), но только в части встраивания и создания регламентных заданий. 

Решение имеет систему лицензирования и защиты, лицензируется на количество баз 1С, где устанавливается. 
Также, Решение нормально (без доработок и адаптации) работает с любыми конфигурациями с версии платформы 8.3.16 (Для платформы ниже 8.3.16 необходима проверка под совместимость. 
На данный момент реализованы проекты, работающие с кастомными конфигурациями под 8.3.10 и 8.3.11 (потребовалась небольшая адаптация и внедрение в конфигурацию, так как данные платформы 1С полноценно не поддерживают механизм Расширений). 

Решение уже протестировано на стандартных (типовых) конфигурациях:

  • 1С Управление торговлей 11 (11.4 и 11.5);
  • 1С Розница 2 и 3;
  • 1С Бухгалтерия 3.0;
  • ЗУП;
  • ERP 2.4 и 2.5;
  • УНФ 1.6 и 3.0;
  • Далион;
  • АСТОР.

Так как Решение является универсальным, то технически может быть запущено на любой конфигурации 1С 8.3.

Идея состоит в том, чтобы без участия программистов 1С, бизнес-аналитик мог сам:
  1. Собрать себе набор данных (Датасет) в терминах 1С
  2. На его основе создать таблицу в Базе данных “одной кнопкой”
  3. при необходимости, добавить новые поля в набор данных и обновить таблицу-приемник новыми полями
  4. Настроить регулярную автоматическую выгрузку, на то чтобы данные передавались в базу данных
  5. Обеспечить многопоточную фоновую выгрузку, чтобы данные выгружались «по расписанию»
  6. При определенных настройках можно реализовать фактически real-time выгрузку данных в БД Clickhouse(все зависит от того, какого объёма данные и поставленной задачи бизнес-аналитиком)
  7. заниматься своей работой здесь и сейчас, не ожидая какие-то разработки, доработки, ручные выгрузки отчетов от программистов 1С и т.д.
  8. получать большие массивы данных здесь и сейчас для анализа в своей BI-системе (например, Datalens)

Какие данные можно выгрузить с "Экстрактор данных 1С в BI-системах в Datalens" от ДЕНВИК

Наше решение позволяет выгружать любые данные из 1С в таблицы Clickhouse, для последующей работы в BI-системах Datalens:

  • Продажи;
  • Расходы;
  • Закупки;
  • Документы;
  • Справочники;
  • Перечисления;
  • Константы;
  • Планы видов характеристик;
  • Планы счетов;
  • Хозяйственные операции (проводки);
  • Регистры сведений (цены и т.д.);
  • Регистры расчета (зарплатные);
  • Бизнес-процессы;
  • Задачи;
  • Планы обмена.
  • и т.д.
  • И все это вместе и как единый набор данных для выгрузки и как отдельные наборы данных
дашборд из Datalens демо3.png

Использование Экстрактора данных позволит вам не только упростить переносимые данные из 1С в yandex Datalens или Power BI, но и:

  • делать автоматическую выгрузку данных из любой конфигурации (даже из файловой);
  • настроить выгрузку в Datalens по расписанию;
  • подключить и настроить передаваемые в Datalens данные без участия программистов;
  • гибко добавлять и изменять таблицы в базе данных Datalens, куда выгружаются данные
  • все данные хранятся в облаке yandex Datalens, поэтому не нужно тратиться на администрирование серверов и контроль базы данных;
  • Это прямая выгрузка по расписанию из 1С в базу данных, для работы с Yandex Datalens и Power BI


схема работы экстрактора данных


Выгрузка из 1С в Yandex Datalens данных происходит следующим образом:

Экстрактор данных 1С в BI:
  • Подходит для всех конфигураций 1С 8.3 (тестировалось начиная с платформы 8.3.16);
  • Умеет выгружать абсолютно все сущности, в том числе и нетиповые;
  • Устанавливается как "Расширение 1С", а также как "Конфигурация для объединения".
Тестировалось и отлично работает под:
  • 1С Управление торговлей 11
  • 1С комплексная автоматизация 2
  • 1С ERP 2.4 и 2.5
  • 1С Розница 2 и 3
  • 1С УНФ 1.6 и 3
  • 1С Управление Холдингом
  • Далион
  • АСТОР Торговая Сеть и АСТОР Ваш Магазин
  • 1С Управление Отелем
  • и другие...
Для работы требует установленный и настроенный сервер Clickhouse (в облаке или у вас на компьютере)
  • Описание как развернуть Managed Service for Clickhouse в облаке Яндекс
    • По запросу предоставим образы для развертывания Clickhouse под Hyper-V/VirtualBox)
Чтобы выгрузить данные из 1С в Datalens, нужно открыть экстрактор данных через 1С и выбрать необходимые для выгрузки в Datalens сущности.

Далее переименовать поля, если это нужно, чтобы они корректно выгрузились в Yandex Datalens и указать, как нужно отфильтровать данные. Следующим этапом настроить расписание для выгрузки.

content_img (1).png

Теперь можно подключаться к своей базе данных через Yandex Datalens и настраивать визуализации.

content_img (2).png

У нас вышла новая версия "Экстрактора данных", которая включает в себя:

  • Многопоточную выгрузку данных
  • Пред- и пост-обработчики выгрузки для каждого "проекта"
  • Специализированную "очередь" выгрузки, с помощью которой программист конфигурации может гибко управлять выгрузкой изменений" из базы 1С
  • Работу с партициями таблиц Clickhouse (теперь система умеет перезаписывать не всю таблицу-приемник целиком, а перезаписывать отдельные ее партиции (например месяцы или дни и т.д.)
  • Проведена значительная оптимизация кода, которая позволила еще более ускорить выгрузку, в том числе и за счет "тонкой" настройки экранирования спецсимволов
  • Теперь "Экстрактор данных" поставляется и как "Расширение" и как "Конфигурация для объединения"

Примеры настроенных дашбордов в Yandex Datalens по данным, получаемым нашим решением из 1С

  • Демо на котором демонстрируются выгружаемые данные о выручке и себестоимости в Datalens
  • Демо по безналичным платежам в Datalens

Мы поможем подключить и настроить Экстрактор данных для выгрузки в Datalens, если у вас возникнут проблемы. 

Как подключить базы Clickhouse описано в этих статьях:

  • Быстрый гайд по развертыванию базы данных Clickhouse в облаке Яндекс (для работы с Yandex Datalens) (Далее, далее, далее...)

Как выгрузить данные с помощью нашего решения в Datalens, мы подробно описали в своем блоге.

Для консультации по поводу возможностей решения и совместимости его с 1С обращайтесь в наш отдел продаж.

Новинки, обновления и ответы на вопросы доступны в нашем Telegram-канале:  https://t.me/extractor_1C_to_Clickhouse
Подписывайтесь, будьте в курсе новостей.

Инструмент

Сравнительный анализ

Традиционная парадигма разработки ПО, основанная на императивном программировании, требует высокой квалификации и много ресурсов. В этой модели создание и отладка кода — трудоемкие задачи, требующие глубоких знаний и навыков.

Low-code платформы предлагают другой подход. Они используют графические элементы и упрощают кодирование. Это сокращает время разработки и делает её понятной для пользователей с любым уровнем навыков.

Заказать демо

Другие статьи

Как работать с CSV в 1С: загрузка, выгрузка, возможные проблемы и способы автоматизации
Как работать с CSV в 1С: загрузка, выгрузка, возможные проблемы и способы автоматизации
В статье разберем, что представляет собой этот формат и как выполнять загрузку CSV в 1С и выгрузку без ошибок.
Денвик Аналитика на Российском Ритейл Шоу 2026: технологии и ИИ в центре трансформации ритейла
Денвик Аналитика на Российском Ритейл Шоу 2026: технологии и ИИ в центре трансформации ритейла
Компания «Денвик Аналитика» представила свои решения для цифровизации и аналитики в ритейле на Российском Ритейл Шоу 2026. Обсудили внедрение ИИ, оптимизацию процессов и повышение эффективности бизнеса с ведущими лидерами отрасли.
ETL против ручной выгрузки: где заканчивается «быстрый старт» и начинается зрелая работа с данными
ETL против ручной выгрузки: где заканчивается «быстрый старт» и начинается зрелая работа с данными
В статье разбираем ключевые отличия ручных процессов и ETL/ELT-подхода, признаки необходимости перехода к автоматизации и практические кейсы внедрения.
Миграция SAP на 1С: почему «проектный подход» проигрывает инфраструктуре
Миграция SAP на 1С: почему «проектный подход» проигрывает инфраструктуре
Почему миграция с SAP на 1С превращается в дорогой и рискованный проект — и как инфраструктурный подход ломает эту модель.
Запись вебинара Денвик и TData: "От 1С к BI без ручных выгрузок: как построить поток данных и управлять им"
Запись вебинара Денвик и TData: "От 1С к BI без ручных выгрузок: как построить поток данных и управлять им"
Бесплатный вебинар о том, как перейти от ручных выгрузок из 1С к управляемому и надёжному потоку данных в BI-системах.
Интервью с техническим директором CARELY Group - Финковским Игорем
Интервью с техническим директором CARELY Group - Финковским Игорем
В этом интервью технический директор компании рассказывает, как переход на Экстрактор 1С от Денвик Аналитика позволил отказаться от кастомной разработки, ускорить доступ к данным и передать управление аналитикой в руки бизнес-пользователей.
Выгрузка данных из 1С в Excel: основные способы, пошаговая инструкция и возможные проблемы
Выгрузка данных из 1С в Excel: основные способы, пошаговая инструкция и возможные проблемы
Покажем, как можно упростить процесс выгрузки из 1С в Excel и как это при необходимости автоматизировать в отлаженный бизнес-процесс
Как перейти с Excel на BI за 7 дней: Техническое руководство
Как перейти с Excel на BI за 7 дней: Техническое руководство
Переход с Microsoft Excel на полноценную BI-систему — это не про «красивые графики», а про архитектуру данных. За 7 дней вы выстроите путь от хаотичных Excel-файлов к централизованной аналитике
Выгрузка данных из 1С в XML: особенности формата, ограничения и способы их обхода
Выгрузка данных из 1С в XML: особенности формата, ограничения и способы их обхода
В материале разбираем, почему XML усложняет интеграции с 1С и какие подходы позволяют упростить обмен данными и снизить затраты.
Запись вебинара «BI без разрывов: полный контроль пути данных от 1С до аналитики - Экстрактор 1С».
Запись вебинара «BI без разрывов: полный контроль пути данных от 1С до аналитики - Экстрактор 1С».
Подвели итоги вебинара о том, как организовать непрерывный поток данных из 1С в BI, снизить зависимость от программистов и получать актуальную аналитику для бизнеса.
Выгрузка данных из 1С Фреш: особенности технологии, ограничения архитектуры и способы их обхода
Выгрузка данных из 1С Фреш: особенности технологии, ограничения архитектуры и способы их обхода
В этой статье разберем, как устроена технология 1С Фреш, какие ограничения могут возникать при выгрузке данных и с помощью чего их можно обойти.
Как получить доступ к личному кабинету DVT: пошаговая инструкция регистрации и входа
Как получить доступ к личному кабинету DVT: пошаговая инструкция регистрации и входа
В этой инструкции вы узнаете, как быстро зарегистрировать личный кабинет DVT, подтвердить учетную запись через email и получить доступ к функционалу платформы.

Подписка на новости

Хотите узнавать о лучших предложениях первыми?
Подпишитесь на наши новости!