Нужные данные есть.
На их сбор уходит время.
Каталоги на сайтах, прайсы в файлах и записи в нескольких системах. Сотрудники переносят данные вручную, сравнивают форматы и ищут дубли.
Разрабатываем парсеры сайтов и загрузку данных из API и файлов. Приводим записи к единому формату и передаём результат в таблицу, базу или вашу систему.
Разовая выгрузка или регулярное обновление — под вашу задачу.
Каталоги на сайтах, прайсы в файлах и записи в нескольких системах. Сотрудники переносят данные вручную, сравнивают форматы и ищут дубли.
Согласуем поля и правила сбора, проверим источник, настроим обработку и выдачу результата. Для регулярной работы добавим расписание, журнал запусков и контроль ошибок.
Состав полей и доступность источника проверяем до начала работ.
Наименования, артикулы, характеристики, цены и наличие из согласованных доступных каталогов. Для сопоставления товаров определяем ключи и правила обработки вариантов.
Сохраняем снимки на момент сбора и сравниваем изменения. Частоту проверок и уведомления выбираем с учётом задачи и возможностей источника.
Объединяем доступные выгрузки и данные систем компании. Сопоставляем поля, даты, единицы измерения и идентификаторы записей.
Читаем согласованные страницы, API или файлы. Фиксируем источник и время получения.
Нормализуем названия полей, даты и значения. Дубли обрабатываем по согласованным правилам.
Отмечаем пропуски, ошибки и подозрительные изменения. Сверяем контрольную выборку с источником.
Выдаём Excel, CSV, JSON или загружаем в базу. Интеграцию с CRM и другими системами согласуем отдельно.
Начинаем с одного сайта, API или типа файла и согласованного набора полей. На ограниченной выборке проверяем доступность данных, качество результата и способ обновления. Объём, сроки и стоимость определяем после разбора источника.
Результат с понятными правилами использования.
Согласованные поля в нужном формате, с отметками источника и времени сбора.
Описание форматов, сопоставления записей, дублей и отсутствующих значений.
Проверку выбранных записей и список ограничений или расхождений.
Разовый запуск или расписание. При регулярной работе — журнал и сообщения об ошибках.
Развёртывание на согласованном сервере, в том числе в инфраструктуре компании.
Порядок изменений при обновлении сайта или API. Поддержку и передачу исходного кода закрепляем в договоре.
Разбор: цены и наличие в одной таблице →
Демонстрационный сценарий, не результат клиентского проекта.
Согласованный каталог поставщика и список нужных артикулов. Цены и наличие приходится проверять вручную.
Сбор доступных предложений, сопоставление по артикулу и сохранение даты проверки. Пустая цена остаётся пропуском, а не превращается в ноль.
Таблица для закупщика: артикул, товар, цена, наличие, ссылка и время сбора. При регулярных запусках — список изменений.
Проверяем доступный способ получения данных и ограничения сайта или API. Для закрытой системы нужен согласованный доступ владельца.
Обновление раз в день и проверка каждые несколько минут требуют разного решения. Фиксируем допустимую задержку и нагрузку.
Структура страниц и API может меняться. Договариваемся, как обнаруживать сбой, сообщать о нём и восстанавливать сбор.
Укажите ссылку на открытый источник или название системы, нужные поля, примерный объём и частоту обновления. Для начала достаточно описания задачи.
Определим способ сбора, формат результата и состав первого пилота.
+7 (903) 388-88-77