NVIDIA представила Kumo Forecast, ранее известный как NV-Tesseract Forecasting, который представляет собой многофакторную модель прогнозирования временных рядов. Эта модель сочетает в себе предобученную архитектуру Transformer с контекстно-осознанным представлением и механизмом извлечения (Domain-Aware Representation and Retrieval, DARR), что позволяет объединять прямые прогнозы модели с паттернами, извлеченными из исторических данных. Одной из ключевых особенностей Kumo Forecast является интерпретируемость результатов.

Архитектура Kumo Forecast

Kumo Forecast построен на базе MOMENT-1-large, использующей около 340 миллионов параметров в качестве базового кодировщика и дополненной обучаемой головой для прогнозирования. Библиотека предлагает API, ориентированный на DataFrame, настраиваемые горизонты прогнозирования, опциональный исторический контекст для извлечения и фреймворк интерпретируемости, который генерирует объяснения, специфичные для горизонта, без изменения основной модели прогнозирования. Kumo Forecast доступен под лицензией Apache 2.0.

Подход к контекстно-осознанному прогнозированию

Система прогнозирования может использовать два источника информации: представления, полученные в ходе предобучения, и исторические наблюдения, доступные для текущего применения. Kumo Forecast объединяет эти два подхода, используя предобученную модель прогнозирования и опциональный путь извлечения исторического контекста. В прямом пути прогнозирования Kumo Forecast использует Transformer на основе MOMENT и обученную голову для прогнозирования, чтобы предсказать будущие значения. В режиме DARR модель также извлекает связанные паттерны из исторических данных с помощью метода ближайших соседей и объединяет эту информацию с прямым прогнозом.

Основные компоненты Kumo Forecast

Kumo Forecast сочетает в себе четыре основных компонента:

Предобученные временные представления: Модель использует кодировщик Transformer MOMENT-1-large в качестве основы. Архитектура сохраняет веса кодировщика и эмбеддера замороженными, в то время как обучается голова прогнозирования, что позволяет отделить предобученную модель представления от специфичного для задачи слоя предсказания.

Прямое прогнозирование: Голова прогнозирования сопоставляет представления модели с будущими значениями для запрашиваемого горизонта. Для горизонтов, превышающих естественные возможности модели, предусмотрена поддержка авторегрессионного расширения.

Контекстно-осознанное представление и извлечение: DARR дополняет прямое прогнозирование извлечением данных из исторического контекста с использованием метода k-ближайших соседей. Этот процесс объединяет прямые прогнозы с извлечением исторических паттернов.

Интерпретируемость: Kumo Forecast также включает в себя фреймворк интерпретируемости, который, при активации, генерирует пакет объяснений, содержащий лаги и атрибуции признаков для каждого горизонта прогноза, а также диагностику семантического потока и стабильности траектории.

Ограничения и требования

Данные, используемые в Kumo Forecast, должны быть числовыми и временными. Поддерживаемые длины входных последовательностей включают 256, 512, 1024 и 2048 наблюдений. Входные данные должны содержать столбец с временными метками и один или несколько столбцов с числовыми значениями, представленных в виде DataFrame pandas или в формате CSV/JSON. При использовании режима DARR размеры контекста должны быть аналогичны контексту входных данных.

Примеры применения

В рамках Blueprint Factory Operations (FOX) доступен модуль Predictive Maintenance, который использует Kumo Anomaly и Kumo Forecast для анализа данных в реальном времени и прогнозирования будущих аномалий. Разработчики могут оценить модель на специфических приложениях, сравнивая прямые и улучшенные конфигурации извлечения на одних и тех же удерживаемых окнах прогнозирования, а также проверяя качество прогнозов в соответствии с требованиями NVIDIA к тестированию.

Начало работы с Kumo Forecast

Репозиторий Kumo-TS также предоставляет пример для дообучения Kumo Forecast на пользовательском CSV. Это позволяет разработчикам использовать как предобученный рабочий процесс вывода, так и задокументированную отправную точку для адаптации модели к своим данным.