NVIDIA представила Kumo Relational — предобученную модель, способную делать предсказания непосредственно на основе данных из корпоративных реляционных баз. Эта модель позволяет получать результаты, такие как вероятность оттока клиентов, спрос или мошенничество, всего за один проход, без необходимости в специализированном обучении или предварительной обработке данных. Kumo Relational стала первой моделью, которая в условиях нескольких примеров превосходит традиционные методы машинного обучения на общепринятых реляционных тестах.

Преимущества Kumo Relational

Модель Kumo Relational была протестирована на 41 задаче из 15 различных баз данных и показала превосходство над традиционными методами, такими как градиентный бустинг и глубокое обучение. На тесте SAP SALT модель превзошла ансамбли AutoGluon на 8% по среднему обратному рангу (MRR). Kumo Relational способна обрабатывать базы данных с более чем 500 миллиардами строк и может использоваться как людьми, так и агентами через открытые библиотеки NVIDIA.

Переход к моделям для структурированных данных

Модели, основанные на принципах foundation, уже изменили подход к обработке языка и визуальных данных. Ранее для каждой задачи требовалась отдельная модель, что усложняло процесс. Однако с появлением больших языковых моделей (LLM) этот подход стал устаревшим. Теперь аналогичный переход происходит и в области структурированных данных. Реляционные базы данных являются основой для многих бизнес-решений, но их анализ часто требует значительных временных затрат на подготовку данных и обучение.

Как работает Kumo Relational

Kumo Relational работает непосредственно с реляционными базами данных, сохраняя их структуру, включая таблицы и связи. В отличие от традиционных подходов, которые требуют предварительной агрегации данных, Kumo Relational использует синтетические реляционные данные для предобучения. Это позволяет модели адаптироваться к новым задачам через обучение в контексте, что значительно упрощает процесс.

Процесс предсказания

Для получения предсказания Kumo Relational выполняет три ключевых шага: 1. Понимание значений в каждой таблице. 2. Связывание записей между таблицами. 3. Соотнесение примеров контекста с известными целями.

Архитектура Kumo Relational

Архитектура модели включает в себя:

Автоматическую генерацию контекста: задачи формулируются на языке предсказательных запросов (PQL), что позволяет пользователю указать, что именно нужно предсказать.

Рассмотрение данных внутри таблиц: легкая сеть обрабатывает каждую таблицу независимо, используя внимание к столбцам и строкам.

Связывание данных между таблицами: более крупная сеть распределяет эмбеддинги строк по реляционной структуре, что позволяет эффективно обрабатывать связи между данными.

Производительность Kumo Relational

Kumo Relational была протестирована на 41 бенчмарке и показала выдающиеся результаты, превосходя сильнейшие модели, основанные на супервизии. Она занимает лидирующие позиции в тестах RelBench и демонстрирует высокую скорость работы, оставаясь эффективной даже при ограниченных объемах данных.

Ограничения и возможности

Хотя Kumo Relational демонстрирует отличные результаты, она лучше всего работает с данными, имеющими значимые взаимосвязи и временные динамики. На задачах с очень большими наборами данных специализированные модели могут все еще показывать лучшие результаты. Однако Kumo Relational остается стабильной даже при удалении значительной части связей и добавлении шумовых данных.

Демо и доступность

Kumo Relational доступна для использования сегодня. Модель можно интегрировать в существующие системы через библиотеки NVIDIA, а также запускать как отдельный сервис. Разработчики могут загружать модель и использовать ее для предсказаний на своих данных. Все коды и документация доступны по ссылкам, предоставленным NVIDIA.