Недавно более двух десятков компаний и организаций подписали открытое письмо, призывающее американских законодателей защитить открытые модели ИИ. Среди подписантов можно увидеть таких гигантов, как Meta, Microsoft, Nvidia, IBM, а также стартапы и фонды, такие как Hugging Face и Y Combinator. Это письмо поднимает важные вопросы о будущем открытых моделей ИИ и их роли в технологическом прогрессе.

Открытые и закрытые модели ИИ

Открытые модели ИИ — это системы, в которых обученные параметры доступны для скачивания, модификации и запуска на собственном оборудовании. Это резко контрастирует с закрытыми моделями, такими как продукты OpenAI или Anthropic, доступные только через API. Подписанты письма утверждают, что открытые веса являются ключевым механизмом, позволяющим распространить возможности ИИ за пределы крупных лабораторий, включая фабрики, больницы и образовательные учреждения.

Преимущества открытых моделей

Письмо выделяет три основных преимущества открытых моделей:

Снижение барьеров для входа: Открытые модели позволяют стартапам и государственным учреждениям, не имеющим средств для обучения сложных моделей, использовать уже готовые решения без необходимости платить высокие цены за доступ к закрытым системам.

Увеличение конкуренции: Открытые модели способствуют конкуренции на всех уровнях — от чипов до облачной инфраструктуры и приложений. Это, в свою очередь, приводит к снижению цен и предотвращает захват ценности небольшой группой поставщиков.

Избежание зависимости от поставщиков: Организации, использующие открытые модели, контролируют свои данные и могут адаптировать модели под свои нужды, не полагаясь на дорожную карту или ценовые решения одного поставщика.

Безопасность открытых моделей

Одним из наиболее интересных аспектов письма является его подход к вопросам безопасности. Подписанты признают, что после публикации весов они выходят из-под контроля разработчика. Модифицированные версии моделей могут циркулировать без необходимых защитных механизмов, и их трудно отследить. Однако вместо запрета на открытые модели, они предлагают рассмотреть аналогию с кибербезопасностью: для защиты от атак, оснащенных ИИ, необходимо иметь доступ к моделям сопоставимой мощности. Открытые модели позволяют внешним исследователям анализировать поведение, проводить тесты на уязвимости и выявлять проблемы, что невозможно в закрытых системах. Это создает более безопасную среду, где множество команд могут работать над улучшением безопасности.

Защита дистилляции

Письмо также защищает технику дистилляции, при которой выходные данные одной модели используются для обучения другой. Подписанты подчеркивают, что дистилляция — это стандартная практика в машинном обучении, и ее не следует путать с незаконными попытками извлечь ценность из закрытых моделей. Это заявление, вероятно, является ответом на споры, возникшие после появления китайских моделей, которые, как утверждали некоторые американские лаборатории, были обучены на основе их закрытых систем без разрешения.

Политические перспективы

Письмо не содержит конкретных законодательных предложений, но служит индикатором того, как крупные игроки в индустрии хотят, чтобы развивался разговор о регулировании ИИ. Компании, такие как Nvidia и IBM, имеют прямые коммерческие интересы в процветании экосистем открытых моделей, поскольку это может привести к увеличению спроса на вычислительные мощности и услуги. Команды по закупкам, рассматривающие открытые и закрытые модели, должны учитывать, что политическая среда, поддерживающая ту или иную модель, остается неопределенной. Любые ограничения на дистилляцию или открытые релизы могут изменить экономику саморазмещенного ИИ в течение одного законодательного цикла.