BotPsy: Новый уровень персональных ассистентов с акцентом на конфиденциальность и эффективность


В последние годы наблюдается резкий рост интереса к облачным языковым моделям (LLMs), однако их использование связано с высокими операционными затратами и непредсказуемыми изменениями в доступности. Поставщики таких моделей могут в любой момент изменить условия доступа, что создает уязвимости для пользователей. Вдобавок, проприетарные модели часто предлагают ограниченные возможности для настройки под конкретные рабочие процессы, что может негативно сказаться на конфиденциальности и контроле данных. Не все задачи требуют высокоинтеллектуальных решений: небольшие специализированные агенты могут быть не менее эффективными для выполнения конкретных задач и значительно дешевле в эксплуатации, поскольку многие рутинные или менее сложные задачи можно эффективно обрабатывать на устройствах пользователя. В этом контексте Tether AI Research представила BotPsy — языковую модель с 0.8 миллиарда параметров, разработанную для выполнения функциональных вызовов и агентских рабочих процессов. BotPsy построена на базе Qwen3.5-0.8B и подходит для развертывания на устройствах. Эта модель, по сути, является "персональным ассистентом", который использует различные инструменты для выполнения простых задач в таких областях, как веб-поиск и исследования, путешествия и образ жизни, коммерция и финансы, бизнес и обслуживание клиентов, управление устройствами и транспортными средствами, работа с файлами и документами, а также управление календарем и сообщениями.

Достижения BotPsy

BotPsy демонстрирует выдающиеся результаты в области использования инструментов и агентских функций для своей категории. Она превосходит все протестированные модели с количеством параметров до 1.2 миллиарда, включая Qwen3.5-2B-Think, которая в 2.5 раза больше по размеру. В частности, BotPsy достигает следующих результатов на ключевых бенчмарках:
  • BFCL v4: 44.0 (по сравнению с 23.4 у Qwen3.5-0.8B-Think)
  • ACEBench: 58.7 (по сравнению с 30.1 у Qwen3.5-0.8B-Think)
  • τ-bench: 51.5 (по сравнению с 23.2 у Qwen3.5-0.8B-Think)
  • BotPsy также показывает высокую надежность в многоходовых рабочих процессах, достигая 82.5 на τ²-bench в области телекоммуникаций, что значительно превышает результаты Qwen3.5-2B-Think (69.3).

    Эффективность и безопасность

    BotPsy обеспечивает высокую степень безопасности по сравнению с другими моделями в своей категории. В ходе автоматизированного тестирования на шесть категорий вреда, модель выдает небезопасные ответы только в 21% случаев, что значительно ниже, чем у ее базовой модели (36%). При атаках с инъекцией подсказок уровень небезопасных ответов снижается с 46% до 31%.

    Открытость и доступность

    BotPsy будет выпущена с открытыми весами под лицензией Apache 2.0 для исследовательского и образовательного использования. Она будет доступна в трех форматах точности (bf16, Q8, Q4) как Hugging Face safetensors и как GGUF файлы для QVAC SDK и llama.cpp.

    Будущее BotPsy

    В будущем Tether AI Research планирует расширить возможности BotPsy, интегрируя ее с более широким спектром аппаратного обеспечения и локальных сервисов. Будут разработаны механизмы локальной донастройки, которые позволят адаптировать модель к индивидуальным предпочтениям пользователей и специализированным инструментам. Кроме того, будут усилены протоколы конфиденциальности, чтобы гарантировать, что все личные данные остаются на локальном оборудовании.

    Методология

    BotPsy основана на Qwen3.5-0.8B и проходит через четыре последовательных этапа обучения: Супервизионное Тонкое Настройка (SFT), Многоучительская Он-Полис Дистилляция (MOPD) и два раунда Обучения с Подкреплением (RL). Каждый этап использует лучшие контрольные точки предыдущего этапа и получает различные сигналы обучения.

    Заключение

    BotPsy представляет собой значительный шаг вперед в области персональных ассистентов, предлагая пользователям высокую степень контроля над своими данными и эффективные инструменты для выполнения повседневных задач. Несмотря на свои ограничения, модель демонстрирует впечатляющие результаты и открывает новые горизонты для дальнейших разработок в области искусственного интеллекта.

    Комментарии (0)

    Войдите, чтобы оставлять комментарии.
    Пока нет комментариев. Будьте первым!