Многомодельные чаты
ФКТ ИИ позволяет взаимодействовать с несколькими моделями одновременно в рамках одного интерфейса чата. Эта мощная функция позволяет сравнивать ответы, проверять факты и использовать уникальные возможности различных языковых моделей.
Обзор
В мультимодельном чате ваше сообщение отправляется одновременно двум или более выбранным моделям. Их ответы отображаются в параллельных столбцах (или в виде стопки, в зависимости от размера экрана), что позволяет сразу понять, как разные архитектуры искусственного интеллекта подходят к решению одной и той же задачи.
Как использовать
- Выберите модели: в шапке чата (в разделе «Выбор модели») нажмите кнопку + (плюс), чтобы добавить больше моделей в текущий сеанс.
- Пример настройки: выберите одну модель (для логического мышления), другую (для творческого письма) и третью(для общей оценки).
- Отправить запрос: введите свой вопрос, как обычно.
- Посмотреть результаты: наблюдайте, как все модели одновременно генерируют ответы в окне чата.
Сценарии использования
- Сравнение моделей/бенчмаркинг: проверьте, какая модель лучше пишет код на Python или какая меньше ошибается в узкоспециализированных темах.
- Проверка фактов: «перекрестный допрос» моделей. Если две модели говорят одно, а третья — другое, можно провести дополнительное исследование.
- Разные точки зрения: получите «креативный» ответ от одной модели и «технический» ответ от другой на один и тот же запрос.
Разрешения
Администраторы могут контролировать доступ к многомодельному чату для каждой роли или группы.
- Местоположение: Панель администратора> Настройки> Общие> Разрешения пользователя> Чат> Несколько моделей
- Переменная окружения: USER_PERMISSIONS_CHAT_MULTIPLE_MODELS (По умолчанию: True)
Если эта функция отключена, пользователи не увидят кнопку «плюс» в селекторе моделей и не смогут запускать сеансы с несколькими моделями.
Объединение ответов (смесь агентов)
После получения ответов от нескольких моделей ФКТ ИИ предлагает расширенную возможность объединить их в один более качественный ответ. Таким образом реализуется рабочий процесс смешанных агентов (MOA).
Что такое слияние?
При слиянии выходные данные всех ваших активных моделей вместе с исходным запросом отправляются в «модель-синтезатор». Эта модель-синтезатор считывает все черновые ответы и объединяет их в один окончательный, выверенный ответ.
Как объединить
- Запустите мультимодельный чат и получайте ответы от выбранных вами моделей.
- Найдите кнопку Объединить (или «Синтезировать») в области управления ответами (часто она находится рядом с элементами управления регенерацией).
- ФКТ ИИ сгенерирует новый ответ, объединяющий в себе лучшие части предыдущих результатов.
Преимущества слияния
- Более высокая точность: исследования показывают, что объединение результатов работы нескольких моделей часто дает лучшие результаты, чем работа любой из них по отдельности.
- Лучшее из двух миров: вы можете получить точность кода модели А в сочетании с понятными объяснениями модели Б.
- Меньше «галлюцинаций»: синтезирующая модель может отфильтровывать несоответствия, обнаруженные в отдельных ответах.
Конфигурация
Процесс слияния зависит от серверной системы Задачи.
- Модель задачи: Конкретную модель, используемую для выполнения объединения, можно настроить в Панели администратора > Настройки> Задачи. Мы рекомендуем использовать высокопроизводительную модель в качестве модели задачи для достижения наилучших результатов.
- Шаблон запроса: Система использует специализированный шаблон запроса, чтобы проинструктировать искусственный интеллект о том, как синтезировать ответы.