Автозаполнение
  • Войти
    • ✨

    ✨ Автозаполнение

    ФКТ ИИ предлагает функцию автозаполнения на основе искусственного интеллекта, которая предлагает варианты завершения текста в режиме реального времени по мере того, как вы вводите запрос. Она работает как «помощник» для ввода текста в чате, помогая быстрее составлять запросы с помощью настроенной модели задач.

    Как это работает

    Если эта функция включена, ФКТ ИИ отслеживает вводимый вами текст в окне чата. Когда вы приостанавливаете ввод, текущий текст отправляется в легковесную модель задач. Эта модель предсказывает, какие слова или предложения могут последовать за введенным текстом, и отображает их в виде «призрачного текста», накладывающегося на ваш ввод.

    • Принять предложение: нажмите Tab (или клавишу Right Arrow), чтобы принять предложение.
    • Отклонить/игнорировать: просто продолжайте печатать, чтобы заменить предложение.

    Информация

    Рекомендация по производительности

    Функциональность автозаполнения во многом зависит от скорости отклика вашей модели задач. Мы рекомендуем использовать небольшую, быструю не требующую логического вывода модель, чтобы предложения появлялись мгновенно.

    Рекомендуемые модели:

    • Llama 3.2 (1B или 3B)
    • Qwen 3 (0,6B или 3B)
    • Gemma 3 (1B или 4B)
    • GPT-5 Nano (оптимизирован для низкой задержки)

    Не используйте для этой функции модели «рассуждений»  или сложные модели «цепочки рассуждений», так как из-за задержек автозаполнение будет работать медленно.


    Конфигурация

    Функцией автозаполнения управляет двухуровневая система: Глобальная доступность и предпочтения пользователя.

    1. Глобальная конфигурация (администратор)

    Администраторы определяют, доступна ли функция автозаполнения на сервере.

    1. Настройка автозаполнения (глобальная)

    Настройки панели администратора: Перейдите в Настройки администратора> Интерфейс> Модель задачи и переключите генерацию автозаполнения.

    2. Конфигурация пользователя (персональная)

    Даже если он включен глобально, отдельные пользователи могут отключить его для себя, если сочтут, что это отвлекает.

    • Перейдите в Настройки> Интерфейс.
    • Переключите генерацию автозаполнения.

    примечание

    Если администратор отключил автозаполнение на уровне всей системы, пользователи не смогут включить его в своих личных настройках.


    Производительность и устранение неполадок

    Почему не отображаются предложения?

    1. Проверьте настройки: Убедитесь, что он включен как в настройках администратора, так и в настройках пользователя.
    2. Модель задачи: Перейдите в Настройки администратора> Интерфейс и убедитесь, что выбрана модель задачи. Если модель не выбрана, функция не сможет генерировать прогнозы.
    3. Задержка: Если ваша модель задачи большая или работает на медленном оборудовании, прогнозы могут поступать слишком поздно, чтобы быть полезными. Переключитесь на меньшую модель.
    4. Модели логического вывода: убедитесь, что вы не используете модель логического вывода (например, o1 или o3), поскольку их внутренний мыслительный процесс приводит к чрезмерным задержкам, которые нарушают работу автозаполнения в реальном времени.

    Влияние на производительность

    Функция автозаполнения отправляет запрос в вашу языковую модель практически каждый раз, когда вы делаете паузу при вводе (с задержкой).

    • Локальные модели: это может привести к значительному потреблению ресурсов графического процессора и центрального процессора на хост-компьютере.
    • Поставщики API: это приведет к большому количеству вызовов API (хотя обычно количество токенов очень мало). Следите за ограничениями скорости вашего провайдера (количество запросов в минуту/RPM и количество токенов в минуту/TPM), чтобы избежать перебоев в работе.

    предупреждение

    Для многопользовательских экземпляров, работающих на ограниченном локальном оборудовании, мы рекомендуем отключить автозаполнение, чтобы ресурсы расходовались только на создание чата.