Главная  /  ИИ-агенты  /  Оптимизация ИИ-процессов
Расход и скорость под контролем

Оптимизация ИИ-процессов в компаниях сферы недвижимости

ИИ у застройщика, агентства или управляющей компании расходует слишком много или отвечает медленно – частая жалоба после первого внедрения. Разбираем, на что уходят токены и время, и перестраиваем процесс: модель, длину запросов, порядок шагов, повторное использование контекста.
Расход по задачамДокументОтчётОтветдопослеВремя ответамодельконтексткэшКачество ответовна контрольном наборе

Что проверяем

Шесть причин, из-за которых ИИ-процесс работает медленно или расходует много.

Выбор модели

Для простых шагов – быстрая модель, для сложных – старшая. Одна модель на все задачи увеличивает расход.

Длина запроса

Лишний контекст в каждом запросе оплачивается каждый раз. Сокращаем его до нужного.

Кэш и повторное использование

Постоянная часть запроса – регламенты и шаблоны – кэшируется, повторные обращения к ней стоят меньше.

Порядок шагов

Параллельные шаги и пакетная обработка сокращают время там, где ответ не нужен сразу.

Проверки и повторы

Находим шаги, где агент выполняет работу дважды из-за нечёткого правила.

Учёт расхода

Отчёт по задачам: сколько стоит один документ, один отчёт, один ответ.

Как идёт оптимизация

Четыре шага. Качество ответов проверяем до и после изменений.
01

Замер

Фиксируем текущий расход и время ответа по каждой задаче.
02

Разбор

Смотрим журнал запросов: модель, длина контекста, число шагов и повторов.
03

Изменения

Меняем модель, запросы и порядок шагов, включаем кэш.
04

Контроль

Сравниваем расход, время и качество на контрольном наборе задач.

Кто отвечает за ваш проект

Илона Евстюнина, основатель 7Agents

Илона Евстюнина

Основатель 7Agents и агентства Lucky Leads, практикующий маркетолог
ТОП-20недвижимость

ТОП-20 разработчиков сайтов для сферы недвижимости

2019год старта

Команда в штате с 2019 года

ИИкаждый день

ИИ-агенты в собственной работе

ТОП-10Tilda

ТОП-10 разработчиков России на Tilda

5+лет в отрасли

5+ лет работы в сфере недвижимости

Вопросы об оптимизации

Почему ИИ расходует много?

Можно ли оптимизировать процесс, который настраивала другая команда?

Снизится ли качество ответов?

Как узнать, сколько стоит один документ?

Назовите одну задачу – покажем, как её выполнит агент

Пять вопросов о задаче и компании. Затем созвон 30 минут: разберём процесс, данные и состав пилота и направим расчёт.
Made on
Tilda