Как поставить задачу ИИ-агенту: что показал эксперимент Anthropic
Агенты Claude менялись книгами за 201 сотрудника Anthropic. 85% недобора случились до сделки: агент не понял человека. Наш агент за месяц переспросил 612 раз.
Сам Решу
26 сентября 2026 г. · 6 мин чтения
Содержание
Anthropic раздала агентам Claude книги 201 сотрудника и отправила их меняться. Торговались агенты нормально. Проигрывали они в другом месте, раньше сделки: в пятиминутном разговоре, где агент выяснял, что человек любит читать.
На этот разговор пришлось 85% недобора. На сами переговоры 15%.
Я прочитал отчёт об эксперименте (Anthropic назвала его Project Swap, опубликован 24 сентября) и полез в нашу базу. Мы делаем ИИ-агента для малого бизнеса, и у нас агент тоже постоянно упирается в то, чего человек ему не сказал. Цифры ниже из обоих источников.
Что проверяла Anthropic
Схема простая. Каждый участник принёс книгу, которую готов отдать, и пять минут поговорил с Claude о своих вкусах. Дальше люди не участвовали: агенты сами выходили на площадку обмена и договаривались между собой. Части агентов велели быть жёсткими, части доброжелательными.
Результат замеряли по личному списку каждого участника. Если бы каждый получил лучшую книгу, какая вообще была ему доступна, итог был бы 0,89. Получилось 0,55: в среднем книга из середины списка.
Дальше Anthropic разложила разрыв на части:
- агент угадывал, какая из двух книг человеку понравится больше, в 61% пар. Монетка дала бы 50%;
- 85% недобора объясняются тем, что агент плохо понял предпочтения;
- 15% объясняются тем, что он плохо торговался;
- «жёсткий» агент обогнал «доброжелательного» на 0,02. Почти ничего;
- модель сильнее помогала заметно: у Opus 0,88, у Haiku 0,75 по меркам того, как сам Claude понял вкусы участника.
Отдельная деталь, которая мне нравится больше всех цифр. Часть участников книгу так и не получила: обмен договорился, а доставку никто не отслеживал. Ещё кто-то получил книгу, которую уже читал. И один человек пожаловался, что его агент торговался слишком покорно.
После эксперимента участники сказали, что доверили бы агенту около 30% годового бюджета на книги. Другу, которому доверяют, отдали бы 40%.
Как поставить задачу ИИ-агенту, если брифа мало
Типичный совет в статьях про промпт для ИИ-агента звучит так: опишите задачу подробно, укажите роль, формат, ограничения, приведите пример. Совет правильный. Только эксперимент Anthropic показывает, где он перестаёт работать.
У участников было пять минут и собеседник, который задаёт вопросы. Это лучше большинства ТЗ, которые люди пишут агенту в рабочем чате. И всё равно агент понял вкусы на 61% против 50% у случайного выбора.
Я думаю, дело не в том, что люди плохо формулируют. Большую часть того, что важно, человек не вспомнит заранее. Про книги, которые он уже читал, участник не говорит, потому что это очевидно. Про то, что сделка должна закончиться посылкой в руках, тоже.
В бизнесе таких очевидностей больше. Вы знаете, что комплект из пяти упаковок продаётся одной позицией. Что «Александр» в комментарии к сделке это менеджер, а не клиент. Что склад в Дубне в расчёт закупки не входит. Агент этого не знает, и ни один шаблон промпта не заставит вас вспомнить всё это до начала работы.
Что агент спрашивает у наших пользователей
За последние 30 дней (до 25 сентября) наш агент остановился и задал уточняющий вопрос 612 раз, у 61 человека. Это отдельная карточка в чате: вопрос, иногда варианты ответа, и работа стоит, пока человек не ответит.
Я выгрузил случайные вопросы и убрал из них имена и реквизиты. Вот какие попадаются:
- «Что означает „Продажа <имя> <имя>“ в комментарии: кому и за что начислять продажу?»
- «Какие ставки действуют для алмазной проточки и латок, холодной и горячей? Фикс за штуку или процент от суммы?» Агент считал зарплату мастерам, и этих ставок не было ни в правилах, ни в прошлых расчётах.
- «Точного совпадения в каталоге нет, а подмена изменит учёт товара». Дальше два варианта: завести шприц на 50 мл отдельной позицией или провести по существующей карточке.
- «В заголовках товаров стоит количество: 5 и 10. Умножать цену на число упаковок или все четыре товара продаются поштучно?»
- «Напишите дневной лимит отдельно для Ozon и Директа». Агент нашёл 36 товаров под рекламу и не стал запускать кампании с неизвестным бюджетом.
Ни один из этих вопросов не про то, как сделать работу. Агент знает, как провести приёмку в МойСклад и как настроить кампанию. Спрашивает он про то, чего хочет человек, и это ровно то место, где проиграли агенты Anthropic.
Ответили на 475 вопросов из 612. Медиана ответа 66 секунд. Ещё в 56 случаях человек вместо ответа написал что-то другое, и агент пошёл по новой просьбе. Остальные вопросы остались без ответа: человек ушёл, и задача встала.
Делегировать ИИ: сколько стоит одна минута
66 секунд выглядят как мелочь. Но посчитайте, что было бы без вопроса. Если агент сам решит, что «5 и 10» в заголовке это просто цифры, цены на четыре товара уедут в пять или десять раз ниже. Если проведёт шприц по чужой карточке, остатки разъедутся, и следующая инвентаризация покажет недостачу, которой нет.
Поэтому я не согласен с идеей, что хороший агент это агент, который ничего не спрашивает. Такой агент либо работает на очень узкой задаче, либо угадывает. Агенты в эксперименте Anthropic не могли ничего переспросить после пяти минут разговора и угадывали на 61%.
Уступка здесь тоже есть. Вопрос стоит денег, если его можно было не задавать. Агент, который спрашивает «на какой склад?», когда склад один, раздражает быстрее, чем ошибается. Поэтому то, что человек однажды ответил, агент должен запоминать: ставки мастеров, правила по комплектам, лимиты рекламы. Как устроена такая память, мы разбирали отдельно.
Работа с ИИ-агентами: подтверждение не равно пониманию
У нас есть второй тип остановки: агент просит подтвердить необратимое действие. Провести документы, отправить заказ, запустить рекламу. За те же 30 дней таких карточек было 439, у 27 человек.
Медиана ответа на подтверждение 9,6 секунды. Против 66 секунд на уточняющий вопрос.
Я пока не знаю, как это читать. Может быть, подтверждение приходит, когда всё уже понятно, и человек просто жмёт «да». А может быть, люди жмут, не читая. Эксперимент Anthropic намекает на второе как на риск: книга уехала не тому, потому что никто не проверил. Про то, что владелец видит на необратимом шаге и что остаётся в журнале, у нас есть отдельный текст.
Что я бы сделал, отдавая агенту задачу
Сам бриф пишите коротко. Длинное ТЗ не закроет того, чего вы не вспомните. Потом проверьте три вещи.
Во-первых, может ли агент остановиться и спросить посреди работы, или он дойдёт до конца с тем, что понял в начале. В эксперименте Anthropic не мог, и это стоило больше, чем любая слабость в переговорах.
Во-вторых, запоминает ли он ответ. Если на вопрос про ставки придётся отвечать каждый месяц, вы перестанете отвечать и начнёте писать ТЗ заново.
В-третьих, видно ли, чем закончилось дело. Сделка без доставки у Anthropic выглядела как успех. Что делать, если агент не получил ответа от маркетплейса или банка, мы разбирали здесь, а про задачи, которые идут ночью без вас, здесь.
Модель сильнее, кстати, тоже помогает: разница между Opus и Haiku в эксперименте (0,13) в шесть раз больше, чем между жёсткими и мягкими инструкциями. То есть «будь настойчивее» в промпте почти ничего не даёт.
Мы делаем Сам Решу: ИИ-агента, который работает в 1С, МойСклад, кабинетах маркетплейсов и CRM, спрашивает, когда не хватает данных, и отдаёт необратимое на подтверждение. Цифры про вопросы выше взяты из его работы.
Источники
- Anthropic, «Project Swap: What happens when agents trade for us?», 24.09.2026: 201 участник, шесть офисов, книжный обмен агентами Claude.
- Данные Сам Решу: уточняющие вопросы и подтверждения агента за 26.08–25.09.2026. Вопросы обезличены.
- Яндекс Wordstat, Россия, данные на 25.09.2026: «как поставить задачу ИИ», «промпт для ИИ-агента», «делегировать ИИ», «работа с ИИ-агентами».
- Наши статьи: память ИИ-агента, что видит владелец, ошибки ИИ-агента, задача на ночь.
Применить на практике
Подключите свои сервисы и поручите эту задачу ИИ-агенту: без ручной рутины и таблиц.