Как работать с ИИ, 12 октября. Пять приёмов: спроси ИИ о себе, запрет ставь в систему

Сегодня пять приёмов про то, как держать ИИ под контролем и самому не пропасть из его ответов. Их дали основатель SaaStr, технический директор Workday, глава Every и Google. Программистом для них быть не нужно.

К каждому совету добавил своё мнение. Показываю, как это работает в салоне и в разговоре с человеком, который выбирает машину.

Раз в две недели спрашивай ИИ, кого он советует в твоей категории#

Джейсон Лемкин, основатель SaaStr, разобрал свежий выпуск подкаста 20VC. В эфире он спросил ИИ-агента, где разместить приложение. Агент поставил первым сервис Render с пометкой «мой выбор». Известный Vercel оказался пятым с пометкой «не подходит для этой задачи».

Лемкин пишет, что Render получил от него готовую заявку без продавца и рекламы. По данным самого Vercel, доля запусков, которые делают агенты, была ниже 3%, а стала выше 50%.

Совет у него такой. Раз в две недели проси 10 знакомых, у которых работают агенты, задать вопрос о твоей категории. Записывай, на каком ты месте. Готового продукта для такой проверки Лемкин не знает.

Простыми словами. Клиент спрашивает не тебя, а своего ИИ. Узнай, что тот отвечает, пока это не узнал конкурент.

Что я думаю. Сегодня в новостях есть замер по дилерам США. ИИ называет покупателю три–шесть салонов и не смотрит на число отзывов. Дилер об этом списке обычно не знает.

Я бы завёл таблицу и раз в две недели задавал один и тот же вопрос в ChatGPT и Gemini. «Где в Казани купить Kia в кредит и сдать старую машину в трейд-ин? Назови три салона и объясни выбор». В таблице дата, назвали ли нас, на каком месте и что о нас сказано. Ошибку в телефоне или адресе я бы правил в тот же день.

Источник SaaStr

Запрет, который нельзя нарушать, ставь в систему, а не в инструкцию#

Гейб Монрой, технический директор Workday, 11 октября написал колонку для VentureBeat. Его мысль такая. Агент может выполнить каждое действие без ошибки и всё равно нарушить правила компании. Он сам решает, какой инструмент вызвать и когда.

Пример из колонки. Агент оформляет подрядчика из другой страны и пропускает проверку местного трудового права и налогов. Каждый шаг прошёл, задача провалена. Длинный список правил в инструкции Монрой считает слабой защитой. Он пишет, что инструкция это просьба, а не гарантия.

Его решение состоит из трёх частей. Агент видит только те сведения, на которые есть право. Каждое действие проходит ту же проверку, что и действие человека. Действует агент от имени конкретного сотрудника, без общего ключа ко всему. Поставщика Монрой советует спросить, где работают ограничения.

Простыми словами. Написать ИИ «так не делай» мало. Надо сделать так, чтобы он не мог.

Что я думаю. В салоне есть правила, за которые платят деньгами. Скидка выше лимита, цена трейд-ина без осмотра, обещание срока поставки. Фраза «не давай скидку больше 3%» в инструкции агента однажды не сработает.

Я бы закрыл это в самой CRM. Агент не может записать в сделку скидку выше лимита, поле открывает только РОП. Поставщику я бы задал вопрос Монроя. «Где срабатывает запрет, в тексте инструкции или в системе?» ИИ готовит, человек решает и отвечает.

Источник VentureBeat

Исправил ответ ИИ, попроси сохранить правку как правило#

Дэн Шиппер, глава Every, 6 октября описал общего агента, с которым его компания работает почти полгода. Один из приёмов касается ошибок. Когда агент ошибся, его поправляют прямо в переписке и просят запомнить правку.

Пример из статьи. Агент подготовил письмо, в котором слиплись абзацы. Сотрудник Брэндон Гелл попросил исправить черновик и обновить сам навык. Теперь агент перед сдачей проверяет, как письмо выглядит у получателя.

Удачную работу сохраняют так же. Агента просят записать её как навык, и запустить его может любой в команде вместе со всеми правками.

Простыми словами. Одну и ту же ошибку не исправляй дважды. Исправил, сразу преврати правку в правило.

Что я думаю. Продавец просит ассистента написать ответ на заявку. Ассистент называет цену и не пишет, до какого числа она действует. Продавец дописывает руками сегодня, завтра и через неделю.

Я бы сказал один раз. «Исправь и запомни правило. В каждом ответе с ценой указывай дату, до которой цена действует, и что входит в цену». Там, где у ассистента нет памяти, я бы держал файл «Правила ответов клиентам» и вставлял его в начало чата. Файл общий на весь отдел.

Источник Every

Работай с ИИ в общем чате команды, а не в личном#

В той же статье Шиппер объясняет, почему Every отказалась от личных агентов. С марта у каждого сотрудника был свой. Потом компания заменила их одним общим, который работает в открытых ветках рабочего чата.

11 октября рассылка Every добавила подробности. Сотрудник Уилли Уильямс говорит, что личные боты почти все умерли. Их было трудно поддерживать, и никто не помнил, какой что делает. Шиппер заметил другое. Люди больше всего учились, когда смотрели, как с агентом работает коллега.

В общем чате все видят и запрос, и правки к нему.

Простыми словами. Удачный запрос в личном чате видит один человек. В общем чате его видит и повторяет весь отдел.

Что я думаю. В отделе продаж один продавец уже нашёл, как просить ИИ готовить ответ на «дорого». Остальные пятеро об этом не знают. Его приём живёт в его телефоне.

Я бы завёл общий чат отдела с ассистентом. Правило одно, запрос к ИИ по рабочей задаче пишем там. Телефоны и документы клиентов в чат не вставляем. Через месяц РОП видит, кто готовится к звонкам, а кто нет. ИИ не заменяет менеджера, он показывает, кто не делал работу.

Источник Every

Дай агенту отдельную учётную запись и открывай ему только нужные файлы#

Google 8 октября показала на конференции Gemini at Work универсального агента Gemini для работы. Об этом пишет VentureBeat. Агент берёт цель, сам делит её на шаги и может работать несколько дней. Пока он доступен избранным клиентам в закрытом тесте.

Из описания видно, как Google ограничивает агента. У него может быть своя учётная запись с почтой и диском. Он видит только те файлы, которыми с ним поделились. Каждое действие попадает в журнал. Лимит расходов по проекту останавливает агента, когда бюджет кончился.

Google не подтвердила, что такие сервисы получит каждый агент. Сторонних проверок надёжности на длинных задачах тоже нет.

Простыми словами. Агент это новый сотрудник. Ему дают свой пропуск и ключ от одной комнаты, а не от всего здания.

Что я думаю. Чаще делают наоборот. Агента пускают в почту продавца, и он пишет клиентам от его имени. Через месяц никто не разберёт, что написал человек, а что программа.

Я бы дал агенту свой адрес и свою подпись. Открыл бы ему одну папку с прайсами, акциями и условиями кредита. Журнал его действий я бы смотрел раз в неделю. Нет записи по каждому обращению, нет отдела продаж, и к агенту это относится так же, как к продавцу.

Источник VentureBeat

Что посмотреть#

Это свежие выпуски и доклады за двое суток. Я их ещё не разбирал, описание даю по названию.

• Lenny's Podcast. Почему каждой компании пора работать как лаборатория, разговор с Джошем Вудвордом, вице-президентом Google Labs
• AI Engineer. Как измерять ИИ-агентов так же, как сотрудников, доклад Druid AI о том, почему доля закрытых обращений обманывает
• AI Engineer. Как утекают секреты через ИИ-агентов и как это остановить, доклад Venice AI о паролях и ключах
• AI Engineer. Как улучшать агента навыками, не меняя модель, доклад Шубханкара Шриваставы из Browserbase
• AI Engineer. Как построить для агента цикл самообучения, доклад Фуада Али из Arize AI
• AI Engineer. Как я превратил хранилище Obsidian в локального ИИ-инженера, доклад Филипа Макрадули из Superlinked