Как работать с ИИ, 19 октября. Четыре приёма: назначь агенту владельца

Сегодня четыре приёма. Кто отвечает за работу ИИ-агента, чем разгрузить сильную модель, как относиться к цифрам из пересказа и как научить команду без лекций.

Программистом быть не нужно. К каждому приёму добавил своё мнение и пример из салона.

Назначь каждому агенту владельца с именем и читай его правки, как правки коллеги#

Майк Каннон-Брукс, глава Atlassian, 19 октября сказал Fortune, что ссылаться на ИИ при ошибке нельзя. Если человек работает в ChatGPT, то, по его словам, «это Майк пользуется ChatGPT, а не ChatGPT что-то делает». И дальше. «Ответственность на Майке. В конечном счёте она на пользователе».

6 октября Atlassian запустила протокол, в котором агенты видны как участники команды. У каждого свой профиль и названный владелец. Правки агента попадают в историю документа так же, как правки коллеги. «Нужно видеть, кто что и когда сделал», говорит Каннон-Брукс.

Личные ИИ-инструменты он считает нормальными для личной работы, но не для общей. В общей работе диаграмма из внутренних документов может утечь, если её неосторожно показать.

Простыми словами. За агента отвечает тот, кто его запустил. Поэтому у каждого агента должно быть имя человека и след его правок.

Что я думаю. Агент ответил клиенту в чате, что трейд-ин стоит 900 000. Через день клиент пришёл с этой цифрой. Если у агента нет владельца, виноватым окажется «система», а клиент будет стоять напротив продавца.

Я бы завёл таблицу на одну страницу. Агент, что он может делать, кто его владелец, кто читает его переписку по пятницам. В инструкции агента первой строкой пишу так. «Ты помощник продавца Ивана. Любой ответ с ценой, платежом или сроком помечай "черновик Ивана" и не отправляй, пока он не одобрит».

ИИ готовит, человек решает и отвечает. Если за агента не отвечает никто, его нужно выключить.

Источник Fortune

Простую сортировку заявок отдай дешёвой модели, дорогую оставь для сложных ответов#

Джейсон Лемкин, основатель SaaStr, на этой неделе разобрал новости из мира ИИ-программ. Он пишет, что модель Claude Haiku 5.5 на запросах короче 100 000 токенов стоит на 90% дешевле Haiku 4.5. Для значительной части его задач она, по его словам, почти не уступает Sonnet. Лемкин отмечает, что впервые за два года его расходы на ИИ упали.

Там же он описывает «модель решений». Она возвращает не текст, а решение и оценку уверенности. Лемкин использует её в работе и говорит, что она угадывает 70–80% тщательно описанных решений. По его оценке, такие задачи это около 10% всех применений ИИ. Это сортировка, маршрутизация и ответы «да или нет».

Простыми словами. Не всякой задаче нужен дорогой ИИ. Разложить письма по папкам умеет и дешёвый, а текст клиенту лучше писать сильной моделью.

Что я думаю. Ночная заявка приходит одним куском текста. «Здравствуйте, сколько стоит Kia Sportage в кредит, и ещё у меня в субботу ТО». Ей нужна метка, а не красивый текст.

Я бы дал дешёвой модели такой запрос. «Прочитай обращение и выбери одно слово из списка, купить, цена, сервис, спам, непонятно. Если не уверен, пиши непонятно». Ответ клиенту пишет сильная модель, и перед отправкой его читает продавец.

Первые 20 заявок я бы сверил с тем, как разложил бы сам. Если ошибок больше трёх, запрос нужно переписать.

Нет записи по каждому обращению, нет отдела продаж. Метка каждой заявки и время её присвоения должны лежать в карточке клиента.

Источник SaaStr

Цифру из пересказа с безымянными источниками считай предварительной и ищи первоисточник#

Саймон Уиллисон, программист и автор одного из самых читаемых блогов про ИИ, 15 октября разобрал сообщение Financial Times о выручке Anthropic. Газета пишет, что компания сказала инвесторам, что выручка за третий квартал выросла почти на 50% до 16,8 млрд долларов. Уиллисон обращает внимание, что цифры идут со слов людей, знающих дело, а не из официальных отчётов. Слова «сказали инвесторам» в статье повторяются четыре раза.

Свою оценку расходов соперников на копирование моделей Anthropic он называет прикидкой на салфетке, а не сообщённым фактом.

Простыми словами. Если цифра дошла через «источники», она ещё не проверена. Пока не нашёл первоисточник, считай её предварительной.

Что я думаю. Руководитель отдела продаж читает в рассылке, что китайские марки забрали четверть рынка, и несёт это на планёрку. Цифра могла прийти из пресс-релиза поставщика. Потом он объясняет её собственнику как факт.

Я бы просил ИИ размечать цифры в любом тексте перед тем, как нести их людям. Запрос такой. «Для каждой цифры в тексте напиши, кто её назвал и есть ли ссылка на первоисточник. Цифры без ссылки пометь словом "предварительно"». Ссылки я бы открывал сам, ИИ тоже ошибается в адресах.

Источник Simon Willison's Weblog

Покажи команде один рабочий пример вместо рассказа об ИИ#

Редакция Every, издание о работе с ИИ, 18 октября дала совет командам. Не объяснять ИИ в общих словах, а показать коллегам один работающий приём в рабочем чате. Один удачный пример разойдётся по команде быстрее лекции.

В этом выпуске есть живой пример. Бекки Иджвара из Every использует корпоративного агента как наставника для новичков. В материале лежат запросы, которые она советует попробовать новому сотруднику в первый день.

Простыми словами. Люди учатся на готовом примере, который сработал у коллеги, а не на рассказе, как устроен ИИ.

Что я думаю. Руководитель отдела продаж собирает всех на совещание про ИИ и час рассказывает про возможности. Через неделю пользуются двое. Продавцы видят слайды, а не свою работу.

Я бы выбрал одного продавца, который сегодня отдал ИИ письмо после тест-драйва. И попросил бы выложить в общий чат три вещи. Что он попросил, что получил, что поправил.

Фраза такая. «Вот мой запрос, вот ответ ИИ, вот что я исправил. Берите запрос и подставляйте своего клиента». Новичку в первый день я бы дал три запроса из этого чата.

ИИ не заменяет менеджера, он показывает, кто не делал работу. Если после показа у продавца ничего не изменилось, разговор уже не про ИИ.

Источник Every

Что посмотреть#

Это свежие выпуски за двое суток. Я их ещё не разбирал, описание даю по названию и анонсу.

• OpenAI. Новый ChatGPT Voice на GPT Live, выпуск от 19 октября, страницу с описанием функции открыть не удалось, поэтому разбора нет
• AI Engineer. Хватит объяснять агентам, как делать, команда OpenProse о задачах для агентов в виде договора на простом тексте
• AI Engineer. Проверки для агентов, где ошибка стоит дорого, Langfuse на примере банковского помощника
• AI Engineer. Почему ИИ-агенты до сих пор ничего не платят, Ян Курн из Apify о платежах агентов
• AI Engineer. Проверь агента на вчерашнем интернете, Райан Ахерн из Exa о том, как проверить решения агента задним числом
• Lenny's Podcast. Влюбись в проблему, а не в продукт, Джош Вудворд из Google Labs о сигнале, по которому он оценивает первые прототипы