Перейти к содержанию
Мышление с AI

Быстрее всех в отделе и не может объяснить третий абзац: когда AI съедает суждение

AI собрал записку за пять минут. Факты верны, вывод звучит убедительно. Но на вопрос руководителя «Почему именно так?» ответить нечего. Разбираем, где нейросеть незаметно делает выбор за вас и как проверить рекомендацию, прежде чем подписаться под ней.

AI написал. А отвечать вам. На совещании руководитель спрашивает, почему предложено именно это решение, а автор записки не может объяснить вывод.

Представьте совещание. Компания переводит внутренние заявки из старых таблиц в новую единую систему. Месяц шёл пилот в отделе закупок, и теперь нужно решить, подключать ли в понедельник к системе все три отдела сразу: закупки, службу эксплуатации (АХО) и сметчиков.

Вы раньше всех загрузили отчёты и переписку проекта в AI, за пять минут собрали гладкий черновик служебной записки и принесли на встречу. Руководитель доходит до итогового третьего абзаца:

«Пилот в отделе закупок прошёл успешно: все 46 обычных заявок закрыты, а доступы для всех трёх отделов уже открыты. Работу со срочными аварийными вызовами и прикреплёнными файлами смет в пилоте не проверяли, а двое кураторов запуска возвращаются к своим основным задачам. Рекомендуется запустить все три отдела в этот понедельник, а вопросы поддержки и непроверенных маршрутов решать в рабочем порядке — это позволит вовремя собрать общую сводку к концу месяца».

Руководитель поднимает глаза от текста и спрашивает: «Почему вы рекомендуете перевести всех именно в понедельник?»

Вы помните фактуру: пилот успешный, доступы есть, даже ограничения в абзаце честно перечислены. Но почему из этого следует общий запуск — объяснить не получается.

Все факты в абзаце верны. Проблема в другом: модель молча сделала выбор за вас — решила, что ради красивой даты отчёта допустимо запускать сырой процесс без людей на поддержке.

В данном случае мы имеем дело с двумя понятиями: "достоверной сводкой" и "обоснованной рекомендацией". Достоверная сводка отвечает на вопрос «что мы знаем?». Обоснованная рекомендация отвечает на вопрос «почему из этого следует именно такой шаг?». Между ними всегда лежит критерий выбора: что для нас сейчас важнее и какую цену мы готовы заплатить. Когда факты и вывод написаны одним и тем же уверенным, обтекаемым тоном AI, этот переход исчезает.

Скептик: «Решение-то ты принимал?» Адепт с печатью «Согласен»: «Да. Я решил не спорить с AI».

Три ловушки, которые AI гладко замёл под ковёр

Когда мы просим модель «сделать выжимку и предложить решение», она идёт по пути наименьшего сопротивления: видит в поручении слово «понедельник», а в заголовке отчёта — слово «успешно». Значит, нужно рекомендовать запуск в понедельник, а все проблемы аккуратно упаковать во вторую половину фразы («решать в рабочем порядке»).

Но если заглянуть в исходную папку проекта (в конце статьи мы дадим все 10 коротких документов, чтобы вы могли проверить на них свой AI), выясняется, что модель склеила разнородные факты и пропустила три управленческих разрыва:

  • Ловушка 1. Иллюзия слова «успешно»

    • Что было в отчёте о пилоте: «Все 46 тестовых заявок отдела закупок закрыты без сбоев».
    • Что нашлось в приложении и письмах: все эти заявки вручную помогали распределять двое прикомандированных сотрудников рабочей группы. В понедельник они уходят обратно в свой проект, а замену им не назначили.
    • Что упустил AI: успех пилота держится на людях, которые в понедельник уйдут. Сам отдел закупок прямо просит не расширять систему, пока им не дадут человека на поддержку.
  • Ловушка 2. Работающая кнопка вместо проверенного процесса

    • Что написали айтишники: «Доступы открыты, прикрепление файлов в системе технически работает».
    • Что пишут сметчики: «Мы ещё ни разу не проводили по маршруту реальную заявку с прикреплёнными чертежами и сметами. Сколько таких заявок пойдёт в понедельник — никто не считал, нужен совместный прогон».
    • Что упустил AI: модель поставила знак равенства между «кнопка нажимается» и «отдел готов к работе». Подключать сметчиков вслепую — значит рисковать остановкой их работы в первый же день.
  • Ловушка 3. Скрытая цена компромисса («давайте начнём с малого»)

    • Что предлагает служба эксплуатации (АХО): перевести в понедельник только простые заявки, а срочные аварийные вызовы пока оставить в старом журнале у дежурного.
    • О чём предупреждают операционный руководитель и владелец проекта: запускаться по частям можно, но тогда заявки начнут теряться и задваиваться на стыке двух систем. Нужен выделенный человек, который будет каждый вечер вручную сверять старый и новый журналы, и понятное правило передачи срочных вызовов дежурному. А в отчёте для руководства придётся честно пометить, что сводка пока неполная.
    • Что упустил AI: даже осторожный поэтапный запуск не бесплатен — у него есть конкретная организационная цена в виде ручной сверки двух таблиц.

Три вопроса, которые возвращают суждение человеку

Поручать AI стоит не выбор решения, а поиск таких перекрёстных связей: в одном документе лежит результат, в другом — условие, за счёт которого его получили, в третьем — новость о том, что это условие в понедельник исчезнет.

Когда эти связки выложены на стол, вместо гладкой отписки появляется пространство для взрослого решения. Оно собирается через три вопроса:

1. Что для нас главное в точке выбора? (Критерий)

В исходном поручении никто не требовал запускаться в понедельник любой ценой — дата была названа как желательная. Поэтому мы явно вводим свой рабочий критерий: переводить в новую систему только те участки, где процесс уже проверен и обеспечен людьми. Важно помнить: это наш предлагаемый принцип для совещания, а не спущенное сверху правило.

2. При каком условии мы изменим решение? (Границы пересмотра)

  • Когда можно запускать всех сразу: если до понедельника успеют прогнать тестовую заявку с файлами у сметчиков, настроят маршрут срочных вызовов у АХО, назначат человека на поддержку и оценят, сколько времени займёт ручная сверка, если всё же придётся откатиться назад.
  • Когда нужно отложить вообще всё: если к понедельнику не найдут человека на поддержку и на ежедневную сверку двух журналов — тогда нельзя запускать даже частичный переход.

3. Как теперь звучит ваш третий абзац?

Когда вы понимаете критерий, цену и условия пересмотра, третий абзац записки меняется. Теперь в нём нет ни одной фразы, которую вы не смогли бы защитить перед руководителем:

«В понедельник предлагаю перевести в систему только обычные заявки без вложений в двух отделах — закупках и АХО. Мы опираемся на то, что уже проверено в пилоте, и осознанно берём на себя временную нагрузку по ведению двух журналов. Такой запуск возможен, если до понедельника решены три вопроса: — назначен сотрудник на поддержку вместо уходящих кураторов пилота (без этого нельзя оставлять в системе даже отдел закупок); — выделен ответственный за ежедневную сверку старого и нового журналов, а дежурный АХО понимает порядок приёма срочных заявок; — в итоговой сводке для руководства явно указано, что отчёт пока охватывает не все потоки. Если эти условия к понедельнику не закрыты, расширение переносим до их выполнения».

Заметьте: жёсткий запуск всех трёх отделов в понедельник тоже можно предложить — но при другом приоритете. Тогда на совещании нужно прямо сказать: «Мы ставим дату общей сводки выше бесперебойной работы, поэтому осознанно идём на риск зависания смет и срочных заявок и готовы вручную сверять таблицы при сбое». Одних верных фактов для такого выбора недостаточно — нужно явное согласие на цену риска.

Попробуйте на этом пакете или своей задаче

Ниже — те самые 10 коротких документов из папки проекта (сцена, документы и цифры вымышлены и составлены специально для разбора). Вы можете прямо сейчас проверить, как поведёт себя ваша привычная языковая модель.

Шаг 1. Скопируйте в чат с AI папку проекта

Папка проекта (10 документов):

  1. Поручение. Желательно запустить три подразделения (закупки, АХО, сметный отдел) в понедельник, чтобы к концу месяца видеть все заявки в одном реестре. Можно предложить другой срок или охват. Жёсткого приоритета даты над бесперебойностью нет.
  2. Отчёт о пилоте. Отдел закупок провёл 46 обычных заявок, все закрыты. Срочных вызовов и заявок с прикреплёнными файлами не было. Заголовок: «Пилот завершён успешно».
  3. Приложение к отчёту. Два сотрудника рабочей группы вручную помогали распределять заявки и отвечали на вопросы. После запуска они возвращаются к своей основной работе. Замена им не назначена.
  4. Сообщение технической команды. Доступы трёх отделов проверены. Прикрепление файлов технически поддерживается, но маршрут в пилоте не испытывали. Вернуться к прежним журналам при сбое можно в тот же день, но записи придётся сверять вручную (трудоёмкость неизвестна).
  5. Письмо отдела закупок. Готовы продолжить обычные заявки. До подключения других отделов просят назначить поддержку вместо уходящей рабочей группы.
  6. Письмо службы эксплуатации (АХО). Готовы подключить обычные заявки. Срочные аварийные заявки пока остаются в старом журнале у дежурного. Порядок передачи срочных заявок из нового реестра дежурному ещё не согласован. Предлагают начать с обычных.
  7. Письмо сметного отдела. Сотрудники прошли инструктаж, но типовую заявку с вложением (сметой и чертежом) по маршруту ещё не проводили. До полного перехода просят совместный тестовый прогон. Доля таких заявок в потоке неизвестна.
  8. Позиция операционного руководителя. Работа в двух параллельных журналах требует ежедневной ручной сверки и ясного разделения потоков, иначе возникнут дубли и потери. Ответственный за сверку не назначен, нагрузка не оценена.
  9. Позиция владельца проекта. При поэтапном переходе сводка в новом реестре будет неполной — в ней нужно явно указывать реальный охват. Переход по частям допустим, если определены его границы и правила работы со старым журналом.
  10. Повестка совещания. Решить, кого запускаем в понедельник, кто отвечает за поддержку, как работаем со срочными заявками и файлами, как обеспечиваем прозрачность сводки. Допустимость сбоев ради даты не определена.

Шаг 2. Задайте промпт, который не позволяет AI спрятать выбор

Вместо просьбы «сделай выжимку и дай рекомендацию» отправьте модели такой запрос:

Сопоставь документы: что подтверждено на практике, для каких отделов и при каких ограничениях. 

Покажи противоречия и связки между источниками (укажи их номера и названия). Отдели твёрдые факты от своих предположений. Сравни три варианта: общий запуск в понедельник, частичный запуск и перенос сроков — покажи их основания, организационную цену и нерешённые условия. Не считай дату из поручения обязательным приоритетом. Укажи, какие новые вводные изменят выбор в пользу другого варианта.

Предложи рекомендацию и явно назови критерий, на котором она основана. Укажи, что должен проверить и принять человек, какие условия необходимы для запуска и какие новые сведения изменят выбор. Объясни, при каком другом приоритете можно обосновать иной вариант. Не выдавай предложенные меры за уже выполненные.

Сверьте ответ модели по трём точкам: не исчезла ли ручная помощь кураторов из рассказа об «успешном пилоте», не превратилась ли техническая работа кнопки вложений в готовность сметного отдела и не выдаются ли условия частичного запуска за уже решённые вопросы.

Памятка для ваших рабочих записок

Перед отправкой следующего документа выделите рекомендацию и проверьте, можете ли вы ответить:

  • Что делаем? (Конкретный шаг)
  • На чём стоим? (Факты с учётом реальных ограничений, а не только заголовков)
  • Что для нас главное? (Какой критерий мы ставим во главу угла: скорость, надёжность, экономию ресурса)
  • Чем платим? (Какую неудобную работу или риск мы осознанно берём на себя при этом выборе)
  • Когда передумаем? (При каком условии решение нужно отменить или расширить)

Для разбора с AI используйте инструмент, разрешённый организацией, и допустимые для передачи данные. Без AI те же вопросы можно разобрать по документам. Они возвращают вас к месту, где сведения превращаются в выбор: теперь на вопрос «Почему именно так?» есть ответ, который можно обсудить и изменить.

Обоснованная рекомендация = действие + основания + критерий + принятая цена + условие пересмотра.

Мышление с AI
Александр Шалаев

Автор

Александр Шалаев

Активно внедряю лучшие AI-инструменты и практики в своей команде и в смежных командах большой организации


Похожие записи

Мышление с AI AI: Фундамент 27 мин. чтения

Как ставить задачу: от заклинаний к ясному заданию

Руководитель ждёт записку о внедрении AI, а чат выдаёт гладкую корпоративную воду. В третьем выпуске «AI: Фундамент» разбираем, почему «волшебные фразы», чаевые и титулы не работают — и из каких семи опор состоит ясное задание.

Как ставить задачу: от заклинаний к ясному заданию
Мышление с AI AI: Фундамент 26 мин. чтения

Что видит модель: контекст, память и ваши документы

Том загружает всю папку по закупкам и получает ответ по прошлогодним правилам. Чат, который вчера «помнил» Анну, сегодня её забыл. Во втором выпуске «AI: Фундамент» — контекст, память и подготовка документов.

Мышление с AI — пересекающиеся ленты Extended Mind
Мышление с AI AI: Фундамент 32 мин. чтения

Что находится по ту сторону окна чата

Нейросеть принимает рукописную восьмёрку за тройку. Как эта ошибка помогает ей учиться? В первом выпуске «AI: Фундамент» разбираем, как связаны AI, нейросеть и языковая модель, что такое токены и как из них складывается ответ. Почему в письме появляется срок, которого никто не назначал?

Что находится по ту сторону окна чата