Лекция «ИИ-шаг внутри сценария — где он уместен, чем ограничить и чем проверить его выход»

Около 65 минут на 18 тем. Прогресс сохраняется, поэтому лекцию можно проходить частями и возвращаться к ней позже.

Начало — да: первые 1 тема открыты сразу, без регистрации. После бесплатной регистрации откроются темы до 2-й — вместе с частью из 51 теста и монетами за верные ответы. Полная лекция — 99 ₽ навсегда, либо подписка на все лекции платформы от 499 ₽ в месяц.

Восемнадцать тем об одном узле: шаге с языковой моделью внутри автоматического сценария, где ответ модели никто не читает перед тем, как он пойдёт в следующий шаг машины. Начало — различение чата и узла: в диалоге ошибка модели это неприятность, в сценарии дефект данных, который всплывёт через две недели и уже размножится. Дальше три класса задач с проверяемым выходом (классификация, извлечение, черновик) и признаки, по которым ИИ-шаг не нужен вовсе: структурированный вход, порог, справочник. Сердцевина — свобода вывода и способы её сузить. Эксперимент Thinking Machines Lab, сентябрь 2025: тысяча одинаковых запросов при температуре 0 дала 80 разных завершений, расхождение началось на 103-м токене, а причина — не плавающая точка, а размер пакета на чужом сервере, которым управляет нагрузка; детерминизм достижим настройкой движка вывода (26 секунд против 55 на тысяче последовательностей), но пользователю облачной модели недоступен, а у Anthropic параметр temperature для моделей Claude Opus 4.7 и новее удалён из запроса. Разбор структурированного вывода идёт по документации дословно: схема гарантирует форму, а не содержание, модель всегда постарается ей соответствовать даже без нужного значения во входе, три состояния строгости у GigaChat (список обязательных полей без strict пропускает поля, не описанные в схеме), разделение JSON-режима и схемы у Yandex AI Studio, две ветки без схемы вовсе — отказ модели и обрыв по лимиту длины. Отдельно — почему самооценка уверенности не порог: 48 моделей и 300 вопросов, AUROC около 0,6 у лучших, а обучение с обратной связью завышение усиливает. Проверка выхода строится от риска OWASP LLM05 и меры «относиться к модели как к любому другому пользователю, с нулевым доверием» до шестиуровневой иерархии, где судья-модель с позиционным, многословным и самопредпочтительным смещениями стоит после сверки со списком и с входом, а не вместо них. Эксплуатационная часть: метрика pass^k из τ-bench (менее 50% с одной попытки и менее 25% при восьми подряд в рознице), прогноз Gartner от 25.06.2025 с пометкой «прогноз», косвенная инъекция через содержимое письма и разбор EchoLeak (CVE-2025-32711, оценка 9,3), сроки вывода моделей у двух вендоров и четыре состояния жизненного цикла. Финал — шесть красных линий, включая часть 1 статьи 16 152-ФЗ: решение о человеке исключительно автоматизированной обработкой запрещено, и это ограничение правовое, а не инженерное.

Отсутствие ошибок выполнения ничего не говорит о качестве ответов. ИИ-шаг почти никогда не ломается громко: он возвращает что-нибудь — строку нужной длины, метку из списка, номер договора нужного формата, — и сценарий принимает это как успех. Проверьте три вещи. Первое: есть ли в схеме обязательные поля, значения которых может не быть во входных данных; документация структурированного вывода прямо говорит, что модель всегда постарается схеме соответствовать, то есть заполнит такое поле выдуманным значением правильного типа. Второе: стоит ли между ИИ-шагом и бизнес-шагом валидатор с отдельной веткой для брака; если ответ модели идёт прямо в создание записи, проверки нет вовсе. Третье: прогоните один и тот же вход много раз подряд и сравните выходы — тысяча одинаковых запросов при температуре 0 в известном эксперименте дала 80 разных ответов, и ваш шаг не исключение. Если после этих трёх проверок брака не нашлось, менять действительно нечего.

Ни про то, ни про другое. Разбирается логика узла: когда его ставить, чем ограничить свободу вывода и чем проверить результат машиной. Конкретные продукты появляются только там, где их документация формулирует правило дословно и это правило полезно как учебный пример: три состояния строгости схемы у GigaChat, разделение свободного JSON-режима и схемы у Yandex AI Studio, две ветки без схемы (отказ и обрыв) у OpenAI, удалённый параметр температуры и сроки вывода моделей у Anthropic, узел автоисправления формата в n8n как пример механизма, который сам ломается. Ни один из этих продуктов не изучается как предмет, и смена конструктора ничего в лекции не отменяет. Соседние темы вынесены в отдельные лекции плана: техника написания запроса, транспорт и вебхуки, типы и форматы значений, токены и права доступа, экономика внедрения.