Лекция «Галлюцинации: почему модель врёт — механизм выдумки, зоны риска и проверка, которая что-то значит»

Около 75 минут на 17 тем. Прогресс сохраняется, поэтому лекцию можно проходить частями и возвращаться к ней позже.

Начало — да: первые 1 тема открыты сразу, без регистрации. После бесплатной регистрации откроются темы до 2-й — вместе с частью из 46 тестов и монетами за верные ответы. Полная лекция — 99 ₽ навсегда, либо подписка на все лекции платформы от 499 ₽ в месяц.

Семнадцать тем о том, почему языковая модель выдумывает факты и что с этим делать на практике. Начинается лекция с двух российских дел 2026 года, где судебные штрафы 50 000 ₽ и 5 000 ₽ пришли за ссылки на несуществующую практику: применение нейросетей не запрещено, но проверить текст обязан подписавший. Механизм разбирается по препринту OpenAI и Georgia Tech: ошибки появлялись бы даже при безошибочных обучающих данных, потому что оценка бинарна и зачёт за «не знаю» равен нулю. Отсюда правило редкости — частота выдумки не опускается ниже доли фактов, встреченных в данных единожды — и арифметика отказа по таблице SimpleQA из системной карты GPT-5. Четыре зоны риска разобраны по измерениям: числовые реквизиты при верном названии, полностью выдуманные ссылки (55% против 18% между поколениями моделей), имена собственные (205 474 несуществующих пакета и приём slopsquatting) и пересказ приложенного документа по лидерборду Vectara на 11.05.2026. Две ловушки со стороны человека: вопрос с ложной предпосылкой, который модели выполняли в 100% случаев даже при наличии знания, и уверенный тон, который систематически опережает фактическую точность. Отдельно перечислено, что не работает: самопроверка модели, инструкция «отвечай только если знаешь» и просьба дать источники — 51,5% предложений не подтверждаются приведёнными ссылками. Работают четыре вещи: вопрос без встроенного утверждения, разрешение отказаться вместе с требованием сначала изложить факт (с нуля до 94% правильных отказов), сверка трёх независимых прогонов и проверка содержания страницы, а не факта её существования. Завершают лекцию границы инструментов с подключением к базе документов (17% и 33% выдумки у платных юридических продуктов) и распределение ответственности: Mata v. Avianca, Moffatt v. Air Canada и постановление Пленума ВС РФ от 21.05.2026 № 15. Все числа приведены с названием задачи, на которой измерены, и с датой измерения.

Это перегиб в другую сторону, и лекция его не поддерживает. Неустранимость означает одно: нельзя строить процесс на допущении, что ответ достоверен по умолчанию. Дальше начинаются различия. Есть задачи, где выдумка почти не встречается, — переформулировать, структурировать, сравнить два текста, предложить варианты, объяснить общий принцип, по которому написаны тысячи страниц. И есть зона, где ответ считается черновиком всегда: числовые реквизиты, ссылки, имена собственные, номера норм и всё редкое. Разница между этими зонами в лекции разобрана по измерениям, а не по ощущениям. Кроме того, снижать частоту можно измеримо: две вставки в запрос подняли долю правильных отказов с нуля до 94%, а сверка трёх независимых прогонов отсеивает очевидную выдумку за полторы минуты. Отказ от инструмента лишает вас и того и другого, а ошибки из собственной головы никуда не девает.

Нет, и это осознанные границы. Токены, вероятности, температура и контекстное окно — территория отдельной лекции об устройстве языковых моделей; здесь «почему выдумывает» объясняется через статистику обучения и систему оценок, на которой модели измеряют. Структура запроса по блокам — роль, задача, контекст, формат — отдельная лекция об анатомии промпта; здесь разобраны ровно две вставки и только как приём против выдумки. Набор приёмов промптинга, атаки через входные данные, устройство поиска по базе знаний, гигиена данных и агентские сценарии — тоже отдельные адреса в каталоге. Из инструментов с базой документов здесь взят только измеренный результат: частота падает, ноль не достигается.