Аудит решений ИИ: append-only лог и зачем он бизнесу и регулятору

Когда автономный агент действует, возникает вопрос: какие данные помогут потом исследовать решение? Аудит решений ИИ задаёт схему предусмотренных событий и контекста — входов, правил, вывода модели и подтверждения человека. Он полезен в пределах реально записанных полей; полноту, целостность и понятность проверяют отдельно.

Ключевое слово — append-only: штатный интерфейс добавляет события вместо изменения прошлых. Это полезная семантика хронологии, но не физическая гарантия неизменности: администратор обычной базы или файла может переписать хранилище. Подотчётность появляется только вместе с контролями целостности, доступа, полноты и хранения.

Обычный лог приложения предназначен для отладки и может ротироваться. Append-only-интерфейс снижает риск случайной правки прошлого, но не снимает вопрос доверия по построению. Для устойчивости к подмене используют WORM или tamper-evident хранение, криптографические подписи либо цепочки хешей, раздельные полномочия, резервирование и регулярную проверку.

Если политика охватывает все нужные события, журнал даёт последовательную хронологию: не только итог («цена стала такой»), но и записанные шаги, приведшие к нему. Пропущенное событие восстановить из одного аудита нельзя, поэтому полнота схемы, мониторинг записи и обработка сбоев — такие же важные свойства, как append-only.

Для аудита задают цель воспроизводимости и измеряют долю решений, для которых записанного контекста достаточно. Типовой состав записи:

• Действие. Что именно агент сделал или предложил сделать.
• Входные данные. На основании чего принято решение — с минимизацией и целевым маскированием. Фильтр может пропустить ПДн, поэтому доступ и состав журнала контролируются отдельно.
• Сработавшие правила. Какие проверки гардианов прошли, а какие отбраковали промежуточные варианты.
• Подтверждение. Прошло ли действие через human-in-the-loop и кто его подтвердил.
• Время и версия. Когда и какой версией контура принято решение — чтобы отделять старое поведение от нового.

Баланс здесь важен: политика журнала задаёт минимизацию, доступ и защиту персональных данных. Эти технические меры поддерживают проверяемый процесс, но сами по себе не доказывают соответствие 152-ФЗ; основание, сроки и документы оценивают отдельно с юристом.

Технически аудит решений можно сочетать с паттерном event sourcing: состояние выводится из потока доменных событий. Но ни название паттерна, ни append-only API автоматически не гарантируют полноту, неизменность или пригодность журнала для правового доказательства — это свойства конкретной реализации и эксплуатации.

При корректной схеме и сохранённых версиях обработчиков из событий можно восстановить заявленное состояние на прошлый момент и исследовать, что система знала. Контекст модели, внешние ответы и незафиксированные данные могут ограничить воспроизводимость, поэтому эти границы документируются.

При проверке аудит может подтвердить, какие события и контроли система зафиксировала: например, идентификатор основания обработки или прохождение рекламной проверки. Но журнал сам не доказывает, что основание было действительным, согласие — корректным, события — полными, а обработка — законной. Его оценивают вместе с политиками, договорами, документами и техническими мерами, в том числе по 152-ФЗ.

Бизнесу аудит помогает исследовать «почему агент так сделал» в пределах записанных событий, искать повторяющиеся признаки ошибок и обосновывать пересмотр автономии. Снимать гейты можно только вместе с evals, инцидентами и проверкой отказных путей: один журнал не показывает незаписанные события и не доказывает надёжность.

Практическая ценность аудита — воспроизводимость в пределах записанного контекста. Если журнал сохранил нужное событие, входы, версии и внешние ответы, он помогает исследовать, почему клиенту назвали конкретный срок. Пропуски, недетерминизм модели и внешние зависимости ограничивают вывод, поэтому полноту и долю воспроизводимых решений измеряют отдельно.

Сравнение записей во времени помогает заметить часть признаков деградации и расследовать инцидент. Оно не гарантирует обнаружение до влияния на клиента: для этого нужны метрики качества, алерты, контрольные выборки и человек в контуре. Аудит — один из источников наблюдаемости, а не универсальная защита.

Аудит мы закладываем в контур с первого дня: незаписанные события нельзя достоверно восстановить только из будущего журнала, хотя могут существовать другие первичные источники. Схема задаёт предусмотренные события и минимизацию ПДн; доступ, целостность, retention, сбои записи и пропуски маскирования контролируются отдельно.

Как аудит связан с гардианами и human-in-the-loop в полном надзорном контуре — в обзоре «Надзор и безопасность ИИ-агентов»; состав работ — на странице ИИ-операторы. Ориентир по деньгам — от 150 000 ₽ за проект и от 50 000 ₽ в месяц за сопровождение; точная смета — по бесплатному разбору.