Product Assurance¶
Product Assurance — процесс, который связывает intended use конкретного продукта с рисками, controls, проверками и решением о выпуске.
Assurance Case¶
Для каждой существенной версии формируется пакет:
- Product Object и intended use.
- Пользовательские группы, контекст и non-intended use.
- Hazard / misuse / failure analysis.
- Методологические, профессиональные, data и legal constraints.
- Реализованные preventive, detective и corrective controls.
- Evaluation plan и результаты.
- Известные ограничения и residual risk.
- Monitoring, escalation, rollback и incident route.
- Именованные reviewer и release authority.
- Решение: approve, conditional approve, reject или withdraw.
Пропорциональность¶
Глубина assurance зависит от возможного вреда, уязвимости аудитории, чувствительности данных, автономности AI, масштаба и обратимости последствий. Публичный информационный продукт и инструмент, влияющий на психотерапевтическое решение, не проходят одинаковый gate.
Независимость ролей¶
Создатель может подготовить evidence, но в рискованных случаях не должен единолично принимать release decision. Конкретная схема независимости определяется классом продукта и зрелостью команды.
Выход в Evidence System¶
Assurance Case создаёт versioned evidence snapshot. Публичная страница продукта может показывать безопасное резюме: intended use, статус, ограничения, human oversight и дату последнего review.