最新资讯
ISO/PAS 8800:2024《道路车辆——安全和人工智能》是全球首个针对道路车辆中人工智能（AI）系统安全的国际标准。它填补了传统功能安全标准（如 ISO 26262）和预期功能安全标准（如 ISO 21448）在处理 AI 特有的不确定性、数据依赖性和“黑箱”特性方面的空白。
在 ISO/PAS 8800 框架下，危害分析与风险评估（Hazard Analysis and Risk Assessment, HARA） 不再是孤立的活动，而是嵌入在全生命周期安全管理中的核心环节。其流程与传统汽车安全标准有显著不同，更加强调数据驱动、场景覆盖和持续迭代。
以下是基于 ISO/PAS 8800 标准的危害分析与风险评估流程的核心步骤和特点：
识别由 AI 系统（包括机器学习模型、数据处理管道等）引起的潜在危害，评估相关风险，并确定必要的安全目标（Safety Goals）和安全措施，以确保 AI 系统在预期运行设计域（ODD）内的安全性。
系统边界定义：明确 AI 系统在车辆中的功能范围、输入输出接口以及与周围系统（传感器、执行器、其他 ECU）的交互。
ODD 界定：详细描述 AI 系统被设计运行的具体条件，包括道路类型、地理区域、速度范围、天气条件、交通状况等。这是后续危害分析的基础，因为 AI 的风险高度依赖于环境。
这是最关键的一步，需要结合传统方法和 AI 特有方法：
功能失效分析：分析 AI 功能丧失、意外激活或错误输出（如误分类、漏检、决策错误）可能导致的危害。
数据驱动的危害识别：
数据偏差与污染：识别训练数据中存在的偏差（如缺乏某些人群、天气或路况的数据）如何导致模型在特定场景下失效。
分布外（OOD）输入：分析当输入数据超出训练数据分布时（如从未见过的障碍物、极端光照），模型可能产生的不可预测行为。
场景库构建：利用真实驾驶数据、仿真数据和边缘案例（Edge Cases）构建全面的场景库。ISO/PAS 8800 强调对99% 常规场景和100% 关键/极端场景的覆盖。
对抗性攻击分析：考虑针对 AI 模型的恶意攻击（如对抗样本）可能引发的安全隐患。
对识别出的每一个危害事件进行风险评估，通常涉及以下参数：
严重度 (Severity, S)：危害事件发生后可能造成的伤害程度（如轻伤、重伤、死亡）。
暴露率 (Exposure, E)：车辆处于可能导致该危害发生的运行场景中的频率或概率。在 AI 系统中，这需要通过大量数据统计和场景分析来量化。
可控性 (Controllability, C)：驾驶员或其他系统要素避免伤害的能力。注意：由于 AI 决策的快速性和复杂性，驾驶员的可控性往往较低，这在评估时需特别考虑。
AI 特有参数：
置信度与不确定性：评估模型输出的置信度水平及其不确定性范围。低置信度高风险的输出应被视为高危。
可解释性：如果模型决策无法解释，可能会增加风险评估的不确定性，从而要求更高的安全等级。
根据风险评估结果（通常生成类似 ASIL 的安全等级，但在 ISO/PAS 8800 中可能有特定的分级或量化指标），为每个不可接受的风险制定顶层安全目标。
安全目标必须是可验证的，例如：“在雨天夜间环境下，AI 系统对行人的检测漏报率必须低于 $10^{-x}$/小时”。
架构级措施：如引入冗余系统（传统算法备份）、监控模块（Monitor）、安全状态切换机制。
数据级措施：数据增强、异常检测、在线学习限制。
模型级措施：模型压缩、量化、对抗训练、不确定性估计。
验证与确认 (V&V)：
仿真测试：利用数字孪生技术在海量场景中验证安全目标。
实车测试：在封闭场地和公开道路进行针对性测试。
持续监控：部署后通过车队数据收集，监控实际运行中的表现，发现新的危害并进行迭代更新（这是 ISO/PAS 8800 强调的“全生命周期”特性）。
| 特性 | ISO 26262 (传统功能安全) | ISO/PAS 8800 (AI 安全) |
|---|---|---|
| 失效模式 | 主要是随机硬件失效和系统性故障，相对确定 | 主要是模型泛化能力不足、数据偏差、OOD 输入，具有高度不确定性 |
| 分析方法 | 基于 FMEA/FTA 等定性/半定量分析 | 强调数据驱动、场景覆盖统计、概率风险评估 |
| 验证方式 | 单元测试、集成测试、故障注入 | 大规模仿真、场景回放、对抗测试、持续在线监控 |
| 生命周期 | 主要在开发阶段，量产后变更较少 | 全生命周期，包含部署后的持续学习、监控和 OTA 更新管理 |
| 数据角色 | 辅助作用 | 核心资产，数据的质量、覆盖率和治理直接决定安全水平 |
ISO/PAS 8800 中的危害分析与风险评估是一个动态的、数据驱动的、全生命周期的过程。它不仅关注系统“坏了”会怎样，更关注系统在“没见过”的情况下会怎样。
企业实施该流程时，必须建立强大的数据闭环能力，确保从数据采集、标注、训练到部署监控的每一个环节都纳入安全管理体系，才能满足该标准对99% 场景覆盖和可追溯性的严格要求。
推荐阅读：
亚远景-ASPICE评估：汽车软件开发过程评估的方法与经验总结
亚远景-ISO/PAS 8800与全球汽车AI监管趋同下的中国企业合规策略与技术适配
亚远景-ASPICE与ISO 26262：汽车软件安全与质量的双标
亚远景-ISO 26262与ISO 21434：汽车安全标准的双基石
亚远景-从标准到文化：ISO/PAS 8800能否定义“可信AI”的全球伦理？
推荐服务：
点击查看亚远景ASPICE、ISO26262实施工具-APMS研发过程管理平台
