ISO/PAS 8800:2024《道路车辆-安全和人工智能》标准为汽车领域中人工智能(AI)系统的安全性提供了全面的指导框架。以下是该标准的技术落地路径:
1. 建立AI安全生命周期管理
ISO/PAS 8800:2024定义了一个全面的AI安全生命周期,涵盖从系统开发到部署、运行以及持续监控的各个阶段:
需求分析与定义:明确AI系统的功能需求和安全目标,确定系统的预期用途和操作环境。
系统部署与监控:将AI系统部署到实际应用环境中,并进行持续监控,以发现潜在的安全风险并及时采取措施。
持续改进与优化:根据监控数据和用户反馈,对系统进行优化,提升其性能和安全性。
2. 数据管理与质量控制
标准强调数据质量的重要性,要求在数据收集、处理和使用过程中确保数据的准确性和完整性。此外,还需关注数据隐私和安全,防止数据泄露和滥用。
3. 安全评估与风险缓解
ISO/PAS 8800:2024提供了针对汽车AI系统的安全评估方法:
系统性失效评估:评估可能出现的系统性失效,如过拟合、概念漂移和数据偏差。
功能不足评估:通过因果模型分析AI系统的功能不足,并提出风险缓解措施。
随机硬件故障评估:评估硬件故障对AI系统安全性的影响。
4. 系统设计与验证
标准要求AI系统在设计阶段就考虑安全性,并通过验证和确认策略确保系统在设计、开发和运行阶段的安全性。这包括对AI模型的训练数据、算法性能和系统集成的全面验证。
5. 与其他标准的协同
ISO/PAS 8800:2024与ISO 26262(功能安全)和ISO 21448(预期功能安全)紧密衔接:
调整或扩展了ISO 26262中关于功能安全的方法论,以应对AI系统的特殊风险。
扩展了ISO 21448的范围,涵盖了AI系统的功能不足问题。
6. 人员能力建设与流程完善
亚远景科技可提供基于ISO/PAS 8800:2024标准的人员能力搭建、公司级流程体系建设及产品与系统认证等技术解决方案。这些措施有助于企业更好地理解和实施标准要求,确保AI技术的安全应用。
7. 持续监控与反馈
在系统运行阶段,持续监控是确保AI系统安全性的关键。通过收集实际运行数据,及时发现并修复潜在问题,同时根据用户反馈对系统进行优化,以提高系统的适应性和安全性。
通过以上路径,ISO/PAS 8800:2024为汽车领域中AI技术的安全应用提供了清晰的指导,有助于降低安全风险,增强市场信任。