最新资讯
ISO/PAS 8800:2024《道路车辆—安全和人工智能》于2024年12月正式发布，是规范汽车领域人工智能技术应用的重要标准。
该标准旨在为AI系统在安全相关功能中的应用提供行业特定指南，其核心在于定义了一个覆盖AI系统全生命周期的安全管理框架，以解决数据依赖性、模型过拟合等AI特有风险。
适用范围：适用于量产道路车辆上安装的、包含一个或多个采用AI技术的电子电气安全相关系统（轻便摩托车及特殊车辆特有系统除外）。
核心目标：确保AI系统的相关错误（包括功能不足失效、系统失效和硬件随机失效）不会导致车辆层面出现不合理的安全相关行为风险。
ISO/PAS 8800:2024 构建了覆盖从需求定义到部署运维的完整安全闭环，其核心要求涵盖以下关键环节：
AI安全管理：建立AI开发安全管理要求，提供AI安全生命周期管理框架，并支持针对不同ASIL（汽车安全完整性等级）等级的AI系统认可措施。
AI安全需求推导：基于车辆使用场景明确AI系统的功能需求与安全目标，将“尽量安全”转化为可量化的指标（如允许的错误率），作为后续工作的基础。
AI技术、架构和开发方式的选择：结合AI技术特性设计安全架构，包括算法选择、数据接口规范及冗余设计，确保AI出错时车辆仍能被监控和接管。
数据相关的考量：将数据视为“安全件”，在采集、清洗、标注、训练、验证的全生命周期嵌入安全分析。强调数据集需具备多样性和代表性，以防止偏见、过拟合或概念漂移。
AI系统安全分析：针对AI特有的风险（如模型不确定性、OOD识别等）进行系统化分析，明确AI可能出错的地方、概率及应对方案。
AI系统的验证和确认测试：通过虚拟测试与物理测试结合，评估AI系统在极端场景下的性能（如对抗样本攻击或传感器故障模拟），明确AI系统的保证论据。
AI系统的保证论据：提供面向AI的安全论证（Assurance Argument）框架，将模型、数据、架构、V&V、运行期监控及工具置信度的证据进行结构化整合。
运行期间的措施：车辆上路后需持续监测AI表现。一旦发现道路环境变化或风险升高，需通过数据回收、再训练和OTA升级进行闭环改进，确保新版本更安全。
ISO/PAS 8800 并非孤立存在，而是对现有标准的定制和扩展，与其他标准形成协同互补：
与 ISO 26262（功能安全）协同：ISO 26262 聚焦硬件与软件的系统性及随机故障，而 ISO/PAS 8800 扩展至AI算法的可靠性，提出AI/ML特有的产品开发生命周期。
与 ISO 21448（预期功能安全 SOTIF）协同：ISO 21448 关注“功能不足”与人员误操作，ISO/PAS 8800 进一步细化了AI系统的场景化风险（如数据偏差、模型泛化能力差等），并提出了基于因果链的根因分析方法。
与 ISO 21434（网络安全）协同：ISO/PAS 8800 要求对训练数据进行加密传输与存储，与 ISO 21434 的网络安全威胁建模（如防止数据篡改）形成互补。
未来，ISO 计划将AI系统的安全要求纳入预计于2027年发布的 ISO 26262 第三版中，进一步推动汽车安全标准进入AI时代。
推荐阅读：
亚远景-ISO 26262与ASPICE：汽车软件开发中的协同与互补
亚远景-拒绝“为了评估而评估”：如何让 ASPICE 真正融入日常开发？
亚远景-ASPICE在供应链管理中的角色：如何利用标准评估和选择供应商
亚远景-从仿真测试到实车验证：ISO/PAS 8800 的测试策略
推荐服务：
点击查看亚远景ASPICE、ISO26262实施工具-APMS研发过程管理平台
