译文：将人工智能整合到功能安全管理中
原文：哈维尔·费尔南德斯，可靠性和网络安全方法，IKERLAN / 巴斯克研究与技术联盟（BRTA）
安全关键系统的发展遵循一个众所周知的V模型，从安全目标到安全要求，系统架构设计，软件和硬件架构设计，以及实施，以获得一个旨在通过构建安全的系统。此后是一个测试阶段，从单元测试到针对定义的安全要求的完整系统测试。
图1：传统的安全关键系统验证模型
功能安全管理（FSM）定义了开发安全关键系统和其他生命周期阶段所需的系统方法，无论是规划、参与团队、活动、文件、技术考虑、配置管理、修改程序等，从概念定义到退役和处理。FSM的主要目标是在满足功能安全标准的要求的同时，简化安全关键项目开发过程中产生信息的定义、组织和控制。
使用人工智能执行实现安全要求的功能，为传统FSM创造了新的需求，因为它必须遵守适用的安全开发和管理流程[1][2][3]。随着通用的基于人工智能的系统开发流程与传统的安全开发流程直接冲突，出现了几个挑战[1][2][3][4]。
这些挑战包括：
人工智能软件（SW）的单一设计，它遵循使用训练数据的经验性训练过程，而不是实施特定的安全要求。
由于其伴随误预测和置信度值的预测性质，人工智能SW无法像安全关键系统中的其他类型的SW那样被认为在设计上是正确的。
人工智能SW不再独立于数据。其参数基于训练数据集经验性设定。
人工智能SW对底层硬件（HW）提出的高性能要求。其固有的复杂性（无论是硬件（HW）还是SW方面）对符合安全标准提出了挑战。
此外，缺乏将人工智能纳入安全关键系统开发过程中的指导。
为应对这些挑战，有机构在开发一个指导开发过程的人工智能FSM，将安全关键系统的传统的生命周期与人工智能的生命周期相映射，并解决它们之间的相互作用。图2展示了在这方面正在进行的工作。
图2：SAFEXPLAIN开发的包括人工智能生命周期的FSM方法论。
这个提议的人工智能FSM扩展了广泛采用的功能安全标准衍生的FSM方法论，以满足深度学习架构规范、数据、学习和推理管理以及适当的测试步骤的具体需求。人工智能FSM考虑了来自IEC 61508 [5]、EASA [6]、ISO/IEC 5460 [3]、AMLAS [7]和ASPICE 4.0 [8]等的建议。
ENCO SOX 功能安全分析软件：
SOX Workbench 是信息化、集成化的安全分析工作平台，支持 ISO 26262 、ISO21434汽车领域的功能安全信息安全分析；
符合 ISO 26262 开发全流程，功能覆盖“V 模型”开发流程中各阶段的开发活动；
支持ISO26262，工业领域 IEC 61508，信息安全 ISO 21434， SAE J3061 以及农用机械 ISO 25119 等领域的安全分析。
SOX模块交互流程图
如果想进一步了解ENCO SOX的信息，可与我们取得联系。
点击蓝字
关注我们
