DIN发布有助于人工智能稳定性标准
德国发布新版DIN SPEC 92001-2,以确保人工智能模块的稳定性。
人工智能(AI)是未来最重要的主题之一。这项技术正越来越多地应用于高度敏感的工业和商业领域,并且也越来越多地影响着私人生活环境。更加重要的是,人工智能需要满足一定的质量要求,使其能够不失真,安全、稳定地运行。DIN SPEC 92001-2《人工智能-使用寿命周期及质量要求-第2部分:稳定性》着重强调了人工智能模数的稳定性,并定义了人工智能整个使用寿命周期的相关要求。人工智能主要以神经网络为基础,但是当通过所谓的输入数据点输入和记录数据时,它们容易受到干扰。甚至很小的损害可能就会导致人工智能不再能够足够稳定可靠地解决问题。“新版DIN SPEC为人工智能的开发人员及用户提供了实用的指南和操作建议,使他们能够对自己的人工智能应用进行分析,使其能够对抵抗各种破坏性过程具有更强的抵抗。” Neurocat GmbH股份有限公司负责人兼DIN-SPEC 92001-2的发起人史蒂芬•欣兹(Stephan Hinze)这样说到。
DIN SPEC 92001-2是基于DIN SPEC 92001-1制定,该规范描述了人工智能模块的质量元模型,规定了人工智能所有重要的质量要求,以此将它们相互连接并应用于人工智能使用周期的各个阶段。现在,DIN SPEC 92001-2定义了人工智能稳定性方面的特定要求。根据该项标准的规定,人工智能应从两个方面增加其稳定性:一方面,人工智能应当承受可能导致故障的定向攻击。另一方面,对于在实践中经常自然发生的信号干扰或数据质量的其他损害,人工智能对此也应当保持稳定性。为此,DIN SPEC 92001-2制定了一个系统的风险管理流程。各个组织应按照该规定制定的针对特定AI风险的一般要求进行开发,并对应用程序的稳定性进行评估。根据检测结果,各组织可以采取特定的措施,以增加人工智能的稳定性或防御能力。人工智能模数稳定性这个研究领域非常热门。DIN SPEC 92001-2为这一领域搭建了框架,并为稳定且值得信赖的人工智能应用程序创建了详细的技术基础。