AI驱动机械安全需要更紧密的人机合作

芬兰坦佩雷大学的一项研究项目旨在为高度自动化的越野机械创建可调整的安全系统，以满足行业需求。研究揭示了使用人工智能控制的移动作业机械与公共安全相关立法合规性方面的关键差距。

随着高度自动化的越野机械的应用增加，对健全的安全措施的需求也在增加。传统的安全流程通常未考虑由人工智能控制的系统带来的健康和安全风险。

坦佩雷大学自动化专业的博士研究生马雷亚·德·科宁正在进行研究，旨在通过开发专门针对自主移动机器的安全框架，确保公共安全而不损害技术进步。该框架旨在使原始设备制造商（OEM）、安全和系统工程师以及行业利益相关者能够创建符合不断发展的立法的安全系统。

预计所有可能出现危险情况并确保人工智能能够安全地管理危险情景是几乎不可能的。我们需要调整我们的安全方法，更多地关注寻找成功管理意外事件的方法。

我们需要健全的风险管理系统，通常包括人在环路安全选项。在这种情况下，预期人类监督员将在必要时进行干预。但是在自主机械中，依赖人类干预是不切实际的。根据德·科宁的说法，当使用自动化时，人类表现可能会出现可衡量的退化，例如，无聊、困惑、认知能力、丧失情境感知和自动化偏见。这些因素对安全性产生重大影响，机器必须能够安全地管理自己的行为。

她表示：“我的方法考虑了具有人工智能决策、风险评估和适应未预见情况的危险。我认为积极与行业合作伙伴合作，以确保实际适用性非常重要。通过与制造商合作，可以弥合理论框架和实际实施之间的差距。”

该框架旨在支持OEM设计和开发符合安全系统，并确保其产品符合不断发展的法规。

马雷亚·德·科宁于2020年11月开始了她的研究，并将于2024年11月结束。该项目部分由工业创新博士学院资助，部分由芬兰系统供应商资助。她的下一个研究项目将从四月开始，重点是集成她的安全框架的一个子集，并对其有效性进行严格测试。2023/1230号法规将于2027年1月取代2006/42/ec指令，这对OEM构成了重大挑战。

“我正在尽一切努力确保安全始终处于技术进步的前沿。”她总结道。

这项研究为政策制定者、工程师和安全专业人士提供了宝贵的见解。该研究成果的文章题为《针对2023/1230号法规的高度自动化越野机械安全的全面方法》已在权威期刊《安全科学杂志》上发表。