皮尔磁：工业领域中的人工智能是否安全?

自从ChatGPT发布以来，人工智能的热度居高不下。但是，就以生成文字为例，智能的算法是否也能在安全自动化方面取得突破性进展呢?答案是肯定的，而问题是：这如何实现呢?

实际上，“人工智能”(AI)一词背后并没有特别的魔法，它是纯粹的数学。简单地说，AI是一种试图模仿人类行为的程序代码，目的是实现人类决策的自动化。这项技术的基础早在上世纪60年代就已建立。然而，直到现在有了功能强大的硬件、新概念和新算法，人工智能才有了突飞猛进的发展。这些发展使得人工智能技术可以应用于工业领域，专家们都纷纷预测全球经济将发生一场革命。

将人工智能和机械安全结合在一起是一门终极学问。因为AI就是所谓的“黑匣子”：人们无法预测或理解复杂的系统是如何做出决定的。但这对于功能安全来说是绝对必要的。安全系统的每一个反应都必须是合理的。在机械安全中实施人工智能时，有三个方面是相关的：工业安全与信息安全、透明度和可靠性。

人工智能促进机械安全

就透明度而言，目前的研究正是针对这一方面：解释人工智能为何以及如何做出决策的能力。专家们正在使用“可解释的人工智能”(Explainable AI)技术，让人们能够理解人工智能的复杂系统，从而提高其透明度。在可靠性方面，专家们正在使用算法和方法来量化不确定性。因此，人工智能系统能够显示其决策的确定或不确定程度，识别无效条目并做出相应反应。在工业安全和信息安全领域，研究人员使用形式化验证方法来验证人工智能是否安全无误。

“在短期内，我们希望AI能够提高生产效率。从长远来看，我们希望能够在安全相关的环境中使用人工智能，并从中获利”，皮尔磁的高级开发副总裁 Mathias Holzäpfel 展望未来时说道。皮尔磁的专家正致力于人工智能技术以及人工智能与机械安全方面的最新研究。作为可靠的安全自动化合作伙伴，皮尔磁不会对人工智能的使用听之任之，而是会密切关注立法和标准的制定。

（皮尔磁）