2023年12月，ISO和IEC联合发布《人工智能管理系统》（ISO/IEC 42001）。各组织可以参考新标准建立高度可靠的管理系统，包括规避人工智能相关风险的要求和应对风险的措施，有望促进更安全、更可靠的人工智能系统的普及和推广。该标准以开发、提供或使用人工智能系统的组织为对象，规定了这些组织在建立风险管理系统时应遵守的基于风险的方法的要求，这些风险管理系统是这些组织适当利用（开发、提供或使用）人工智能系统所必需的。此外，该标准还要求各组织识别并降低此类风险，以帮助他们利用具有真实性、责任性和可靠性的人工智能系统，并考虑人工智能的公平性和个人隐私。此外，该标准在考虑人工智能系统特有的学习数据和机器学习方面也具有重要意义。至于管理系统的建立，该标准采用了与现有管理系统相同的方法，如质量管理系统（QMS）的 ISO 9001 和信息安全管理系统（ISMS）的 ISO/IEC 27001。人工智能管理系统的设计采用了与这些管理系统相同的结构，并考虑到了用户友好性。

（山东电子学会供稿）