2024年5月30日，新加坡推出了一项具有前瞻性的《新一代人工智能示范治理框架》，旨在为快速发展的技术提供有效监管指导，同时实现创新与安全之间的平衡，为人工智能系统的开发和部署营造一个值得信赖的生态系统。该框架重点围绕九个领域展开，包括问责制、数据、可信的开发和部署、事件报告、测试和保证、安全性、内容出处、安全与一致性，以及人工智能的公益性。问责制：确保整个人工智能开发链的问责制至关重要。该框架强调了在模型开发者、应用部署者和云服务提供商之间明确责任分配的重要性。该框架与现有的云计算模式相似，主张共同承担责任，以保护最终用户并确保整体系统安全。数据：数据质量和道德使用是人工智能模型开发的基础。该框架强调使用可信的数据源，并务实地解决个人数据和版权材料等有争议的问题。鼓励政策制定者明确法律应用，以促进负责任地使用数据。可信的开发和部署：人工智能模型开发和部署的透明度和遵守最佳实践至关重要。该框架呼吁全行业采取安全措施并披露基本信息，类似于“食品标签”，以便用户做出知情决定。事件报告：认识到没有一个人工智能系统是万无一失的，该框架倡导建立健全的事故报告结构。这包括及时通知和补救流程，借鉴电信和金融等领域的既定做法。测试和保证：第三方测试和保证在建立信任方面发挥着至关重要的作用。该框架提倡采用标准化测试方法和独立验证，以确保人工智能性能的一致性和可靠性。安全性：生成式人工智能带来了新的安全风险，需要对传统的信息安全框架进行调整。该框架建议开发新的安全工具和实践，以适应人工智能的独特性。内容出处：为打击错误信息和其他危害，该框架支持实施数字水印和密码出处等技术解决方案。这些措施旨在提高人工智能生成内容来源的透明度。安全与调整研发（R&D）：加快研发投资对于提高人工智能模型与人类价值观和意图的一致性至关重要。该框架鼓励人工智能安全机构之间开展全球合作，以优化资源并有效应对当前和未来的风险。人工智能公益：除降低风险外，该框架还将人工智能视为造福公众的工具。这包括实现获取人工智能技术的民主化、加强公共部门的采用、提高工人技能以及促进人工智能的可持续发展。

（山东电子学会供稿）