新加坡政府发布《生成式人工智能模型管理框架》
来源：中国保护知识产权网 发布日期：2024-06-24 阅读：39次
新加坡一直走在全球人工智能管理框架开发和实施的前列。认识到人工智能的变革潜力以及固有风险，新加坡正在积极寻求创建一个平衡、可信的人工智能生态系统。为了应对生成式人工智能的快速发展，新加坡提出了一个人工智能管理框架模型，专门用于应对该技术带来的独特挑战和机遇。
于2019年首次推出并随后于2020年更新的人工智能模型管理框架一直是这项工作的基石。虽然不具有法律约束力，但该框架具有着分量和影响力，因为它反映了政府对人工智能开发和部署的期望。它为行业参与者提供了参考标准，并鼓励采用合乎道德和透明的人工智能实践。
该框架的最新版本，即2024年5月30日发布的《用于生成式人工智能的人工智能模型管理框架》，是以现有框架为基础并且专门用于解决生成式人工智能技术（如ChatGPT）和文本到图像生成器（如Firefly和Midjourney）的细微差别。这一新框架是与从科技巨头微软和谷歌到美国商务部等政府机构大约70个组织和部门协商制定的，该框架也是对全球各地日益认识到生成式人工智能虽然具有巨大潜力，但也带来了需要认真考虑和管理的新风险和挑战的回应。
《用于生成式人工智能的人工智能模型管理框架》的关键维度
拟议的框架涉及九大关键维度，以促进用于生成式人工智能的可信生态系统的形成，包括：
-问责制：在整个人工智能开发和部署生命周期中建立明确的职责范围；
-数据：确保数据质量，解决隐私问题以及处理与训练数据相关的版权问题；
-可信的开发和部署：提高在人工智能开发、评估和披露方面的透明度并采用最佳实践；
-事件报告：建立报告和处理人工智能相关事件和漏洞的机制；
-测试和保证：鼓励第三方测试和制定人工智能评估的通用标准；
-安全性：调整安全措施以应对生成式人工智能带来的独特威胁，例如提示注入攻击（injection attack）；
-内容来源：实施水印等措施，以确保透明度并减少与人工智能生成内容相关的错误信息；
-安全和一致性研发：投资于研究，以提高人工智能模型的安全性并使其与人类价值观保持一致；
-用于公共利益的人工智能：促进人工智能在社会公共利益方面的应用，包括实现访问民主化、改善公共服务和提高劳动力技能。
新加坡现行的管理生成式人工智能的法律法规
目前，新加坡没有专门用于管理生成式人工智能的具体法律或法规。但是，现行的法律和法规可以适用。两部与生成式人工智能管理最相关的法律是《个人数据保护法》和《版权法》。
《个人数据保护法》
由于人工智能技术的训练和运行依赖于大量数据（通常包括个人数据），《个人数据保护法》对人工智能的管理至关重要。该法律对新加坡个人数据的收集、使用和披露进行了规定，以确保个人的隐私权得到保护。
数据收集与同意：生成式人工智能模型通常是在从互联网上抓取的大型数据集上进行训练的，这些数据集可能包含个人数据。《个人数据保护法》要求组织在收集个人数据之前必须征得个人的同意，除非有例外情况。这就提出了一个问题，即在人工智能训练中使用个人数据是否需要征得同意以及如何征得同意的问题。
数据匿名化：为了降低隐私风险，组织可能会在将个人数据用于人工智能训练之前对其进行匿名化处理。然而，《个人数据保护法》对个人数据的定义很宽泛，并且存在重新识别的风险，尤其是在人工智能工具的高级功能方面。组织必须确保匿名数据保持真正的匿名性，不能与个人联系起来。
数据保护与安全：《个人数据保护法》要求组织实施合理的安全措施，以保护个人数据免遭未经授权的访问、使用、披露、修改和处理。这对于生成式人工智能模型尤为重要，因为它们可以处理和存储大量敏感的个人数据。
透明度与问责制：《个人数据保护法》强调透明度和问责制在处理个人数据方面的重要性。使用生成式人工智能的组织应该对个人数据在其模型中的使用方式保持透明，并确保能够解释其人工智能系统的决策过程。
新加坡提出的这个人工智能模型管理框架进一步强调了《个人数据保护法》与生成式人工智能的相关性，该框架明确要求政策制定者阐明现有的个人数据法如何适用于生成式人工智能。这包括明确同意要求、适用的例外情况，并为人工智能应用中的数据使用提供良好商业实践指导。该框架还鼓励使用隐私增强技术来保护数据的机密性和隐私性，同时促进人工智能的发展。
随着生成式人工智能的不断发展，《个人数据保护法》将需要不断进行解释和调整，以应对这项技术带来的独特挑战。
《版权法》
由于生成式人工智能模型有可能生成受版权保护的内容和/或侵犯现有版权，因此该模型的管理也牵涉到《版权法》。
这就产生了几个关键的问题：
使用受版权保护的内容来训练生成式人工智能系统：受版权保护的内容在多大程度上可用于训练生成式人工智能模型尚不明确。新加坡的2021年《版权法》允许在某些条件下使用受版权保护的作品进行计算数据分析，但这尚未在人工智能训练的背景下在法庭上得到验证。
根据《版权法》和/或《专利法》保护生成式人工智能系统的输出：新加坡2021年《版权法》的现行规定是作者必须是自然人。生成式人工智能的输出中能否存在版权，取决于提示和编辑过程中涉及的人类创造力水平以及输出的性质。
生成式人工智能输出导致的版权侵权责任：这是一个发展中的法律领域。版权侵权的责任取决于生成式人工智能工具的工作方式以及输出与现有作品的相似程度。
这些问题既复杂又不断发生变化，新加坡的法院和政策制定者正在积极努力解决这些问题。政府正在探索立法和非立法解决方案，例如版权指南和实践准则，以平衡版权所有人和人工智能开发者的利益。美国和英国正在进行的诉讼和政策讨论的结果也将有助于塑造新加坡生成式人工智能监管的未来。
新加坡还积极参与了有关人工智能管理的国际讨论和倡议，包括与版权和知识产权有关的讨论和倡议，其目的是制定协调一致的方法，以应对生成式人工智能和版权带来的全球挑战。
新加坡生成式人工智能管理的未来发展
新加坡正在积极完善其《用于生成式人工智能的人工智能模型管理框架》，重点是应对这项技术带来的独特挑战。该国政府还在探索为生成式人工智能制定特定行业的法规和指南，特别是在金融和医疗保健等行业。
此外，新加坡还在进行投资研发，以提高人工智能模型的安全性和一致性，并促进人工智能管理方面的国际合作。事实上，《用于生成式人工智能的人工智能模型管理框架》旨在与国际人工智能原则保持一致，例如“广岛人工智能进程”（Hiroshima AI Process），该进程要求制定可互操作的人工智能管理框架全球标准。
结论
新加坡的生成式人工智能模型管理框架代表了该国朝着建立全面和平衡的制度来管理这一快速发展的技术迈出的重要一步。通过解决问责制、数据、透明度、安保和安全等关键方面的问题，新加坡旨在建立一个值得信赖的、可在鼓励创新的同时降低风险的生态系统。
虽然针对生成式人工智能的具体法规仍在制定中，但现有的法律框架和正在进行的努力表明了新加坡对负责任和合乎道德的人工智能开发和部署的承诺。随着生成式人工智能的不断发展，新加坡积极主动的管理方法可能会成为其他国家应对这种变革性技术带来的挑战和机遇的参考。（编译自www.lexology.com）