第2024章 AI监管政策：“人工智能＋”行动；G7发布AI使用宣言(1/2)

首发：~第2024章 AI监管政策：“人工智能＋”行动；G7发布AI使用宣言

一、ai监管政策

（一）国际政策

1 联合国大会通过首个有关人工智能的决议

3月21日，第78届联合国大会21日协商一致通过题为“抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展”决议。这是联大通过的首个有关人工智能的决议。

该决议强调，人工智能系统在设计、开发、部署和使用等过程中必须以人为本、符合道德、具有包容性，充分尊重人权和国际法，以加速推动实现所有17项可持续发展目标。决议要求确保人工智能惠及所有国家和地区，弥合发达国家和发展中国家之间以及国家内部的数字鸿沟，推动数字化转型，促进和平。

该决议指出，国际社会迫切需要就安全、可靠和值得信赖的人工智能系统达成全球共识，推动开展包容性国际合作，制定和使用有效、具有国际互操作性的保障措施、做法和标准，以促进创新。决议还称，人工智能系统治理是一个不断发展变化的领域，国际社会需要随着技术发展继续讨论可能采取的适当治理办法，这些办法必须以国际法为基础，使所有人受益。

据介绍，该决议的草案由美国发起，并得到中国等120多个联合国会员国的共提或支持。该决议的通过有望促进国际电信联盟等联合国实体在人工智能问题上进一步开展工作，推动联合国可持续发展目标加速实现。

2 欧洲议会通过《人工智能法案》

2024年3月13日，欧洲议会以523票赞成、46票反对、49票弃权的投票结果通过了《人工智能法案》。

《人工智能法案》文本的草案最早是欧盟委员会在2021年4月提出，内容包括将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。

据悉，该法案将在走完所有审批程序后在欧盟公报上予以公布并于20天后生效。法案中的相关条款将分阶段实施。

3 巴西立法者提出允许将人工智能作为发明人的提案

巴西国会议员儒尼奥尔·马诺提出了一项新法案——第303／2024号法案，以对巴西国家知识产权法规（第9279\/96号法律）进行修订并对人工智能系统生成的发明的所有权作出规定。第303／2024号法案提议在《知识产权法》第6条下增加一款，该款对发明的所有权进行了规定，具体的措辞如下：“对于由人工智能系统自主生成的发明，可以以创造发明的人工智能系统的名义申请专利，该人工智能系统可被视为发明人和发明所产生的权利的所有人。”

在为该法案撰写的书面理由中，马诺提到了美国的dabus案，马诺指出，“尽管在一些国家，申请最初被驳回，理由是发明人必须为人类，但在其他地方，关于此事的辩论仍在继续，赞成和反对将人工智能列为发明人的可能性的论点都有”。

马诺表示，他提出这项法案的目的是更新巴西相关法律，以适应技术创新的现实，消除可能损害该领域发展的不确定性因素。他指出，“通过允许这些人工智能系统被认定为专利发明人，我们将激励这一领域的创新和研究，同时我们也可以保证有效保护知识产权的法律制度。”

4 新加坡发布关于在人工智能系统中使用个人数据的指南

3月1日，新加坡个人数据保护委员会(pdpc)发布了关于在人工智能推荐和决策系统中使用个人数据的咨询指南（the advisory guidelines on the use of personal data inairemendation and decision systems）。该人工智能咨询指南遵循了于2023年8月结束的公众咨询。

该指南是为了在由《个人数据保护法》（“pdpa”）管辖场景中，涉及ai系统设计和\/或部署使用个人数据的情况而提供的。指南的目的是：（1）通过澄清组织使用个人数据开发和训练ai系统时pdpa如何适用，提供确定性；以及（2）通过为组织提供关于如何透明地说明其ai系统是否以及如何使用个人数据进行推荐、预测或决策的基线指导和最佳实践，向消费者提供保证。

该指南在帮助使用个人数据的组织（包括ai服务提供商）在遵守个pdpa的同时，明确如何在ai系统的开发、测试、监控和部署中合理使用个人数据，从而保障消费者对其数据的相关权益。

5 法国因aigc版权问题罚款谷歌约20亿人民币

法国市场监管机构宣布，已向美国谷歌公司开出一张25亿欧元的罚单，原因是谷歌未经同意使用法国出版商和新闻机构的内容训练旗下的聊天机器人“巴德”（其升级版名为“双子座”），违反了欧盟知识产权的相关法规。谷歌就此成为了第一家因为训练数据而被罚款的人工智能（ai）公司。

法国监管机构表示，作为和解条件，谷歌对其违规行为不作辩解，并将提出有关措施，以修正产品和服务缺陷。谷歌对此回应称，希望寻求和解是因为“该往前走了”。“我们希望专注于更大的、可持续的方法，把用户和高质量的内容联系起来，并与法国出版机构进行建设性合作。但需要注意的是，监管机构没有充分考虑我们为解决问题所做的努力，因为在‘探索新路’的过程中，我们无法预测未来的风向。”

6 加拿大将加强对人工智能、量子计算等领域的外资审查力度

据报道，加拿大工业部长弗朗索瓦·菲利普·商鹏飞表示，根据最新修订的《加拿大投资法》规定，非加拿大公司在投资或收购人工智能、量子计算等关键技术领域的加拿大实体之前，必须提前向政府发出通知。

商鹏飞表示，更严格的规定也将适用于关键矿产和其他潜在行业的投资，目的是在交易过程中为政府争取时间进行国家安全审查。而在调查进行期间，潜在买家或投资者在访问目标公司用户数据或其他财产方面可能会受到限制。

报道直指，加拿大政府的这一新措施，就是为了效仿美国，共同遏制中国资本的收购措施。此前2022年加拿大政府曾命令三个中国实体从本地锂生产商中撤资。

7 欧洲监察专员办公室向欧盟委员会询问如何在决策中使用人工智能

3月15日，欧洲监察专员办公室（european ombudsman）已经致函欧盟委员会，询问其在决策过程中如何决定是否使用及如何使用人工智能。监察员指出，虽然人工智能的快速发展可以提高工作的质量和效率，但在准确性、潜在偏见、可解释性和人为监督方面，它们构成了重大挑战。监察员还强调，公共行政部门必须确保人工智能只是协助人类决策，而不是取代人类。

监察员向欧盟委员会提出的问题集中在三个特定领域:公众反馈分析、发现潜在违反欧盟竞争规则的行为，以及投诉处理。关于这些领域，监察员向委员会询问了任务自动化、使用人工智能的自动化决策、使用人工智能决策的透明度以及问责制等问题。

8 印度：发布生成式ai工具，需获得政府许可

印度信息技术部于当地时间3月1日发布公告：各家科技公司在发布生成式ai相关工具、新的模型之前，需要获得印度政府的明确许可。

其要求科技公司确保自己的服务或产品“不允许任何偏见或歧视”。该文件在法律上并不具有约束力，但印度信息技术部负责人表示，该通知“在示意这是未来的监管方向”。他补充道：“我们今天只是作为一个建议，要求你们遵守它。”

该负责人在 x（推特）上的帖子中表示，该建议针对的是“在印度互联网上部署的、未经测试的人工智能平台”，而非初创公司。

此外，这份文件还要求科技公司“适当”标注其人工智能模型产生的输出的“可能和固有的不可靠性或不可靠性”，这标志着印度抛弃了此前对人工智能监管方面“不干预”的态度。不到一年前，印度信息技术部曾拒绝对人工智能的发展进行监管，而是将该领域确定为印度“战略利益的重要组成部分”。