杠杆配资业务这些针对“深度伪造”的立法仍远远不够

虚假的网红、虚构的新闻、合成的裸照……人工智能（AI）技术在推动人类社会快速发展的同时，也令很多负面问题不断涌现。尽管人们也在努力遏制AI的种种滥用，但在指数级的技术迭代面前，各自为战显然不足以应对。

甚至于，一部随处可以买到的几千元的电脑，两三个随处可以下载到的免费开源软件，就可以让AI完成对一个人面容和声音的伪造。

6月25日，一些中国人权和人工智能方面的学者，与一些欧洲相关领域的学者，齐聚在西班牙首都马德里，就如何引导AI这项人类重要的科学技术趋利避害、如何让科技向善，达成了重要的合作共识。

恶劣的侵害

“我们学校有不少老师，都遭到过伪造不雅视频的骚扰和勒索。因为学校老师的照片都是公开的”。

说出这句话的，是此次来到马德里参加2025中欧人权研讨会的一名中方学者。在这次以“数智时代背景下的人权”为主题的交流活动中，深度伪造（Deepfake）这一由生成式人工智能技术滥用而产生的恶果，是中欧双方专家讨论的议题之一。

去年，深度伪造问题的严重性以及泛滥程度，曾震惊韩国社会，不仅因为其中受害者80%都是普通女性，而且有高达六成还是未成年人。而这也驱使韩国拿出了打击儿童色情的法律力度，将传播甚至是持有和观看这类深度伪造视频的行为，都视为犯罪。

4月29日，美国总统特朗普签署了一项打击“深度伪造”问题的法案。因为这种成为世界公害的问题，正在美国的校园中如病毒一样肆虐，侵害着众多未成年女生的人权。

然而，在多名参与2025中欧人权研讨会的中方和欧方专家看来，这些针对“深度伪造”的立法仍远远不够。中南大学人权研究中心执行主任、法学院教授毛俊响表示，人工智能技术的不断迭代，正令技术使用门槛——包括‘深度伪造’的侵害门槛大幅降低。

另一方面，这些伪造的视频往往发布在境外的服务器，一些网络平台打着“言论自由”旗号，放纵网络犯罪且拒绝监管，从而导致取证和制止侵害变得艰难。在韩国的案例中，大量合成的虚假淫秽视频就存储在一个个由不法分子组建的“电报”群组中。

今年英国BBC披露的一个案例还显示，一个盗取了20名女子社交账号照片并合成了数百个虚构的淫秽内容发布在某境外论坛的英国男子，最终被判刑5年，但他会落网，却是因为他在其中一次发帖时，不慎露出了自己的社交账号信息。否则，警方将无法通过他开设在该境外论坛上的匿名账号追查到他。

毛俊响认为，这凸显出国际合作对于打击这种侵害人权行为的重要性。

不过，“深度伪造”的问题，只是人工智能技术被滥用的众多问题之一。南开大学法学院教授王彬就提到，生成式人工智能带来的人权风险广泛且深远。比如在隐私权方面，模型训练数据的获取环节乱象丛生，非法数据交易、暗网数据爬取等行为屡见不鲜，大量数据在没有经过用户知情同意的情况下被获取。

西南政法大学校长、人权研究院院长林维在接受记者采访时则谈到了算法加剧人们对于网络世界沉迷的问题，指出这会产生一系列的社会问题。他特别提到了智能手机上的各种应用通过算法占有未成年人时间的情况，认为这不仅导致家庭关系的疏离，还会加剧未成年人出现心理问题的风险。不仅如此，一些人工智能驱动下的大语言聊天模型，还会让心智不成熟的年轻人进一步暴露并陷入到这些大模型中一些有害的语料内容之中。前不久有国内媒体就报道了一个10岁女孩所使用人工智能聊天软件，出现了包含自残等有害语料的内容。

与会的欧方学者，也在他们的发言中谈及了更多人工智能被滥用带来的对人权的侵害问题。他们的担忧更多集中在两个方面，一个是西方跨国大企业对人工智能技术的垄断带来的对其他国家主权和公民个人权利的侵害，另一个是人工智能对于人们认知事物能力的操控和污染，以及这对选举制度带来的危害。

瑞士“新媒体”组织联合创始人娜塔莉·贝纳利就举例说，在西方的新闻传媒行业，掌握在西方大型科技企业手中的人工智能算法推送机制，正支配着普通人的信息获取，而那些被西方大财团控制的、逐利的新闻媒体，一方面在迎合算法定制新闻内容，另一方面则在新闻生产中越来越倾向用人工智能去撰写新闻报道，从而导致新闻道德操守的下滑。更严重的是，当掌握信息推送算法机制的垄断性科技企业，与大财团控制的媒体结合在一起后，贝纳利认为这可以算得上是一种“数字殖民主义”了，因为全世界的弱势群体——特别是来自话语权弱势的全球南方地区的人民，将被迫接受发达的霸权国家和那里的极少数富裕的精英，通过这些大财团的媒体，灌输的信息、观念和认知，从而大大增加弱势群体的人权被侵害的风险。

保加利亚科学院教授玛丽亚娜·托多罗娃则在发言中表示，人工智能技术的滥用正在进一步加剧社会的歧视和不平等，比如在美国正在进一步固化对非裔群体系统性的歧视，而这最终会动摇很多国家民主制度的根基。

捷克左翼研究所学术委员会的主席扬·坎贝尔更认为，人工智能虽然可以让全人类受益，但也在利用人类全部的文化遗产为少数人牟利。对更多人而言，人工智能则可能带来高昂的代价，比如人工智能的供应商拥有了前所未有的了解或洞察人类思想的权限，但这些供应商却并没有充分承担起与之相配的重大责任。

“中国可以成为AI规范与向善的引领者”

尽管中国也面临着人工智能技术滥用问题带来的挑战，但中国对这些问题积极应对，与外界主动沟通、交流。在这次2025中欧人权研讨会上，多名中方专家对于中国在人工智能立法，以及在利用人工智能技术保障人权和消弭数字鸿沟方面的作法进行了介绍，引起了现场欧方学者的浓厚兴趣，更让不少欧方学者认为，中国可以成为规范人工智能使用，让这项科技造福人类的引领者。

比如，北京理工大学法学院教授、科技人权研究中心执行主任肖君拥就在会议的主旨演讲中，分享了中国“以人民为中心”的人工智能治理哲学的生动案例。他一方面列举了中国在医疗、教育、司法等领域应用人工智能技术造福基层和偏远地区的情况，另一方面还介绍了中国如何通过设立多项法规，为算法和生成式人工智能划定合法运营的框架与红线，并给出技术发展的规范标准。

不仅如此，肖君拥还提到了中国以“人类命运共同体”理念为指引，应用人工智能技术保障世界人权的故事。比如在先前缅甸地震的救援中，中国团队仅用7小时开发出中缅英多语言互译系统，为跨国救援打通沟通渠道，直接帮助受灾群体获得国际援助；又比如向低收入国家开放算力资源，并为这些国家提供人才培训。

华中科技大学人权法律研究院院长汪习根则从更为广阔的数字技术层面，介绍了中国应用数字技术，保护老年人、残疾人和妇女儿童等弱势群体，以及在改变教育资源分配不公等多个领域上取得的进展和成果。

中国最高人民法院信息技术服务中心的总工程师黄国栋则从数字法院建设的角度，分享了中国推动不同地区的民众平等享有司法资源的努力。

有曾经到访中国的欧方专家，也在发言中自发介绍起了中国在面对人工智能技术带来的机遇和挑战上采取的积极措施。匈牙利中国中东研究院的研究员拉迪斯拉夫·泽马内克就表示，中国的人工智能发展模式既可以激励创新，又可以促进更公平包容的社会，因为中国一方面在推动各行业通过竞争驱动技术创新，另一方面则通过国家主导的数据基础设施建设，避免私营部门的垄断。

曾两次到访中国的瑞士“新媒体”组织联合创始人娜塔莉·贝纳利在接受记者采访时说，她在中国亲眼所见的中国将科学技术用于造福本国和世界的举措，让她相信中国在人工智能的规范和技术向善方面，一定会成为世界的引领者。

本届2025中欧人权研讨会的会议承办方、西班牙知华讲堂基金会的副主席兼总干事玛尔塔·蒙特罗更赞扬说：“中国模式视个体为共同体的一部分，而非孤立存在。这种模式追求人与自然和谐共生。这种模式摒弃霸权与强制，信奉共同发展，不让任何人掉队。这种模式坚信和平不是策略，而是原则”。

“人类的未来不能背对中国书写”

也正是在这样的期待下，与会的欧方学者普遍认为，欧洲应该与中国在人工智能领域密切合作。

“人类的未来不能背对中国书写。人类的数字未来离不开对话、公平与包容性发展观”，西班牙知华讲堂基金会的副主席蒙特罗在发言中这样说道。

匈牙利中国中东研究院的研究员拉迪斯拉夫·泽马内克在接受记者采访时表示，尽管欧洲和中国在规范人工智能上采取的路径不同，但双方的路径存在互补性，双方应通过更多的对话与交流，打破因地缘政治而非科技因素产生的误解，像应对气候变化那样共同面对人工智能的机遇和挑战。

欧洲科学与艺术院院士皮特·赫尔曼对记者表示，欧洲应该与中国开展“真正的合作”，包括允许中国的人工智能企业进入欧洲市场，展现出对中国平等的姿态，这样双方才能有效地防止人工智能被滥用。

葡萄牙“中国观察”智库主席鲁翊君认为，西方——特别是欧洲，应该把中国当作一个合作伙伴，而不是一个威胁。他认为中欧在数字与人工智能领域以和平、可持续的方式进行人权对话，是对多极世界的最佳做法，也是通往“人类命运共同体”的桥梁。

瑞典“一带一路”研究所所长史蒂芬·布劳尔对记者表示，美国对眼下以色列和伊朗冲突采取的做法已经暴露出了美国那套所谓的“以规则为基础”的国际秩序的双标和虚伪性，但世界不能滑向危险的丛林法则，应该听取包括中国在内的不同文化和制度的国家的声音，欧洲与中国两个伟大的文明应该在人工智能等各领域增进互信和合作，而不是把一方自认为优越的价值观和认知强加给另一方。