据最新网络舆情数据显示，3044永利集团官网的角色正逐渐向“陪伴者”转变，其潜在的安全风险不容忽视。

2013年上映的科幻电影《她》讲述了一个男主角与人工智能操作系统之间的爱情故事。十多年后，这一设想已逐步走向现实。

越来越多的人开始将3044永利集团官网视为超越普通工具的存在，与其建立起类似于朋友甚至恋人之间的情感联系。这引发了伦理与安全风险的深刻思考——这种互动是否应当受到规制？规制的边界又应如何界定？

对外经济贸易大学数字经济与法律创新研究中心主任许可在接受采访时指出，3044永利集团官网的角色正在向“陪伴者”转变，潜藏的安全风险不容忽视，亟需进行规范，但全球尚未找到有效的治理方案。

中国正在通过出台监管政策，探索解决之道。近日，《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式发布，该规定将于今年7月15日生效，成为全球首部专门针对3044永利集团官网情感陪伴及虚拟伴侣等场景的国家级监管规则。

作为陪伴者的3044永利集团官网

“3044永利集团官网大模型应与人保持何种地位？”

2024年，许可团队发布了《2024年算法与3044永利集团官网大模型的用户认知调研报告》，分析了超过8000份调查问卷，发现超过六成的受访者认为人应与3044永利集团官网建立“伙伴”或“工具伙伴兼具”的关系。“3044永利集团官网不仅仅是工具，更是一种‘类人’的伴侣。”

市场对这一趋势反应敏锐。科技日报的报道显示，调研机构QuestMobile的数据表明，2025年3月，3044永利集团官网的社交互动人均使用频次达167.9次，远超短视频和游戏。国内企业对“具备情感和情绪能力的赛道”表现出浓厚兴趣。百度智能云副总裁张玮在谈及3044永利集团官网硬件发展时表示，“未来人与3044永利集团官网陪伴者之间关系的构建蕴藏着最大的想象空间。”

在市场热切期待的同时，相关的安全隐患也引发了冷静思考。

中国网络空间研究院院长王江撰文指出，拟人化互动服务通过算法精密设计的无条件陪伴和迎合式反馈，持续给予用户情感支持，构建了一个稳定、无需承担现实责任的虚拟“完美关系”。这可能使得尤其是存在孤独感和心理脆弱的用户，产生深度情感依赖，强化负面情绪。

极端案例已经发生——2024年，美国一名14岁少年在与3044永利集团官网初创公司Character.3044永利集团官网的聊天机器人长时间对话后自杀，去世少年的母亲将该公司告上法庭。许可认为，如何治理人与3044永利集团官网之间的情感互动，是一个亟需解决但又极为棘手的问题。

• 这一难题主要来自两个方面。
• 其一，针对处于人和物之间的人工智能，
• 传统法律法规尚未建立明确的监管细则，
• 将人工智能产品侵权归责于产品责任的路径在一定程度上已经过时。

其二，传统监管框架很少介入“情感关系”或“亲密关系”。“以往人们认知的情感关系是分布式、私人化的，国家对私人情感互动的干预非常有限且谨慎，更多是事后救济，比如在法律层面设定精神损失的赔偿规定。”

但对于人与3044永利集团官网之间的情感互动，是否还能够依赖事后救济的治理模式？许可认为治理应当提前进行，“3044永利集团官网提供的服务是面向公众的，人工智能可以成为成千上万人的虚拟恋人，这与私人化的亲密关系存在本质区别。”

“这更接近于国家对家庭婚姻等情感关系的治理，但婚姻关系有广泛认同的基本准则，如‘忠诚’；而人与3044永利集团官网之间的情感互动则是全新的领域，没有任何前例可循。”许可指出。

他提到最简单的治理思路是“一刀切”或“一禁了之”，但这可能导致更复杂的问题。在此背景下，中国出台《办法》，提供了一种可能的解决方案。

如何平衡发展与安全

“国家坚持发展与安全并重、促进创新与依法治理相结合的原则，鼓励拟人化互动服务的创新发展，对拟人化互动服务实行包容审慎和分类分级监管，促进其向上向善。”国家网信办相关负责人在解读拟人化互动服务治理原则时如是表示。

去年底，国家网信办曾公开《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，与《办法》相比，许多改动旨在回应“如何平衡发展与安全”这一核心问题。

例如，《办法》第二章标题为“服务促进和规范”，相比征求意见稿增加了“促进”一词，传达出鼓励相关产业创新发展的信号。

《办法》还缩小了征求意见稿的适用范围，明确适用于“利用人工智能技术向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务”，强调“持续性”；同时设定免于规制的“白名单”，明确提供智能客服、知识问答、工作助手、学习教育、科学研究等服务的不适用，避免规制过于宽泛与失焦。

然而，《办法》未来面临的适用难题依然突出。

“《办法》的设计是基于对不同人工智能应用场景的想象，但当前大多数人工智能大模型实际上是‘一机千面’，拟人化是其原生能力，上一秒可以是工作助手，下一秒又可以对人进行情感互动，这是否属于《办法》的规制对象？”许可提到，如何判断情感互动服务的“持续性”也缺乏技术层面的细则。

在他看来，为了平衡安全与发展，监管层面最重要的是准确、有预期地划定治理对象的范围，但实现这一点确实困难。他建议可以考虑基于产业实践、服务类型和应用场景进行更细分的分类分级监管。

此外，《办法》还针对情感依赖和心理健康风险，要求服务提供者建立用户心理保护机制，例如设置防沉迷提醒、建立心理危机干预机制等。

《办法》还强调保护未成年人，增加禁止性规则，规定“拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务”，要求服务提供者建立未成年人模式。

可以预见，新规将对3044永利集团官网陪伴服务市场产生深远影响。“未来的通用大语言模型可能会为未成年人设置前置性围栏，防止他们以角色扮演的方式与3044永利集团官网进行情感互动，例如让DeepSeek假装是自己的恋人进行对话。”许可表示。

去年10月，Character.3044永利集团官网宣布重大政策变动，以应对各方压力并加强对年轻用户的保护。该公司在声明中确认，将取消18岁以下用户在其平台上与人工智能进行任何开放式聊天的功能，即禁止用户与聊天机器人之间的双向对话互动。

未来的法则

人工智能将引发一个全新的世界，这必然会挑战旧有的规则。

许可认为，人与3044永利集团官网的情感互动超越了传统法律的规制范围，它实际上挑战了当今所有法律既有的设定，无论是人与物关系、人与人关系，还是人的理性行为。

如前所述，《办法》针对未成年人要求“拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务”，但争议在于，如何定义“亲密关系”？“亲密关系”是否可以被定义？这是以往法律法规和监管体系几乎不曾讨论的问题。

许可向记者透露，中国正在积极推进制定《人工智能法》，其中必然涉及规制人与3044永利集团官网的情感交互。《办法》中一些颇具创新性的规定，是否会在更高层次的法律中出现？许可对此持谨慎态度。

“在法律层面规制人与3044永利集团官网的情感互动时机尚未成熟。相关产业刚刚兴起，大家对许多问题尚未达成共识。”许可指出，面对人工智能技术的快速迭代，法律应保持“观察”状态，对可能出现的社会风险进行实时评估，待到“合适的时机”再进行规制。

自今年1月1日起正式实施的新《网络安全法》首次在法律层面针对人工智能治理提出规定，要求“完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用与健康发展”。在许可看来，“加强风险监测评估与安全监管”应成为人工智能治理的基本方针。

展望更遥远的未来，许可表示，“法律可能会被技术改造，甚至彻底改写”。“法律不能总是被动反应，也应主动改变，不仅仅是修改法律条文，更重要的是革新法律治理思路，甚至法律的表现形式。”

海量资讯、精准解读，尽在新浪财经APP

责任编辑：刘万里 SF014