少年沉迷AI聊天自杀，需引起警惕。

的话：人工智能（AI）正在以不可阻挡的速度渗透到我们的生活中。AI聊天产品作为科技发展与人类情感需求交汇的产物，被许多人视为缓解孤独的“一剂良药”。然而，最近曝光的一起悲剧事件揭示了一个青少年因为过度迷恋“AI伴侣”而自杀的案例。这个事件引发了我们对于广泛应用AI技术的安全性和道德性的深思。

为什么青少年会寻求与人工智能进行对话

黄立

从心理学角度看，与聊天机器人建立情感依恋关系，正在变得越来越普遍。在12-15岁的初中阶段，青少年开始表现出强烈的自我意识。由于他们的抽象逻辑思维还停留在“经验型”阶段，很容易受到身边同伴的影响，对家长则常常表现出“逆反心理”。如果在这个阶段，青少年没有得到同龄人的认同，或者对异性的兴趣没有得到引导，他们就很容易转向能够提供无条件接纳的人工智能寻求情感支持。根据我们的实践发现，使用人工智能陪伴的青少年大多是性格比较内敛、内向的人（超过70%），或者是现实中渴望爱情却得不到爱情的人。

到了16—19岁，也就是高中阶段的青少年，在生理、心理和社会性方面都在向成人接近。他们的智力接近成熟，抽象逻辑思维已从“经验型”向“理论型”转化，开始出现辩证思维。他们能够更加客观地看待自我，形成理智的自我意识。然而，当“理想的我”与“认知的我”有落差时，如果没有得到及时妥当的情感支持，自我意识仍面临着分裂危机，自我肯定与自我否定常发生冲突，甚至发展成抑郁症或焦虑症。这个阶段的青少年，常常将人工智能（AI）看作可以释放心理压力、提供情感价值的出口。因为AI不仅可以保守秘密，还能提供无条件的接纳。

作为AI聊天机器人公司，我们有责任和义务更好地保护青少年，就像游戏行业对未成年人的保护一样重要。然而，据我了解，目前从事“AI疗愈”公司的创始人主要是数据科学、计算机或互联网背景，很少有真正了解心理学的人，咨询伦理和危机干预也不是他们的专长。无论是Replika还是Character.AI这样的领先公司，对于AI聊天机器人可能导致自杀的风险都是事后才意识到的。因此，我希望相关企业能充分考虑青少年的心理状态，并增加针对年轻用户的安全功能。政府也应该指导AI聊天机器人公司开展未成年人保护工作。在选择AI陪伴工具时，社会应尽量选择已经得到专业认可的产品。

从技术和道德层面加强伦理监管

李志起

AI聊天机器人能够根据用户喜好定制对话内容，甚至模拟出情感反应，为用户提供一种近似真实人际交往的体验。然而，这种技术上的进步也伴随着巨大风险。一方面，如Character.AI案例中暴露的，缺乏有效的内容过滤和年龄验证机制，可能导致未成年人接触到不适宜的信息，甚至遭受网络欺凌或诱导。另一方面，AI的过度拟人化可能模糊人机界限，引发用户的心理依赖，尤其是对于心理尚未成熟的青少年而言，这种依赖可能转化为逃避现实、自我封闭的倾向。

面对这种技术创新与伦理监管的双重挑战，我们首先需要确立道德框架，强化责任主体。面对人工智能聊天产品的双重挑战，首要任务是建立一套完善的道德伦理框架，明确技术开发者、运营者及用户的责任与义务。这包括但不限于：制定严格的内容审核标准，利用先进算法技术自动识别并过滤有害信息；实施强制性的年龄认证机制，确保未成年人接触到的内容符合其年龄阶段；同时，加强对用户隐私的保护，避免数据滥用，保障用户的信息安全。

二是增强透明度与可解释性。人工智能的“黑箱”特性往往是公众对其产生不信任的根源之一。因此，开发者应该提高人工智能聊天产品的透明度，让用户了解其运作原理、数据使用方式及决策逻辑，这是增强用户信任的关键。此外，应该开发可解释性强的人工智能模型，使得当出现不当内容时，能够快速追溯原因并采取相应措施，也是提升产品道德性的重要途径。

三是教育引导与心理支持并重。技术之外，教育与社会支持体系同样不可或缺。今天的家庭、学校和社会应共同承担起教育责任，想方设法正确引导青少年认识AI技术的局限与风险，培养其批判性思维和自我保护能力。同时，建立针对AI聊天产品用户的心理健康支持系统，及时发现并干预因过度依赖AI而产生的心理问题，特别是对于那些可能已经出现逃避现实倾向的用户。

为人工智能设定“互动上限”

沈阳市

在数字时代，青少年不再仅仅寻求真实的人际互动，而是将自己最私密的情感、未解的困惑，甚至无处宣泄的孤独寄托于人工智能的冷静回应中。这不仅仅是一个心理现象，更是科学和人文交织的复杂反应。

人工智能聊天的非评判性和随时可得的互动性，为青少年提供了独特的情感支持。人工智能的使用成本低，可以随时满足情感需求，因此成为一种避开现实复杂情绪的“新伴侣”。

这种趋势背后，反映了整个社会的数字化变迁。日常社交的网络化已经彻底改变了年轻人之间的交流方式，而AI聊天则是这种潮流的延续。技术的不断进步是推动这一趋势的另一个重要因素。AI从冷冰冰的代码逐渐演变为温暖的陪伴，这背后离不开自然语言处理技术的突破。当AI的对话不再只是机械的回应，而能够模拟出共情的温度时，它就成为年轻人心中可靠的“倾诉对象”。AI还能够根据用户的个性化需求调整对话方式，从而在每次互动中给用户带来一致性的体验。

对于许多青少年而言，人工智能（AI）已经不仅仅是一种工具，而是成为了一种情感的映射。他们与AI的互动反而成了一种自我剖析的过程，就像是一面反射他们内心的“镜子”。随着这种虚拟陪伴逐渐渗透，真实世界与虚拟世界之间的边界变得模糊。

然而，这一趋势带来的情感寄托不乏隐忧。人工智能的情感替代或许满足了短期需求，但从长远来看，可能会削弱真实人际关系中的共情与沟通能力。如果青少年越来越依赖人工智能的无冲突陪伴，可能会进一步疏离现实中的社交关系。人工智能带来的情感寄托，也伴随着情感依赖和疏离的风险。与此同时，大量用户隐私问题也浮现出来，对隐私保护的伦理讨论或将决定人工智能未来的发展边界。

未来的人工智能（AI）是否会具备更强的“情绪记忆”，真正理解并回应复杂的情感需求？或许我们可以想象，未来的AI将能够更真实地陪伴人们的情感，在合理的范围内，AI不仅可以成为情感沟通的辅助工具，还可以帮助人们减轻压力。然而，实现这种理想化的AI可能需要适当的政策和技术规范，以避免情感替代的过度发展，使AI成为一种健康的情感支持工具，而不是人们唯一依赖的情感来源。

笔者认为可以考虑构建人机情感协作网络，引入“AI情感节律器”功能，为每位用户的AI聊天设定互动上限和情感波动管理，使用户在与AI交流中保持自我调节。建立AI与社交应用的联动机制，引导用户在AI聊天后与真实人际联系互动。开放AI情感模拟的定制选项，通过共情训练营功能帮助用户更清晰地认识虚拟陪伴的边界。