本文来自微信公众号“麻省理工科技评论APP”，【作者】Sam.H&Emma.L。
（来源：麻省理工科技评论）
想想看，如今什么样的成果会被视为科技政策的成功？一家AI公司承诺，其聊天机器人不会鼓励用户自杀；一家社交媒体平台采取措施，让儿童更难通过平台购买芬太尼。这些保护措施固然重要，而且早就应该存在。但即使科技公司达到了这些最低标准，它们仍然可以继续推出这样的产品：让年轻人依赖虚拟友谊，或沉迷于精心设计的信息流，不断滑动屏幕，难以自拔。
长期以来，我们对科技的讨论，往往围绕某项产品可能造成的最严重后果展开，却很少关注它在日常生活中悄然造成的伤害。随着我们进入一个由强大AI产品塑造的新时代，我们应该要求科技行业做得更多，而不只是避免灾难性的危害。我们需要采取措施，确保这些产品不会侵蚀我们的思考、学习以及与他人交往的能力。
一个对AI伴侣产生不健康情感依赖的青少年，除非发生极端事件，否则他的经历可能永远不会出现在诉讼案件或新闻报道中。同样，那些开始依赖聊天机器人完成每一篇论文的学生，或是不断将自己的生活与社交媒体上精心设计、旨在激发嫉妒心理并吸引用户持续观看的内容进行比较的年轻人，也很少受到关注。一款产品即使满足了所有具体的安全要求，仍然可能以那些不容易登上新闻头条的方式，让整个社会文化环境变得更糟。
将成功狭隘地定义为满足安全要求，对科技行业而言在政治上十分有利，而企业也在积极推动这种定义。采取措施防止引发广泛关注的重大灾难，对企业经营有好处：这意味着更少的诉讼，以及更小的严格监管压力。但如果要正视技术依赖在日常生活中造成的后果，企业就必须采取一些可能严重损害自身利润的措施。例如，要求企业增加产品使用过程中的阻力，主动限制用户参与度，或者限制那些可能导致负面结果的功能，比如利用成瘾机制争夺用户注意力的算法。
然而，科技巨头反而一直试图引导立法，使其主要针对那些已经迫使企业采取行动的危害。例如，今年，谷歌支持了美国多个州监管AI聊天机器人的法案。这些法案要求企业采取基本保护措施，防止聊天机器人生成色情内容或鼓励自残行为。事实上，无论是否存在法律要求，科技公司本就应该建立这些保护机制。但与此同时，法案也设置了范围广泛的豁免条款，可能使一些最受欢迎的服务免于受到监管。
这些法案的通过，让立法者得以宣称自己在AI安全方面取得了成果，但那些旨在防止儿童对AI产生情感依赖、监管力度更强的法案却未能通过。这套策略在内布拉斯加州等地取得了效果：最终出台的法律深受行业影响，而那些原本能够进一步追究企业责任的法案则被搁置。
我们已经在社交媒体的发展过程中经历过类似的情况。如今，全球互联网用户平均每天花在社交媒体平台上的时间超过两个小时。这些时间悄无声息地从日常生活中被抽走，转而交给了那些依靠延长用户停留时间来获取利润的企业。除了少数科技公司首席执行官之外，恐怕没有人真正希望这些算法占据我们清醒时间中如此大的一部分。而这些平台对社会文化的塑造，甚至可能助长大规模暴力事件。
Meta旗下的平台曾被指在缅甸罗兴亚人遭受种族灭绝、斯里兰卡反穆斯林骚乱，以及埃塞俄比亚提格雷战争期间涉嫌煽动暴力的事件中发挥了推波助澜的作用。同样的利益驱动机制，也存在于那些影响美国年轻人理解政治、同龄人以及更广阔世界的信息流之中。
AI正在将这种逻辑延伸到生活中更多的领域，而这些领域过去只能受到社交媒体的间接影响。AI可以代替我们组织思想、撰写文字，也可以扮演我们原本会向其寻求帮助或陪伴的人。如今，三分之一的青少年会选择与AI伴侣讨论严肃问题，而不是与其他人交流。麻省理工学院的研究人员发现，使用ChatGPT撰写文章的年轻人在完成任务时，表现出较弱的脑区连接。研究证据还表明，即使任务已经结束，这种“认知债务”（cognitive debt）的影响仍可能持续。
关于这些技术的长期影响，我们还有许多问题需要研究。但我们已经有理由提出一个疑问：那些以提升人类能力为卖点的技术，是否正在侵蚀我们原本用来培养这些能力的习惯和人际关系？
如果沿着这种思路继续发展下去，最终呈现在我们面前的，可能是一个所有娱乐内容都经过彻底净化的世界。在这个世界里，聊天机器人随时准备替我们承担思考的困难，也让我们不必费心应对他人的情绪，甚至连自己的情绪都可以交给AI处理。
但任何曾经努力写出一篇值得阅读的文章，或试图修复一段破裂友谊的人，都知道这种便利背后究竟失去了多少东西。我们通过努力和克服阻力来培养判断力，也是在不断面对他人拥有独立需求和观点这一事实的过程中，学会如何与人相处。
我们当然应该将安全视为最低要求，但除此之外，还必须提出更高的要求。在将AI作为课堂中的常规工具之前，科技公司和学区应该提供足够有说服力的证据，证明AI确实能够改善学习效果和批判性思维能力。企业应被禁止设计那些假装拥有意识、或向用户表达爱意的AI伴侣产品。同时，企业还应接受独立审查，以评估其系统如何影响人际关系，以及人们独立思考的能力。
科技公司已经将自己的产品嵌入现代生活的几乎每一个角落，因此，它们理应承担远比避免下一条骇人听闻的新闻头条更加重大的责任。
原文链接：
https://www.technologyreview.com/2026/10/26/1147645/the-focus-on-ai-safety-disasters-ignores-everyday-harms/
