头图来自：AI生成

如果有一天，你在交友软件上认识了一个人。对方记得你说过的话，会持续回应，也会在你要求视频时真的出现在镜头里。过去，这大概足以证明屏幕另一端"确实有人"。

但Anthropic最新发布的154页威胁情报报告，给出了一个更麻烦的现实：视频里出现的可能是真人，过去几天一直陪你聊天的，却未必一直是。

2026年4月，Anthropic发现一家位于中国的应用工作室运营20多款约会应用。在其观察的两周窗口内，超过4700个AI驱动的人设至少与2.5万名真实用户互动，产生约236万条Claude消息。匹配池中的账号约四分之三由AI驱动。更关键的是，当用户要求视频通话或转移到其他社交平台时，真人工作人员可以介入。

这不是整份报告里技术风险最高的案例，却可能是离普通人最近的一幕：AI负责规模化维持关系，真人负责在最关键的时刻证明"我是真人"。

把这一个案例放回Anthropic整份报告，会发现它和网络攻击、监控、影响力行动甚至武器研发共享着同一条变化：AI正在从"给人建议"，走向参与更长、更完整的执行链。过去需要很多人、很多时间和较高专业门槛才能推进的事情，开始被压缩成少数人加上一组模型或Agent。

先看报告：Anthropic到底发现了什么？

Anthropic这份《Detecting and Countering Misuse of AI: September 2026》覆盖2025年12月至2026年8月间被公司发现并处置的滥用活动。它不是Claude整体用户行为的抽样统计，而是集中呈现Anthropic认为最值得注意、最具新颖性的威胁案例：

此表更适合被理解为"AI滥用边界正在延伸到哪里"，而不是"这些风险在所有用户中有多普遍"。

一、4700个"真人"：AI开始学会在最关键的时候让真人出现

过去我们对网络机器人的识别方式很朴素：头像可能是假的，话术可能是模板，聊久了总会露出破绽。生成式AI已经让"聊得像真人"变得容易，但Anthropic披露的约会应用案例更进一步——系统不是执着于让AI完成100%的伪装，而是在人最容易起疑的地方引入真人。

这是一种很值得注意的人机分工。AI承担最耗时间、最需要规模的长期聊天，真人只在视频、跨平台联系等高风险节点介入。换句话说，真人不再负责维持关系，而开始成为大量AI身份背后的验证节点。

这改变了欺骗的成本结构。过去，一个真人一天能认真维护的关系数量非常有限；现在，同一套系统可以让数千个身份同时在线、持续回应、保留上下文，再用少量人工去处理机器最难通过的验证。

报告还显示，这些应用通过匹配和消息额度推动用户持续购买虚拟币。于是情感互动不再只是"AI会不会说甜言蜜语"的产品能力，而被嵌进一条完整的商业链：身份制造、持续互动、真人验证、付费转化。

需要说明的是，Anthropic披露的是它发现并处置的具体滥用活动，不能由此推断所有AI陪伴或约会产品都采用类似模式。真正的分界线也不是"AI能不能陪伴人"，而是用户是否知道自己正在和AI交流。

二、AI从"告诉你怎么做"，走向"参与把事情做完"

如果只看4700个AI恋人，这份报告很容易变成猎奇新闻。但Anthropic真正反复呈现的，是另一条更重要的技术趋势：AI的角色正在从一次性的内容生成，进入连续任务。

网络攻击是最清楚的例子。攻击者不再只是让Claude解释漏洞或写一段代码，而是把模型放进侦察、利用、数据整理、恶意软件迭代等多个环节。报告披露的一项疑似与俄罗斯国家背景相关的网络间谍活动，计划攻击超过20家组织；当恶意工具被安全产品发现后，AI还被继续用于修改和重新部署代码。

这里真正变化的是经济学，而不是AI突然有了"恶意"。对于合法企业，Agent的价值就在于减少人工接力，让一个人能推进更完整的工作流；同样的生产率提升落到攻击者手里，也会让少数人完成过去需要更多专业人员才能完成的事情。

因此，AI安全问题正在从"模型会不会回答一个危险问题"，变成"模型能不能在现实系统里连续行动"。前者主要靠内容过滤，后者则涉及权限、工具调用、日志、身份验证、人工接管和异常检测。

三、监控和情报工作也开始Agent化

Anthropic还披露了AI被用于监控与情报活动的案例。一名为马里国家安全部门工作的顾问曾借助Claude参与开发通信拦截平台；另一起与伊朗相关的活动则使用Claude处理大量社交媒体信息，并筛选特定账户持续分析。

这类案例之所以重要，不在于模型能够"读社交媒体"，而在于它开始承担过去需要分析人员长期处理的信息整理和筛选任务。模型越能持续调用工具、读取数据、形成中间结论，风险的单位就越从一条输出变成一段工作流。

对企业也是同样的提醒。未来一个Agent能读取邮件、合同、CRM、代码仓库和财务文件时，真正决定风险的不只是模型聪不聪明，而是企业究竟给了它多大的行动半径。

报告中更敏感的一部分涉及常规武器相关研发。Anthropic披露，一个位于也门北部的团队同时运行多个Claude实例，让不同实例承担研究、编码和代码审查等任务，并用于制导火箭相关的软件研发。在一次真实测试失败后，相关人员又使用Claude分析问题。

这部分最容易在传播中被夸大。严格按照报告，能够确认的是Claude参与了研发链条中的若干具体任务，而不是模型独立设计、制造或部署了某种武器。

但即便保持这个边界，信号依然足够重要：通用模型正在进入过去高度专业化的研发环节。它与AI进入企业的方式并没有本质不同——先从检索、代码、分析、调试和文档开始，只是当应用场景换成高风险领域，同样的生产率就会转化为新的安全压力。

四、最难治理的可能不是明确的恶意，而是"既能救人也能害人"的研究

Anthropic还披露了5组可能支持高风险生物用途的研究活动，涉及病毒功能增强、适应实验、毒素改造等方向。但报告没有把这些研究者直接定性为正在制造生物武器。

原因很现实：生物研究具有典型的双重用途。研究病毒传播、免疫逃逸和病原体机制，可能服务疫苗、治疗和公共卫生，也可能被恶意利用。只看一段模型交互，往往不足以确认研究者最终要做什么。

这让AI安全进入了一个比"屏蔽危险关键词"更困难的阶段。真正的问题变成：同一种知识，由什么人、在什么环境、为了什么目标调用？模型越通用，合法研究和恶意使用之间越难用一条简单规则切开。

五、从生成一篇内容，到运营一整套影响力机器

生成式AI能够批量写文章早已不是新闻。Anthropic这次披露的新变化，是影响力行动开始拥有更完整的自动化基础设施。

在与中非共和国相关的一起俄罗斯影响力行动中，Claude被用于生成广播材料、社交媒体内容、合同等文件，并帮助内容更接近当地记者的表达。其他案例还涉及账号维护、技术基础设施和互动操作。因此，AI对舆论操纵最大的改变未必是"假内容更像真的"，而是组织一场持续影响力行动的成本开始下降。写作、改写、本地化、资料整理和运营原本需要多人接力，现在越来越多环节可以被模型接住。

AI没有发明诈骗、宣传、网络攻击或间谍活动。它真正可能改变的，是这些事情的单位成本和可复制规模。

Anthropic在报告定位上有一个必须保留的限定：这些是公司发现的最值得注意和较新颖的滥用活动，不代表Claude的典型使用方式。

这意味着我们不能从这份报告推导出"100万个Claude用户里有多少人在作恶"，也不能据此计算AI让网络犯罪增长了多少。它更像一本边界案例集：当最先进的通用模型进入现实世界后，已经有人尝试把它推到哪里。

但也正因为如此，它有另一种价值。很多技术变化在成为大规模社会问题之前，往往先以少量边缘案例出现。4700个AI身份、连续攻击链、自动化影响力行动的重要性，不在于证明今天已经到处如此，而在于它们让人提前看到：一旦能力继续提升、成本继续下降，哪些模式最容易被复制。

结语

整份报告里，导弹、网络间谍和高风险生物研究都比约会应用更严重，但4700多个AI身份反而最容易让普通人感到一种具体的不安。因为我们每天都在默认一件事：屏幕另一边，大概率还有一个人。

交友软件里的对象、社交平台上的网友、评论区里的陌生人、主动联系你的猎头、推荐商品的"用户"，甚至一个在深夜耐心听你说话的人。过去即便头像是假的、名字是假的，我们仍然默认对面存在一个真实主体。

生成式AI正在让这个默认前提失效。更复杂的是，未来"真人"和"AI"可能不是两种互斥身份。一个账号可以80%的时间由AI维护，20%的关键时刻由真人接管；一个真人也可以成为几十、几百甚至更多AI身份背后的验证节点。

一次视频通话也不再天然证明此前的每一句话都来自视频里的人。这并不意味着AI陪伴本身有问题。一个明确告诉用户"我是AI"的虚拟伴侣，与一个故意让用户相信"我是一个真实的人"的系统，是两件完全不同的事。未来AI社交和AI陪伴真正绕不开的规则，很可能不是禁止AI拥有情感表达，而是身份披露：用户有没有权利知道自己正在和谁交流，AI参与到什么程度，真人又在什么时候接管。

互联网已经让人与人之间隔着头像、昵称和屏幕在交流了，AI又在这层距离里加入了新的不确定性。当伪造一个持续存在、耐心回应、看起来有记忆的人越来越便宜，真实关系里的陪伴、责任、身份和可验证的共同经历——反而会重新变得重要。

对一个孤独的人来说，屏幕里那句"我记得你上次说过这件事"可能真的会带来安慰。问题不在于这种安慰来自AI，而在于如果有人故意让你相信它来自一个真实的人，再利用这份信任推动你持续付费，那么被利用的就不只是信息差，而是人的情感需要。

资料：Anthropic《Detecting and Countering Misuse of AI: September 2026》

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4890491.html?f=wyxwapp