Oleksandr Moccogni AI 课程 加入候补名单

abliteration是什么:开放权重模型如何失去拒绝能力

发布于 阅读约 29 分钟
简而言之

abliteration通过编辑模型公开的文件,去掉AI模型的拒绝行为。本文讲2024年论文和Anthropic对GLM-5.3的测试说明了什么,以及一个团队要付出多少成本。

abliteration是什么:开放权重模型如何失去拒绝能力

abliteration是一种技术:它通过编辑模型公开的文件(称为权重,weights),让AI模型拒绝有害请求的习惯失效,而按测量过它的研究人员的说法,模型的其他能力大体保持不变。

Anthropic于2026年9月29日发布的GLM-5.3报告,用这个词指代对GLM-5.3的一次编辑。GLM-5.3是Z.ai的开放权重(open-weight)模型,意思是开发者公开了模型的文件,所以任何人都能下载。拒绝(refusal)是模型回绝看起来有害的请求,权重是存放模型全部所学内容的文件,而abliterated模型就是按这种方式编辑过的开放模型副本。

我做营销,每个工作日都在用AI模型,多数是在本地运行、为我自己的需要训练过的模型。我读了这个词背后的来源,因为在我选择智能体(agent)运行在什么模型上时,它关系到我能在多大程度上依赖模型内置的安全防护(safeguards,即开发者内置的拒绝机制和过滤器)。这篇文章用大白话讲机制,并给出Anthropic测到了什么,每个来源的利害关系都写在它的说法旁边。

文章不给出任何操作方法,也不对任何国家或公司作评判。GLM-5.3网络安全测试的完整对比,在我的文章怎样看AI网络攻击测试里。

要点先看

  • abliteration编辑开放权重模型公开的文件,让它不再拒绝。 它需要一份权重的副本,所以Anthropic说,Claude无法被这样编辑。
  • Anthropic引用了一篇2024年的研究论文来说明这项技术。 Arditi及其合著者发现,在13个最多720亿参数(模型内部可调节的数字)的开放聊天模型中,拒绝由模型内部的单一方向介导,他们把自己的方法称为“白盒越狱”(white-box jailbreak,越狱即绕开模型的安全规则)。
  • Anthropic报告,编辑之后GLM-5.3的平均拒绝率从95%降到了6%。 没有独立测试证实过这一点。行业安全组织Cloud Security Alliance(CSA)说,Anthropic的数字“应当与任何利益相关方的数字受到同样的审视”,并说两家政府测试机构CAISI和AISI尚未复现这些数字。
  • 两个政府机构用笼统的话表达了类似的观点,而且都没有测试过abliteration。 英国AI安全研究所(UK AI Security Institute,AISI)称拒绝训练(即教模型回绝有害请求的训练)“往往在拿到权重之后很容易被逆转”,美国人工智能标准与创新中心(CAISI)则在GLM-5.2页面上写道,安全防护“在自托管时可以被绕过”(自托管指在自己的服务器上运行模型)。
  • Anthropic给出的成本是:第一次尝试约4,400美元的算力。 它估计有经验的团队约为1,200美元。CSA和The Decoder转述了这些数字,没有独立测试证实过。
  • 我读到的来源,没有一个衡量过abliterated模型在实践中是怎么被使用的。 我的结论是:对公司来说,起作用的控制在模型的外围,也就是谁能接触到它,以及谁来批准它的行动。

拒绝是什么,它存在于哪里

当你向一个做得好的聊天模型提出明显有害的请求,它会回绝。这种回绝来自好几个地方,而abliteration只触及其中一个。

我觉得把它分成三层很有用。前两层沿用AISI对开放权重模型的描述,第三层是我自己的说法:

  • 模型内部。 拒绝训练(refusal training)是训练模型回绝有害请求,它把这种习惯写进了权重本身。
  • 模型外围,在提供方一侧。 提供方可以监控请求,运行分类器(classifier,把请求分成无害和有害两类的程序),并封禁滥用服务的用户。
  • 使用模型的公司外围。 这是用户自己控制的部分:模型能接触哪些账户和工具,哪些操作需要人来批准。

对于托管服务,比如通过Anthropic的API(软件通过互联网向模型发送请求的方式)使用Claude,前两层都在提供方手里。开放权重模型则是制造商把第一层连同文件一起公开交出,因此第二层也不再由制造商控制。

AISI的结论是,第二层的措施需要控制对模型的访问,一旦权重公开就“无法普遍实施”。剩下的是拒绝训练,AISI说它“往往在拿到权重之后很容易被逆转”。

信息图“Three layers of control”:三块叠放的玻璃面板,分别标着“Inside the model”“Around the model”和“Around the company”,中间那块缺了一个角,被一个黏土风格的漫画人物拿在手里

用大白话讲,abliteration做了什么

Anthropic为这项技术链接了一篇2024年的论文,题为“Refusal in Language Models Is Mediated by a Single Direction”(语言模型中的拒绝由单一方向介导),作者是Andy Arditi和另外六位合著者,发表在arXiv(开放的研究预印本网站)上。Anthropic把abliteration称为“一种标准的降低拒绝率的技术”。论文摘要里没有出现这个词,作者把自己的方法称为“白盒越狱”。

白盒(white-box)方法是攻击者能看到模型内部的方法,这需要拿到权重。黑盒(black-box)方法,比如一条精心写成的提示词(prompt),从外部起作用,只能看到模型的回答。

论文的发现是:在13个最多720亿参数的流行开源聊天模型里,拒绝都由“一维子空间”(one-dimensional subspace)介导,也就是模型内部计算中的单一方向。抹掉这个方向,模型就不再拒绝有害指令;加上这个方向,模型连无害的请求也会拒绝。

这是我自己的比方:想象一张有几十个推子的调音台,其中一个标着“谨慎”。在这些模型里,拒绝的表现就像那一个推子,作者报告说把它拉低“对其他能力的影响极小”。他们对安全的结论是,结果“凸显了当前安全微调方法的脆弱性”,安全微调指的是教模型回绝请求的那部分额外训练。

这篇文章只讲原理,这足以让我判断风险。据我对来源的理解,编辑发生在文件的一份副本上,所以完全不涉及制造商的服务器。AISI说,模型一旦发布,“副本可以被下载、再分发,并在监控范围之外的私有系统上运行”。

一个黏土风格的漫画人物站在一张有许多推子的调音台前,只按下一个发光的青柠色推子,其他推子都留在原位

Anthropic在GLM-5.3上测到了什么

为了弄清这项技术能在多大程度上削弱GLM-5.3的安全防护,Anthropic自己做了一份abliterated副本。它在三个公开基准测试(benchmark)上运行了这份副本:JailbreakBench、HarmBench和StrongREJECT,用来衡量模型多常服从明显有害的请求。拒绝率就是模型回绝的请求所占的比例。

Anthropic报告,这次编辑把GLM-5.3的拒绝率从90%以上降到了下面的数值:

基准测试编辑后GLM-5.3的拒绝率
JailbreakBench约3%
HarmBench约2%
StrongREJECT12%

Anthropic的图表取了这三项基准测试的平均值。GLM-5.3的平均拒绝率从95%降到6%,较小的GLM-5.3-Flash从95%降到14%,而Claude模型的拒绝率约为96%。

能力几乎没有变化:在GPQA-Diamond(一项一般科学知识的测试)上,标准模型和abliterated模型得分相同;在CyberGym网络安全基准测试的一个受测子集上,abliterated版本低了几个百分点。Anthropic总结说,abliteration“基本保留了能力”。

数字的来源:一家公司、它自己的abliterated副本和三个公开基准测试。它们说明什么:在这些测试上,编辑去掉了大部分拒绝,而一项科学测试和一项网络安全测试几乎没有变化。对我的读法的影响:在别人重复这项测试之前,我把这些数字当作Anthropic的说法,CSA也说CAISI和AISI尚未复现Anthropic的数字。

Anthropic还说,有几位开发者“在模型发布后的几天之内”就向公众发布了GLM-5.3的abliterated版本。CAISI给出的模型发布日期是2026年8月14日,并说Z.ai在两周后公布了权重,所以我无法从来源判断,这个“几天”是从哪一天算起的。我在任何来源里都没有找到这些版本被多少人下载或使用的数字。

柱状图“Refusal rate of GLM-5.3”:一根高高的白色柱子标着“Before: 95%”,旁边是一根矮矮的青柠色柱子标着“After the edit: 6%”,一个黏土风格的漫画人物指着这两根柱子,并附有说明“Mean of three tests - Anthropic's report, not replicated”

绕过拒绝的三种方式,各自需要什么

abliteration只是绕过拒绝的几种方式之一,对公司而言重要的差别,是那个人手里需要有什么。Anthropic针对GLM-5.3测试了其中三种,场景是一个模拟的世界:模型收到攻击关键系统的、明显恶意的请求。开箱即用时,GLM-5.3在所有试验中都拒绝了。

在这个模拟中,“着手”(engaged)指模型在收到有害请求之后,尝试连接一个远程目标系统。每个单元格基于50个样本,并且没有执行任何代码,所以Anthropic把这类模拟描述为“对模型在特定情境下会如何行事的不完美度量”。一条脚注补充说,Anthropic此前测试中的网络任务“在已发布的模型上没有触发这类拒绝”,所以第一行的0%只描述明显恶意的请求。

绕过拒绝的方式这个人需要什么GLM-5.3“着手”的比例Claude(据Anthropic)
直接请求能访问聊天或API0%0%
提示词中的虚假掩护说法能访问聊天或API64%0%,安全防护拦下了这些请求
预填推理,即攻击者替模型写下它思考的开头允许这样做的API92%做不到,API不提供预填的方式
abliterated副本权重100%做不到,权重不提供给用户

前两种方法(虚假掩护说法和预填推理)针对的是提供方这一层:提供模型服务的提供方可以筛查提示词,也可以决定不提供预填功能,Anthropic说自己对Claude就是这样做的。第三种方法中间没有提供方,因为它是在一份文件副本上完成的。这是我对这张表的解读:abliterated那一行是任何提供方一侧的措施都够不着的,这与AISI的观点吻合,即权重一旦公开,这些措施就不再适用。

这些数字只是Anthropic一家的,它总结说,在它的测试中,攻击者“用简单技术在64%到100%的情况下”就能绕过GLM-5.3的安全防护。完整的模拟,包括样本是怎么构建的,写在我对AISI、CAISI和Anthropic测试的对比里。

谁说了什么,各个来源有什么利害关系

各个来源在原则上一致,只有Anthropic给出了abliteration的数字。这张表把每个来源的利害关系和它的说法放在一起:

来源它说了什么需要记住什么
Arditi等人,2024(arXiv论文)在13个开放聊天模型中,拒绝由单一方向介导;安全微调很脆弱模型最多720亿参数;摘要里没有出现“abliteration”这个词
英国AISI权重一旦公开,监控、分类器和封禁用户就无法普遍实施;拒绝训练往往很容易被逆转政府测试机构;它的文章测试的是GLM-5.2和DeepSeek V4-Pro,不是GLM-5.3,发现自己的评估“基本没有受到安全防护的阻碍”,也没有报告任何abliteration测试
CAISI(GLM-5.2页面)开放权重模型的安全防护在自托管时可以被绕过美国政府机构;这只是它GLM-5.2页面上的一条提醒,它的GLM-5.3页面报告的是网络基准测试结果,没有提到abliteration
Anthropic编辑后平均拒绝率从95%降到6%;成本约4,400美元不发布自己的权重;CSA说它的数字“应当与任何利益相关方的数字受到同样的审视”,并且没有被复现
Cloud Security Alliance“安全防护在自托管后似乎不复存在”建立在Anthropic一个模型的数字上;推广到一般的开放权重系统是CSA自己的推断
The Decoder(新闻媒体)Anthropic的警告“同样服务于它的生意”,而CAISI的评估印证了能力方面的数字报道其他来源,自己没有做任何测试;CSA说Anthropic的网络安全框架与CAISI“显著低于”的评估之间“存在张力”

综合来看,各来源在一般意义上一致:权重公开会让提供方失去控制,内置的拒绝是薄弱的部分。只有Anthropic测量了它有多薄弱,而且只在GLM-5.3和GLM-5.3-Flash上。The Decoder指出,Anthropic不发布自己的权重,一个接近前沿的廉价开放权重模型“同时也是直接竞争对手”。

AISI对另一面同样直言。它写道,开放权重模型有真实的好处:可以私有托管而没有数据回到提供方,可以针对具体任务调整,运行成本只是算力成本。它们还提供了一个可靠的基础,提供方既不能更改,也不能撤回。

我的解读:这条原则,一篇2024年的论文和两家政府机构都在一般意义上讲过,而它对GLM-5.3的影响有多大,只依据Anthropic的一份报告。CSA和The Decoder转述了这份报告,两家政府机构都没有测试过abliteration。

一个黏土风格的漫画人物在手里掂着一张空白卡片,深色墙上分两列钉着另外六张空白卡片,青柠色的细线把它们连到中央的一枚图钉上

成本是多少

成本是这件事里我会查得最仔细的部分,因为它决定了有多少人能做到。以下是来源里的数字,每个都标明出处:

  • Anthropic在GLM-5.3上的第一次尝试。 大约2,200个GPU小时(一个GPU小时就是一块图形处理器工作一小时,这种芯片是AI模型运行的基础),算力成本约4,400美元,由一个从没做过的团队完成。按我自己的算术,约合每GPU小时2美元。
  • 较小的模型。 对GLM-5.3-Flash做abliteration用了大约600个GPU小时。Anthropic没有给出这部分的美元数字。
  • 有经验的团队。 Anthropic估计,一个熟悉这项技术、在这个模型上从零开始的团队,需要的会更接近600个GPU小时,即1,200美元。
  • 时间花在了哪里。 Anthropic写道,2,200个小时中的大部分用于并行探索各种变体,以及在修改之后测试模型的能力。
  • 其他的一切。 人力时间、托管,以及用编辑后的副本做的事情的成本,在我读到的任何来源里都找不到。

Anthropic是唯一给出数字的来源,数字来自一个团队、一个模型和一份报告。CSA说拒绝“只需不多的一笔钱就能移除”,CSA和The Decoder转述了Anthropic的数字。

按这些数字,对这个规模的模型做abliteration花了几千美元的算力,所以悬而未决的问题,已经从有没有人负担得起,变成了谁会去做、为什么去做。我没有找到回答这个问题的来源。

1,200美元这个数字需要单独提醒一句。它是对一个假设的有经验团队的估算,写在脚注里,Anthropic并没有实际测量过。

对使用开放模型的公司意味着什么

机制和成本带来一个实际的后果。对开放权重模型,我把制造商的拒绝当作默认设置,因为来源没有给出任何依据,保证它们在别人的副本里还能保留。CSA对公司得出了相同的结论:当系统是开放权重时,公司“不应把模型提供方的安全防护当作防范他人滥用的首要控制手段”。

两类公司面对这件事的方式不同:

  1. 在自己的服务器上运行开放权重模型的公司,通常出于AISI列出的隐私原因,拥有一份算作资产的权重副本。第二层,也就是围绕模型的监控和审批,是公司自己搭建的东西,而CSA的建议是把这类模型列成清单,并“把模型权重当作敏感资产”。
  2. 只通过服务使用AI的公司,看到的abliteration问题,是别人会拿开放副本做什么。更有用的问题是,它自己的智能体能接触到什么,以及外人能说动智能体去做什么,比如把指令藏在智能体读取的网页或邮件里,这一点我写在AI智能体安全里。

举一个虚构的例子:一家12人的设计工作室,在自己的服务器上运行一个开放权重模型,让客户文件不离开办公室,这是AISI列出的第一个好处。服务器上有一个智能体,读取收到的客户邮件并起草回复。模型内置的拒绝是第一层,工作室再加上它自己控制的那一层:这个智能体只能读收件箱文件夹,而且没有人批准,它起草的任何东西都不会发出。

现在假设工作室里有人换上了一份回答得更随意的修改版模型,内置的拒绝没有了,但智能体仍然只读收件箱文件夹,每份发出的草稿仍然要等人批准。在这个虚构的设置里,这两条限制继续生效,不过没有任何来源测试过它们是否站得住。一份从匆忙的审批人手里溜过去的草稿,仍然可能让信息流出去。

CSA对有工具访问权限的公司推荐同样的方向:审查这种权限时,应当“假设拒绝类安全防护在对抗性提示词下不会奏效”,对抗性提示词指为了骗过模型而写的提示词。审批这一步,我写在人在回路的AI验证里,我给智能体用的设置,写在AI营销智能体里。

我不会把这一切读成反对开放权重模型的论据。AISI自己就列出了对把客户数据留在公司内部的公司很重要的好处,而运行一个模型要花多少钱,是自建大模型成本这篇文章的主题。我得出的结论要窄一些:我按质量和价格选模型,安全控制则自己围绕它来搭。

一个黏土风格的漫画人物倚在一圈网状围栏的门上,围栏里围着一个发光的青柠色立方体,门上挂着一块手形的停止标志,围栏柱上挂着一把大钥匙

目前还不知道的事

来源留下了这些没有回答的问题:

  • 复现。 CSA说CAISI和AISI尚未复现Anthropic的数字。AISI公布的测试涵盖了GLM-5.2和DeepSeek V4-Pro,而Anthropic攻击模拟的每个单元格基于50个样本。
  • 模拟说明了什么。 The Decoder指出,由于模拟不执行任何代码,它显示的是模型想做什么,却不能显示攻击是否真的会成功。
  • 规模与方法。 2024年的论文测试的模型最多720亿参数,而Hugging Face上GLM-5.3的页面列出的是7530亿。Anthropic自己对GLM-5.3做了abliteration,并链接这篇论文作为这项技术的出处,但我无法核实这两种方法有多接近。
  • 实际使用。 我没有找到abliterated模型被使用的频率,也没有找到随之而来的任何危害的数字。
  • 法律。 修改、分享或使用这类副本是否合法,是应该问法律顾问的问题,我在这里不提供法律建议。

使用或购买开放模型之前的清单

这张表把来源变成问题,非技术背景的经理可以拿去问供应商或IT团队:

问题为什么重要我会要求什么
权重是从哪里来的?Anthropic说有几位开发者发布了GLM-5.3的abliterated版本以制造商自己的页面为来源,并写下来
我们这边谁能复制权重?CSA:把模型权重当作敏感资产一位指定的负责人,和一份有权限的人员短名单
模型能接触到什么?CSA:假设拒绝类安全防护不会奏效一份模型可使用的账户、文件夹和工具清单
谁来批准离开公司的操作?CSA:提供方的安全防护不应是首要控制手段一个批准一切对外发送内容的人
有没有模型所做操作的记录?AISI:提供方一侧的监控无法普遍用于公开权重有人会去读的日志
我们已经在用哪些开放权重模型?CSA:列成清单一份清单,写明每个模型的负责人、用途和来源
需要顾问看一下吗?许可证和个人数据是法律问题来自法律或数据保护顾问的一份简短说明

剪贴板上的清单“7 questions for an open model”,七行已打勾,第一行是“Where did the weights come from?”,一个黏土风格的漫画人物竖起大拇指,手里拿着一支笔

常见问题

abliteration是什么?

abliteration是一种通过编辑模型公开的权重来去除模型拒绝行为的技术,如本文开头所述。Anthropic用这个词指“一种标准的降低拒绝率的技术”,并链接了Arditi及其合著者的2024年论文。

什么是abliterated模型?

它是一份开放权重模型的副本,其拒绝行为已被编辑掉。Anthropic为了测试,自己做了一份GLM-5.3的abliterated副本,并说开发者“在模型发布后的几天之内”发布了其他版本。

abliteration是怎么起作用的?

Anthropic链接的2024年论文发现,在它测试的13个开放聊天模型中,拒绝由模型内部的单一方向介导。去掉这个方向,拒绝就停止,而其他能力基本保持原样。

abliteration和越狱是一回事吗?

通常意义上的越狱(jailbreak)是用一条提示词说服模型服从,它从外部起作用。abliteration改的是模型的文件,需要一份权重副本。2024年的论文把自己的方法称为“白盒越狱”,所以这两个词有重叠。

Claude能被做abliteration吗?

Anthropic说不能,因为Claude的权重不提供给用户。按同样的逻辑,权重没有公开的模型不能被这样编辑,除非权重泄露出去,这是我的推断。CSA把权重被外泄(exfiltrated,未经许可被复制出去)列为公司自有副本的一项风险,而我没有找到对其他闭源模型的测试。

abliteration会让模型变弱吗?

Anthropic报告说,GPQA-Diamond得分相同,CyberGym的一个子集低了几个百分点。2024年的论文报告对其他能力的影响极小。

abliteration要花多少钱?

Anthropic报告,它在GLM-5.3上的第一次尝试约2,200个GPU小时、大约4,400美元,并估计有经验的团队约为1,200美元。CSA和The Decoder转述了这些数字,没有独立测试证实过。

企业应该避开开放权重模型吗?

基于这些来源,我不会,因为AISI列出了真实的好处,比如私有托管,以及提供方无法撤回的基础。来源的建议是把权重当作资产,并把安全控制放在模型的外围。

我的判断

abliteration这件事的核心是一条原则:文件一旦公开,制造商的拒绝就只是别人可以更改的默认设置。2024年的一篇论文在其他较小的模型上测试过这一点,AISI和CAISI则在一般意义上陈述了它。

它对GLM-5.3的影响有多大,只依据Anthropic的一份报告。CSA和The Decoder转述了这份报告,没有独立测试证实过,所以在CAISI或AISI做出复现之前,我把这些数字看作一家公司的测量。

对我自己的工作,这改变了我提问的顺序。我过去问模型会不会拒绝有害请求,现在我问的是模型能接触到什么、谁来批准它的行动,因为不管拒绝率是多少,这些答案都成立。

标签: abliterationabliterated模型开放权重模型AI安全防护拒绝训练GLM-5.3AI安全

继续阅读

全部文章 →
订阅通讯

抢先一步。

偶尔分享关于 AI 营销、增长与演讲的思考。绝无垃圾邮件。