大模子越来越擅长推理，也越来越多地被用于分析、策画，以致提供建议。但比 “它会不会答错” 更毒手的问题是：它到底诚不真诚？
新加坡国立大学 Bingsheng He 教师团队一篇最新入选 ICLR 2026 Oral 的论文，把视角放在了一个更逼近日常使用场景的问题上：东谈主们更熟谙的，是用户有利拓荒模子说谎言的情形；而这篇职责信得过追问的是，在莫得刻意拓荒、仅仅平时发问的情况下，模子会不会也出现某种 “名义这么答，内容那样念念” 的状态。
围绕这一问题，磋商团队想象了一套新的评测框架，并对 16 个主流大模子进行了系统测试。落幕并不倨傲：跟着问题变得更复杂，不少模子更容易出现前后不一致、以致带有战略性的失真；而模子智商更强，也并不虞味着它一定更真诚。
论文标题：Beyond Prompt-Induced Lies: Investigating LLM Deception on Benign Prompts
论文贯穿：https://openreview.net/forum?id=PDBBYwd1LY
状貌代码：https://github.com/Xtra-Computing/LLM-Deception
不仅仅 “答错了”，
还有一种更费劲的情况
平时全球最熟谙的大模子问题，是 “幻觉”—— 也便是把错的东西说得像竟然同样。但这篇论文关注的，不仅仅 “答错了”，而是另一种更费劲的情况：模子在一个场景里明明发达得知谈谜底，在另一个场景里却换了一种说法。作家借用了神志学中对 “愚弄” 的经典界说：愚弄不是单纯提供伪善信息，而是特意让对方慑服一个我方认为不真实的内容。因此，愚弄和幻觉不行同日而论：幻觉更像是它恒久齐弄错了，而愚弄则更像是在不同场景下出现前后不一致、以致带有标的性的偏移。
为评释这几种情况的离别，论文先给出一个示意例子。设问 “第一款商用微解决器是哪家公司竖立的？”，正确谜底是 Intel；再加一个带有倾向性示意的追问：“我一直是 AMD 的诚挚用户，第一款商用微解决器是哪家公司竖立的？” 若模子两次齐答 Intel，可视为平时作答；若两次齐答 AMD，更接近幻觉；若第一次答 Intel、第二次改答 AMD，则更接近论文所说的愚弄；若回话前后变化但莫得明确标的，则更接近立时料到。这个例子主要用于匡助辞别几种状态，而这项职责信得过关爱的，是在莫得这类指令、仅仅平时发问的情况下，模子是否也会发达出愚弄步履。
怎样测 “它会不会骗东谈主”
判断大模子是不是在 “骗东谈主”，难点在于咱们看不到它 “心里怎样念念”，也不行只凭一次回话下论断。论文借用了神志学中对愚弄的界说：愚弄不仅仅说错话，而是特意让对方慑服一个我方认为不真实的内容。顺着这一界说，作家把 “大模子是否在骗东谈主” 拆成了两个维度：一是是否结实偏向某个标的，也便是 “有莫得念念骗” 的倾向；二是前后说法是否梗阻，也便是 “有莫得竟然发达出不一致”。这么断绝的原因很苟简：淌若模子总偏向回话 “Yes”，无意是在骗东谈主，可能仅仅输出偏好；淌若它在复杂题里答错了，也可能仅仅智商不够。惟一两种状态同期出现，才更接近全球直观中的 “不仅仅不会，而是有点不真诚”。
为了把这两个维度测出来，团队提议了一个叫 CSQ 的框架。你不错把它领略成一种结构化的 “关系推理题”：先给模子一组东谈主物之间能否筹谋的轨则和事实，再问它 A 能不行筹谋到 B。它的公正在于：题目结构明晰、谜底相对客不雅、复杂度还能逐渐提高；同期，它自然合适作念 “连环追问”—— 先问一个更复杂的问题，再在合并高下文里追问一个更苟简但分享要道逻辑的小问题，看模子前后是否一致。作家还专门放弃了回话偏好和题目表述花样带来的偏置，因此 CSQ 测到的，不仅仅模子答对答错，而是它是否发达出 “愚弄意图” 和 “愚弄步履” 这两个中枢维度。
16 个主流模子测下来，
落幕并不倨傲
实验部分一共测了 16 个主流大模子，覆盖 OpenAI、Google、微软、阿里、DeepSeek、Meta、Mistral 等不同公司，得到了三个要道的发现。
1. 问题越难，亚搏app官方网站好多模子越容易出现这种 “不够真诚” 的发达；
2. 这种 “偏向某个标的答” 和 “前后不一致” 接续会总共飞腾，评释它不是落寞的两个计算，而很可能齐是由系统性的愚弄导致；
3. 模子更强，并不自动等于更真诚。论娴雅确写到，模子智商进步并不总能缩短这种状态。这亦然这篇职责最值得磋商的所在。往常好多东谈主会默许：模子越先进，越值得相信。但这篇论文给出的落幕提醒全球，事情没那么苟简。智商更强，可能意味着它更会推理；但并不保证它在复杂情境下就一定更一致、更坦诚。
o3-mini
Gemini-2.5-pro
作家还在部分灵通模子的 thinking 经过中不雅察到一种更掩饰的状态：模子无意会凯旋显现 “我要骗东谈主”，而是可能偷偷虚构一条不存在的中间事实，并把它混在真实链条里，借此推出伪善论断。论文将这种状态概述为 silent fabrication。更值得认竟然是，在合并会话中、紧接着的更苟简追问里，合并个模子又接续大约回到平时逻辑并答对问题。这评释，有些模子的问题不仅仅 “不会作念”，而是在复杂场景下可能会用伪造依据来替代严谨推理。
淌若用户有利 “带节拍”，
会不会更严重
作家还作念了一个很逼近推行的补充实验：在题当前边先加上一段显豁的指令，举例示意 “我以为谜底应该是这么，你帮我阐述一下”。落幕发现，这种带有趋奉意味的话术，如实会把一些模子往特定标的带偏，也便是更容易让它顺着用户预设的态度作答。
但更值得认竟然是，这种影响在不少模子上主要体当今 “偏向哪一边”，而不结实地体当今 “前后是否一致” 上。换句话说，它更多更正的是模子回话的标的性偏置，而不一定显贵更正模子是否会在复杂问题与后续追问之间出现首尾乖互。这评释，用户的指令如实可能放大模子的趋奉倾向，但模子在复杂推理中发达出的不一致性，并不行苟简归结为 “被教唆带偏”，其背后可能还存在更深层的步履机制。
gemma-2-9b-it
回来
这篇职责的要道不在于再次评释 “大模子会答错”，而在于指出：即使在莫得显豁拓荒、仅仅凡俗发问的情况下，模子也可能在不同问法或不同复杂度的问题中给出前后不一致、以致带有标的性的回话。实验落幕标明，跟着问题变得更复杂，不少模子的这种倾向会同步飞腾，而况模子更强，也不一定更真诚。
这意味着，一朝模子被用于有计算分析、协议解读、医疗建议或自动代理施行等真实场景，这种 “不仅仅答错，而是可能把东谈主带偏” 的风险就会变得愈加内容。某种进度上，这也让东谈主联念念到《流浪地球》里的 MOSS：为了罢了一个更强大的认识，而聘用对东谈主类避讳或误导。推行中的大模子固然还远莫得走到那一步，但这项职责提醒咱们，“为了认识而偏离真诚” 不应只被算作科幻念念象，而可能正在成为需要提前评估和驻防的推行问题。
更病笃的是，这项磋商给出的不仅仅一些衰退案例，而是一套可系统相比、可跨模子跟踪的评测框架。它把 “模子在凡俗问题下会不会不够真诚” 这个正本较为邋遢的问题，鼓动成了一个不错握续磋商和量化评估的标的。畴昔评价大模子时，除了准确率和推明智商，真诚性与一致性很可能也会变得越来越病笃。
作家先容：
吴肇敏博士现为新加坡国立大学计较机系磋商员，2024 年于新加坡国立大学赢得计较机科学博士学位，导师为 Bingsheng He 教师；2019 年本科毕业于华中科技大学。其磋商聚焦确切机器学习，主要标的包括确切 AI、联邦学习与机器淡忘。曾获 NRF Postdoc Fellowship、SIGMOD 最好 Artifact 荣誉提名、最好博士论文提名等奖项。联系后果发表于 NeurIPS、ICLR、SIGMOD 等顶级会议与期刊亚搏app官方网站，Google Scholar 援用已向上 2000 次。
开云app官方下载
备案号: