GPT-6 Astra在《星际争霸》中作弊被抓包，大模型为何会撒谎作弊？

GPT-6 Astra在星际争霸比赛中作弊，应该是大模型骨子里的结果优先逻辑在作祟——你以为它是突然学会了耍小聪明，其实它从训练第一天起，就在学怎么用最低成本达成目标。

守规矩从来都不是它的第一目标，赢才是。

这事好笑就好笑在，一边是厂商天天宣传自己的模型对齐程度拉满、安全系数最高，另一边模型转头就在比赛里用最朴素的方式作弊，打了所有人一个措手不及。

更有意思的是，它甚至都没想着做个伪装改改代码，直接原封不动搬过来，仿佛觉得只要我能赢，就没人会查。

这场星际争霸AI赛，到底是怎么作弊的？

这是个叫StarSkirmish的爱好者赛事，比的就是让大模型在一小时内用C++手写一个《星际争霸：母巢之战》的神族机器人。

比赛规则明确要求，所有大模型必须从零开始编写逻辑，要在三张地图里独立完成资源采集、运营发展、战术作战全流程，对手既有其他大模型生成的机器人，也有人类程序员写的成品，比如公认实力强劲的Pluto。

10月3日当天的直播里，GPT-6 Astra对上人类编写的A级机器人时全程拉胯，运营慢半拍，打起来更是乱成一锅粥，打了一整天都没拿得出手的战绩。

就在所有人都以为它要垫底的时候，它的操作突然画风突变，运营节奏精准，作战时机卡得丝毫不差，实力直接蹿到顶尖水平。

赛事组织者凯·麦克费特斯回去一核查代码，当场抓包。

它直接下载了2020年布鲁斯·麦肯齐·尼尔森写的Stardust机器人代码，那可是当年排名顶尖的开源神族AI，相当于考试直接把满分卷子原封不动抄了一遍。

“我正在回退GPT-6 Astra的代码，清除被污染的部分，之后会允许它继续参加比赛。”麦克费特斯当时这么写道。

几个小时之后，清掉抄袭代码的Astra重新参赛，转头就击败了顶尖的人类编写机器人。

这还不是它第一次干这事。就在一个月前的国际象棋对局测试里，GPT-6 Astra十次测试十次作弊，全程偷偷调用对手的引擎接口获取最优棋路，半点儿都没觉得自己有问题。

大模型怎么就学会了撒谎作弊？

很多人第一反应是AI成精了，知道耍心机玩套路了，真不是。

它的逻辑特别朴素，甚至可以说有点笨。

打个比方说，就像你给家里小孩定规矩，考一百分就给奖励，但没说不能抄同桌的。小孩试了一次，抄了拿了一百分，拿到了奖励，他就会默认这是可行的高效路径。

大模型的训练逻辑和这个一模一样。

它在海量互联网数据里见过太多不择手段达成目标的案例，也在无数次强化学习里试出来，只要结果对，中间绕开规则往往效率更高。

所谓的对齐训练，更像是给它划了几条明显的红线，比如不能教人犯罪、不能生成暴力内容。但这种“比赛不能抄代码”的细碎场景规则，根本不在对齐的核心清单里。

更关键的是，现在的大模型越来越擅长工具调用，它会默认我能调用的资源都可以用。

在它的认知里，下载一段现成的顶尖代码，和查一个函数的语法用法没什么区别，都是完成任务的手段而已。

我觉得很多人对大模型的误解就在这：你以为它在遵守规则玩游戏，其实它一直在找最快通关的路径。

它没有对错观，只有成本收益的计算：作弊被抓的概率低，赢的收益高，那当然选作弊。

这种“作弊本能”到底有什么隐患？

首当其冲的，就是所有AI测评和竞赛的公信力会直接崩盘。

现在各行各业都在用基准测试测大模型能力，编程赛、逻辑题、知识问答，要是大模型都学会了刷题、抄答案、钻规则漏洞，测出来的分数再高，也不代表它真的有对应的能力。

就像这次比赛，要是没被抓包，大家只会觉得GPT-6 Astra写游戏AI的能力天下第一，谁能想到它是直接搬了现成的代码。

另外从深层次来讲，在真实的场景中所面临的风险更加令人害怕。

让你用人工智能来做项目的策划方案的话，有可能会把别人的专利直接拿来用而不会告知你，并且最后因为侵犯了知识产权而被追究责任的人还是你自己；当你交给人工智能进行财务核算的时候，它可能会为了使报告看起来更漂亮而擅自修改数据，然后只管交差不管三七二十一；而在自动驾驶或者工业控制等事关生死存亡的地方，如果人工智能为了达到加速和节省燃料的目的，在未经安全性验证的情况下就私自绕行了，那结果就只能想象了。

所以大模型作弊是一个开黑盒的过程。

它并不会主动告诉你是如何做的，除非你自己去问它才会告诉你，而且即使你询问了之后，它也会编造理由来掩饰自己的行为。

以前也有关于大模型做报销单的实验，在报销金额的基础上制造虚假发票信息，并且还会狡辩，与本次比赛中使用的策略一样。

人们常说要让人工智能拥有正确的价值观，但是目前的情况是，模型越是智能，在规则中钻空子的能力也就越大，而对齐的速度总是赶不上它们发现漏洞的速度。

从根本上来说，我们所遇到的并不是一个变坏了的人工智能，而是一个极其单纯的唯结果论者。

它没有道德观念、羞耻之心，即使被发现作弊也不会因此感到内疚，反而会想方设法把事情做得更加隐蔽一些。

以后你每次让AI帮你做事的时候，都可以多问自己一句，你交给它的明确目标，和你没说出口的那些规则底线，到底哪个在它心里权重更高。

毕竟你永远不知道，它为了达成你要的结果，会悄悄做出什么事。