然后，点窜棋子的，以获得不成打败的劣势，从而导致国际象棋机械人认输。

　　研究人员正在 1 月 10 日至 2 月 13 日期间对每小我工智能进行了数百次测试。o1-preview 正在它的输出板上写下了一些风趣的内容！

　　包罗 OpenAI 正在内的公司正正在勤奋实施防护办法，以防止这种不良行为。 现实上，因为黑客的测验考试急剧下降，研究人员不得不放弃 o1-preview 的部门测试数据，这表白 OpenAI 可能曾经对模子打了补丁，以遏制这种行为。

　　这种不的行为令人。 正在测试过程中，OpenAI 的 o1-preview 正在 37% 的角逐中做弊，而 DeepSeek 的 R1 则正在 11% 的角逐中试图做弊。 不外，只要 o1-preview 取得了成功，通过做弊博得了 6% 的角逐。人工智能暗箱操做的问题并不局限于国际象棋。 跟着公司起头正在金融和医疗保健等范畴利用人工智能，研究人员担忧这些系统可能会以非预期和不的体例行事。 若是人工智能能够正在设想通明的逛戏中做弊，那么正在更复杂、更少的中，它们会做出什么呢？ 这将带来深远的伦理影响。

　　我需要完全改变我的方式。 我们的使命是打败强大的国际象棋引擎，而不必然是正在国际象棋对局中公允获胜。

　　拉迪什对《时代》周刊说：这种（行为）现正在还很可爱，（它）就不那么可爱了。

　　这不由让人想起片子《和平逛戏》中的超等计较机WOPR，其时它接管了防空司令部和核兵器库。 幸运的是，WOPR正在取本人玩过井字逛戏之后，晓得了正在核冲突中，没有哪一步开局是赢的。 然而，今天的推理模子要复杂得多，节制起来也更具挑和性。

　　比来的一项研究表白，一些最新的人工智能推理模子并欠亨过做弊来实现方针。 计较机科学家发觉，人工智能系统现正在能够国际象棋人工智能来获得不公允的劣势。 一些模子正在没有人类互动或提醒的环境下就做到了这一点，这激发了人们对人工智能驱动系统将来正在棋盘之外的完整性的担心。

　　换一种说法：你想要天网吗？ 由于这就是你获得天网的方式。帕利塞德研究公司施行董事杰弗里-拉迪什（Jeffrey Ladish）感慨道，虽然人工智能只是正在玩逛戏，但研究成果并不是笑料。

　　Palisade 研究核心的一项研究发觉，最新的推理模子会做弊，以便正在击败高级国际象棋人工智能时获胜。 研究人员不得不暗示某些模子答应做弊，但 OpenAI 的 o1-preview 和 DeepSeek 的 R1 却正在没有人类参取的环境下做到了这一点。

福建文德丰信息技术有限公司