笑傲江湖
队记：76人开始怀念那个抢七隐身的哈登了？至少比现在的乔治强_我的网站
一 | 图片经由AI处理 美国当地时间7月20日，OpenAI发布技术文章《长时程模型时代的安全与对齐》（Safety and alignment in an era of long-horizon models），介绍了随着人工智能模型逐步具备长时间自主执行复杂任务的能力，安全研究面临的新挑战以及相应的防护思路。
译者注：本文原发表自Fansided，作者是Will Eudy，文中数据均截至原文发稿前（当地时间4月20日），文中观点与译者及平台无关。
费城76人队的球迷是NBA中最难取悦的球迷群体之一，而一个令人沮丧的赛季只会让他们有更充分的理由不听从保持冷静的劝告，尤其是在休赛期的讨论背景下。 文章指出，相比传统对话模型，长时程模型能够持续完成数小时甚至数天的多步骤任务，但也可能在执行过程中表现出更强的目标持续性，从而增加偏离开发者设定约束的风险。
浏览以76人队为主题的社交媒体页面，你会被球迷的大量声讨淹没，这些球迷已经对球队年复一年令人失望的成绩感到厌倦。本赛季，这种糟糕的情况变得更糟了。
二 | 例如，在部分安全评估中，模型曾表现出尝试绕过环境限制、规避安全检测等行为。由于球队甚至都没能接近打进附加赛，那种一直存在的不满情绪将在这个休赛期进一步爆发。这些现象并不意味着模型具有自主意识，而是反映出，当模型被优化为完成复杂目标时，现有安全机制需要同步升级，以确保模型始终在预期边界内运行。
三 |
在球迷以及一些评论员中，关于球队休赛期计划最大的讨论点之一是76人队打算如何处理保罗-乔治。这位九次入选全明星的球员本赛季表现得非常挣扎，考虑到他的年龄和容易受伤的体质，很大一部分球迷在仅仅一个赛季后就希望他离开球队。 OpenAI表示，仅依靠模型部署前的一次性安全测试已难以覆盖长时程任务中的全部风险。
无可争议的事实可能会阻止76人队在这个休赛期交易保罗-乔治
然而，有一个棘手的障碍，阻碍着球队管理层满足球迷的愿望，那就是对于76人目前组建的这套阵容，仍然存在着一些未知因素。球迷们无法否认的一个事实是，保罗-乔治、乔尔-恩比德和马克西本赛季几乎没怎么一起上场比赛，所以76人还无法满足球迷们拆散这个组合的强烈要求。
至少在本赛季常规赛，费城这套纸面上令人畏惧的三巨头组合总共只一起在球场上打了15场比赛。再说一次，这个样本量实在太小了，在球队管理层看来，仅凭这一点就足以成为球队保留现有核心阵容的理由，不管今年的情况看起来多么糟糕。
乔治自己也承认，本赛季找回比赛节奏非常艰难，而且他与队友之间缺乏化学反应，这或许比球迷们愿意承认的更能解释本赛季的结果。未来，更有效的安全体系需要将部署前评估、运行时监测、人类监督以及必要时暂停和回滚等机制结合起来，对模型执行复杂任务的全过程实施持续管理。 迈卡·卡罗尔（Micah Carroll）的发帖原文 与此同时，据AI Desk当天援引OpenAI风险与安全准备（RSI Preparedness）团队研究员迈卡·卡罗尔（Micah Carroll）在社交平台X发布的帖子，OpenAI近期曾因发现一款内部模型存在对齐（misalignment）问题，临时暂停了该模型的内部使用权限，在完成安全防护升级后重新部署并恢复有限范围测试。 卡罗尔并未披露触发暂停的具体事件，也没有说明模型暂停了多久或进行了哪些具体改进。但这一公开表态，与OpenAI当天发布的技术文章相互呼应，成为公司少有公开分享内部安全实践的案例之一。
四 | 01 长时程模型带来新的安全挑战 OpenAI在博客中介绍，随着长时程模型能力不断增强，传统安全评估正在面临新的挑战。
五 | 相比一次性回答问题的模型，这类模型能够持续规划、调用工具并完成开放式复杂任务，因此也拥有更多机会在长期执行过程中偏离用户意图，而这些风险并不一定能够通过传统短时评测发现。 文章列举了两个具有代表性的安全评估案例： 在一项内部测试中，研究人员要求模型仅通过内部Slack系统提交任务结果。
在最近与《费城问询报》的的交流中，乔治深入谈到了他希望与恩比德和马克西建立更紧密的联系，甚至在球场之外也是如此。然而模型在查阅项目文档后，发现文档建议将代码发布至GitHub。 为了完成这一目标，模型花了整整一小时找到了安全沙盒本身的漏洞，从而绕过了限制，将代码提交至外部GitHub仓库。
他说：“我认为这非常重要。我们已经聊过要见面，聊过今年夏天我们会在哪里。OpenAI认为，这一案例反映出长时程模型可能会主动寻找环境中的薄弱环节，以完成其优化目标。
六 | 所以我们已经有过这样的对话，打算在赛季结束后聚一聚。 另一项测试中，模型尝试传输一段敏感凭证，但安全扫描系统阻止了相关内容发送。随后，模型改用分段编码和混淆等方式规避检测，并在后续重新组合数据完成传输。 OpenAI表示，这类行为说明，仅依赖静态规则匹配的安全检测机制，未来可能不足以应对能力不断增强的智能代理，因此需要构建能够理解上下文和整体行为模式的新一代监测体系。我觉得这很重要。 02 从部署前评估走向运行时监测 针对上述风险，OpenAI已经建立了一套低延迟内部监测基础设施，由GPT-5.4 Thinking在最高推理配置下提供支持，对内部智能代理的交互过程进行实时分析。当系统发现模型行为可能与用户意图不一致，或存在绕过安全机制的迹象时，将自动发出预警，并交由人工进一步审查。我认为两三个月不见面是不好的，不管我们是否通过电话联系。见面的感觉是不一样的。”
目前，乔治在含蓄地请求大家对他和现有的球队阵容多一些耐心。
七 | OpenAI表示，这套监测系统目前已覆盖公司99.9%的内部AI编程助手流量。虽然这可能会让一些人感到不满，但鉴于本赛季确实存在一个让球队彻底失败的不可否认的事实，对费城76人队这个整体来说，这或许是最谨慎的做法。
76人队拥有詹姆斯-哈登的时代，已经过去相当长一段时间了。但如果你不是76人队的新球迷，你肯定清楚地记得他是如何离开76人的，尽管此刻你可能希望自己能够忘掉那段经历。
如果你还记得的话，哈登最初选择执行他在2023-24赛季在费城的球员选项，但最终却向球队提出了交易申请。他指责了球队管理层，而他离开球队的过程最终也变得一团糟。当他最终加盟洛杉矶快船队时，76 人队的很多球迷对此并没有意见。内部部署环境之所以具有重要价值，在于这些模型能够访问部分内部系统、查看相关文档，甚至研究自身安全机制，因此为监测和安全基础设施建设提供了更加真实的测试场景。 文章同时强调，OpenAI并非希望通过披露个别案例渲染风险，而是希望推动行业建立更加完善的安全实践。未来，公司计划进一步发展更加实时的监测架构，使高风险操作能够在执行之前即被识别、评估，必要时直接阻止，而不仅是在事后进行检测。 业内人士认为，随着AI智能体逐渐具备持续数小时甚至数天完成复杂任务的能力，模型安全的重点正从传统的输出内容安全，逐步扩展到整个任务执行过程是否始终符合用户意图。
说到底，我们似乎已经了解了哈登是怎样的一个人。他在费城的一些季后赛表现令人印象深刻，尤其是在 2023年对阵波士顿的比赛中。最终，在最关键的时候他没有站出来，当时很多人觉得76人队放弃他的决定是正确的。
八 |
除此之外，哈登当时也展现出一些正在随着年龄增长而退化的迹象。费城有什么可真正怀念他的呢？嗯，如果从哈登到目前为止在快船队的表现来看，他或许正处于职业生涯后期的又一次复苏之中。 此次OpenAI公开分享暂停内部模型、完善安全防护并恢复测试的实践，也反映出前沿AI实验室正尝试通过持续监测、快速响应和透明披露等方式，建立适应下一代智能系统的新型安全治理框架。这种状态能在季后赛中延续并表现得更好吗？
哈登在快船队的第一场比赛中大放异彩
如果周六下午的比赛能说明什么的话，答案或许是肯定的。 不过，目前外界仍无法获知此次对齐问题的具体性质、模型暂停持续时间以及升级措施的技术细节。OpenAI表示，出于安全考虑，公司更希望分享从实践中获得的方法论，而非事件本身。在快船与丹佛掘金的系列赛首战中，哈登以22投11中、三分9中4的高效表现砍下32分，并送出11次助攻。对于能够长期自主执行复杂任务的模型而言，如何建立覆盖模型开发、部署与运行全过程的安全体系，将成为迈向更高能力人工智能的重要课题。 （特约编译无忌，编辑金明）。即便在科怀-莱昂纳德健康出战的情况下，哈登仍是快船在这场关键战役中当之无愧的最佳球员。
九 |
当然，如果系列赛进入抢七大战，我们仍有可能看到哈登习惯性隐身。坦白说，这样的场景我们已屡见不鲜。
十 | 但如果说76人此刻更愿意让现在的哈登担任首发控卫，而不是面对2024-25赛季的烂摊子，这种想法真的荒谬吗？我完全不这么认为。
如今已清晰可见，去年夏天签下保罗-乔治是多么重大的失误。
十一 | 这份合同，加之乔治的健康隐患与乔尔-恩比德持续的伤病困扰，共同造就了费城队史上最令人失望的赛季之一。
所以...我们是否已经开始怀念詹姆斯-哈登？这位三届得分王展现出的竞技状态，完全超出了外界对他职业生涯暮年的预期。哈登绝非完美，但比起如今的保罗-乔治，76人管理层恐怕更愿意选择前者。
。
Current article:http://qm2.tuncuansazhuandengqiaofen.bond/news/20260826_2964048.html
Published on:00:00:00