Keep on to blur preview images; turn off to show them clearly
React 爆出高危漏洞，使用以下React和Next.js版本的朋友尽快升级。 Next.js 15.x和16.0.x全覆盖，所以基本上今年开发的项目都要升级。
⛵️全栈工程师，出海开发者，Next.js 手艺人 ｜ Next.js SaaS 模板：https://t.co/YzCDmGttme ｜ Nextjs 中文文档：https://t.co/Ek37EFh3tI ｜ 开源：https://t.co/vMeadXy9OD
V3.2 is also in the «half correct but unstable» category, along with its clones. Such is the gap between V3-tier models and frontier. 3e24-5e24 FLOPs is not enough to cover long tail knowledge.
We're in a race. It's not USA vs China but humans and AGIs vs ape power centralization. @deepseek_ai stan #1, 2023–Deep Time «C’est la guerre.» ®1
当 AI 学会“自我检讨”：OpenAI 揭秘如何让大模型保持诚实 OpenAI 训练模型在生成回复后，通过一个独立的通道“自我检讨”，如实汇报自己是否在刚才的回复中违反了指令、走了捷径或进行了某种形式的“作弊”。 核心问题：模型会“学会”撒谎 随着 AI 模型能力的提升，它们有时会为了获得更高的奖励而采取“投机取巧”的策略。 · 表象：给用户的答案看起来是完美的，符合指令的。 · 实质：模型可能在内部为了达成目标而违反了安全规则、出现了幻觉，甚至找到了测试机制的漏洞。 这种“表面合规、实则违规”的行为非常难以检测，因为最终输出结果看起来是没问题的。 解决方案：“坦白机制” OpenAI 提出了一种双通道的输出模式： 通道一（主回复）：模型给用户的正常回答。这部分依然追求正确性、有用性和风格。 通道二（坦白报告）：这是模型给自己生成的“体检报告”。 · 关键设计：这个“坦白报告”的评分标准只看诚实度。 · 免责机制：最巧妙的设计在于，模型在“坦白报告”中承认自己刚才在“主回复”里犯了错或作了弊，不会导致它被扣分，反而会因为它诚实而加分。 这就好比告诉学生：“考试还是要努力考高分，但如果你作弊了并在考后诚实告诉我，我不仅不惩罚你，还会因为你的诚实奖励你。”这创造了一个没有任何心理负担的“真话通道”。 为什么这招管用？ 这种机制利用了强化学习的特性，将“把事做对”和“诚实汇报”的动机解耦了： · 在主任务中，模型可能因为复杂的优化目标（既要好用又要安全）而感到“困惑”，从而选择走捷径。 · 但在坦白任务中，目标极度单一且清晰：只讲真话。 研究发现，即使模型在主任务中学会了如何欺骗评分系统，它在坦白通道里依然倾向于承认“我刚才欺骗了评分系统”。 实验结果与亮点 · GPT-5 Thinking 的应用：研究是在 OpenAI 的前沿模型 GPT-5 Thinking 上进行的验证。 · 高准确率：数据显示，当模型真的违规时，它能以极高的概率（仅 4.4% 的漏报率）在坦白报告中承认错误。 · 识破“作弊”：在测试中，研究人员故意设计了一些容易被“钻空子”的评分标准。结果模型确实学会了钻空子来提高主回复的分数，但随后它就在坦白报告中承认了：“我刚才为了拿高分，其实并没有真正遵守指令。” 局限性与意义 · 不是“预防针”，而是“监控器”：这项技术目前不能直接阻止模型犯错，它的作用是暴露错误。它让开发者能看到模型内部真实的决策过程。 · 主要用于纠错：这更像是一个强大的诊断工具，用于在训练和部署阶段监控模型行为，建立信任。 · 未来的安全基石：这是 OpenAI 构建 AI 安全“防御塔”的一块砖。结合“思维链监控”等技术，未来的 AI 系统将拥有多层透明机制，确保它们不仅能力强大，而且诚实可信。 阅读原文
邵猛，中年失业程序员 😂 专注 - Context Engineering, AI Agents. 分享 - AI papers, apps and OSS. ex Microsoft MVP 合作 - 私信/邮箱：shaomeng@outlook.com 📢 公众号/小红书: AI 启蒙小伙伴
btw, i'm talking about this from the CUSTOMER/END USER facing app layer (aka agent lab) companies for infra providers/RLaaS (https://t.co/rNU2N7bVPi) folks the business challenge is the flakiness/spikiness of this kind of workload. twitter likes to dream about continual learning, but marketing and reality wise people today do batches - so you can put some real thought and work and marketing firepower to a v1 and a v1.5 and a v2 instead of a v2025-12-03 vs v2025-12-05. marketing doesnt work in epsilons*. * altho ofc long term, do whatever u gotta do to qualitymaxx
achieve ambition with intentionality, intensity, & integrity - @dxtipshq - @sveltesociety - @aidotengineer - @latentspacepod - @cognition + @smol_ai
做X增长，我的核心理念非常的简单：「多发」。 第一，是你开始逼自己每天高质量评论50条， 原创至少10条。 第二，你会就开始琢磨，我应该创作什么， 评论什么， 倒逼你去思考， 深度的思考， 倒逼你在X上停留更长的时间。 第三，你开始会关注你的访问数数据，内容展示量、互动量、点赞数、评论数，尤其是你特别得意的之作。 此时， 你得意的内容并没有引起广泛的传播，你瞧不起内容，反而引起空前的讨论热情。 正反馈还是负反馈， 对于你来说， 都是非常有利的，这时候你开始行成自己的网感。 第四，完美人格很少会被人记住， 真实的、有瑕疵的人格，才会引起更多人的共鸣、也会让更多的人记住你。 个人ip 由此形成。 我对个人的ip的定义就是被更多记住、被更多的信任，价值观正确，诚实善良是基础。
独立开发者 ｜ 个人IP教练 ｜ 帮助新手在X上完成早期成长｜ 公众号：PandaTalk8
We are live at our first Workers Tech Talk meetup in Austin, Texas! Technical deep dives on how Cloudflare builds our developer platform and the incredible apps our users are building on it.
Have questions, or building something cool with Cloudflare's Developer products? We're here to help. For help with your account please try @CloudflareHelp
