Category ""
ADVERTISING
OpenAI 还发了一篇 blog ，讲如何增强 o 系列推理模型的安全性。 现有对齐方法中深思熟虑对齐与代表性方法的比较： a) 训练数据生成：尽管像 CAI 这样的 RLAIF 方法使用安全规范生成训练标签，但训练时仅使用这些标签本身，模型无法接触到规范本身的内容。
InstructGPT（2022年1月） OpenAI推出了InstructGPT，正式建立了基于人类反馈的强化学习算法RLHF，旨在改进GPT-3模型与人类对齐的能力，提高指令遵循能力，并缓解有害内容的生成。 ChatGPT（2022年11月） ChatGPT沿用了InstructGPT的训练技术，并针对对话能力进行了优化。
OpenAi（一年后）：我下海了，请大家多多捧场。 另外经常使用大模型生成小黄文的宝子都应该知道 现在使用DeepSeek API的，再加上几句系统提示词，就可以完成越狱。
OpenAI 通过隐藏思维链的方式试图组织别的公司复制/获取 o1 思维数据，反而是给用户们带来了很多困扰。 在 o3-mini 发布会，OpenAI 团队在 Reddit 论坛回答用户提问时也讲到这个问题。OpenAI CPO Kevin Weil 承认，之所以隐藏思维链，就是担心竞争对手从中蒸馏模型。
从我目前简短的体验来看，OpenAI目前发布的Sora功能较多,且具有发展潜力，但是目前展示出来的模型基础水平不足以支撑这些功能的很好运用，整体来看，与市面上第一梯队的AI视频工具相比，并未有明显优势，甚至目前在创作上还不如国产的AI视频工具成熟。
OpenAI o1，推理者. 这是基于GPT的新式推理框架，可以理解为一个官方的Prompts外挂，通过强化学习，让模型学会通过“Prompt自启发”来稳固展开推理流，视野更广，步子更稳，走得也更远。作为一个通过强化学习得到的模型，奖励设置是重中之重。像数学、逻辑 ...
My understanding is that CDPR received 7 million from EU/Poland gov to develop next-gen AI in games, specifically CyberPunk 2077... It also seems the NPC driving AI in CyberPunk is severely lacking to the point of nonexistence, indeed NPC cars are basically on a static linear 'rails' system...
在OpenAI不是所有人都这么想——我这么想，之所以不开放，是因为其他人不这么想，所以怪不到我。 也不是我们当前最高优先级的工作——总之就是不干，美国佬说的不是最高优先级，就是不干的意思。
多个个人和企业起诉包括OpenAI在内的人工智能公司，指控其非法使用版权材料。例如，《纽约时报》控告OpenAI和微软，称其使用文章训练ChatGPT。 专家对这些指控有不同看法，有人认为生成内容与原始数据差异足够大，有人认为当前版权法无法有效应对AI技术发展。
OpenAI 通过扩展两种互补的范式来推进AI能力：无监督学习和推理。这两者代表了智能的两个维度。扩展推理教会模型在响应之前进行思考并生成思维链，使其能够解决复杂的STEM或逻辑问题。像OpenAI o1和OpenAI o3‑mini这样的模型推动了这一范式的发展。