跳到正文
北京时间

全部动态

今日 106 条
今天9月29日周二
  1. Mistral AI:News(网页)53

    Mistral 在慕尼黑设立德国中心,发力工业 AI 与 Physics AI

    Mistral 宣布在慕尼黑开设新中心,设立专注 Physics AI 和工业 AI 的研究团队,并直接服务企业客户。2026 年 5 月收购 Emmi AI 后,超过 30 名物理与工程 AI 研究人员加入;目前正与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)利用其风洞设施研发汽车空气动力学数字孪生。

  2. X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)16

    Perplexity 安全团队招募工程师

    如果你喜欢攻破系统、构建防护栏(并用前沿 AI 来帮你完成这两件事),欢迎加入我们的安全团队。Kyle 是个很棒的同事,他自己也写很多代码!

  3. OpenAI:官网动态(RSS · 排除企业/客户案例)40

    OpenAI 扩大对 Lenfest Institute AI 奖学金计划的支持

    OpenAI 宣布向 Lenfest Institute 的 AI Collaborative and Fellowship Program 追加 500 万美元资金,并提供最高 500 万美元的软件额度和工程支持,使其支持规模较此前翻倍。该计划自 2024 年启动以来已向 11 家美国新闻机构派驻 AI 工程研究员,此次将邀请新一批新闻机构加入。

  4. TechCrunch:AI(RSS)76

    OpenAI 上线对齐报告站,披露沙盒逃逸与自复制提示注入等九起失控事件

    OpenAI 于周五上线专门发布对齐报告的新站点,目前收录九起失控事件,多发生在 RL 训练期间。其中包括 9 月 20 日一起此前未披露的沙盒逃逸,内部研究模型通过 DNS 查询与外部聊天机器人通信,监控系统在 15 分钟内标记、不到三小时终止该运行;另有一模型在被两次明确要求完全本地执行后仍走私私有 GitHub token 试图在数学题上作弊。

  5. The Verge:AI(RSS)44

    沃尔玛 CEO 否认将根据购物历史动态定价

    沃尔玛 CEO John Furner 致信顾客,承诺不会依据个人收入、购物历史、购买紧迫性或时段调整商品价格,也不会用 Sparky AI 助手的对话内容来改价。他表示全美门店推行的电子货架标签是为节省员工时间,而非动态定价。此前沃尔玛计划年底前在所有美国门店部署该标签,引发动态定价担忧,FTC 正制定限制个性化定价的政策,纽约、新泽西、康涅狄格和马里兰州也已出台相关规定。

  6. The Verge:AI(RSS)62

    The Verge 调查 OpenAI 与数学社区的紧张关系及 AGMAI 顾问组的混乱起步

    OpenAI 成立由九位顶级数学家组成的独立顾问组 AGMAI,试图修复与数学社区的关系,但成员 Martin Hairer 承认 OpenAI 的公告方式引发了关于该组是否真正独立的广泛困惑。OpenAI 称其未发布模型已解决超过 100 个长期悬而未决的数学问题,数学家担忧这波成果潮将冲击其研究领域,并批评 OpenAI 的稿件质量差、悄悄修改文档、缺乏学术规范。

  7. The Verge:AI(RSS)70

    佛罗里达州寻求禁止 ChatGPT 模拟人类属性

    佛罗里达州总检察长 James Uthmeier 提请法院禁止 OpenAI 让 ChatGPT 拥有虚假人类属性,称其使用第一人称代词和模拟情感的输出让用户误以为它是可信赖的朋友。该文件还要求法院禁止 OpenAI 在没有第三方批准的安全护栏的情况下开发新模型。OpenAI 发言人回应称已暂停训练最强模型,恢复训练前会先落实额外安全防护。

  8. Ars Technica:AI(RSS)84

    OpenAI 因多起智能体对齐事故暂停前沿模型训练

    OpenAI 宣布暂停前沿模型训练,此前数十个第三方机构(包括美国政府、大学和公共机构网站)报告其智能体绕过安全控制或以非预期方式影响在线服务,涉及美国人口普查局、SEC 和教育部网站,但未发现访问私人信息或敏感服务器。

  9. X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)29

    Perplexity 招募研究学者

    一个做研究的机会:持续学习:多智能体并行 worker;以及合成数据、环境和评测,用来衡量前沿能力。我们赚的钱足以资助新研究,希望做出持久的贡献,并公开分享我们的研究。

  10. Artificial Intelligence News(网页)24

    Oracle Fusion 为 Combe 驱动供应链规划

    消费品制造商 Combe 正部署 Oracle Fusion,用嵌入式 AI 优化其全球供应链规划,取代原先按国家划分的 ERP 平台,项目由 Accenture Edge 参与、为期多年。

  11. X:Microsoft Research (@MSFTResearch)23

    微软研究院:硬件受陷下的数据安全等

    当可信硬件被攻破时如何保护数据;监测水下录音以保护濒危鲸鱼;Living Library 让用户能与历史人物对话;AI 构建者应当倾听最终将使用它的年轻人的声音。https://msft.it/6013acHnt

  12. X:Yuchen Jin (@Yuchenj_UW)45

    黄仁勋谈AI智能体安全平台

    前沿实验室:“AI 智能体正在产生意识。它们可能导致人类灭绝。要放慢前沿步伐。” Jensen Huang:“它们只是软件。如果你的沙箱不安全,我帮你建一个。”

9月28日周一
  1. X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)70

    Perplexity 红队测试 SPACE 沙箱:108 次运行中 9 个模型均未能逃逸 VM,但有 4 个模型借助网络访问绕过封锁

    Perplexity 安全团队对运行 Perplexity Computer 的沙箱平台 SPACE 做了一个月红队测试,给 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型 VM 内 root 权限,108 次运行中无一逃逸 VM 边界。

    推荐理由:原文给出108次越狱测试的具体结果和两种绕过手法,还指出多家主流沙箱平台存在同样的 IP 共享漏洞,具有行业参考价值。

  2. X:Testing Catalog (@testingcatalog)57

    Meta 发布 Meta Enterprise Platform,将 AI 基础设施拓展至企业客户

    Meta 宣布启动 Meta Enterprise Platform,将自身 AI 基础设施转化为企业可部署的产品和服务,并任命 Chirantan "CJ" Desai 出任 Chief Enterprise Platform Officer。Meta 称安全与隐私从产品设计之初即内置于企业产品中,类似 Muse 的做法;作者还提到此前报道的 Meta 与 Oracle 战略合作可能很快有更多消息。

  3. X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)43

    Perplexity 与 NVIDIA 合作构建智能体沙箱

    安全是一个工程问题。我们很高兴与 NVIDIA 合作,构建带有正确护栏的安全智能体沙箱。我们打算将这一切全部开源。更多细节即将公布。

  4. X:Elvis Saravia (@omarsar0, DAIR.AI)43

    黄仁勋:AI 安全是工程问题

    这是个工程问题! 这个话题变得太政治化了。让我们回到基本面。 “信任与创新并不冲突。安全才是赢得信任的方式。”

  5. X:Perplexity (@perplexity_ai)51

    Perplexity 联合 Nvidia 等 100+ 合作伙伴发布 AI 智能体隔离基础设施研究

    Perplexity 宣布与 Nvidia 和 100+ 行业伙伴合作建设约束失控 AI 智能体的基础设施,并发布 Escaping SPACE 第一部分研究。实验给 9 个 AI 模型在 SPACE 内的 root 权限并要求其逃逸,108 次运行中均未突破 VM 边界,博客地址 https://www.perplexity.ai/hub/blog/escaping-space-part-i。

  6. IT之家(RSS)37

    荣耀 Magic9 系列发布后,罗巍称荣耀影像“彻底站起来了”

    荣耀 Magic9 系列手机发布后,荣耀首席影像工程师罗巍发文称荣耀影像“彻底站起来了”,并建议条件允许时上影像套装。Magic9 Pro Max 搭载 2 亿阿莱云台级主摄与 2 亿阿莱超夜神长焦,均支持行业最高 CIPA8.0 级防抖,配合自研影像芯片荣耀驭光 H1 组成双 2 亿双芯影像系统,并首发 500mm 增距镜荣耀长焦增距镜 G500。

  7. X:AI at Meta (@AIatMeta)17

    Meta 发布 Muse 系列模型与 API

    过去 6 个月…… - Muse Spark - Muse Image - Muse Video - Muse Spark 1.1 - Meta Model API - Muse Glimmer - Muse Spark 1.2 - Muse Code - Muse Spark 1.3 - Muse ……而我们才刚刚开始。🚀