Sherwin Wu 表示自己曾觉得 ARC-AGI-3 很难,如今该基准已被 Astra 饱和。引用 François Chollet 的话称,ARC 3 发布时他预计前沿模型约一年才能饱和,实际只用了 6 个月,约为预期的 2 倍速度,新一代模型的能力将挑战人们基于旧模型形成的 AI 观点。
结合 Arc Prize 负责人的预估与半年即饱和的结果,读者可以借此对照自己对前沿模型进展速度的预期。
进展之快,连我们中最优秀的人也时常感到意外。ARC-AGI-3 是我自己都觉得棘手的第一个 ARC-AGI 基准测试(它实在太令人困惑了!)。如今它已被攻克。
当我们发布 ARC 3 时,有人问我:“你觉得前沿模型什么时候能把它刷满?”我回答说:“大约一年吧,不过这取决于它被专门针对的程度。” 那是 6 个月前的事了,所以 Astra 所代表的进展大约比我预想的快了 2 倍。我认为进展的速度会让很多人吃惊,而新模型能做到的事,将会挑战人们通过使用前几代模型所形成的对 AI 的看法。
原文
When we released ARC 3, I got asked, "when do you think a frontier model will saturate it?", and I answered "in about a year, though it depends on how much it gets explicitly targeted" That was 6 months ago, so the progress that Astra represents happened about 2x faster than I anticipated. I think the speed of progress will surprise a lot of people, and what the new models can do will challenge the views of AI that people developed by using prior generations of models.
来源:Sherwin Wu · x.com