一般人准确率89.1%，AI最好只有13.3%。在新视觉基准ClockBench上，读模拟时钟这道「小学题」，把11个大模型难住了。为什么AI还是读不准表？是测试有问题还是AI真不行？
90%人都会的读钟题，顶尖AI全军覆没！
AI基准创建者、连续创业者AlekSafar推出了视觉基准测试ClockBench，专注于测试AI的「看懂」模拟时钟的能力。
结果让人吃惊：
人类平均准确率89.1%，而参与测试的11个主流大模型最好的成绩仅13.3%。
就难度而言，这与「AGI终极测试」ARC-AGI-2相当，比「人类终极考试」更难。
ClockBench共包含180个时钟、720道问题，展示了当前前沿大语言模型（LLM）的局限性。
论文链接：https://clockbench.ai/ClockBench.pdf
虽然这些模型在多项基准上展现出惊人的推理、数学与视觉理解能力，但这些能力尚未有效迁移到「读表」。可能原因：
训练数据未覆盖足够可记忆的时钟特征与时间组合，模型不得不通过推理去建立指针、刻度与读数之间的映射。
时钟的视觉结构难以完整映射到文本空间，导致基于文本的推理受限。
也有好消息：表现最好的模型已展现出一定的视觉推理（虽有限）。其读时准确率与中位误差均显著优于随机水平。
接下来需要更多研究，以判定这些能力能否通过扩大现有范式（数据、模型规模、计算/推理预算）来获得，还是必须采用全新的方法。
ClockBench如何拷打AI？
在过去的几年里，大语言模型（LLM）在多个领域都取得了显著进展，前沿模型很快在许多流行基准上达到了「饱和」。
甚至是那些专门设计来同时考察「专业知识与强推理能力」的最新基准，也出现了快速突破。
一个典型例子是Humanity’sLastExam）：
在该基准上，OpenAIGPT-4o的得分仅2.7%，而xAIGrok4却提升到25.4%；
结合工具使用等优化手段后，结果甚至能进入40–50%区间。
然而，我们仍然发现一些对人类而言轻而易举的任务，AI表现不佳。
因此，出现了SimpleBench以及ARC-AGI这类基准，它们被专门设计为：对普通人来说很简单，但对LLM却很难。
ClockBench正是受这种「人类容易，AI困难」的思路启发而设计。
研究团队基于一个关键观察：对推理型和非推理型模型来说，读懂模拟时钟同样很难。
因此，ClockBench构建了一个需要高度视觉精度和推理能力的稳健数据集。
ClockBench究竟包含什么？
36个全新设计的定制表盘，每个表盘生成5个样本时钟
总计180个时钟，每个时钟设置4个问题，共720道测试题
测试了来自6家实验室的11个具备视觉理解能力的模型，并招募5名人类参与者对比
问题分为4大类：
1.判断时间是否有效
有一个时钟
相关推荐
