1.5小时训出个44%的ARC模型，只花67美分I trained a small transformer in 1.5hrs and it beats many LLMs

作者在1.5小时内用一块5090显卡训了个小Transformer，成本67美分，就在ARC-AGI-1上拿到44%的分数，比很多大模型都强。这结果让不少顶级研究员都惊了。

用最少的样本，解最难的谜题

ARC是测AI通用推理的谜题集，每道题规则都不同，人类很容易解，但AI一直很难。作者认为，AI最大的问题是样本效率——能不能用很少的例子就学会新东西。

他的方法很简单：把输入输出转成序列，让Transformer在测试时从头学，再加些技巧，比如每个任务单独设个嵌入、用3D的位置编码。这就像让AI临时学做新题，而不是靠背题库。

花钱少，效果却出奇的好

作者用了更现代的结构和优化器，还砍掉了不少数据增强，反而更准了。更怪的是，他不训练输入token，只训练输出，测试损失差了点，但分数反而更高——他也说不出为啥。

几十次实验对比下来，最大的功臣是好的表示方法（3D位置编码和任务嵌入），去掉它们分数立刻掉到25%。这也说明，光堆数据和算力不是唯一的路。

打脸那些“不可能”的质疑

有人批评他在测试集上训练是作弊。作者解释，这叫传导推理，而且他没碰真答案——那些输出网格是隐藏的。他坚称，这正是元学习的精神：从测试谜题里学。

作者还觉得，ARC规则该改改，禁止离线训练，逼大家现场学，这样才能比出真正的样本效率。他相信，他的方法还能再冲到65%，而不用加任何大数据或魔法。