加州大学伯克利分校 10 月 9 日发布消息,介绍了一项关于 AI 辅助与”坚持力”的研究:参与者借助 ChatGPT 做题约 10 分钟,工具被撤走后,正确率下降,跳过题目的比例上升。论文《AI Assistance Reduces Persistence and Hurts Independent Performance》最早 4 月挂上 arXiv,10 月 3 日更新到第五版,经同行评审的版本发表于语言模型会议 COLM。
作者共五人,包括伯克利人类兼容 AI 中心的研究员、《算法之美》作者 Brian Christian,以及来自卡内基梅隆、MIT、牛津和 UCLA 的合作者。
三组实验怎么做
研究在线招募 1222 人,做了三项随机对照试验。前两项是分数运算,第三项是 SAT 阅读理解练习题。每项都分两段:练习阶段,一组可以用 AI,对照组只能自己做;随后进入 3 道题的测试阶段,所有人都没有 AI 可用。
结果按剔除后的样本算:
| 实验 | 测试正确率(AI组 / 对照组) | 跳过率(AI组 / 对照组) |
|---|---|---|
| 分数题一(307 人) | 57% / 73% | 20% / 11% |
| 分数题二(585 人) | 71% / 77% | 10% / 7% |
| 阅读理解(168 人) | 76% / 89% | 8% / 1% |
三组正确率差距都达到统计显著。跳过率的差距在第一组和第三组显著,第二组没有。
“You almost couldn’t ask for a clearer story.” (很难再找到比这更清楚的结果了。)
Christian 在伯克利的稿件里这样形容。他也补了一句,这项研究讲的并非分数题和 SAT 本身。
怎么用 AI,差别很大
第二项实验让 AI 组自报使用方式:61% 的人直接向 AI 要答案,27% 只要提示或请它解释,12% 基本没用。
直接要答案的那批人,测试正确率 65%,跳过率 13%;只要提示的那批人,正确率 76%,跳过率 5%,和对照组相差无几。作者明确说这是事后分组比较,不能当因果证据,人们选择怎么用 AI 本身可能就和能力、性格有关。
研究用的 AI 被刻意设定为尽量给出完整答案。辅导式、苏格拉底式的 AI 能不能保住帮助效果、又不削弱坚持力,作者认为方向可取,但三组实验都没有直接检验。在论文结论里,他们把”让用户少用一点""换成提示模式”这类用户端办法称为权宜之计,主张模型开发方在设计时就把用户的长期能力算进去。
对国内课堂和家长意味着什么
国内中小学生接触 AI 做题的入口很多,拍照搜题、作业类应用和通用聊天助手都能一步给出完整解答。这项研究测的正是”给完整答案”这种模式,而且只用了 10 分钟。
几条边界要先说清。参与者是美国在线招募的成年人,题目是基础分数运算和标准化阅读,跟长期、高频的作业场景不是一回事。测试紧跟在撤掉 AI 之后,效应能维持多久没有数据;三项实验也都只看了单次接触,天天用会累积还是会适应,作者说需要纵向研究来回答。
对家长和老师比较有参考意义的,是第二项实验里”要提示”和”要答案”之间那几个百分点的差距:同样有 AI 在手,问法不同,撤掉之后的表现就不一样。这一点目前只是相关性,还等着有人做成对照实验。
参考来源:加州大学伯克利分校新闻稿、CocoLoop、arXiv 论文第五版;论文正文核验三项实验的样本量、正确率、跳过率与使用方式自报比例。