退化最难的地方,是你察觉不到
理论哲学方向的研究员凯萨 · 凯尔基在《人类事务》期刊发表论文《谁应当为应对专业技能退化负责?》,讨论一个正在变普遍的现象:医生、科研人员、开发者把工作交给 AI,自身专业能力随之下滑。她指出,从业者很难在日常中察觉这种变化,部分原因是认知偏差——大模型给出的回答看起来很有说服力,人容易过度依赖,但模型同样会出错。
医疗是她举的例子:医生若没识别出模型的错误信息,可能酿成事故;出事之后责任归谁?传统责任理论认为,人只为自己知情状态下的行为负责,而伴随 AI 使用产生的、不易察觉的偏差,恰好挑战了这套前提。
飞行员式的对照
她把问题定性为结构性而非个人问题:不能把责任全推给从业者,各专业社群需要明确哪些能力必须留在人手里。飞行员是一个现成参照——他们会反复演练自动驾驶失效后的处置。其他行业也该回答同一个问题:没有 AI 的时候,这个人能不能独立把活干完。
医学教育领域已有观点提出,基础技能训练应设置禁用 AI 的阶段,例如诊断推理这类核心能力,以及对业务形成整体理解的能力。风险在于,如果职场一边扩大使用 AI、一边忽视退化,未来可能失去"不用 AI 也能培养新人"的能力,同时对模型的错误失去辨别力。
她给出的九条应对
- 让从业者意识到使用 AI 可能在潜移默化中造成退化;
- 资深从业者也要定期接受核心能力考核;
- 明确一部分任务只能由人完成,不允许交给 AI;
- 用人单位制定兼顾退化风险的 AI 使用规范;
- 高等教育阶段设置禁用 AI 的学习环节;
- 设计激励机制,鼓励维持专业能力;
- 在退化会威胁关键业务的领域出台法规管控;
- 由行业社群划定必须由人掌握的核心技能;
- 在医学之外的更多领域继续研究这一问题。
核心逻辑很朴素:人类社群的抗风险能力,建立在多元的技能储备之上。
原文链接:https://www.ithome.com/1/018/877.htm
来源:IT之家