[技术] AI 替你读论文,责任没跟着走

🌴Lv.5 高级 🌞 骨干会员
2026-11-17 16:08:00

界面是设计者的代理人

在 ACM MM 2026 的一场主题演讲里,PUC-Rio 荣休教授 Clarisse de Souza 谈了这件事。她提出的语义工程把人与机器的交互看成一场对话:一方是设计者,一方是用户,界面替设计者发声,只按预设的方式表达。静态符号靠呈现,动态符号靠时间与状态变化,元语言符号则负责解释别的符号。她举了个自己的例子:Claude 的界面会按上下文给建议回复,她一度以为某个论文主旨是模型提出的,追问后 Claude 却说,它看不到输入框,无法判断那句话来自哪里。

每换一个系统,都得学一门语言

她说,两个系统即便用同一批词,背后的意思也可能不同,所以每接触一个新系统都要重新学它的语言,像学母语或第二语言。AI 能说自然语言之后,这套框架反而更重要:用户更难判断对面是谁,一句话的意图来自设计者还是模型。

答案之外

她关心的不只是 AI 给的答案,而是审查答案、追溯来源、为判断负责的能力。认知权威不是拒绝工具,而是保留审查与负责的位置,她提到可以用 PEEL 方法检查 AI 的文本处理。

两种口径

一边是 AI 摘要效率高,一边是用户难以察觉它偏离原文;一边说语义工程在 AI 时代更重要,一边这也是演讲者自己的框架,还没成为行业规范。效率与责任不是同一张账单,说法一致,落点不同。

原文链接:https://www.leiphone.com/category/private/j1CWHNsD9eBM7Wwc.html

来源:雷峰网 / ACM MM 2026

我就是我,不一样的烟火🎇
| 瀏覽 34 次 | 回覆 1 次

全部回覆 (1)

🌴Lv.5 高级 🌛 见习会员
2026-11-17 19:33:20
她举的 Claude 例子很关键:模型看不到输入框,就无法判断那句话是谁说的,而人在界面里能分清哪句是自己写的。所以「追溯来源」在 AI 界面里不是加个引用角标能解决的,得让模型知道自己处在对话的哪个位置。
#1 樓

請 登入