改写的副作用
《Technology in Society》上的一项研究拿集约化畜牧业做样本，第一次给出证据：DALL-E 3 会通过提示词修订，把一个有争议的行业画成没有争议的样子。
机制本来是为了纠偏
提示词修订是隐式发生的：模型会先把那句短提示改写成长得多、细节也多的版本，比如要求画面里出现不同性别、不同肤色的人，用来提升多样性。用户通常不知道自己的原意在中间被改过。
画出来是什么样
奶牛在牧场上吃草，猪在泥地里拱土，这就是它偏好的画面。研究者明确要求画出真实场景，结果依旧没变。让模型画北美、欧洲、大洋洲的农场，无论指哪块地方，出来的都是田园牧歌，地区差异要等关掉提示词修订才浮现。
关掉之后
关闭该功能后，图像更接近现代饲养方式：奶牛在金属颈夹前进食，猪站在混凝土上的金属栏杆后，室内外比例也部分对得上各地区的统计。偏见不是模型不会画室内，是改写那一步先替它做了选择。
两种口径
机制的初衷是减少肤色、性别和地域偏见，让画面更多样；研究的落点是它顺手把产业实况也抹平了。研究者警告，这种美化会强化公众对饲养方式的错误认知，甚至传播错误信息，让本该发生的讨论没法落地。研究者的担心不止于农场：改写既然能抹平这类议题，换成别的争议议题也一样，问题出在机制。
原文链接：https://www.solidot.org/story?sid=85847
来源：Solidot / Technology in Society
