AI 画个医生默认西装白男，画个护士默认是女的，这就能证明模型蠢、算法歧视了？
每次看到有人拿生图跑偏当证据，我都想问一句：你知道它是从哪学的吗。模型没有立场，它只会复现喂进去的东西。训练集里医生这个词底下挂的图，西装白男占大头，护士底下女性占大头，那它按比例吐出来就是这个样子。这不是哪行代码写了「优先出白男」，是数据分布原本就长这样，模型只是把分布如实画了出来。
局限那头也是同一个道理。它画不好复杂结构，画不对小语种文化里的东西，很多人归结为「模型能力不行」。可换个角度想，这类题材的样本本身就少，少的同时还脏。一个东西见得少又见得歪，画不对才是正常的。
所以为什么我对「调提示词硬掰」这条路不看好：提示词能改的是采样时往哪边偏一点，改不了模型脑子里那张分布图。你写一长串限定词，顶多是在一个本来就稀的区域里多捞两下，底子不在，捞出来的还是那些。真正能动根子的是数据侧，清洗掉脏样本，把配比调匀，让模型见过足够多、足够干净的例子。
把锅全甩给算法，一是对算法不公平，二是甩完了问题照样在。先搞清楚偏差是从哪一环进来的，才知道该在哪一环下手。