DAL·E 3放出了system card。很多人看到这种文档直接跳过,但我一般会翻一翻,因为里面通常会讲清楚模型在内容安全、拒绝策略、潜在滥用这些边界上是怎么设计的。
对我们做落地的人来说,知道一个生图模型在什么情况下会拒绝、对哪类内容有硬限制,比单纯看它能画多好更重要,直接关系到能不能放进产品里给真实用户用。
这类卡片信息密度不低,抛出来给大家提个醒,别只盯着效果图。
DAL·E 3放出了system card。很多人看到这种文档直接跳过,但我一般会翻一翻,因为里面通常会讲清楚模型在内容安全、拒绝策略、潜在滥用这些边界上是怎么设计的。
对我们做落地的人来说,知道一个生图模型在什么情况下会拒绝、对哪类内容有硬限制,比单纯看它能画多好更重要,直接关系到能不能放进产品里给真实用户用。
这类卡片信息密度不低,抛出来给大家提个醒,别只盯着效果图。
确实,拒绝策略这块很多人根本不看,上线才发现坑
mark
做产品的角度这个比效果重要多了,同意
system card一般写得挺克制,但边界信息是真的有用
顶,天天看效果图的该醒醒了