返回讨论区
求助

R判定

一般人
已翻译为中文·

我不明白发布后被判定为R15的标准。
我深知自己上传了处于擦边边缘(接近红线)的图片,因此也接受审核和R15的判定,但经常会产生这样的疑问:“为什么这张被定为了R15,而那张类似的图片却保留了下来?”
R15判定是AI还是运营方的决定?还是说因为有人“举报”,而那些没被注意到、侥幸逃过一劫的图片才得以保留?

如果AI可以进行敏感内容或审核的判定,
能不能做成这样的系统规范:虽然可以生成R18或R15的图片,但图片的角落会被加上R18或R15的标记,且带有该标记的图片无法上传到画廊?这样一来,不仅省去了人工审核的麻烦,而且如果在生成阶段就能判定R级,我们作为用户也更容易掌握“什么地方不行?”、“修改哪里才能通过”。

2

6 条回复

S
SNoW·

R15的判定是人工手动进行的。大部分情况下,流程是先由AI自动审核漏网并发布,之后再由人工发现并进行手动标记。

因为完全是靠人工处理,所以不可避免地会受到我们精力范围的限制。那些还没被发现的内容只是我们还没来得及处理,这也导致了“为什么这个被判定为R15,而另一个类似的却没事?”这种状况的发生。

如果您发现有觉得公开出来有点擦边的图片,若能帮忙点击“举报”按钮,我们将不胜感激。
关于“R15的判定标准”,老实说,很难用文字写出100%绝对准确的标准。因为这很大程度上取决于“看图的人是什么感受”,只要隐约让人感受到一种暗示(Suggestive)的氛围,在感觉上就已经是R15了。正因如此,AI也很难做到高精度判定,因为AI还没有这种“感觉”。

常见的类型包括(当然不仅限于这些):

・特定的姿势/表情/角度
・特定部位的特写
・过度强调乳沟,或乳沟成为了图片的主体
・与场景不符的比基尼

如果在投稿时感觉“可能有点擦边”,那么索性放弃公开也是一种选择 :)

たぬー·

手动处理辛苦了。非常感谢您列举了这些常见情况。因为动漫和游戏爱好者的接受范围比较宽,我有些担心是不是偏离了方向。

S
SNoW·

另外还有一点,如果可以的话,希望大家尽量避免重复发布擦边图片,或是去测试AI审核的边界在哪里。

一个拥有多样、安全且高质量内容的网站才能产生广告价值。而这正是我们能够持续提供免费模式、让大家轻松尝试AI的唯一资金支持。这本来是一件对双方都有利的事情。

测试极限确实可能有点意思,但实际上这会白白消耗网站的资源(例如,确认一张图片分级审查的成本,有时可能比生成该图片的成本还要高出10倍以上),甚至还会让网站本身面临风险。

一般人OP·

谢谢您的详细说明。我明白了,以后我会注意的。

“如果在发布时觉得‘可能有点擦边’,那就果断放弃公开。”
“因为这也会让网站本身面临风险。”

把这两句话写在画廊首页,或者发布作品前的页面上,您觉得如何?虽说这是个人主观判断、无法完全杜绝,但我认为“有点擦边”的情况应该会减少。

关于敏感过滤器,运营方的想法让我读得津津有味!
虽然我不知道一天有多少投稿,但居然全是人工审核的……我也能理解不能光靠用户举报的心情……每天辛苦了!
我个人也经常使用,给平台带来了不少负荷,因此也想通过每天发布“多样、安全、高质量的内容”来做出贡献 🙏

拥有多样、安全、高质量内容的网站

一方面觉得“想提升网站价值的话确实该如此!”,但另一方面,审核本身容易和明确的色情与血腥内容混为一谈,从而削弱了“多样性”本身,所以审核的标准把握起来真的很让人头疼。
如果因为太在意那一层过滤器的标准,导致原本安全的内容都会因为觉得“可能会给审核添麻烦”而变得过于不敢投稿,这似乎也不是大家的本意……唔。
不过,如果像这次投稿的内容那样,能在网站上一定程度地明确写出“目前是按照什么方针审核投稿内容”的话,会不会减少一些摩擦呢?(虽然一旦明示,也肯定会有恶意想要钻空子的人出现……那就是猫鼠游戏了)

顺便提一下,我个人觉得的“审核常见情况”:
①发布投稿 → 进入审核状态 → 过了一段时间审核不知不觉结束了,但最终搞不清楚到底是审核通过了还是没通过
→ 这种情况挺常见的,所以如果个人主页的生成历史标签页里能有类似“未发布(审核未通过)”的标识,过后回看就能明白“这个不行啊”,感觉这样会很不错(也许能让人更清楚NG的界限)。或者如果能通知未通过的结果?但这对于某些人来说可能会觉得被挑衅了呢……
②提示词里有些词会无条件直接送去审核吗?
→ 最近遇到一个情况,我在提示词里加了“sexual(性感)”一词作为佐料,但生成的图片完全不色情,可一点发布就立刻进入了审核,最后审核还是通过了。
有一种因为用了“sexual”这个词而给你们添了麻烦的歉意(笑)。不过,这也说明现在是对图像和提示词本身都会进行检查,对吧?

G
Giangi·
@やまびこ | yamabico

完全同意!我已经要求提供一个“已拒绝”(或“未批准”)板块,因为我实在记不得哪些图片被拒绝发布了,而且往往无从判断。

搞笑的是,有时 AI 自己生成的提示词,反而会被同一个 AI 标记为不合适!因此有人可能会认为,正是因为过滤器设得太“严”,才导致需要这么多的修改,从而给审核员增加了更多工作……

我也怀疑提示词的措辞在图像生成之后也会被考虑进去。是这样吗?

发表回复

加入社区分享您的想法和见解。

登录后参与讨论