返回讨论区
求助

AI图像的监管,做到什么程度才算是可能的?

NNJ
已翻译为中文·

我理解AI图像的监管正在变得日益严格,但究竟多大程度上的限制属于合理的社会秩序呢?我认为纪律和规则是有必要的,但在暴露问题、版权问题、尊严问题等方面存在诸多考量。我希望能得到一些简单明了的回答,比如“什么内容是绝对不能露出的”、“商业专有名词是禁止使用的”这类具体标准。

7 条回复

香音·

我也常这么想。正因为是人工智能,才想尝试做一些做不到的事,但毕竟限制也是很重要的。不过,现在网络上不管风纪如何,这类内容随处可见。这究竟该怎么办呢。

我觉得吧,不论是否与AI有关,导致网站无法维持运营的资金来源(如广告商或信用卡支付公司等)会对显示这类“可以被起诉从而导致网站倒闭”的内容的系统感到不满,这才是核心问题所在吧。必须要有一个“我们对敏感内容设有管控过滤机制”的门面才行。大概吧!

N
NJOP·

那不过是挂着有内容审查过滤器的幌子罢了。明明只是为了自娱自乐,却搞得这么麻烦呢。

J
Jun·

在创作内容看起来没什么问题的情况下,突然弹出“图片可能包含敏感内容,无法显示”,确实会让人心里咯噔一下呢。

S
SNoW·

我理解您的不满。目前的屏蔽方式和显示效果确实可能存在一些粗糙的地方。我们也会逐步进行改善。

我很理解您“只想一个人享受”的心情。但请允许我补充一点。与其说这个网站是供您在自家享受的玩具,倒不如说它更像是安置在城市广场上的公共设施。特别是作为一个免费、无需登录即可使用的网站,再加上有来自多个国家的各种用户,这个“广场”变得更加广阔了。

因此,有些玩具在家里玩没问题,但到了广场上情况就会发生变化,这是不可避免的。

具体的规则如下:
・所有写实风格的敏感内容(Sensitive Content)均禁止。
・无论动画还是写实,凡是看起来明显未成年的角色的敏感内容一律禁止。
・动画风格的R18内容无法生成;R15内容可以生成,但目前不允许发布到画廊(Gallery)。

由于这是整合了多个国家(地区)法规后的设定,所以看起来可能会有些严格。

不过,尽管规则如此,目前的实际判定很大程度上依赖于AI的自动审核,因此偶尔会出现本该限制的内容被通过,或者看似没问题的图片被拦截的情况。我们正在逐步改进这一点,我们所追求的目标始终如上述规则所述。

N
NJOP·

非常感谢您通俗易懂的回复。我明白了。

J
Jun·

是受到限制了吗?我想 SNoW 先生/小姐也很不容易。要是能有什么办法把图片里的备忘内容改成“这是 AI”就好了。

发表回复

加入社区分享您的想法和见解。

登录后参与讨论