Aideil y a 2 mois

Classification R

Traduit en français·

Je ne comprends pas les critères de classification en R15 après la publication.
Je suis conscient de publier des images très limites, j'accepte donc la modération et la classification R15, mais je me demande souvent : « Pourquoi celle-ci est-elle classée R15 alors que telle autre image similaire est épargnée ? »
La classification R15 est-elle décidée par une IA ou par l'administration ? Ou bien est-ce le résultat de signalements, ce qui expliquerait que des images ayant échappé à la vigilance restent en ligne ?

Si l'IA est capable de détecter le contenu sensible et de gérer la modération, ne serait-il pas possible d'adopter le fonctionnement suivant : la génération d'images R18 ou R15 reste possible, mais un filigrane R18 ou R15 est apposé dans un coin de l'image, et les images portant cette marque ne peuvent pas être publiées dans la galerie ? Ainsi, cela éviterait d'avoir à effectuer une modération manuelle fastidieuse, et si la classification R était attribuée dès la génération, il serait bien plus facile pour nous de comprendre « ce qui ne va pas » et « ce qu'il faut corriger pour être en règle ».

6 réponses

SNoW·il y a 2 mois

La classification R15 est effectuée manuellement. Le plus souvent, le processus consiste à repérer visuellement et à marquer manuellement, après coup, les contenus qui ont été publiés après avoir échappé à la modération automatique de l'IA.

Comme ce travail est entièrement fait à la main, nous sommes inévitablement limités par notre capacité de traitement. Si certains contenus n’ont pas encore été traités, c'est simplement que nous n'avons pas encore pu nous en occuper. C’est ce qui explique les situations du type : « Pourquoi celui-ci est classé R15 alors que cet autre contenu similaire est toujours en ligne ? »

Si vous tombez sur une image qui vous semble un peu limite pour être publiée, n'hésitez pas à cliquer sur le bouton « Signaler », cela nous aiderait grandement.

Concernant les « critères d'évaluation R15 », il est honnêtement très difficile de définir par écrit des critères précis à 100 %. En effet, cela dépend en grande partie de « la perception de la personne qui regarde l'image » : si l'on ressent une atmosphère un peu suggestive, l'image est généralement considérée comme R15. C'est pour cette raison qu'il est difficile pour une IA d'obtenir une grande précision, car elle n'a pas encore ce « ressenti ».

Voici quelques exemples de cas fréquents (sans s'y limiter, bien sûr) :

・ Des poses, expressions ou angles particuliers
・ Des gros plans sur certaines parties du corps
・ Un décolleté trop mis en valeur, ou qui constitue le sujet principal de l'image
・ Un bikini inapproprié par rapport au contexte

Si, au moment de publier, vous vous dites que c'est « peut-être un peu limite », il peut être judicieux de renoncer à la publication :)

👍1 😄1 ❤️1

た

たぬー·il y a 2 mois

Merci pour votre travail manuel. Merci d'avoir répertorié les cas les plus fréquents. Les passionnés d'animes et de jeux vidéo ayant une tolérance un peu plus large, je crains que nous ne soyons un peu en décalage.

SNoW·il y a 2 mois

Une dernière chose : nous vous serions reconnaissants d'éviter, dans la mesure du possible, de publier à plusieurs reprises des images à la limite de l'acceptable ou de chercher à tester les limites de la modération par IA.

Un site proposant un contenu diversifié, sûr et de haute qualité acquiert de la valeur publicitaire. Et c'est précisément ce qui constitue notre unique soutien financier pour continuer à proposer un modèle gratuit et de permettre à chacun de tester l'IA en toute simplicité. C'est, au fond, une situation avantageuse pour les deux parties, n'est-ce pas ?

Tester les limites peut certes s'avérer amusant, mais cela gaspille inutilement les ressources du site (par exemple, le coût pour vérifier la classification d'une image peut être plus de dix fois supérieur au coût de sa génération) et risque également de mettre la plateforme elle-même en danger.

👍1 😄1 ❤️2

一

一般人OP·il y a 2 mois

Merci pour vos explications détaillées. J'ai bien compris. Je ferai attention à l’avenir.

« Si, au moment de publier, vous estimez que "c'est un peu limite", renoncez plutôt à la publication. »
« Cela risquerait également de mettre le site lui-même en danger. »

Pourquoi ne pas afficher ces deux phrases en haut de la galerie, ou sur la page précédant la publication ? Comme cela dépend du jugement individuel, je me doute que cela ne réduira pas le risque à zéro, mais je pense que cela permettra de diminuer les cas de "c'est un peu limite".

👍2

や

やまびこ | yamabico·il y a 2 mois

J'ai lu avec beaucoup d'intérêt ce que l'équipe d'administration pense du filtre de contenu sensible !
Je ne sais pas combien de publications il y a par jour, mais vous vérifiez tout manuellement... Je comprends tout à fait qu'on ne puisse pas s'en remettre uniquement aux signalements... Merci pour votre travail quotidien !
Personnellement, comme j'utilise souvent vos services et que j'ajoute à votre charge de travail, j'aimerais contribuer en publiant chaque jour des « contenus diversifiés, sûrs et de haute qualité » 🙏

Un site riche en contenus diversifiés, sûrs et de haute qualité

On se dit que c’est évident si l'on veut augmenter la valeur du site ! Mais d’un autre côté, je me dis que le simple fait de soumettre à examen peut finir par assimiler des contenus à des choses clairement érotiques ou gores, ce qui érode la « diversité » elle-même. Trouver le juste équilibre pour la modération doit être un véritable casse-tête.
Si les utilisateurs font trop attention à la limite du filtre et finissent par s'autocensurer en pensant que même des contenus sûrs « risquent d'alourdir la charge de travail », j'ai l'impression que ce ne serait pas non plus le but recherché... Hmm.
Néanmoins, je me dis que si des éléments comme le sujet de votre post actuel, à savoir « quelle est la politique actuelle de modération des publications », étaient explicités dans une certaine mesure sur le site, cela réduirait les frictions. (Même si le fait de l'expliciter inciterait certains à essayer de contourner les règles... c'est le jeu du chat et de la souris).

Au passage, à titre personnel, voici quelques situations classiques liées à la modération :
① Publier -> passage en cours d'examen -> après un certain temps, l'examen s'est terminé sans qu'on s'en rende compte, et on ne sait pas finalement si c'est passé ou si ça a été refusé.
→ Comme cela arrive souvent, je me disais que s'il y avait une mention du genre « Non publié (refusé à l'examen) » dans l'onglet de l'historique de génération du profil, ce serait pratique pour pouvoir regarder plus tard et se dire « Ah, ça ce n'était pas bon » (et cela permettrait d'être plus conscient des limites de ce qui est autorisé ou non). Ou alors, recevoir une notification en cas de refus ? Mais certaines personnes pourraient prendre cela comme une provocation...
② Est-ce que certains prompts envoient automatiquement la création en modération ?
→ Récemment, j'ai ajouté le mot « sexuel » dans un prompt pour pimenter un peu. L'image générée n'était pas du tout sexuelle, mais au moment de la publier, elle est partie instantanément en modération, avant d'être finalement validée.
Je me suis senti un peu bête en me disant « désolé de vous avoir dérangé à cause de ce mot » (rires). Mais bon, cela signifie qu'actuellement, le contrôle porte à la fois sur l'image et sur le prompt lui-même, n'est-ce pas ?

👍4

Giangi·il y a 2 mois

@やまびこ | yamabico

Tout à fait d'accord ! J'ai déjà demandé une section « rejeté » (ou « non approuvé »), simplement parce que je ne me souviens pas de quelle image a été refusée à la publication et qu'il n'y a souvent aucun moyen de le savoir.
Une chose amusante, c'est que c'est parfois le prompt généré par l'IA qui est jugé inapproprié par cette même IA ! On pourrait donc faire valoir que c'est le fait que le filtre soit trop « strict » qui nécessite autant de révisions et donc plus de travail pour le(s) modérateur(s)...
Je soupçonne moi aussi que la formulation du prompt est également prise en compte *après * la génération de l'image. Est-ce le cas ?

👍1 🚀1

Laisser une réponse

Rejoignez la communauté pour partager vos idées et réflexions.

Connectez-vous pour participer à la discussion