Torna alle discussioni
Aiuto

Valutazione R

一一般人
Tradotto in italiano·

Non capisco i criteri per la classificazione R15 dopo la pubblicazione.
Sono consapevole di caricare immagini proprio al limite del consentito, quindi accetto la revisione e la classificazione R15, ma capita spesso di chiedermi: "Come mai questa è stata classificata R15, mentre quell'altra foto simile è rimasta normale?".
La classificazione R15 viene decisa dall'IA o dal team di gestione? Oppure è perché qualcuno invia una "segnalazione", e le immagini sfuggite ai controlli rimangono online?

Se l'IA è in grado di rilevare i contenuti sensibili o di effettuare la revisione,
non sarebbe possibile implementare un sistema per cui la generazione di immagini R18 o R15 sia consentita, ma nell'angolo dell'immagine venga applicato un watermark R18 o R15, e le immagini con tale marchio non possano essere caricate nella galleria pubblica? In questo modo si eviterebbe la fatica di effettuare revisioni manuali e, se la classificazione R venisse applicata al momento della generazione, per noi utenti sarebbe anche più facile capire "cosa c'è che non va" e "cosa correggere per superare i controlli".

2

6 risposte

S
SNoW·

La valutazione dei contenuti R15 viene effettuata manualmente. Nella maggior parte dei casi, il flusso funziona così: gli elementi che sfuggono alla revisione automatica dell'IA e vengono pubblicati vengono successivamente individuati da occhi umani e contrassegnati manualmente.

Trattandosi di un processo gestito interamente da persone, siamo inevitabilmente limitati dalle nostre effettive capacità di gestione. Quelli che non sono ancora stati individuati semplicemente non sono stati ancora elaborati per mancanza di tempo; questo purtroppo crea situazioni del tipo: "Perché questo è classificato come R15, mentre quest'altro simile è rimasto libero?".

Se notate immagini che ritenete un po' troppo borderline per essere pubblicate, vi saremmo grati se voleste premere il pulsante "Segnala".
Per quanto riguarda i "criteri di valutazione R15", a essere onesti è molto difficile definire per iscritto uno standard accurato al 100%. Questo perché, in fin dei conti, dipende molto da "come si sente chi guarda l'immagine"; non appena si percepisce un'atmosfera vagamente allusiva (suggestive), per noi è quasi come se fosse già R15. Ecco perché anche per l'IA è difficile raggiungere un'elevata precisione, proprio perché non possiede ancora questa "sensibilità".

Tra i modelli più comuni (anche se, ovviamente, non si limitano a questi) troviamo:

・Pose, espressioni o angolazioni specifiche
・Primi piani su parti del corpo specifiche
・Scollature eccessivamente enfatizzate o che costituiscono il soggetto principale dell'immagine
・Bikini non appropriati al contesto della situazione

Se al momento di pubblicare ritenete che il contenuto possa essere "un po' troppo borderline", potrebbe essere una buona idea decidere di non pubblicarlo affatto :)

👍1😄1❤️1
た
たぬー·

Grazie per il lavoro manuale. Ti ringrazio per aver indicato i casi più comuni. Poiché gli appassionati di anime e videogiochi hanno una soglia di tolleranza un po' più ampia, temo che potremmo essere un po' fuori strada.

S
SNoW·

E un'altra cosa: vi saremmo grati se poteste evitare, possibilmente, di pubblicare ripetutamente immagini al limite o di cercare di testare dove si trovino i limiti della moderazione dell'IA.

Un sito che offre contenuti diversificati, sicuri e di alta qualità acquisisce valore dal punto di vista pubblicitario. E questo è l'unico sostegno finanziario che ci permette di continuare a offrire un modello gratuito, consentendo a chiunque di provare l'IA liberamente. In fondo, questa dovrebbe essere una situazione vantaggiosa per entrambi, no?

Mettere alla prova i limiti può essere sicuramente divertente, ma in realtà consuma inutilmente le risorse del sito (ad esempio, il costo per verificare la classificazione di una singola immagine può essere oltre dieci volte superiore a quello per generarla) e rischia di mettere in pericolo la piattaforma stessa.

👍1😄1❤️2
一
一般人OP·

Grazie per la spiegazione dettagliata. Ho capito perfettamente. Farò attenzione d'ora in poi.

«Se al momento della pubblicazione hai la sensazione che sia "un po' al limite", rinuncia decisamente a pubblicarlo.»
«Questo potrebbe anche mettere a rischio il sito stesso.»

Che ne pensi di inserire queste due frasi in cima alla galleria, o nella pagina che precede l'invio dei post? Trattandosi di una scelta individuale, non credo che i casi si azzereranno del tutto, ma penso che i post "un po' al limite" diminuiranno.

👍2
や
やまびこ | yamabico·

Ho letto con molto interesse ciò che la gestione pensa riguardo al filtro per i contenuti sensibili!
Non ho idea di quanti post ci siano al giorno, ma controllate tutto manualmente... Capisco bene che non ci si possa affidare solo alle segnalazioni... Grazie mille per il vostro duro lavoro quotidiano!
Personalmente, dato che uso spesso il servizio e quindi aumento il carico di lavoro, vorrei contribuire pubblicando ogni giorno "contenuti diversi, sicuri e di alta qualità" 🙏

Sito con contenuti diversi, sicuri e di alta qualità

Capisco perfettamente che sia così se si vuole aumentare il valore del sito! D'altra parte, penso che l'atto stesso di sottoporre a revisione i contenuti, finendo per coinvolgere elementi esplicitamente erotici o violenti, rischi di ridurre la "diversità" stessa. Immagino che trovare il giusto equilibrio nella moderazione sia davvero difficile.
E se gli utenti, preoccupandosi del limite del filtro, iniziassero a trattenersi dal pubblicare anche cose sicure pensando "potrei sovraccaricare il sistema", non credo sarebbe l'ideale... hmm.
In ogni caso, penso che se sul sito fosse esplicitato in qualche modo "qual è l'attuale linea guida per la moderazione dei post", come spiegato in questo post, si ridurrebbero gli attriti. (Anche se renderlo esplicito potrebbe spingere alcuni a cercare di aggirare le regole... un eterno gioco al gatto e al topo).

A proposito, ecco alcune "situazioni tipiche" relative alla moderazione che ho riscontrato personalmente:
① Pubblico -> va in fase di revisione -> dopo un po' la revisione è finita senza che io me ne accorga, e alla fine non capisco se ha superato il controllo o se è stata bocciata.
-> Visto che succede spesso, penso che sarebbe utile avere qualcosa come "Non pubblicato (non approvato)" nella scheda della cronologia di generazione del mio profilo. In questo modo, guardando indietro, sarebbe facile capire "ah, questa non andava bene" (e forse aiuterebbe anche a essere più consapevoli dei limiti). O forse inviare una notifica per i post non approvati? Anche se questo potrebbe essere percepito da alcuni come una provocazione...
② A volte il post viene mandato in revisione senza possibilità di appello a causa del prompt?
-> Di recente mi è capitato di inserire la parola "sexual" nel prompt come sfumatura. L'immagine generata non era affatto di natura sessuale, ma quando ho provato a pubblicarla è andata istantaneamente in revisione (anche se poi alla fine è stata approvata).
Mi sono sentito un po' in colpa, come a dire: "Scusate se vi ho fatto perdere tempo solo per aver usato la parola 'sexual'" (ride). Beh, ma questo significa che attualmente i controlli vengono effettuati sia sull'immagine che sul prompt stesso, giusto?

👍4
G
Giangi·
@やまびこ | yamabico

Completely agree! I have already asked for a 'rejected' (or 'not approved') section, simply because i cannot remember which picture has been refused publication and there is often no way of telling.
One funny thing is that sometimes it's the prompt generated by the AI that is labeled as unappropriate by the same AI! So one could argue that it's the filter's being too 'tight' that causes the need for so much revision and thus more work for the moderator(s)...
I too suspect that the wording of the prompt is taken into account also *after *the image's generation. Is it so?

👍1🚀1

Lascia una risposta

Unisciti alla comunità per condividere i tuoi pensieri e le tue idee.

Accedi per partecipare alla discussione