Zurück zu Diskussionen
Fehlerbericht

Beschwerde wegen ungerechtfertigter automatischer Sperrung (False Positive) – Bitte um manuelle Entsperrung

NNonhoidea
Übersetzt in Deutsch·

Guten Tag,

ich schreibe Ihnen, um ein wiederkehrendes Problem mit Fehlalarmen (False Positives) im automatischen Moderationssystem Ihrer Plattform zu melden, welches die Generierung von Inhalten blockiert, die Ihren Richtlinien vollkommen entsprechen.

Genauer gesagt lehnt das System systematisch die Erstellung von Porträts von Frauen ab, wenn Begriffe im Zusammenhang mit der Physiognomie oder historischer Kleidung verwendet werden (wie beispielsweise „voluptuous“, „corset“ oder „hourglass figure“), und wertet diese fälschlicherweise als Richtlinienverstöße. Als Beleg füge ich den Prompt eines der generierten Bilder bei, das blockiert wurde (und den entsprechenden verwendeten Prompt: „A cinematic, hyper-realistic medium shot portrait of a breathtakingly beautiful Westerosi noblewoman with long flowing dark hair and striking, deep violet eyes. She has a gorgeous face, porcelain skin, and a stunning voluptuous hourglass figure. She is wearing an elegant medieval purple silk gown with a deeply contoured, fitted corset bustier...“). Das Bild zeigt eine vollständig bekleidete Adlige in einem mittelalterlichen Gewand. Es liegt keinerlei Nacktheit, kein expliziter Inhalt und auch kein Verstoß gegen Ihre Nutzungsbedingungen oder Community-Richtlinien vor.

Da es sich hierbei um einen offensichtlichen Fehler des Kontrollalgorithmus handelt, bitte ich Sie höflich darum:

  • Das Bild und den Prompt manuell zu überprüfen und freizuschalten.
  • Diese Anomalie an Ihr technisches Team weiterzuleiten, damit die automatischen Filter besser kalibriert werden, um zu verhindern, dass standardmäßige anatomische Beschreibungen oder historische Kleidungsstücke zensiert werden.

Ich freue mich auf Ihre Rückmeldung und die Behebung des Problems.

Mit freundlichen Grüßen.

1

4 Antworten

Das ist eine Entscheidung der KI. Ich denke nicht, dass sich das verbessern lässt. Ich vermute, dass sie lediglich die KI-Prüfkomponente über eine API einbinden und nutzen. Das ist natürlich nur meine persönliche Meinung und ich habe keine Beweise dafür…🕊️

Da gibt es wohl ein kleines Missverständnis. Nur weil sich Bilder generieren lassen, heißt das nicht, dass die dafür verwendeten Wörter auch für die Galerie zugelassen werden. Die Erstellung von Inhalten auf R15-Niveau ist dank des Entgegenkommens der Betreiber erlaubt, sodass man selbst dann generieren kann, wenn einige leicht sensible Begriffe enthalten sind. Beim Veröffentlichen in der Galerie sind R15-Inhalte jedoch verboten, weshalb fast alle sensiblen Wörter blockiert werden. Nun ja, das liegt letztlich im Ermessen der Betreiber...

N
NonhoideaOP·

Wenn das, was du sagst, wahr ist, dann sollte die überwiegende Mehrheit der Bilder zensiert und nicht zugelassen werden.

@Nonhoidea

Das variiert auch je nach Sprache ein wenig. Englisch ist beispielsweise eine Sprache mit besonders strengen Regulierungen, während Japanisch eine Sprache ist, in der die Regulierung vergleichsweise locker ist. Es ist eine Sprache mit vielen vagen Ausdrücken und vielen Wörtern, die eine KI nicht lernen kann.

Antwort hinterlassen

Treten Sie der Community bei, um Ihre Gedanken und Ideen zu teilen.

Melde dich an, um an der Diskussion teilzunehmen