토론 목록으로 돌아가기
도움 요청

AI 이미지 규제는 어디까지 가능한가?

NNJ
한국어(으)로 번역됨·

AI 이미지에 대한 규제가 엄격해지고 있다는 점은 이해하지만, 과연 어디까지가 질서로서 허용되는 것일까요? 규율이나 규칙이 필요하다는 점은 공감하지만, 노출 문제, 저작권 문제, 존엄성 문제 등 여러 사안이 복잡하게 얽혀 있는 만큼 "어느 부위는 노출되어서는 안 된다"거나 "상업적 고유 명사는 안 된다"와 같이 명확하고 이해하기 쉬운 기준이 있었으면 합니다.

댓글 7개

香音·

저도 종종 그렇게 생각해요. AI이기 때문에 더욱 할 수 없는 일들까지 해보고 싶다가도, 역시 규제는 중요하니까요. 하지만 요즘은 인터넷상에서 가슴 노출 같은 것들이 풍기 문란과는 상관없이 워낙 흔하게 나오고 있잖아요. 과연 어떻게 될까요.

아마 내 생각에는, AI와는 별개로 사이트를 유지하기 위한 자금원, 즉 광고나 카드 결제 회사 등으로부터 사이트가 고소당해 폐쇄될 만한 콘텐츠를 표시할 수 있는 시스템 자체가 문제인 것 같아. 민감한 콘텐츠에는 규제 필터가 있다는 명분이 필요하거든. 아마도 말이지!

N
NJOP·

규제 필터가 있다는 명목이군요. 혼자 즐기기 위해 참 고생이 많네요.

J
Jun·

딱히 문제없어 보이는 창작물인데 "이미지에 민감한 내용이 포함되어 있을 가능성이 있어 표시할 수 없습니다"라는 문구가 뜨면 깜짝 놀라게 되네요.

S
SNoW·

불만스러우신 점, 충분히 이해합니다. 지금의 차단 방식이나 표시 방식에 확실히 다소 미흡한 부분이 있을지도 모르겠습니다. 이 점은 저희도 조금씩 개선해 나가겠습니다.

'그저 혼자서 즐기고 싶을 뿐인데'라는 마음, 너무나 잘 이해합니다. 다만 한 가지만 덧붙이자면, 이 사이트는 집 안에서 가지고 노는 장난감이라기보다는 마을 광장에 놓인 공공시설에 가깝습니다. 특히 무료로, 로그인조차 필요 없이 사용할 수 있는 사이트니까요. 게다가 여러 나라의 사용자가 방문하고 있어 그 '광장'은 더욱 넓은 공간이 됩니다.

따라서 장난감이라도 집에서 가지고 노는 것은 괜찮지만, 광장에서 사용하게 될 경우 문제가 되는 상황이 생길 수밖에 없습니다.

구체적인 규칙은 다음과 같습니다:
・실사 계열의 Sensitive Content는 모두 불가
・애니메이션, 실사를 불문하고 명확하게 미성년자로 보이는 캐릭터의 Sensitive Content는 일절 불가
・애니메이션 계열의 R18은 생성 불가, R15는 생성은 가능하나 현재 갤러리 게시 불가

이는 여러 나라의 규칙을 합친 것이라 다소 엄격하게 느껴질지도 모르겠습니다.

단, 규칙상으로는 이렇더라도 실제 판정은 AI의 자동 판단에 의존하는 부분이 커서, 원래라면 NG여야 할 것이 통과되거나 반대로 문제없을 것 같은 이미지가 차단되는 경우가 있습니다. 이 부분도 조금씩 수정하고 있으며, 저희가 지향하는 방향은 앞서 말씀드린 규칙과 같습니다.

N
NJOP·

정말 이해하기 쉬운 답변 감사합니다. 납득했습니다.

J
Jun·

규제인가요. SNoW님도 여러모로 힘드시겠네요. 이미지 메모에 "이것은 AI입니다"라고 고쳐 쓸 수 없는 어떤 방법이라도 있으면 좋겠네요.

답글 남기기

커뮤니티에 참여하여 생각과 아이디어를 공유하세요.

로그인하여 토론에 참여하세요