일본의 디지털 커머스가 운영하는 성인용 일러스트/동인지 판매 서비스 FANZA 동인이 투고자가 생성형 AI를 이용할 경우 표시 제한을 하겠다고 밝혔습니다. 각 투고자(서클)에 공지한 내용에 따르면 서비스 내에서 AI작품을 3가지 카테고리로 분류하고 있습니다. AI로 주요 요소를 생성할 경우 'AI 생성', AI를 통해 배경 등 일부 요소만을 생성할 경우 'AI 일부 이용', 사용자가 작성한 콘텐츠를 자동 보정 등을 통해 개선작업을 할 경우 'AI 보조'로 나누고 있습니다.

일러스트 카테고리에서 이번에 표시 제한에 해당하는 건 'AI 생성'에 해당하는 카테고리 작품으로, AI를 이용해 생성한 일러스트가 해당됩니다. 첫 페이지에 보여지는 모든 페이지에서 AI 생성 결과물을 표시하지 않고, 장르 페이지, 리스트, 검색페이지, 신작 소개 페이지에서도 'AI 생성'에 해당하는 작품을 표시하지 않습니다.

만화가 포함되는 코믹-CG 카테고리에 대해서는 'AI생성'은 물론 배경 등 일부 요소를 활용하는 'AI 일부 이용'까지 제한하는 보다 강력한 제한을 둔다고 밝혔는데요. 그동안 AI 일러스트를 포함한 모든 콘텐츠에 '가능'이라는 시그널을 가장 먼저 냈던 성인 동인지 부문에서 강한 제한을 걸고 나선 것은 물량으로 말 그대로 '찍어내는' 통에 신인 작가들이 등장할 가능성이 낮아지는 등 부작용이 있기 때문인 것으로 보입니다.

이런 규제는 사용에 제한이 없는 공유지에서 목장들이 운영되면 목초지의 풀을 무제한으로 먹고 소가 먹을 풀이 없게 되어 목초지로서의 기능을 상실하고, 황폐화된 땅을 버리고 목장들이 떠나버리게 된다는 이른바 '공유지의 비극'이 일어날 것을 경계하고 있는 것으로 보입니다. 개인의 합리성과 자유에 모든 것을 맡기더라도 집단이 합리적으로 운영되지 않는다는 역설입니다.

누구나 모든 콘텐츠를 올릴 수 있는 오픈 플랫폼에서 AI로 만들어낸 콘텐츠를 허용하되, 큐레이션을 통해 표면에 보여주지 않는 방식으로 '생성 콘텐츠'에 대한 직접 규제를 실시한 것은 시사하는 바가 큽니다. 앞으로 AI를 어떻게 통제하고, 그걸 활용하는 사람들의 욕망을 어떻게 다룰지 논의가 중요해지겠네요.​