AI 성착취물, 사이트 하나 막는다고 안 끝나는 이유

사이트 하나가 아니라 '생태계'였다

청소년 성폭력 예방 전문기관 탁틴내일이 지난 4월 20일부터 5월 31일까지 AI 성착취물 관련 웹사이트와 SNS, 텔레그램 등 57개 플랫폼의 운영 실태를 분석했다. 결과는 생각보다 촘촘했다. 생성형 AI 플랫폼에서는 실존 인물 사진을 합성한 딥페이크뿐 아니라 AI가 새로 만든 가상 인물 성착취물까지 함께 제작·유통되고 있었고, 링크모음 사이트와 SNS, 텔레그램 채널은 생성 플랫폼과 유기적으로 연결돼 추천인 제도나 무료 포인트, 암호화폐 보상 같은 인센티브로 신규 이용자를 계속 끌어들이는 구조를 만들고 있었다.

탁틴내일은 이를 두고 "생성·홍보·유통·결제·수익화가 하나로 연결된 범죄 생태계"라며 "AI 성착취물이 개별 사이트를 넘어 온라인 생태계 전반에서 확산되는 양상"이라고 지적했다. 특히 직접적인 피해자가 특정되지 않는 가상 인물 성착취물에 대해서도 "성착취를 정상화하고 성적 대상화를 확산시키며 성착취물의 생산·유통·소비를 촉진하는 범죄 생태계의 일부로 기능할 수 있다"며 "사회적 위해성이 크다"고 경고했다.

연령 확인도, 차단도 '있으나 마나'

더 눈에 띄는 건 청소년 보호조치가 사실상 작동하지 않았다는 점이다. 조사 대상 플랫폼 상당수가 '18세 이상 이용' 문구를 붙이거나 약관에 연령 제한을 명시했지만, 실제 연령을 확인하는 절차는 없었다. 만 16세 계정으로 가입을 시도했을 때도 별도 인증 없이 회원가입과 서비스 이용이 가능했다고 한다. 국내에서 접속이 차단된 사이트들조차 VPN을 통한 IP 우회로 다시 접속되는 사례도 확인됐다.

탁틴내일은 현행 법체계가 실존 피해자 중심으로 설계돼 있어 AI 생성 가상 성착취물이나 생성형 AI 플랫폼, 유통·재유포 구조까지 포함한 온라인 범죄 생태계를 충분히 포섭하지 못하고 있다고 짚었다. 보고서는 영국과 미국이 생성도구 규제, 플랫폼 책임 강화, 신고 의무 부과, 재유포 방지 등으로 대응 범위를 넓히고 있는 점을 참고할 필요가 있다고 제안했다. 정책 과제로는 법·제도 정비, 플랫폼 안전조치(Safety by Design) 강화, 생성·홍보·유통을 아우르는 대응체계 구축, AI 탐지기술 고도화와 국제 공조 강화가 꼽혔다.

탁틴내일은 "AI 성착취물은 개별 콘텐츠의 문제가 아니라 생성부터 홍보, 유통, 결제, 수익화까지 연결된 새로운 형태의 디지털 성폭력으로 문제가 심각해질 수 있다"며 "콘텐츠 삭제와 사이트 차단 중심 대응에서 벗어나 범죄 생태계 전반을 겨냥한 예방 중심의 통합 대응체계 마련이 시급하다"고 강조했다.