AI 포르노 교육.
일부 남성들이 실제 여성들의 이미지를 악용해 AI로 생성한 포르노 제작법을 가르쳐 사업으로 큰돈을 벌고 있다는 소송이 제기되었습니다. 단순한 딥페이크 제작을 넘어, 개인 이미지를 성적 콘텐츠로 착취하고 이를 가르치는 행위 자체로 수익을 올린다는 점이 핵심입니다. 이는 현재 인공지능을 둘러싼 법적, 윤리적 프레임워크의 경계를 허무는 매우 충격적인 전개입니다.
혐의 내용: 디지털 먹잇감 사냥기
애리조나에서 제기된 소장에 따르면, 잭슨 웹, 루카스 웹, 보 슐츠와 이름이 공개되지 않은 50여 명이 피고로 지목되었습니다. 이들의 수법은 무엇이었을까요? 바로 공개된 젊은 여성들의 사진을 인터넷에서 수집하고—아마도 즉각적인 반발이나 법적 문제를 최소화하기 위해 소셜 미디어 팔로워가 적은 이들을 노렸을 가능성이 높습니다—이 이미지들을 생성형 AI 모델에 학습시키는 것입니다. 소장에 따르면, 목표는 실제 여성들을 모방하는 초현실적인 AI 모델을 생성하고, 많은 경우 이들을 디지털적으로 옷을 벗겨 노골적인 콘텐츠를 만드는 것이었습니다.
이 콘텐츠는 Fanvue와 같은 구독 플랫폼에서 판매되어 상당한 수익을 올렸다고 소장은 주장합니다. 하지만 여기서 끝이 아닙니다. 피고들은 월 24.95달러의 유료 서비스를 통해 Whop과 같은 플랫폼에서 온라인 강좌 및 튜토리얼을 제공한 혐의를 받고 있습니다. AI ModelForge와 같은 브랜드 하에 진행된 이 강좌들은 CreatorCore 소프트웨어를 사용해 이미지를 스크래핑하고 AI 모델을 훈련시키는 방법을 상세히 담은 ‘플레이북’과 ‘청사진’을 제공했다고 합니다. 이는 명백합니다. 그들은 불법 콘텐츠 자체로 돈을 버는 것을 넘어, 유사한 행위를 저지를 ‘기술’을 다른 사람들에게 가르치는 것에서도 수익을 창출했다는 것입니다.
“상대방이 스스로를 방어할 수 없는 사람을 고르는 방법까지 포함된 전체 플레이북을 제공했어요. 어떤 종류의 여성을 사용해야 하는지, 어디서 사진을 얻어야 하는지에 대한 지시를 모두 받았다고 합니다. 모든 면에서 역겨웠어요.”
이러한 운영 규모는 실로 엄청납니다. 소장에 따르면 CreatorCore 플랫폼만 해도 2025년에 8,000명 이상의 구독자를 확보했으며, 50만 개 이상의 AI 생성 이미지와 비디오를 만들어냈습니다. 재정적 파장도 막대하며, 보고서에 따르면 피고들은 이 특정 사업으로 단 한 달 만에 5만 달러 이상의 수입을 올린 것으로 추정됩니다.
의도치 않은 피해자들: 새로운 형태의 디지털 괴롭힘
‘MG’(소송에서 신원이 보호되는 인물)와 같은 개인에게 이는 추상적인 윤리적 논쟁이 아닙니다. 이는 개인 정보와 자율성에 대한 끔찍한 침해입니다. 그녀는 자신의 이미지가 노골적인 AI 생성 콘텐츠에 사용되는 것을 발견하고, 자신의 이미지에 대한 통제력을 완전히 상실했다고 느꼈습니다. 가장 소름 끼치는 점은 무엇일까요? AI 모델이 자신의 문신까지 완벽하게 구현할 정도로 정확해서, 그녀를 잘 모르는 사람은 조작된 이미지를 실제라고 쉽게 착각할 수 있었다는 것입니다. 성적 착취를 위해 무기화된 이러한 수준의 신원 도용은 디지털 시대에 개인이 얼마나 취약한지를 강력하게 상기시킵니다.
소장은 피고들이 학생들에게 팔로워 5만 명 미만의 여성을 대상으로 삼도록 권장했다고 명시하고 있는데, 이는 법 집행 기관의 주의를 끌거나 더 큰 법적 문제에 직면하는 것을 피하려는 비정한 시도입니다. 이 디테일은 이 계획을 단순한 콘텐츠 제작에서 포식 행위에 대한 적극적인 지시로 변질시킵니다. 이는 가해자들이 피해자를 착취할 뿐만 아니라, 착취자를 새로운 세대를 길러내고 있는 끔찍한 피드백 루프입니다.
MG와 다른 원고들을 대리하는 변호사 중 한 명인 닉 브랜드는 상황의 심각성을 다음과 같이 설명했습니다. “이들은 단순히 생성형 AI를 이용해 여성들의 옷을 벗기는 것을 넘어, 다른 남성과 소년들에게 그럴 수 있는 능력을 팔고 있습니다. 그리고 그들은 다른 여성들의 이미지를 이용해 똑같은 짓을 할 것입니다.” 이는 기술 자체가 피해 증폭 도구가 되는 시스템적인 문제를 강조하며, 사업 모델은 이러한 착취적인 ‘기술’에 대한 수요를 창출함으로써 문제를 더욱 악화시킵니다.
AI의 그림자: 과대광고를 넘어서
AI를 둘러싼 대중적 담론이 혁신, 효율성, 심지어 창의성에 대한 잠재력에 초점을 맞추는 동안, 이 소송은 그 어두운 적용 사례와 마주하게 합니다. AI ModelForge와 같은 플랫폼의 확산은 ‘부업’으로 AI 인플루언서를 만드는 기회를 제공하며, 종종 윤리적 결과에 대한 완전한 이해 없이(혹은 의도적으로 무시하고) 빠른 금전적 이득을 추구하려는 욕구에 편승합니다. 스스로를 AI 기업가라고 칭하는 이들의 ‘수십만 달러’ 수입에 대한 과시적인 소셜 미디어 게시물은 ‘원자재’—실제 사람들의 이미지—의 출처가 무시되는, 규제되지 않은 골드러시의 그림을 보여줍니다.
이것은 AI가 단순히 지루한 작업을 자동화하는 시나리오가 아닙니다. 이것은 이전에는 실행하기 어렵고 노동 집약적이었던 성희롱 및 착취의 한 형태를 촉진하고 확장하기 위해 AI가 적극적으로 사용되는 사례입니다. AI가 이제 얼마나 빠르고 정교하게 현실적인 이미지를 생성할 수 있는지, 그리고 이를 온라인에 쉽게 유포할 수 있다는 사실이 결합되어 남용을 위한 강력한 혼합물을 만들어냅니다.
앞으로의 전망: 법적, 윤리적 갈림길
이 소송의 결과는 상당할 것입니다. 이는 AI 생성 콘텐츠의 빠르게 발전하는 환경, 특히 개인 정보 보호, 명예 훼손, 지적 재산권에 관한 기존 법률의 경계를 시험할 가능성이 높습니다. 개인은 자신의 데이터로 훈련된 알고리즘에 의해 생성된 자신의 이미지 오용에 대해 효과적으로 소송을 제기할 수 있을까요? 이러한 콘텐츠의 훈련 및 배포를 모두 지원하는 플랫폼은 어떻게 책임을 질 수 있을까요? 이는 사법 시스템이 이제 막 다루기 시작한 질문들입니다.
궁극적으로 이 사건은 엄중한 경고입니다. 이는 생성형 AI를 둘러싼 강력한 법적, 윤리적 가드레일의 시급한 필요성을 강조합니다. 기술 발전은 그 결과를 관리하려는 우리 사회의 능력을 앞지르고 있으며, 이익 동기가 개인의 사생활 및 존엄성과 충돌할 때 그 결과는 파괴적일 수 있습니다. AI의 약속은 엄청나지만, 오용될 가능성 또한 그만큼 크다는 현실을 이 소송은 날카롭고 충격적으로 조명하고 있습니다.
이 사건이 AI 착취에 대한 선례를 남길까?
확실히 그럴 잠재력이 있습니다. 이러한 소송은 법이 아직 기술을 따라가지 못한 분야에서 법적 선례를 확립하는 데 중요합니다. 원고가 승소하면 AI 생성 착취 피해자에 대한 더 명확한 지침과 강력한 법적 구제책으로 이어질 수 있습니다.
내 이미지가 AI에 사용되는 것을 어떻게 보호할 수 있을까?
최선의 방어는 선제 공격입니다. 가능한 한 이미지의 공개 접근성을 제한하고, 소셜 미디어에서 강력한 개인 정보 보호 설정을 사용하며, 공개된 이미지도 스크래핑될 수 있음을 인지해야 합니다. 향후 일부 해결책에는 디지털 워터마킹이나 AI 탐지 도구가 포함될 수 있지만, 지금으로서는 개인의 주의가 핵심입니다.
이것이 유일한 운영일까?
안타깝게도, 주장되는 수익성과 AI 도구에 대한 쉬운 접근성을 고려할 때, 이것이 단독 사건일 가능성은 매우 낮습니다. 이 소송은 법률 및 윤리 관찰자들이 면밀히 주시하고 있는 광범위한 추세를 보여줍니다.
