딥페이크는 무서운 성희롱 무기입니다.
You''는 아마도 사진 연구소와같은 앱에 익숙할 것입니다. 당신은 에 홉, 셀카를 업로드 한 다음 만화 책이나 고대 그림에서 어떻게 생겼는지에 감탄하기 위해 몇 초 동안 기다립니다.
이제 비슷한 응용 프로그램을 그림하지만 대신 귀여운 초상화, 당신은 배우 중 하나로서 당신과 함께 포르노 클립을 얻을. 태그 라인? "한 번의 클릭으로 누군가를 포르노 스타로 바꿔라!"
오, 어서, 당신은 생각할 수 있습니다. Cut 무서운 멀리 가져온 디스토피아 헛소리. 제외 하 고, 아무 헛 소리 관련. MIT 기술 검토는 최근 이러한 응용 프로그램이 존재한다고보고했다. 그들은 의도하지 않은 광고를 피하기 위해 "Y"라고 불렀습니다.
"Y는 매우 사용하기 쉽습니다. 사용자가 얼굴 사진을 업로드하면 사이트가 포르노 비디오 라이브러리를 엽니다. 대다수는 여성을 특징으로한다"고 MIT는 썼다. "그런 다음 사용자가 모든 비디오를 선택하여 몇 초 내에 얼굴 교환 결과 미리 보기를 생성하고 정식 버전을 다운로드하기 위해 비용을 지불할 수 있습니다."
Y의 기술은 Deepfake라고하며 MIT가 말했듯이 "처음부터 [이 기술은] 주로 종종 심리적으로 파괴적인 여성의 포르노 표현을 만드는 데 사용되었습니다."
잠깐, 정확히 딥페이크란 무엇입니까?
인공 지능(AI)에 의존하여 실제 샘플을 기반으로 콘텐츠를 제작하는 기술입니다. 이 용어는 2017년 레딧의 회원이 "딥 러닝"과 "가짜"의 조합으로 만들어졌습니다.
딥 러닝은 인간의 뇌와 다소 비슷하지만 한 가지 특정 작업을 전문으로 하는 과거의 경험을 바탕으로 결정을 내리고 결과를 생성하는 소프트웨어 기술입니다. 예를 들어 Tesla의 소프트웨어는 전체 차량의 내비게이션 데이터를 사용하여 자율 주행 기능을 개선합니다.
반면 딥페이크(Deepfake)는 딥 러닝을 사용하여 얼굴 스왑 및 음성 복제를 포함하는 점진적으로 사실적인 콘텐츠를 제작합니다. 예, 그들은 심지어 당신의 목소리를 훔칠 수 있습니다. 여기에 어떻게 TikTok 에서 사람이 깊은 가짜 톰 크루즈입니다.
방금 목격한 것처럼 딥페이크는 "진짜"처럼 보일 수 있습니다. 이것은 개념재미를뿐만 아니라 소름, 당신이 Deepfake의 가장 지배적 인 응용 프로그램은 포르노것을배운 후 특히.
포르노 클립으로 얼굴을 편집하고 동료에게 이메일을 보내겠다고 위협하는 스토커를 상상해보십시오. 이름 검색 후 언니의 가짜 섹스 테이프가 Google에 표시되는 경우를 고려하십시오. 인기있는 포르노 사이트의 첫 페이지에 나타나는 어머니의 성적 사진은 어떻습니까?
이 이야기는 진짜이기 때문에 상상을 중지합니다.
딥 페이크 포르노 는 유명 인사와 일상 여성을 모두 동일하게 해친다.
친구가 헬렌 모트에게 웹 사이트가 그녀의 알몸 사진을 공유했다고 말했을 때, 영국 작가는 그것이 실수라고 생각했습니다. 그녀는 누출이 불가능하다는 것을 의미하는 누드를 공유한 적이 없었습니다. 분명히 그녀처럼 생긴 여배우였습니다. 그렇지 않은 것을 제외하고는. 그것은 실제로 헬렌 모트의 얼굴이 그 명시적이고 폭력적인 사진에 나타났다.
여기에 무슨 일이 있었는지입니다.
포르노 웹 사이트의 한 회원은 모트의 휴일, 임신 및 십대 시절의 사진을 업로드했습니다. 그런 다음, 그들은 Deepfake를 사용하여 성적 이미지로 편집하는 다른 사용자를 격려. Mort은 모든 실제 이미지가 현재 삭제 된 페이스 북 프로필을 포함하여 그녀의 개인 소셜 미디어 계정에서 온 것으로 나타났습니다. (안녕하세요 주커 버그)
가짜 사진에 관해서는, 일부는 명백한 편집을 제시, 다른 사람은 충격적으로 진짜 보였다, 하지만 모두 모트는 같은 느낌했다 : 화가 위반.
"그것은 정말 당신이 당신의 자리에 넣어 되 고 처럼, 힘 없는 느낌," 모트는 말했다. "어떤 종류의 공개적인 목소리를 가진 여성이라는 이유로 처벌을 받았다. 이것이 제가 설명할 수 있는 가장 좋은 방법입니다. '봐: 우리는 항상 당신에게 이 일을 할 수 있습니다.'라고 말합니다."
학대는 유명 인사뿐만 아니라 유명 인사를 포함하지 않았다. 공공의 존재가 거의 없는 여성들은 모두 똑같이 고통받고 있습니다. 호주 법학 대학원 노엘 마틴을 예로 들어 보겠습니다. 그녀는 또한 딥페이크 학대를 경험했고 5년 동안 용감하게 싸웠습니다.
마틴은 2018 TED 강연에서"내가 싸울수록 더 많은 사이트를 발견할 수 있다"고 회상했다. "내가 말하는 것처럼, 먹이를 받고있는 여성이 있다, 그들은 심지어 그것을 모른다."
2018년, 마틴은 딥페이크 동영상의 공통점이 적기 때문에 사진에 집중했습니다. 오늘날 데이터는 그렇지 않습니다. Deepfake 전문 회사인 Sensity AI는 2021년까지 온라인 세계가 180,000개의 딥페이크 동영상을 호스팅할 것으로 예상했습니다. 같은 보고서에 따르면 2019년에는 동영상 콘텐츠의 96%가 성인 소재라고 합니다.
마틴이 2020년 초에 Elle.com 이야기를 다시 공유할 때 비디오 콘텐츠에 초점을 맞춘 이유일 것입니다. "[W] 힐우리는 특정 한 주의 의식으로 이미지에 접근하는 법을 배웠습니다, 우리는 여전히 진실로 비디오를 고려하는 경향이있다,"마틴은 경고했다. "우리는 비디오에서 보는 것이 실제가 될 것이라고 믿습니다."
복수 포르노, 협박 및 괴롭힘에 대해 옹호하는 사람들은 걱정할 수밖에 없습니다. 기술 기반 남용에 대처하는 비영리 단체의 창립자인 아담 닷지(Adam Dodge)는 "피해자에 대한 권력과 통제력을 발휘하고자 하는 사람에게 완벽한 도구"라고 말했다.
최근 인터뷰에서 닷지는 한 문장으로 딥페이크 포르노의 위험을 요약했습니다. "이것은 여성에 대한 폭력 문제입니다."
왜 딥 페이크 포르노와 싸우기 어렵습니까?
법률 시스템 및 기술 규정 : 딥 페이크 포르노에 대해 다시 밀어 하는 두 가지 방법이 있습니다. 두 노선 모두 도전적입니다.
첫째, 법은 기술의 편리한 사용이 있기 때문에 완전히 Deepfake을 금지 할 수 없습니다. 예를 들어, 딥페이크는 내부 고발자 인터뷰 중에 LGBTQ 개인을 박해했습니다. 얼굴을 바꾸는 덕분에 관객은 증인의 감정적 표현을 볼 수 있었지만 억압자들은 결코 그들을 식별 할 수 없을 것입니다.
Deepfake의 또 다른 사용은 마케팅입니다. 한 가지 예는 MyHeritage에서 수행한 2021년 캠페인입니다. 가족 역사 데이터를 전문으로하는 이 회사는 이 기술을 사용하여 고객이 사망한 가족의 초상화에 애니메이션을 애니메이션할 수 있도록 도왔습니다.
Deepfake의 미묘한 사용 외에도 정치인과 의원들이 기술과 함께 제공되는 위협을 파악하기가 어렵습니다. 구체적인 결과가 없는 경우는 없습니다.
헬렌 모트와 노엘 마틴이 예상되는 반발에도 불구하고 앞으로 나온 이유입니다. "이 물건에 대해 말하는 것은 더 많은 학대를위한 문을 엽니 다,"모트는 말했다.
마틴에 관해서는, 그녀는 그녀가 피해자 비난과 창녀 부끄러운 설명했다. 그녀는 "아첨한 아기를 느끼고, 칭찬", "그녀는 주의를 끄는 쓰레기 조각", 그리고 물론 "그녀는 백미"와 같은 수많은 상처를 주는 말을 처리해야 했습니다.
그럼에도 불구하고 이 두 용감한 여성들은 지속되었고, 그 덕분에 법 개혁이 이루어졌고 청원서가 온라인에 퍼졌습니다. 그러나 그들은 혼자 이길 수 없습니다, 이는 두 번째 지점에 우리를 제공합니다.
기술 거인과 플랫폼이 개입해야 합니다. 다행히도, 그들 중 일부는 이미 움직이고 있습니다.
구글과 아마존은 소프트웨어 전문가가 딥페이크 탐지에서 혁신하도록 장려하는 과제를 시작했습니다. 한마디로 우리의 눈과 귀가 더 이상 따라갈 수 없기 때문에 AI와 싸우는 것이 좋습니다. 또한 Sensity AI와 같은 회사도 고급 분석 및 보호 서비스를 제공합니다.
기술 솔루션의 주요 목표는 여성의 어깨에서 온라인 플랫폼으로 무게를 이동하는 것입니다.
조르지오 패트리니 Sensity AI의 CEO는 "지금 게시 중단 절차는 웹 사이트에 통지를 전송하여 피해자 (종종 온라인되는 자료를 인식하지 못하는 사람)로부터 시작해야합니다" 라고 설명했다. "대신, 책임은 적극적으로 자신의 공간을 경찰하는 플랫폼 게시자의 측면에 있어야합니다."
그렇게 될 때까지 모든 사진과 비디오가 비공개인지 확인하십시오. 나는 그녀의 딥 가짜 학대자에 대한 헬렌 모트의 응답으로 당신을 떠날 것이다.