ndaily

딥페이크 음란물, AI로 찾아 삭제 요청…내년 시스템 구축
기사 작성일 : 2024-04-25 17:00:33

'딥페이크'(deepfake) (PG)


[장현경 제작] 일러스트

이상서 기자 = 디지털성범죄에 대응하기 위해 인공지능(AI) 기술을 이용해 '딥페이크' 영상물을 찾아 온라인 사업자에게 자동으로 삭제를 요청하는 시스템이 내년 구축된다.

국외에 서버를 둔 불법 사이트를 근절하기 위해 미국 아동실종학대방지센터(NCMEC) 등 해외 기관과 핫라인도 가동될 전망이다.

스토킹 피해자를 위한 긴급주거지원사업은 전국으로 확대되고, 가정폭력 피해자 보호시설 퇴소자 동반 아동에게 250만원을 지급하는 등 폭력 피해자에 대한 지원이 강화된다.

여성가족부는 25일 '제11차 여성폭력방지위원회'를 열고 이러한 내용이 담긴 올해 여성폭력방지정책 기본계획 시행 방안과 디지털성범죄 대응 체계 강화 방안을 확정했다.


'성착취물 소지자까지 강력 처벌' 촉구


2022년 9월 15일 오전 서울 종로구 세종문화회관 앞에서 진보당 당원들이 '제2 n번방' 사건과 관련 경찰의 신속한 대응과 성착취물 범죄에 대한 양형기준 강화, 성착취물 소지자 처벌 등을 촉구하는 정당연설회를 하고 있다. [ 자료사진]

◇ 피해영상물 외 신상정보도 삭제…"피해자 보호 대책 강화"

여가부에 따르면 19개 중앙행정기관과 17개 시도는 '제1차 여성폭력방지정책 기본계획'에 대한 올해 시행계획으로 5대 폭력 피해자 지원 강화와 사회 전반의 성폭력 근절에 방점을 둔 131개의 세부 과제를 추진한다.

5대 폭력은 권력형 성범죄, 디지털성범죄, 가정폭력, 교제 폭력, 스토킹 범죄다.

먼저 갈수록 심각해지는 디지털성범죄를 근절하기 위해 여가부는 인공지능을 이용해 피해자 얼굴과 음란물을 합성한 '딥페이크' 영상물을 탐지한 후 온라인 사업자에게 삭제를 자동 요청하는 시스템을 2025년까지 구축하기로 했다.

'디지털성범죄피해자지원센터'(디성센터)를 비롯해 서울, 부산, 인천, 경기 등 일부 지자체와 '삭제지원시스템'을 연계해 불법 촬영물 정보를 공유하는 등 피해자 지원도 강화한다.

피해영상물 외에 피해자 신상정보도 삭제 지원 대상에 포함되도록 '성폭력방지법' 개정을 검토한다.

여가부 관계자는 "피해영상물을 삭제하더라도 피해자의 이름이나 학교명 등이 유포되는 탓에 2차 피해로 이어지는 경우가 많다"며 "피해자 보호를 위한 대책이 필요하다고 봤다"고 설명했다.

방송통신심의위원회는 디지털성범죄 피해자의 요청사항을 한 번에 서비스 지원기관과 연계하는 '원스톱 신고 자동전화연결(ARS) 시스템'을 운영한다.

인공지능을 활용한 디지털 성범죄물 피해 구제 신고 창구도 설치한다.

또한 국내외 온라인 사업자로 구성된 자율규제 활성화 협의체를 통해 딥페이크를 삭제하는 등 자율규제를 강화한다.

경찰청은 수사 진행 상황의 통지 대상자가 미성년 피해자인 경우 변호사 등 대리인에게 통지할 수 있도록 범죄수사규칙 개정을 검토한다.

아울러 미국 연방수사국(FBI)이나 국토안보부 수사국(HSI) 등 해외 법집행기관 및 글로벌 인터넷 기업과 공조를 강화해 관련 범죄를 단속할 계획이다.

여가부도 불법 영상물 공유 사이트 서버를 해외에 두는 경우가 늘어나는 현실을 감안해 미국 아동실종학대방지센터(NCMEC) 등과 핫라인을 개설할 예정이다.

디성센터가 안정적으로 운영될 수 있도록 기관 운영에 관한 근거를 성폭력방지법에 명시하는 방안도 추진된다.

교육부와 여가부는 학교나 공공기관의 관련 예방 교육을 강화하고 인식 개선 활동을 실시한다.


'고인을 추모하며'


신당역 스토킹 살인사건 1주기를 맞은 지난해 9월 14일 저녁 서울 신당역 10번 출구에 마련된 추모공간을 찾은 시민이 추모 메시지를 적고 있다. [ 자료사진]

◇ 스토킹 법률구조지원비 인상…국방 성폭력예방대응시스템 7월 구축

사회적 경각심이 높아지는 스토킹 범죄 방지책과 성범죄에 취약 계층이라 할 수 있는 아동·청소년에 대한 보호책도 강화한다.

법무부와 경찰청은 지난해 개정된 스토킹처벌법과 스토킹 전자장치 부착 제도가 제대로 운용되도록 부처 간 공동 지침을 마련하고, 현장 점검 및 대응 훈련을 실시한다.

여가부는 작년까지 서울과 부산, 인천 등 6개 시도에서 운영하던 스토킹 피해자 긴급주거지원 사업을 올해 17개 시도로 확대한다.

스토킹 법률구조지원 한도는 500만원에서 600만원으로 올리는 한편 가정폭력 피해자 보호시설 퇴소자 동반 아동에게 자립지원금 250만원을 신규로 지원한다.

또한 행정안전부 및 법원행정처와 협업해 피해자 주소 노출 방지를 위한 '전자소송 사전포괄동의 제도' 활성화 매뉴얼을 마련하고, 현재 1년인 제도 이용 기간을 2년으로 늘리는 방안을 논의할 계획이다.

온라인 그루밍 위험에 노출된 아동·청소년이 손쉽게 피해를 접수하고 상담할 수 있는 '온라인 그루밍 안심앱'도 보급한다.

성범죄자 취업제한 대상 기관을 외국교육기관과 청소년단체까지 확대하고, 관련 자료 제출에 응하지 않은 기관을 제재하는 내용이 담긴 '청소년성보호법' 개정도 추진한다.

아울러 기관장 성폭력 사건의 재발 방지대책 제출 기한을 3개월에서 1개월로 줄이고, 사건 통보 등 의무 미이행 시 시정명령과 과태료를 부과하는 법적 근거가 마련된다.

문화체육관광부는 '예술인권리보장센터'를 통해 예술인 성희롱·성폭력 피해자에 대한 통합지원 서비스를 제공하고, 방송·출판·지식정보·콘텐츠 설루션 분야 성희롱·성폭력 실태조사를 실시할 예정이다.

스포츠윤리센터의 조사를 방해하거나 은폐할 경우 과태료를 부과하는 방안도 추진한다.

국방부는 성희롱·성폭력 피해자 상담 및 사건 통합관리를 위한 '국방 성폭력 예방대응정보시스템(PSVIS)'을 7월까지 구축한다.

이밖에 복합피해나 정신질환 동반 피해 등 고난도 사례에 대해 유관 기관이 협력해 원스톱 서비스를 제공하는 '1366 통합지원단'은 2곳에서 5곳으로 늘어난다.

신영숙 여가부 차관은 "이번 회의에서 마련된 각종 방안이 현장에서 차질 없이 추진될 수 있도록 꼼꼼하게 점검해 나가겠다"고 밝혔다.



[여성가족부 제공]

댓글