인공지능(IA)을 이용해 만든 딥페이크(허위 영상물) 피해를 입은 학생이 27명이 늘어난 841명으로 집계됐다.
교육부가 21일 공개한 ‘학교 딥페이크 허위 영상물 피해 현황’을 보면 올해 1월부터 지난 18일까지 딥페이크 피해 학생은 누적 841명으로 집계됐다. 지난 11일 조사 결과인 814명보다 27명 늘어난 수치다.
교원 피해자는 33명, 직원 등 피해자는 3명으로 1주 전과 같았다.
학생과 교직원을 합한 누적 피해자는 총 877명으로 집계됐다.
교육부는 텔레그램 단체 대화방 등 SNS를 통해 딥페이크 성 착취물이 대거 유포되고 미성년 학생들의 피해가 커지자 17개 시도 교육청을 대상으로 딥페이크 피해 현황을 조사하고 있다.
딥페이크 피해 신고 건수는 1월부터 이달 18일까지 누적 533건이다. 1주 전보다 17건 늘었다.
이중 수사 의뢰된 건수는 448건으로, 16건 증가했다. 삭제 지원을 연계한 건수는 11건이 늘어난 241건이다.
최근 ‘지인 능욕방’이라는 텔레그램 채널을 만들어 지인의 딥페이크 합성 영상을 제작·유포한 20대가 검찰에 송치되기도 했다.
경기북부경찰청 사이버범죄수사2대는 성폭력범죄의 처벌 등에 관한 특례법 위반 등 혐의로 20대 남성 A씨를 구속 송치했다고 이날 밝혔다.
경찰에 따르면 A씨는 고등학생이던 2020년 3월부터 최근까지 ‘지인이나 연예인의 사진으로 허위 음란 영상을 제작해 텔레그램으로 유포한 혐의를 받는다.
경찰 조사결과 A씨는 직접 텔레그램 대화방을 개설하고 참가를 원하는 이용자들에게 딥페이크 영상 제작에 필요한 지인의 인적사항과 일상사진 또는 허위영상물 등을 게시하도록 했다. A씨의 대화방에 참가해 활동한 이용자가 100여 명에 달하는 것으로 알려졌다. 특히 A씨는 신상정보를 파악한 피해자들에게 접근해 허위 영상물을 전송하고 주변에 배포하겠다고 협박해 또 다른 지인 등의 사진을 받아온 것으로 확인됐다.
경찰은 A씨의 주거지 등에서 압수한 압수물 분석 결과 A씨의 고교 및 대학 동장, 지인 등의 딥페이크 허위영상물 700여개가 들어 있는 것을 발견했다.
경찰은 2차 피해 방지를 위해 관계 기관 등과 협조해 해당 영상물 긴급삭제 및 차단을 요청하고, A씨가 운영한 텔레그램 대화방 참가자들에 대한 수사를 이어가고 있다.