딥페이크 악용 범죄 막기 위해 국과수와 KETI가 뭉쳤다

▶행정안전부 국립과학수사연구원, 한국전자기술연구원과 '과학수사 분야 연구 협력' 업무협약 체결
▶"딥페이크 등 신종범죄 수사 위한 기술 연구·개발 나설 것"

(출처=클립아트코리아)

[위즈경제] 이정원 기자 =행정안전부 국립과학수사연구원(이하 국과수)과 한국전자기술연구원은 9일 '과학수사 분야 연구 협력을 위한 업무협약(MOU)을 체결했다고 밝혔습니다.

 

양 기관은 이날 협약에 앞서 간담회를 열고 첨단 과학수사 분야의 주요 협력 기술을 논의하고, 인공지능(AI) 기반 영상·음성 분석 등 첨단 분야의 공동 기술 개발 추진과 동시에 과학수사 분야 내 기술 확산을 지원하기로 합의했습니다.

 

이번 협약을 통해 ▲과학수사에 필요한 영상 및 음성 분석 기술 교류 ▲영상 및 음성 분석 기술 활용을 위한 인적 교류 ▲과학수사 분야 신기술 수요 공동 발굴 및 정부 전략 수립 지원 등 첨단 분야에서의 연구개발(R&D) 등에 대한 상호 협력을 강화할 계획입니다. 

 

현재, 국과수에서는 국내 주요 범죄 사건·사고에 필요한 해석과 감정을 지원하고, CCTV·비디오·사진을 포함하는 각종 영상 및 음성 판독/개선 기술 등 범죄 수사에 필요한 법 공학 분야의 연구개발을 수행하고 있습니다.

 

아울러 KETI는 딥러닝 기반의 영상 인식 추적 및 영상 화질개선 등 지능형 영상처리 기술, '멀티모달 인터랙션' 및 추론, 자연어 처리 등의 인공지능 기술 등 첨단 지능 분야의 핵심 기술 육성에 집중하고 있습니다.

 

★멀티모달 인터렉션: 음성, 영상 등 다중 입력을 이용한 컴퓨터와 인간의 상호작용

 

특히, KETI 지능정보연구본부는 인물의 행동 양식을 모방하는 극사실적 인물 구현 등의 동영상 합성 및 판별 기술을 바탕으로 딥페이크 영상과 음성을 판별하는 탐지 기술을 보유하고 있습니다. 

 

신희동 한국전자기술연구원장은 "다가오는 미래 치안의 핵심은 첨단 과학 기술의 개발이며, KETI는 유망 ICT의 구현과 확산에 필요한 최적의 파트너일 것"이라며 "오늘 두 기관의 협약이 향후 국민 안전을 보장하는 과학치안 사회로 이어지길 기원한다"고 밝혔습니다.

 

이봉우 국립과학수사연구원장은 "최근 인공지능 기술의 발달에 따라 딥페이크 등과 같은 신종범죄로 국민의 일상 안전이 위협받고 있다"면서 "국내 최고의 전자기술연구기관과 과학수사 감정연구기관이 협력해 신종범죄 수사를 위한 기술을 연구·개발해 과학수사 분야를 발전시키겠다"고 밝혔습니다. 

 

한편, AI 기술을 활용한 딥페이크 영상이 인기를 끌면서 사회관계망서비스(SNS)에서 빠르게 확산되고 있습니다.

 

현재, 온라인상에서는 비비의 '밤양갱'을 가수 아이유나 박명수, 오혁 등의 목소리를 활용한 AI 커버곡이 화제를 모으고 있습니다.

 

해당 영상의 조회수는 수십만 건에 이르는 것으로 나타났으며, 누리꾼들은"숨소리까지 똑같다", "완전 자연스럽다" 등의 반응을 보이고 있습니다.

 

다만, 일부 누리꾼들은 "너무 자연스러워서 소름 돋는다", "AI 발달이 무섭다" 등의 우려도 제기하고 있습니다.

 

이에 유튜브는 AI를 활용해 자신의 외모나 음성을 모방한 콘텐츠를 발견했을 때 삭제 요청할 수 있는 규정을 마련했습니다.

 

유튜브 고객센터는 "누군가 AI를 사용해 내 외모 또는 음성과 유사하게 콘텐츠를 변경하거나 생성한 경우 삭제를 요청할 수 있다"라고 밝혔습니다.

 

삭제 요청 시 ▲콘텐츠가 변경되었거나 합성되었는지 여부 ▲콘텐츠가 시청자에게 변경 또는 합성된 콘텐츠로 공개되는지 여부▲개인을 고유하게 식별할 수 있는지 여부 ▲콘텐츠가 사실적인지 여부 ▲콘텐츠에 패러디, 풍자 또는 기타 공익적 가치가 포함되어 있는지 여부 ▲콘텐츠에 범죄 행위, 폭력, 제품 또는 정치 후보의 보증 및 지지와 같은 민감한 행동에 가담하는 공인 또는 유명인이 등장하는지 여부 등을 고려하게 됩니다.