AI 딥페이크, 뉴스로 위장한 불법 도박 광고 확산…정부·기업 로고까지 도용

▷소비자원 “38건 확인…조작 영상 실제 방송과 구분 어려워”
▷SNS 알고리즘 타고 빠르게 확산…취약계층 피해 우려

 

유명인, 언론사 영상 조작 광고 사례(이미지=한국소비자원)

[위즈경제] 전현규 기자 = AI 기술을 이용해 실제 뉴스 영상처럼 꾸며진 불법 온라인 도박 광고가 SNS를 중심으로 빠르게 확산되고 있다. 한국소비자원이 조사한 결과, 유명인·언론사·정부기관·기업 로고까지 동원된 조작 광고가 다수 발견되면서 소비자 피해 우려가 커지고 있다.

 

문제가 된 영상 가운데 일부는 실제 뉴스 프로그램과 거의 동일한 형식을 갖고 있다. 해당 영상은 AI가 합성한 앵커와 인터뷰이를 등장시키고, 마치 언론 보도가 진행되는 것처럼 화면을 구성해 도박 앱을 홍보한다. 영상에서는 유명 인사들이 해당 앱을 홍보하고 있다는 설명이 이어지고, 가입만 해도 보너스를 받았다는 인터뷰와 단기간 고액 당첨을 경험했다는 듯한 발언이 포함돼 있다. 정부가 해당 애플리케이션에 대한 규제를 검토 중이라는 멘트까지 더해져 있었으나, 이는 모두 사실과 다른 조작된 내용이었다.

 

 

뉴스 형식과 함께 AI로 생성한 인물들의 인터뷰 삽입 사례(이미지=한국소비자원)

 

한국소비자원이 8월부터 9월까지 페이스북 광고를 분석한 결과 총 38건의 허위·기만 광고가 확인됐다. 상당수는 연예인, 운동선수, 유튜버 등이 도박 서비스를 직접 추천하는 것처럼 보이도록 합성된 영상이었다. 일부는 유명인의 얼굴 이미지만 합성해 광고 모델처럼 보이게 했고, 방송사 뉴스 화면을 도용해 실제 보도처럼 꾸민 영상도 적지 않았다. 화면 구성, 자막, 톤까지 실제 방송과 유사해 이용자가 진위를 가려내기 어려운 경우가 많았다.

 

◇ 정부기관·기업 로고까지 사칭…합법 서비스로 오인 유도

 

조사에서는 정부·공공기관을 사칭한 사례도 대거 확인됐다. 기획재정부나 강원랜드의 명칭과 CI가 무단으로 사용된 광고가 다수 발견됐고, ‘정부 승인’, ‘합법 운영’, ‘공식 온라인’과 같은 표현들이 반복적으로 삽입돼 있었다. 소비자원은 이 같은 방식이 불법 도박을 정부가 인정한 것처럼 보이게 해 소비자 오인을 유발하는 심각한 기만행위라고 지적했다.

 

정부, 공공기관 사칭 광고 사례(이미지=한국소비자원)

 

유명 기업의 로고나 캐릭터를 무단 활용한 사례도 드러났다. 카카오, CU, 동행복권 등 대중에게 익숙한 기업 브랜드가 광고에 사용되며 실제 제휴 관계가 있는 것처럼 보이도록 연출됐다. 하지만 대부분은 기업과 무관하며, 광고 게시자 역시 해외 계정이거나 실체 확인이 어려운 경우가 많았다.

 

이처럼 조작 광고가 확산되는 이유로 SNS 광고 알고리즘의 구조적 취약성도 거론된다. 특정 영상에 노출되면 유사한 콘텐츠가 반복적으로 따라붙는 특성 때문에, 조작 영상이 이용자에게 지속적으로 노출되는 경우가 적지 않다. 특히 정보 검증에 취약한 계층은 도박 서비스가 합법이거나 공신력 있는 기관의 추천을 받은 것으로 오인할 위험이 크다는 우려가 제기된다.

 

◇ 플랫폼 검증 한계 속 소비자 피해 우려 커져

 

소비자원은 조사 결과를 플랫폼 운영사인 메타에 공유하고 재게시 방지를 요청했지만, 딥페이크 영상의 정교함으로 인해 기존 자동 검증 시스템만으로는 조작 여부를 식별하기 어렵다는 지적이 이어지고 있다. 일부 광고는 문구나 화면을 조금 수정한 뒤 다시 노출되는 등 사후 관리의 한계도 드러났다.

 

소비자원은 “온라인 도박은 모든 형태가 불법이며, 최근 AI 기술 발달로 합성 영상 제작이 매우 쉬워져 조작 광고가 더 늘어날 수 있다”며 이용자의 각별한 주의를 당부했다. 의심되는 광고는 불법사행산업감시신고센터(1855-0112)나 1372 소비자상담센터에 신고할 수 있다고 안내했다.

 

전문가들은 플랫폼의 사전 검증 강화와 AI 합성물 표기 의무화 등 제도 개선이 필요하다고 강조하며, 조작 영상이 실제 뉴스와 구분하기 어려울 정도로 발전한 만큼 소비자가 스스로 위험을 판단하기 점점 더 어려워지고 있다고 지적한다.