딥러닝 기반 생성형 모델이 빠르게 발전하면서 AI 음성 합성 기술도 사람이 구분하기 어려울 만큼 향상되었고, 이를 활용한 다양한 음성 생성 서비스가 생겨나고 있다. 그러나 이러한 기술이 보이스피싱, 투자 사기, 선거 관련 가짜 뉴스와 같은 범죄에 악용되면서 AI 음성을 활용한 딥페이크가 새로운 위협으로 대두되고 있다. 본 고에서는 AI 음성을 생성하는 기술과 서비스를 설명하고, 이를 악용하는 사례와 각국의 딥페이크 대응 동향 및 규제도 알아본다. 특히, 사람 음성과 AI 음성을 구분 및 탐지하는 음성 딥페이크 탐지기술을 살펴본다.

[원문보기]