"강도 당했으니 빨리 돈 좀 보내다오"

AI, 3초면 목소리 완벽 복제
보이스피싱 악용, 피해 극심

특정인 목소리를 감쪽같이 복제하는 생성형 인공지능(AI)이 보이스피싱에 활용되면서 피해 사례가 늘고 있다고 미 매체 악시오스가 13일 보도했다.
미 컴퓨터 바이러스 백신 업체 맥아피에 따르면 생성형 AI를 사용할 경우 3초 분량의 목소리 샘플만 있어도 이를 완벽히 복제해 특정인 말투, 문장 등을 구현할 수 있다. 이 때문에 미국에서는 금융당국 등을 사칭하던 보이스피싱 조직이 이제는 범죄 대상자의 지인을 사칭하고 있다.
가족, 친구, 연인 등의 목소리를 구현한 생성형 AI로 교통사고, 강도 등 급한 상황이 생겼다면서 돈을 보내달라고 요구하는 식이다.
미리 준비한 말을 일방적으로 전달하는 것을 넘어 생성형 AI로 복제한 목소리로 실시간 대화를 할 수도 있다고 악시오스는 전했다.
생성형 AI 관련 애플리케이션(앱) 등을 활용하면 보이스피싱 범죄자가 입력하는 문장을 AI가 즉시 목소리로 구현한다는 설명이다. 한 설문조사에선 응답자의 70%는 AI로 구현된 목소리와 실제 목소리를 구별할 수 없다고 답했다.
응답자의 10%는 AI 보이스피싱을 겪은 적이 있으며 이 가운데 77%는 실제로 돈을 잃었다고 밝혔다. 이들 피해자 중 3분의 1 이상은 1천 달러 이상 피해를 봤다.