"책 읽어달라는 손녀에 죽은 할머니가 책 낭독"
[생생토픽]
1분미만 샘플로 생전 음성 복제
아마존 AI '알렉사'신기능 논란
사이버 범죄 악용 가능성 우려
"망자 데이터 활용은 비윤리적"
아마존이 자사의 인공지능(AI) 음성인식 서비스 알렉사를 통해 숨진 가족의 목소리를 되살리는 기능을 공개해 논란이 되고 있다. 아마존은 22일 라스베가스에서 열린 '리마스' 콘퍼런스에서 이러한 내용의 알렉사 신기능을 발표했다.
알렉사의 새로운 기능은 1분 미만의 음성 샘플만 있으면 특정인 목소리를 그대로 복제해 흉내 낼 수 있고, 숨진 가족의 목소리까지도 재현해낼 수 있다.
아마존은 행사에서 한 어린이가 알렉사를 향해 할머니 목소리로 오즈의 마법사 책을 읽어달라고 요청하자 알렉사는 할머니 음성으로 전환해 책을 낭독하는 동영상을 시연했다.
아마존의 수석부사장은 알렉사에 공감이라는 인간적 속성을 더 부여했다고 설명했다.
그는 "이런 속성은 코로나19 기간 더 중요해졌다"며 "AI가 코로나19로 사랑하는 가족을 잃은 고통을 없애주지는 못하지만, 그들에 대한 기억을 오래 지속시킬 수 있다"고 주장했다.
이에 대해 워싱턴포스트는 알렉사의 신기능이 윤리적인 문제와 더불어 사망자의 개인정보 권한을 둘러싼 논란을 초래한다고 지적했다. 매체는 "알렉사의 신기능이 사이버 범죄에 악용될 수 있다"며 "사이버 범죄자가 음성 샘플을 사용해 다른 사람 목소리를 복제해낸다면 이는 사기와 데이터 탈취, 계정 도용 등으로 이어질 수 있다"고 경고했다.
또 "숨진 사람의 목소리를 흉내 내는 기술이 사람과 기계 사이의 경계를 모호하게 만드는 위험이 있다"며 "죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적"이라고 비판했다.
