한동대학교는 전산전자공학부 딥러닝 연구실에서 세계 최초로 감정 표현이 가능한 다중화자 노래음성합성AI ‘뮤즈SVS(MuseSVS)’를 개발했다고 2일 밝혔다.

노래음성합성은 악보를 입력하면 노래음성을 합성하는 AI 기술이다.

기존의 AI들은 대부분 노래를 부르는 음성만을 합성할 수 있었던 반면, 감정을 반영해 음성을 합성하는 AI는 아직까지 없었다.

한동대가 개발한 뮤즈SVS는 악보와 함께 화자, 감정의 종류와 강도를 입력하면 그에 따라 음색, 비브라토, 볼륨이 다른 노래음성을 합성한다.

특히, 금번 노래음성합성 AI에 최초로 적용된 통계적 음정 예측기와 문맥기반 음표길이 예측기는 감정표현을 위한 미세한 음정과 박자의 미세한 변화를 효과적으로 합성하는 것이 그 특징이다.

김인중 한동대 딥러닝 연구실 지도교수는 “사람은 동일한 노래를 부를 때라도 음정, 박자, 볼륨의 미세한 변화를 통해 감정을 표현한다. 뮤즈SVS는 이러한 미세한 변화를 데이터로부터 효과적으로 학습한다”며 “뮤즈SVS는 음정과 박자의 거시적인 흐름은 악보를 따르되, 미시적인 변화는 지정된 감정의 종류 및 강도에 따라 다르게 합성한다”라고 말했다.