프렌드 또는 포: AI 음성 훈련의 윤리와 그것이 중요한 이유

“모방은 가장 진실한 아첨의 형태이다.”

그들이 그렇게 말하죠, 맞나요? 확실히, 이는 상황의 맥락에 따라 달라질 수 있습니다. 역사적으로 보컬리스트들은 의도적이든 아니든 서로 비슷한 소리를 내왔습니다. Greta Van Fleet의 Josh Kiszka는 Led Zeppelin의 Robert Plant와 비슷한 소리를 내며, 그룹에게 영감을 받지 않았다고 득의양양하게 부인합니다. Action Bronson의 목소리는 Ghostface Killah와 비슷합니다. She Wants Revenge의 Justin Warfield는 Interpol의 Paul Banks와 비슷한 소리를 냅니다. 특정 시기에는 Oasis의 Liam Gallagher가 John Lennon과 비교되기도 했습니다. 이런 목록은 계속됩니다. 음악 중심의 콘텐츠 크리에이터 JT Jasinski (@jt_jasinski 인스타그램)조차 '곡을 망치다 - 단지 다른 사람과 비슷하게 들릴 뿐이다'라는 콘텐츠 시리즈를 갖고 있습니다. 이러한 현상은 가수와 음악에만 국한되지 않습니다.

The Voice에서 커버된 아티스트와 똑같이 들리는 재능 | Top 10

많은 코미디언과 성우들은 다른 사람의 목소리를 모방하는 특별한 능력을 갖추고 있습니다. 음악과 공연에서 누군가를 모방하거나 소환하는 것은 종종 창의적 과정의 일부입니다. 영향력은 자연스러운 것이고 피할 수 없습니다.

너무나 익숙한 목소리가 기술과 구분할 수 없게 된다면 어떻게 될까요? 당신은 당신이 좋아하는 아티스트가 새로운 노래를 부르는 것을 듣고 있는데, 그것은 그들의 목소리입니다—음, 톤, 억양, 그들의 독특한 억양이 모두 존재하지만, 그것은 그들이 아닙니다. 만약 그것이 AI가 만든 합성 음성이었다면 어떻게 될까요? 2023년에 인터넷을 강타한 Drake와 The Weeknd AI 노래 사건을 보세요. “Heart on My Sleeve”이라는 제목의 트랙이 이 두 아티스트가 피처링한 스트리밍 플랫폼에 나타났고, 팬들에게 큰 충격을 안겼습니다. 더 큰 충격은 그것이 완전히 AI로 생성된 것이었고, 음악에서 AI 사용에 대한 반발을 촉발시켰다는 것입니다.

그 시점에서 AI 음성 복제는 새로운 개념이 아니었습니다. 무단으로 AI 음성 복제를 사용하는 것과 관련된 윤리적 및 법적 고려사항은 아티스트의 목소리의 소유권과 그 무단 사용의 잠재적 결과에 대한 질문을 제기했습니다. Drake와 The Weeknd가 참여한 AI 생성 노래의 공개는 단지 기술이 얼마나 먼 길을 왔는지를 드러냈습니다. 이러한 질문들은 수년 동안 수면 아래에서 끓고 있었을 가능성이 큽니다. 이는 민감한 음성 모델에 유일하게 적격한 사용자만이 접근할 수 있게 하는 보안 조치의 중요성을 강조합니다.

AI 음성 복제란 무엇인가?

AI 음성 복제는 강력하고 빠르게 진화하는 AI 기술과 머신러닝 알고리즘을 사용하여 인간의 음성을 합성한 디지털 복제본을 만드는 것입니다. 본질적으로, 인간이 녹음한 노래와 말소리의 데이터셋이 업로드되어, 기술에 의해 분석되어 AI 음성 클론이 생성됩니다. 이 기술은 인간의 소리의 고유한 특성, 예를 들어 톤, 음, 음질을 거의 완벽하게 캡처할 수 있습니다.

아티스트 음성 클론: AI로 어떻게 - 책임감 있게 사용!

AI 음성 클론은 모든 종류의 창작자들에 의해 다양한 방식으로 사용될 수 있습니다. 음악 제작 노력에 통합하는 것부터, 전문적인 품질의 음성오버, 그리고 영화와 텔레비전에서 신속한 음성 더빙과 향상까지, AI 음성 클론은 창의적 과정을 향상시키는 인기 있는 방법이 되었습니다. 하지만 큰 힘에는 큰 책임이 따릅니다—고마워, Uncle Ben—남용의 가능성은 항상 존재하며, 창작자들이 그들의 목소리를 빌리고 창작 과정에 AI 음성 기술을 적용하는 것의 윤리적 의미를 이해하는 것이 필수적입니다.

이 기사에서는 AI 음성 복제를 둘러싼 중요한 윤리적 문제를 탐구하고 책임 있는 창작자가 이 도전을 어떻게 극복하여 이 획기적인 기술을 책임감 있게 사용할 수 있는지 논의합니다.

AI 음성 복제의 윤리적 문제들

AI 음성 복제에서 가장 근본적인 윤리적 문제들 중 하나는 동의입니다. 목소리는 개인의 독특한 특성 중 하나입니다. 가수와 성우들은 자신의 목소리에 크게 의존해 직업과 예술에서 뛰어난 성과를 거두는데 도움을 줍니다. 어떤 사람의 목소리가 동의 없이 복제되는 경우 허락되지 않은 방식으로 사용되고 착취될 가능성이 있습니다. 이는 윤리적이거나 법적 문제가 될 수 있습니다.

동의와 음성 데이터 프라이버시

AI 음성 모델을 사용할 때 정보 동의가 중요합니다. 창작자는 사용되는 목소리의 소유자가 그 목소리가 어떻게 사용될지를 이해해야 한다는 것을 보장해야 합니다. 이것은 AI 음성 소유자에게 그들의 목소리가 나타날 위치, 얼마나 오래, 사용할 맥락에 대한 정보를 제공한다는 것을 의미할 수 있습니다. 이 동의와 허가는 사용에 대한 명확한 합의 체결을 포함할 수 있습니다. 동시에, 음성 소유자들은 그들의 AI 음성 모델이 만들어질 때의 잠재적 위험과 응용을 인식해야 합니다.

효과적인 음성 복제를 위해 고품질 음성 녹음이 필수적입니다. 또한, 민감한 음성 녹음과 사용자 상호 작용을 보호하기 위해 강력한 개인 정보 보호 및 데이터 보안 조치가 필요합니다.

이 문제에서 중요한 것은 데이터 프라이버시입니다. AI 음성 모델은 생체 데이터를 분석하는데, 이는 매우 민감하며 개별적으로 고유합니다. 자신의 목소리를 복제하여 다른 사람들이 사용할 수 있도록 제공하는 것은 거의 역설적으로 보이며, 안전 장치가 마련되는 것이 필수적입니다. 주의 깊게 보호되지 않으면, 이는 신분 도용, 사기 및 기타 악의적 활동에 악용될 수 있습니다.

오정보 및 딥페이크

2020년, 시각 미디어에서 딥페이크 기술의 급부상은 대중을 놀라게 했습니다. 예상대로 이러한 사용 중 많은 부분이 부적절한 형태의 콘텐츠에 다른 사람의 얼굴을 놀라울 정도로 정확하게 덮어쓰는 것이었습니다. 이러한 딥페이크 기술이 부정적인 목적으로 어떻게 사용되는지에 대한 대화가 더 커졌습니다. 많은 사람들에게 시각적 딥페이크는 발견하기 어려울 수 있지만, 그보다 더 쉽게 식별할 수 있는 AI 음성 오디오 녹음에 비해 더 단순합니다.

Bill Hader가 Arnold Schwarzenegger를 모사함 [딥페이크]

딥러닝 모델은 특정 음성 패턴을 분석하고 이를 복제하여, 개인의 고유한 톤과 피치를 가까이 모방하는 개인 맞춤형 합성 음성을 만들어냅니다.

AI 음성 복제를 사용하면 이러한 상황이 훨씬 더 설득력 있게 됩니다. 이러한 도구를 만드는 것과 사용하는 것은 너무 쉬워서 오히려 해가 될 수 있습니다. 합성 음성은 정치인, 유명 인사, 다른 영향력 있는 개인 또는 사랑하는 사람을 모방하는 데 사용될 수 있습니다. 이와 같이 사용되는 것은 거짓 정보를 퍼뜨리고 정치적 의견을 조작하며 명성을 실추시킬 만큼 설득력 있을 수 있습니다.

예를 들어, 배우 Jonathan Majors는 그의 개인 생활에서 가정 폭력과 관련된 몇 가지 법적 문제를 겪었습니다. 최근, 잘못된 행동에 대한 고백을 담은 오디오 녹음이 등장했습니다. 이에 대해 많은 사람들이 소셜 미디어에서 이 녹음이 AI 음성 복제의 산물이라고 주장하며 배우를 옹호했습니다. 이는 사실 여부를 떠나, 이러한 기술 남용이 매우 가능하다는 것을 시사해야 합니다.

최근 몇 년 동안 AI 음성 기술은 사기 전화를 둘러싼 논란의 중심에 있었습니다. 일반적으로, 사기에는 친구나 가족으로부터 돈이나 특정 정보를 요청하는 전화가 포함되며 종종 난처하거나 절박한 상황이기 때문에 조심해야 합니다. 방지하는 방법 중 하나는 이렇게 될 가능성에 대비해 가까운 사람들과 코드 단어를 정하는 것입니다.

창작자, 개발자, 정부가 그러한 남용을 방지하기 위한 보호 장치를 마련하는 것이 필수적입니다. 예를 들어, 책임 있는 AI 사용은 합성 음성이 실제 음성과 구별되도록 워터마킹하거나 고유한 식별자를 생성하는 것을 포함해야 합니다.

지식 재산권

AI 음성 복제 기술이 진보함에 따라 지식 재산권(IP)에 대한 질문이 점점 더 시급해지고 있습니다. 기술적으로 합성된 음성의 권리를 누가 소유하는지가 명확한가요? 물론, 그 목소리는 실제 사람에게서 제공되었습니다. 그러나 그 목소리를 다른 사람들이 사용할 수 있게 만들면 어떻게 될까요? 개인인가, 아니면 모델을 위해 기술을 개발한 회사인가요?

이러한 모호성은 창작자가 자신의 목소리를 보호하고 IP 권리를 관리하기 어렵게 만듭니다. 특히, 그들이 사용하기 위해 동의를 하지 않은 경우에 그러합니다. 예를 들어, 성우나 가수가 AI 교육을 위해 자신의 목소리를 제공했다면, 그들은 그것이 어떻게 사용되는지 통제할 수 없을 것입니다.

이 문제에 대한 법적 보호 장치가 마련되어야 합니다. AI 음성 기술의 빠른 진화로 인해 법적 접근이 뒤로 밀려난 상태이며 이를 규제하는 방법에 대한 많은 논쟁이 있습니다. 법은 개인의 목소리에 대한 권리를 보호하고자 하며, 상업적 사용에 대해 공정하게 보상받을 수 있도록 해야 합니다. 어떤 법이 제정될지는 시간만이 알겠지만, 기업과 창작자는 개별 권리자에게 공정한 보상을 제공하고 그들의 목소리 데이터셋을 확보하는 공정한 계약을 만들며, 윤리적으로 음성 모델을 소싱하는 등의 윤리적 관행을 이행해야 합니다.

성우 산업에 미치는 영향

AI 기술이 향상됨에 따라 기업들은 인간 재능을 고용하는 대신 합성 음성을 사용할 수 있습니다. 이러한 변화는 고유한 음성 기술에 의존하는 전문 성우에게 일자리 손실을 초래할 수 있습니다. AI 생성 음성은 비용 절감 및 생산 속도 향상에서 이점을 제공할 수 있지만, 이는 성우가 그들의 예술과 전문성에 부여한 가치를 저해하는 것으로 널리 인식됩니다.

AI 음성 시스템은 인식을 향상시켜 인간 음성을 모방하는 응답을 제공하며, 고객 경험을 신속하고 정확하게 처리하여 개선할 수 있습니다.

성우들이 자신들의 목소리를 훔쳤다며 기술 회사를 고소하다 | BBC 뉴스

동시에, AI 음성 복제는 성우에게 새로운 기회를 창출할 수 있습니다. 그들은 AI 개발자와 협업하고, AI 모델 훈련에 목소리를 제공하거나, 음성 합성에 대한 전문 지식을 제공하여 그들의 창의력과 재능이 중요한 내용을 유지하도록 할 수 있습니다. 그러나 AI가 인간 성우를 대체하지 않고 그들의 작업을 보완하기 위해 균형을 맞추는 것이 중요합니다. AI는 기존의 인간 창의적 과정을 향상시키는 도구로만 사용되어야 합니다.

책임감 있는 AI 촉진하기

1. 투명성

AI 음성 복제를 사용하는 데는 투명성이 중요합니다. 음악가, 콘텐츠 제작자, 기업 및 성우는 자신들이 작업에서 합성 음성을 사용하고 있는지를 공개해야 합니다. 음악이든, 광고이든, 오디오북이든, 팟캐스트이든 또는 다른 형태의 미디어이든 간에, 청중은 실제 사람을 듣고 있는지 아니면 합성 복제를 듣고 있는지 알 권리가 있습니다.

앨범 표지에 Parental Advisory 레이블을 붙이는 방식이나 스트리밍 플랫폼에 “E”라는 글자로 명시하는 방식으로 AI 기술의 사용을 표시하는 것이 바람직한 방향이 될 것입니다. 소셜 미디어 플랫폼은 이미 이러한 라벨을 AI 콘텐츠에 포함시키기 시작했지만, 많은 것이 검열을 피하고 있습니다. 

투명성을 유지함으로써, 창작자들은 그들의 청중과의 신뢰를 쌓을 뿐만 아니라, 책임감을 강화할 수 있습니다. AI 생성 음성이 오해를 불러일으키거나 악의적으로 사용되는 경우, 창작자들은 기술이 적용된 방식에 대해 책임을 져야 할 것입니다 .

2. 윤리적 지침

AI 산업에서의 윤리적 지침의 필요성은 긴급하게 느껴집니다. 이러한 지침은 AI 음성 복제가 책임 있고 존중 가능한 방식으로 사용될 수 있도록 하는 경계 설정에 도움을 줄 것입니다.

윤리적 지침은 몇 가지 영역을 다룰 수 있는데, 정보에 대한 동의 획득, 음성 데이터 보안, 딥페이크의 경우와 같은 악용 방지 등의 다양한 영역을 포함할 수 있습니다. 이를 통해 업계 전체 표준을 설정함으로써, 창작자 및 회사는 비윤리적 사용에 대비하여 보호 장치를 마련하고 AI 음성 기술 분야에서의 책임 있는 혁신을 장려할 수 있습니다.

이미 AI 산업에서 윤리적이고 책임 있는 지침과 표준을 추진하고 있는 훌륭한 단체들이 있습니다. 주목해야 할 단체들로는 Sound Ethics, Responsible AI Institute, 및 International Association for Safe and Ethical AI(IASEAI)이 있습니다.

3. 교육 및 인식 제고

책임감 있게 AI를 사용하는 매우 효과적인 방법 중 하나는 교육입니다. 창작자, 기업, 개발자, 일반 대중은 이 기술의 윤리적 함의와 그와 관련된 잠재적 함정을 피하고 대응하는 방법에 대해 교육을 받아야 합니다. 교육과 자원을 제공함으로써, 우리는 사람들이 AI를 책임감 있게 사용할 수 있도록 지식으로 무장시키게 됩니다.

교육 프로그램은 정보에 대한 동의의 중요성, 데이터 프라이버시, 악용 가능성과 같은 주제를 다루어야 합니다. 사람들이 위험과 이점을 알고 있을 때, 그들은 정보에 근거한 결정을 내리고 의도치 않은 해로부터 벗어날 수 있습니다. 이러한 이슈에 대해 인식을 높이는 것은 창작자가 윤리적 고려사항을 진지하게 생각하게 했으며, 책임 있는 AI 주도의 미래를 구축하는 데 도움을 줄 것입니다.

Kits AI의 윤리적 입장

Kits.AI는 그러한 강력하고 혁신적인 도구의 균형을 맞추는 것이 윤리적 책임과 어떻게 조화되는지에 대해 항상 중요하다고 인식해 왔습니다. 우리는 Kits AI Voice Library에 자신의 목소리를 제공하는 각 개인이 자신의 목소리를 통제하고 보호할 수 있는 권리를 가지고 있으며, 다운로드마다 공정한 보상을 받아야 한다고 확신합니다. 또한 다른 아티스트의 작품을 무단으로 스크래핑하는 것을 방지하고 금지함으로써 모든 음성 모델 데이터셋을 책임감 있게 직접 아티스트에게서 소싱하는 것에 믿음을 가지고 있습니다.

Kits.AI는 AI 음성 기술이 좋게 사용될 수 있음에 중점을 두어왔습니다. Kits.AI는 또한 계약과 서비스 약관에 사용 제한에 대한 자세한 설명을 포함했으며, 각 사용자에게 부여된 권리를 설명했습니다. AI 음성 기술이 창의적 과정을 향상시킬 수 있는 도구로 활용되어야 하며, 이를 대체하지 않아야 한다는 믿음은 항상 우선되어 왔습니다. Kits는 창작자들이 AI 개발자 및 다른 창작자들과 직접 협력할 수 있는 공동체적 측면을 촉진하면서, 인간적인 측면이 모든 것의 중심에 완곡히 놓이도록 장려하고 있습니다. 

Kits.AI 윤리 웹페이지를 방문하여 우리의 플랫폼의 사명에 윤리적 AI가 어떻게 중심에 있는지에 대해 더 읽어보세요.

결론: 진실성을 가진 혁신

AI 음성 복제는 우리가 음악과 콘텐츠와 상호작용하는 방식에 혁신을 가져온 강력한 기술이지만, 이는 큰 책임이 따릅니다. 정보에 기반한 동의를 얻고, 지식 재산권을 보호하며, 허위 정보를 퍼뜨리는 것을 방지하고, 음악가 및 성우에 미치는 영향을 고려하는 것에 이르기까지, AI 음성 복제는 신중하게 관리해야 할 여러 윤리적 문제를 제기합니다.

창작자, 개발자 및 기업은 투명성을 수용하고, 윤리적 지침을 준수하며, 교육 및 인식 제고를 우선시하여 이 기술이 책임감 있게 사용될 수 있도록 해야 합니다. 이로써 개인의 권리를 보호하고, 창의적 산업을 육성하며, AI 음성 복제와 관련된 위험을 완화할 수 있습니다.

어떤 식으로든 AI를 사용하려고 접근하는 사람은 누구든지 신중하고 책임감 있게 사용해야 합니다. 다른 형태의 기술과 마찬가지로 AI 기술을 악용하는 사람들이 여전히 존재할 것입니다. 이는 결코 변하지 않을 것입니다. 그러나 AI가 공중에게 더 잘 수용받기 위해 윤리적 원칙에 기반을 둔 위치에 자신의 입장을 놓아야 합니다. 그렇게 하지 않으면 여러 요인들이 이것을 향하여 작용하는 반대로, 이루어야 할 많은 일이 여전히 남아있습니다.