프렌드 또는 포: AI 음성 훈련의 윤리와 그것이 중요한 이유

“모방은 가장 진실한 형태의 아첨이다.”

사람들이 대개 그렇게 말하죠? 당연히 상황의 맥락에 따라 다를 것입니다. 보컬리스트들은 의도했든 안 했든 역사적으로 서로 비슷한 소리를 내왔습니다. Greta Van Fleet의 Josh Kiszka는 Led Zeppelin의 Robert Plant와 비슷한 소리를 내지만, 그 그룹에서 영감을 받았다는 사실을 교묘하지 못하게 부인합니다. Action Bronson의 목소리는 Ghostface Killah처럼 들립니다. She Wants Revenge의 Justin Warfield는 Interpol의 Paul Banks와 비슷한 목소리를 냅니다. 특정 시기에 Oasis의 Liam Gallagher는 John Lennon과 비교되기도 했습니다. 이런 사례는 끝도 없습니다. 음악 중심의 콘텐츠 크리에이터인 JT Jasinski(인스타그램의 @jt_jasinski)는 심지어 "단지 다른 사람의 목소리와 비슷하다는 이유로 노래를 망치는" 콘텐츠 시리즈를 운영하고 있습니다. 이러한 현상은 비단 가수와 음악에만 국한되지 않습니다.

더 보이스에서 커버하는 아티스트와 똑같은 목소리를 내는 재능러들 | 탑 10

많은 코미디언과 성우들은 타인의 목소리를 흉내 내는 데 있어 놀라운 성대모사 능력을 가지고 있습니다. 음악과 공연에서 누군가를 모방하거나 투영하는 것은 종종 창작 과정의 일부가 됩니다. 영향력은 자연스럽게 찾아오며 피할 수 없는 것입니다.

만약 여러분에게 매우 친숙한 목소리가 기술과 구별할 수 없을 정도라면 어떨까요? 좋아하는 아티스트가 부르는 신곡을 듣고 있는데, 그들의 목소리(음정, 톤, 억양, 그들만의 독특한 모든 특징)가 완벽하게 구현되어 있지만 실제 그들이 부른 것이 아니라면요. 그것이 AI가 만든 합성 목소리라면 어떨까요? 지난 2023년 인터넷을 뜨겁게 달구었던 Drake와 The Weeknd의 AI 노래 파동을 떠올려 보세요. 팬들의 큰 놀라움 속에 두 아티스트가 피처링한 “Heart on My Sleeve”라는 제목의 트랙이 스트리밍 플랫폼에 등장했습니다. 더욱 놀라운 사실은 이 곡이 완전히 AI로 생성되었다는 점이었고, 이는 음악계에서 AI 사용에 대한 반발을 불러일으켰습니다.

그 당시 AI 목소리 클로닝은 새로운 개념이 아니었습니다. 허락 없이 AI 목소리 클론을 사용하는 것에 대한 윤리적 및 법적 고려 사항은 아티스트 목소리의 소유권과 승인되지 않은 사용에 따른 잠재적 결과에 대한 의문을 제기했습니다. Drake와 The Weeknd의 목소리가 담긴 AI 생성 곡의 출시는 기술이 인기 아티스트의 목소리를 흉내 내는 데 얼마나 도달했는지를 극명하게 보여주었습니다. 이러한 질문들은 아마도 수년 동안 수면 아래에서 끓어오르고 있었을 것입니다. 이는 민감한 목소리 모델에 대한 접근을 승인된 사용자에게만 제한하는 보안 조치의 중요성을 강조합니다.

AI 목소리 클로닝이란 무엇인가요?

AI 목소리 클로닝은 강력하고 빠르게 진화하는 AI 기술과 머신 러닝 알고리즘을 사용하여 인간 목소리의 합성 디지털 복제본을 만듭니다. 본질적으로 인간이 녹음한 노래 및 말하기 목소리 데이터 세트를 업로드하면, 기술이 이를 분석하여 AI 복제 목소리를 생성합니다. 이 기술은 인간 목소리의 음정, 톤, 음색을 포함한 독특한 특성을 거의 완벽하게 포착할 수 있습니다.

아티스트 목소리 클론: AI로 만드는 방법 - 책임감 있게 사용하세요!

AI 목소리 클론은 모든 분야의 크리에이터가 다양하게 활용할 수 있습니다. 음악 제작 과정에 통합하는 것부터 전문적인 수준의 내레이션, 영화 및 TV에서의 신속한 보컬 더빙 및 향상에 이르기까지, AI 목소리 클론은 창작 과정을 한 단계 끌어올리는 대중적인 방법이 되었습니다. 하지만 큰 힘에는 큰 책임이 따릅니다—벤 삼촌 감사합니다—오용의 가능성이 언제나 존재하기 때문입니다. 따라서 크리에이터는 창작 과정에서 목소리를 제공하고 AI 목소리 기술을 적용하는 데 따르는 윤리적 영향을 이해하는 것이 필수적입니다.

이 글에서는 AI 목소리 클로닝을 둘러싼 중요한 윤리적 문제를 탐구하고, 책임감 있는 크리에이터들이 이러한 도전 과제를 해결하여 이 획기적인 기술을 올바르게 사용할 수 있는 방법을 논의해 보겠습니다.

AI 목소리 클로닝의 윤리적 문제

AI 목소리 클로닝에서 가장 근본적인 윤리적 문제 중 하나는 바로 동의입니다. 목소리는 개인의 가장 독특한 특징 중 하나입니다. 가수와 성우는 자신의 직업과 예술에서 두각을 나타내기 위해 자신의 목소리에 크게 의존합니다. 개인의 목소리가 허가나 사전 동의 없이 복제될 때, 해로운 방식으로 사용되고 악용될 잠재성이 있습니다. 이는 윤리적 또는 법적 딜레마가 될 수 있습니다.

동의 및 목소리 데이터 프라이버시

누군가의 AI 목소리 모델을 사용할 때 사전 동의는 매우 중요합니다. 크리에이터는 사용되는 목소리의 소유자가 자신의 목소리가 어떻게 활용될지 명확히 이해하도록 해야 합니다. 이는 AI 목소리 소유자에게 목소리가 어디에, 얼마나 오랫동안, 어떤 맥락에서 사용될지 알려주는 것을 의미할 수 있습니다. 이러한 동의와 허가를 얻는 과정에는 사용 목적에 대한 명확한 계약이 수반됩니다. 동시에 목소리 소유자들은 모델 생성 시 AI 목소리 모델의 잠재적 위험과 적용 분야에 대해 인지하고 있어야 합니다.

효과적인 목소리 클로닝을 위해서는 고품질의 목소리 녹음이 필수적입니다. 또한, 민감한 목소리 녹음본과 사용자 상호작용을 보호하기 위해 강력한 프라이버시 및 데이터 보안 조치가 마련되어야 합니다.

이 문제에서 마찬가지로 중요한 것은 데이터 프라이버시입니다. AI 목소리 모델은 생체 데이터로 분류되는 목소리 데이터를 분석합니다. 생체 데이터는 매우 민감하며 개인마다 고유합니다. 다른 사람들이 사용할 수 있도록 자신의 목소리를 복제한다는 것 자체가 모순처럼 보일 수 있으므로, 보호 장치를 마련하는 것이 필수적입니다. 신중하게 보호되지 않으면 신원 도용, 사칭 및 기타 악의적인 활동에 오용될 수 있습니다.

오정보 및 딥페이크

2020년, 시각 매체에서의 딥페이크 기술의 등장은 대중을 놀라게 했습니다. 안타깝게도 많은 경우, 이 기술은 부적절한 형태의 콘텐츠에 타인의 얼굴을 무서울 정도로 정확하게 합성하는 데 사용되었으며, 이 기술이 부정적인 목적으로 어떻게 사용되는지에 대한 더 큰 논의를 불러일으켰습니다. 시각적 딥페이크는 많은 이들이 알아차리기 어려울 수 있지만, AI 목소리 오디오 녹음보다는 확인하기가 훨씬 쉽습니다.

아놀드 슈왈제네거 성대모사를 하는 빌 헤이더 [딥페이크]

딥러닝 모델은 특정 음선 패턴을 분석하고 복제하여 개인의 독특한 톤과 음정을 밀접하게 모방한 맞춤형 합성 목소리를 생성할 수 있게 해줍니다.

AI 목소리 클로닝은 이러한 상황을 훨씬 더 설득력 있게 만듭니다. 이러한 도구를 만들고 활용하는 과정이 너무 쉽기 때문에 오히려 해가 될 수 있습니다. 합성 목소리는 정치인, 연예인, 기타 영향력 있는 인물, 심지어 사랑하는 가족을 사칭하는 데 사용될 수 있습니다. 이런 방식으로 사용되면 허위 정보를 퍼뜨리고, 정치적 여론을 조작하며, 누군가의 명예를 훼손하는 데 충분히 설득력을 가질 수 있습니다.

예를 들어, 배우 Jonathan Majors는 가정 폭력과 관련하여 개인적인 법적 문제에 직면해 있습니다. 최근 그의 잘못에 대한 자백이 담긴 오디오 녹음이 공개되었습니다. 이에 대해 소셜 미디어의 많은 사람들은 해당 녹음이 AI 목소리 클로닝의 결과물이라며 배우를 옹호하고 나섰습니다. 이것이 사실이든 아니든, 이러한 의심이 제기된다는 사실 자체만으로도 이 기술의 오용 가능성이 매우 높음을 시사합니다.

최근 몇 년 동안 AI 목소리 기술은 보이스피싱 사기 전화를 둘러싼 논란의 중심에 있었습니다. 일반적으로 사기는 친구나 가족으로부터 돈이나 특정 정보를 요구하는 전화를 받는 방식으로 진행되며, 흔히 곤란하거나 절박한 상황임을 연출합니다. 이러한 전화에는 각별한 주의를 기울여야 합니다. 이에 대응하는 한 가지 방법은 만일의 사태에 대비해 가장 가까운 사람들과 미리 암호를 정해두는 것입니다.

크리에이터, 개발자, 정부가 이러한 남용을 방지하기 위한 보호 장치를 마련하는 것이 필수적입니다. 예를 들어, 책임감 있는 AI 사용을 위해서는 합성 목소리에 워터마크를 표기하거나 고유 식별자를 만들어 실제 목소리와 구분할 수 있도록 해야 합니다.

지식재산권(IP)

AI 목소리 클로닝 기술이 발전함에 따라 지식재산권(IP)에 대한 문제가 더욱 시급해지고 있습니다. 기술적으로 합성 목소리인 것에 대해 누가 권리를 소유하는지 명확합니까? 물론, 목소리는 실제 사람이 제공한 것입니다. 하지만 해당 목소리를 다른 사람이 사용할 수 있도록 공개했을 때 어떤 일이 발생할까요? 권리는 개인에게 있을까요, 아니면 모델의 기술을 개발한 회사에 있을까요?

이러한 모호함 때문에 크리에이터들은 자신의 목소리를 보호하고 IP 권리를 관리하기가 어렵습니다. 특히 자신의 목소리가 사용되는 것에 동의하지 않은 경우 더욱 그렇습니다. 예를 들어, 성우나 가수가 AI 학습을 위해 목소리를 제공하더라도, 그것이 어떻게 사용되는지에 대해서는 제어할 권한이 없을 수 있습니다.

이와 관련하여 법적 보호 장치가 마련되어야 합니다. AI 목소리 기술의 빠른 발전 때문에 법 제도가 이를 따라가는 데 어려움을 겪고 있으며, 규제 방법에 대한 논쟁이 뜨겁습니다. 법은 자신의 목소리에 대한 개인의 권리를 보호하고 상업적 사용에 대해 적절한 보상을 받을 수 있도록 보장해야 합니다. 어떤 법이 제정되고 어떻게 구성될지는 시간만이 말해줄 것입니다. 그때까지 기업과 크리에이터는 가능한 한 윤리적으로 행동해야 합니다. 여기에는 목소리를 제공한 개인에게 공정한 보상을 제공하고 목소리 데이터 세트를 획득할 때 공정한 계약을 체결하는 것과 더불어, 목소리 모델이 애초에 윤리적인 방식으로 공급되도록 보장하는 것이 포함됩니다.

성우 업계에 미치는 영향

AI 기술이 향상됨에 따라 기업들은 인간 인재를 고용하는 대신 합성 목소리를 사용하는 쪽을 선택할 수 있습니다. 이러한 변화는 고유한 목소리 역량에 의존하여 일하는 전문 성우들의 일자리 상실로 이어질 수 있습니다. AI 생성 목소리는 비용 절감과 빠른 제작 기간을 제공할 수 있지만, 성우들이 작품에 불어넣는 예술성과 전문성의 가치를 떨어뜨린다는 인식도 널리 퍼져 있습니다.

AI 목소리 시스템은 인간의 목소리를 모방한 응답을 제공하여, 문의 사항을 빠르고 정확하게 처리함으로써 고객 경험을 향상시킬 수 있습니다.

성우들, '목소리 도용'으로 테크 기업 고소 | BBC 뉴스

동시에 AI 목소리 클로닝은 성우들에게 새로운 기회를 창출할 수도 있습니다. 성우들은 AI 개발자들과 협력하거나, 학습 모델에 목소리를 제공하거나, 목소리 합성 분야에 전문 지식을 제공함으로써 자신들의 창의성과 가창력이 프로세스의 본질로 유지되도록 할 수 있습니다. 하지만 AI가 인간 성우를 대체하는 것이 아니라 이들의 작업을 보완하도록 균형을 맞추어야 합니다. AI는 기존의 인간 창작 과정을 향상시키기 위한 도구 그 이상으로 사용되어서는 안 됩니다.

책임감 있는 AI 실천하기

1. 투명성

AI 목소리 클로닝을 사용할 때 투명성은 매우 중요합니다. 뮤지션, 콘텐츠 크리에이터, 기업, 성우들은 작업에 합성 목소리를 사용할 때 이를 솔직하게 밝혀야 합니다. 음악, 광고, 오디오북, 팟캐스트 또는 기타 미디어 형태이든 간에, 청중은 자신이 듣고 있는 것이 실제 사람의 목소리인지 아니면 합성된 복제본인지 알 권리가 있습니다.

앨범 커버의 Parental Advisory(부모 지도 필요) 문구나 스트리밍 플랫폼에서 노골적인 콘텐츠를 뜻하는 단순한 문자 "E" 표시가 어떻게 대중화되었는지 생각해 보세요. AI 기술이 사용되었음을 표시하는 것은 올바른 방향을 향한 한 걸음이 될 것입니다. 소셜 미디어 플랫폼들은 이미 AI 콘텐츠에 이러한 라벨을 포함하기 시작했습니다. 비록 많은 콘텐츠가 여전히 감시망을 피하고 있기는 하지만 말입니다.

투명성을 유지함으로써 크리에이터는 청중과의 신뢰를 쌓을 뿐만 아니라 책임감을 고취할 수 있습니다. AI 생성 목소리가 오해를 불러일으키거나 악의적인 방식으로 사용되는 경우, 크리에이터는 해당 기술이 적용된 방식에 대해 책임을 져야 합니다.

2. 윤리적 가이드라인

AI 업계 내 윤리적 가이드라인에 대한 필요성은 시급한 사안입니다. 이러한 가이드라인은 AI 목소리 클로닝 사용의 경계를 정의하는 데 도움을 주어 기술이 책임감 있고 존중받는 방식으로 사용되도록 보장해야 합니다.

윤리적 가이드라인은 사전 동의 획득, 목소리 데이터 보안, 딥페이크나 민감한 정치적 (허위) 정보 유포와 같은 오용 방지, 목소리가 사용되는 개인에 대한 공정한 보상 보장 등 여러 영역을 다룰 수 있습니다. 업계 전반의 표준을 설정함으로써 크리에이터와 기업은 비윤리적인 사용으로부터 방어하고 AI 목소리 기술 분야의 책임감 있는 혁신을 장려할 수 있습니다.

일부 훌륭한 단체들이 이미 AI 업계에서 윤리적이고 책임감 있는 가이드라인과 표준이 제정되도록 앞장서고 있습니다. 주목할 만한 단체로는 Sound Ethics, Responsible AI Institute, 그리고 International Association for Safe and Ethical AI(IASEAI) 등이 있습니다.

3. 교육 및 인식 제고

책임감 있는 AI 사용을 보장하는 가장 효과적인 방법 중 하나는 교육입니다. 모든 분야의 크리에이터, 기업, 개발자 및 일반 대중은 이 기술의 윤리적 의미와 이에 수반될 수 있는 잠재적 위험을 헤쳐 나가는 방법에 대해 교육받아야 합니다. 교육과 리소스를 제공함으로써 우리는 사람들이 AI를 책임감 있게 사용하는 데 필요한 지식을 갖추도록 도울 수 있습니다.

교육 프로그램은 사전 동의의 중요성, 데이터 프라이버시, 오용 가능성 등의 주제를 다루어야 합니다. 사람들이 위험성과 이점을 인지하고 있을 때, 정보에 입각한 결정을 내리고 의도치 않은 피해를 방지할 수 있습니다. 이러한 문제에 대한 인식을 높이는 것은 크리에이터들이 윤리적 고려 사항들을 진지하게 받아들이고 책임감 있는 AI 기반의 미래를 구축하는 데 동력원이 될 것입니다.

Kits AI의 윤리적 입장

Kits.AI는 이처럼 강력하고 혁신적인 도구의 균형을 윤리적 책임과 함께 맞추는 것의 중요성을 항상 인식해 왔습니다. 당사는 방대한 Kits AI 목소리 라이브러리에 자신의 목소리를 제공하는 모든 개인이 자신의 목소리를 제어하고 보호할 권리를 가지며, 모든 다운로드에 대해 공정한 보상을 받도록 보장하는 데 전념하고 있습니다. 또한 모든 목소리 모델 데이터 세트를 아티스트로부터 책임감 있게 직접 수급하여, 타 아티스트의 작업물을 무단으로 긁어모으는 행위를 방지하고 금지하고 있습니다.

Kits.AI는 항상 AI 목소리 기술이 좋은 목적으로 사용될 수 있도록 강조하는 데 기반을 두어 왔습니다. 또한 Kits.AI는 계약서 및 서비스 약관에 이용 제한 사항과 각 사용자에게 부여되는 권리에 대한 자세한 개요를 포함시켰습니다. AI 목소리 기술이 창작 과정을 대체하는 것이 아니라 향상시키는 도구여야 한다는 믿음은 언제나 최우선 과제였습니다. Kits는 크리에이터들이 AI 개발자 및 다른 크리에이터들과 직접 협력할 수 있는 기회를 장려하여, 그 중심에 인간적인 측면이 계속해서 남아 있도록 커뮤니티적 측면을 육성합니다.

Kits.AI 플랫폼의 사명 중심에 어떻게 윤리적 AI가 자리 잡고 있는지 자세히 알아보려면 Kits.AI 윤리 웹페이지를 방문해 주세요.

결론: 정직함을 바탕으로 한 혁신

AI 목소리 클로닝은 우리가 음악과 콘텐츠를 제작하고 상호작용하는 방식을 혁신적으로 바꾼 강력한 기술이지만, 그만큼 큰 책임이 따릅니다. 사전 동의 획득과 지식재산권 보호부터 허위 정보 확산 방지, 뮤지션 및 성우에게 미치는 영향 해결에 이르기까지, AI 목소리 클로닝은 신중하게 관리되어야 할 여러 윤리적 문제를 야기합니다.

크리에이터, 개발자, 기업은 이 기술이 책임감 있게 사용되도록 투명성을 수용하고, 윤리적 가이드라인을 준수하며, 교육과 인식 제고를 우선시해야 합니다. 이를 통해 우리는 개인의 권리를 보호하고, 창조적인 산업을 육성하며, AI 목소리 클로닝과 관련된 위험을 완화할 수 있습니다.

어떤 방식으로든 AI 사용을 접하는 모든 이들이 신중함과 책임감을 가지고 임할 것을 강력히 권장합니다. 다른 모든 형태의 기술과 마찬가지로 AI 기술을 오용하는 사람들은 여전히 존재할 것입니다. 그것은 결코 변하지 않을 사실입니다. 하지만 AI는 대중에게 더 잘 수용되기 위해 윤리적 원칙에 뿌리를 둔 위치에 자리 잡아야 합니다. AI의 정착을 저해하는 요소들이 많은 만큼, 해결해야 할 과제 또한 여전히 많이 남아 있습니다.