카르나타카주, 엘레븐랩스와 음성AI 파일럿 논의…딥페이크 대응책도 핵심 의제로

인도 카르나타카 주정부가 세쿼이아캐피탈(Sequoia Capital)이 투자한 음성 인공지능(AI) 스타트업 엘레븐랩스(ElevenLabs)와 시범사업(파일럿) 추진을 논의했다. 대상 분야는 직업훈련(스킬링), 투자유치, 헬스케어, 문화, 시민서비스 등 5개 영역이다. 카르나타카주 IT/BT부(정보기술·생명공학부)는 성명을 통해 정부·공공서비스 전달을 개선할 고영향(high-impact) AI 응용 사례를 찾기 위한 움직임이라고 밝혔다.

목요일 프리양크 M. 카르게 카르나타카주 내무·정보기술·생명공학·전자정부 장관과 엘레븐랩스 팀, 부처 고위관료들이 만나 관련 논의를 진행했다. 카르게 장관은 카르나타카가 AI 혁신을 시민을 위한 실질적 성과로 전환하는 데 앞장설 기회가 있다고 말했다.

왜 엘레븐랩스와 손잡았나

이번 논의는 카르나타카주가 선도 기술기업들과 협력해 AI 발전을 시민이 실제로 체감할 수 있는 서비스로 전환하려는 더 큰 흐름의 일부라고 장관실 성명은 설명했다. 논의는 기술이 정부서비스 접근을 간소화하고, 기술·고용 성과를 개선하며, 시민 요구에 대한 주정부의 대응력을 강화할 수 있는 영역에 초점을 맞췄다.

카르게 장관은 “우리의 접근 방식은 세계에서 가장 역량 있는 기술을 구축하는 기업들과 협력하고, 그 기술이 실제 문제를 해결할 수 있는 지점을 파악한 뒤, 주 전역으로 확장 가능한 파일럿으로 나아가는 것”이라고 말했다. 엘레븐랩스는 음성 AI 분야에서 세쿼이아캐피탈의 투자를 받은 스타트업으로, 이번 논의에는 회사 팀과 카르나타카주 부처 고위관료들이 함께 참석했다.

5대 분야 구체적 활용안

논의에서 제시된 잠재적 활용안은 여러 갈래다. 우선 취업면접 연습을 위한 음성 지원 도구와 인도 현지어 스킬링이 검토됐다. 예비 투자자들이 투자 기회와 정부 정책을 탐색하도록 돕는 투자자 지원·정보서비스도 논의 대상에 올랐다.

말을 잃은 사람들을 위한 음성복원(voice restoration) 기술, 문화·공공서비스 이니셔티브에 음성 기술을 활용하는 방안도 다뤄졌다. 엘레븐랩스 팀은 이 자리에서 음성 기반 면접연습 도구를 직접 시연했다. 카르게 장관은 “청년이 취업을 준비하도록 돕는 일이든, 투자자가 정보에 더 쉽게 접근하도록 하는 일이든, 시민서비스를 개선하는 일이든, 헬스케어에 AI를 활용하는 일이든 우리의 초점은 효과적이고 효율적이며 접근 가능하고 책임 있는 AI 전달 모델을 구축하는 데 있어야 한다”고 말했다.

책임있는 AI와 딥페이크 대응

논의에서 책임 있는 AI와 음성 안전이 핵심 주제로 다뤄졌다. 딥페이크와 허위정보에 대한 안전장치가 논의의 상당 부분을 차지했다. 엘레븐랩스는 합성 음성 탐지, 출처추적(provenance), 추적성(traceability), 워터마킹과 관련한 자사의 작업을 소개했다.

정부의 각종 정책(스킴), 프로그램, 발표에 대해 AI로 생성한 음성이 허위정보 유포에 악용될 가능성에 대한 우려가 논의에서 특히 부각됐다고 부처 측은 설명했다. 공공기관이 음성 AI를 도입할 때 편의성만큼이나 신뢰성 확보가 전제조건이라는 점을 양측이 확인한 셈이다.

다음 단계, 확장형 파일럿과 10월 서밋

카르게 장관은 논의된 각 영역에 대해 명확한 로드맵을 요구했다. 실질적인 공공 영향을 보여줄 수 있는 초기 파일럿을 추진해 달라고 양측 팀에 당부했다. 엘레븐랩스 팀은 카르게 장관을 10월 벵갈루루에서 열리는 엘레븐랩스 인디아 서밋(ElevenLabs India Summit)에 초청했다. 이 행사에서는 엘레븐랩스 리더십이 음성 AI 기술 발전과 인도 내 응용 방향을 논의할 예정이다.

카르나타카주는 이번 논의를 계기로 스킬링, 투자유치, 헬스케어, 문화, 시민서비스 5개 분야 가운데 어느 영역에서 먼저 파일럿을 가동할지 구체화하는 단계로 넘어갈 것으로 보인다. 아직 파일럿의 구체 일정이나 예산 규모는 공개되지 않았다.