top of page

KittenML, CPU 음성을 위한 Kitten TTS 2 Mini 출시

34분 전
9분 분량
Illustrative photograph. Photo: cottonbro studio / Pexels.

KittenML이 PyTorch 없이도 CPU에 배포할 수 있는 8,200만 파라미터 음성 모델 Kitten TTS 2 Mini를 공개했다. TTS(text-to-speech)는 작성된 텍스트를 음성 오디오로 변환한다. 이번 출시는 원격 서비스를 애플리케이션의 중심에 두지 않고 음성 기능을 추가하려는 개발자에게 또 하나의 선택지를 제공한다.

당면한 질문은 실용적이다. 소형 모델을 내려받는 것과 신뢰할 수 있는 음성 출력을 실제로 제공하는 것 사이에는 얼마나 많은 작업이 남아 있을까? 작은 파일은 진입 장벽 하나를 낮춘다. 하지만 발음 정확도, 응답성, 긴 문서를 들을 때의 경험까지 보장하지는 않는다.

Kokoro는 이미 소형 음성 모델의 기준점 역할을 하고 있다. KittenML은 다국어 지원과 대체 실행 형식으로 이 논의에 합류했다. 유의미한 비교는 설치, 음성 품질, 리소스 사용량, 유지보수를 포함한 완전한 애플리케이션을 대상으로 한다. 모델 목록만으로 이들 항목이 해결됐다고 단정해서는 안 된다.

Kitten TTS 2 Mini, 다국어 CPU 선택지 추가

다국어 음성 모델 문서에 따르면 Mini는 16개 언어, 118개 음성, 24 kHz로 샘플링된 오디오를 지원한다. 이 샘플링 레이트는 오디오 신호를 디지털 방식으로 얼마나 자주 표현하는지를 뜻한다. 자연스러움이나 발음 정확도를 측정하는 지표는 아니다.

KittenML은 int8 가중치를 적용한 ONNX 버전과 별도의 float32 PyTorch 버전을 제공한다. ONNX는 모델 교환 형식이며, int8은 수치 값을 8비트 정수로 저장한다. PyTorch는 머신러닝 프레임워크이고, float32는 32비트 부동소수점 값을 사용한다.

구체적인 변화는 명시적으로 문서화된 CPU 실행 경로를 갖춘 또 하나의 다운로드 가능한 음성 옵션이 추가됐다는 점이다.

이 점은 개발자가 특정 호스팅 서비스에 확정적으로 의존하기 전에 애플리케이션 구성 요소로서 음성을 검토할 수 있음을 뜻한다. 이번 출시는 추가적인 배포 선택지를 만든다. 그 선택이 제품을 개선하는지는 모델을 둘러싼 요구사항에 달려 있다.

내부 지침을 다루는 직원을 위한 문서 리더를 구상해 보자. 설계자는 네트워크가 끊겨도 계속 이용할 수 있는 음성을 중요하게 여길 수 있다. 또한 부서명, 장비 라벨, 기술 약어를 일관되게 발음해야 할 수도 있다.

모델 다운로드는 그러한 실험을 가능하게 한다. 하지만 이런 요구를 자동으로 해결하지는 않는다. 제품 팀은 정제된 데모에는 거의 등장하지 않는 까다로운 텍스트를 포함해 자체 자료에서 근거를 확보해야 한다.

이 차이는 이번 출시를 읽는 방식을 바꾼다. Mini는 음성 인프라를 평가하는 개발자에게 유용한 소식이다. 그렇다고 모든 애플리케이션이 현재의 음성 제공업체를 교체해야 한다는 근거는 아니다.

다국어 카탈로그 역시 언어별로 동일한 성능을 보장하지 않는다. 지원 범위는 게시자가 제공하는 항목을 보여 준다. 품질 판단에는 해당 언어를 이해하는 사람의 청취, 이해도 확인, 테스트가 필요하다.

음성 제공 여부도 신중하게 해석해야 한다. 선택 가능한 음성 카탈로그는 참조 자료를 바탕으로 화자를 재현하는 voice cloning과 다르다. 이 글에서 확인한 사양만으로는 복제 기능을 입증할 수 없다.

생성 중 오디오를 점진적으로 사용할 수 있게 하는 streaming에도 같은 주의가 필요하다. 공개된 모델과 오디오 생성 예시는 대화형 상호작용에 필요한 시간 특성을 입증하지 않는다.

이러한 경계에도 명확하고 유용한 이야기는 남는다. KittenML은 문서화된 배포 옵션과 함께 특정 음성 모델을 제공했다. 이제 개발자는 접근을 기다려야 하는 발표가 아니라 실제 제약 조건에 맞춰 평가할 수 있는 결과물을 갖게 됐다.

다음 질문은 이 결과물 주변에 무엇을 설치해야 하는가다.

82.7 MB 수치는 가중치만 포함한다

Mini의 모델 파일 목록은 82.7 MB ONNX 파일과 별도의 음성 팩, 구성, 어휘, 발음 리소스를 명시한다. 대체 float32 가중치도 별도로 나열한다.

가중치 파일의 크기는 전체 애플리케이션 설치 용량이 아니다.

이 구분은 모델 다운로드 크기가 배포 요구사항의 축약 표현이 될 때 중요하다. 제품에는 입력 준비, 모델 실행, 출력 관리, 사용자 제어 기능 제공에 필요한 리소스가 포함된다.

따라서 Mini를 평가하는 개발자는 여러 질문을 구분해야 한다. 설치 프로그램은 무엇을 배포해야 하는가? 무엇을 나중에 내려받아야 하는가? 음성 실행 중 메모리에 무엇이 남는가? 애플리케이션이 언어를 바꾸면 어떤 일이 일어나는가?

이 질문들은 서로 다른 리소스 요구를 설명한다. 이를 같은 것으로 취급하면 보기 좋은 사양표와 예상보다 번거로운 설치 과정이 나올 수 있다.

데스크톱 애플리케이션에서 중요한 경계는 제공되는 기능이다. 사용자는 음성을 활성화하는 데 걸리는 시간과 이후 차지하는 공간을 경험한다. 그중 어느 부분이 모델 가중치에 속하는지는 거의 신경 쓰지 않는다.

내부 관리형 애플리케이션에서 관리자는 또 다른 문제, 즉 재현성을 마주한다. 어떤 리소스가 함께 속하는지, 변경되는 업스트림 기본값에 의존하지 않고 배포를 재현할 수 있는지를 알아야 한다.

소형 모델도 이러한 요구에 잘 부합할 수 있다. 핵심은 제품 약속에 헤드라인 파일 크기를 사용하기 전에 전체 패키지를 확인하는 데 있다.

메모리는 별도로 살펴봐야 한다. 저장 공간은 정지 상태의 파일을 의미한다. 메모리는 애플리케이션이 동작하는 동안 소비되는 리소스를 의미한다. 작은 다운로드만으로 실행 중인 프로세스에 필요한 메모리 양을 알 수는 없다.

시작 과정에도 같은 구분이 적용된다. 리소스 다운로드, 모델 로드, 텍스트 준비, 오디오 생성은 서로 다른 활동이다. 이를 설명 없는 속도 주장으로 합치면 사용자가 실제로 기다릴 시간을 가리게 된다.

이는 가끔 사용하는 음성 기능에서 특히 중요하다. 드물게 실행되는 문서 리더는 체감 지연의 상당 부분을 음성 준비에 쓸 수 있다. 계속 실행되는 서비스는 다른 작업 부하에 직면한다.

어느 방식도 본질적으로 더 낫지는 않다. 올바른 평가는 재생 시작 전 준비 과정을 사용자가 받아들일 수 있는지를 포함해 제품의 예상 동작에 달려 있다.

업데이트 문제도 있다. 음성 리소스가 바뀌면 팀은 무엇을 갱신해야 하는지와 이전 출력이 계속 재현 가능한지를 이해해야 한다. 이 책임은 배포 결정에 포함되어야 한다.

이는 Mini의 측정된 단점이 아니라 평가 기준이다. 이 글은 전체 패키지를 설치하거나 리소스 소비량을 측정하지 않았다.

타당한 해석은 작은 다운로드 하나로 전체 음성 시스템을 제공한다는 헤드라인보다 좁다. KittenML은 소형 가중치를 제공하지만, 주변 리소스는 여전히 엔지니어링 평가의 일부다.

그럼에도 이는 의미가 있다. 단지 이점이 올바른 계층에 놓이게 한다.

더 작은 모델이 배포 선택을 바꾼다

KittenML의 Nano 음성 모델은 같은 제품군 내 또 다른 기준점이다. 문서에는 언어 모델당 1,700만 파라미터, 8개 언어, 37개 음성, 24 kHz 출력이 기재되어 있다. 나열된 int8 ONNX 가중치 용량은 17.4 MB다.

“언어 모델당”이라는 표현은 중요하다. 개발자가 배포 요구사항을 비교할 때 파라미터 수와 함께 유지해야 한다. 언어별 구성 요소와 더 폭넓은 다국어 모델은 서로 다른 비교 단위다.

이 제품군은 지원 범위와 패키징에 관한 선택지를 만들지만, 품질 순위를 확정하지는 않는다.

제한된 언어 집합에 음성을 제공하는 팀은 더 작은 옵션부터 평가할 수 있다. 다른 팀은 더 폭넓은 언어 카탈로그를 우선할 수 있다. 어느 결정도 파라미터 수만으로 내릴 수는 없다.

파라미터는 모델의 동작을 형성하는 학습된 수치 값이다. 그 수는 규모를 나타내지만 특정 작업에서의 발음, 표현력, 신뢰성을 직접 순위 매기지는 않는다.

더 넓은 시장은 유용한 역사적 기준점을 제공한다. Kokoro 음성 모델도 8,200만 파라미터와 Apache 라이선스 가중치를 갖추고 있다. 공개된 릴리스 정보에는 버전 1.0 기준 8개 언어와 54개 음성이 나열되어 있다.

이 사양은 비교 지점을 만들 뿐, 승자를 정하지는 않는다. 같은 파라미터 수가 같은 아키텍처, 학습 자료, 출력 품질, 실행 동작을 뜻하지는 않는다.

개발자에게는 음성을 원격 기능으로 구매해야 한다는 기본 가정에 대한 재검토 압력이 생긴다. 다운로드 가능한 대안은 배포 제어가 중요할 때 이 가정을 다시 생각할 가치를 만든다.

그렇다고 호스팅 음성 서비스의 근거가 사라지는 것은 아니다. 제품 팀은 다른 조직이 모델 운영을 관리하길 원하기 때문에 서비스를 선호할 수 있다. 또 다른 팀은 로컬 실행을 제어하기 위해 더 많은 엔지니어링 작업을 감수할 수 있다.

이 글의 핵심 트레이드오프는 배포 통제가 제공되는 경험에 대한 책임을 수반한다는 점이다.

원격 서비스는 통합과 운영 동작을 통해 평가할 수 있다. 다운로드 모델은 패키징, 호환성, 그리고 이를 유지할 팀의 역량까지 평가해야 한다.

비교는 구체적인 제품에 연결할 때 더 유용해진다. 승인된 교육 텍스트를 읽어 주는 교육 애플리케이션을 생각해 보자. 우선순위에는 이해하기 쉬운 음성, 예측 가능한 재생, 관리 가능한 설치가 포함될 수 있다.

이제 사용자가 기다리는 동안 응답해야 하는 대화형 어시스턴트를 생각해 보자. 이 경우 우선순위는 응답 시간과 중단 처리에 더 큰 비중을 둔다. 첫 번째 애플리케이션에 적합한 모델이 두 번째 요구를 자동으로 충족하지는 않는다.

이는 검증된 KittenML 고객 배포 사례가 아니라 가상의 시나리오다. 독자가 실제로 마주하는 결정을 보편적 순위가 왜 가릴 수 있는지 보여 준다.

같은 논리는 모델 제품군 내부에도 적용된다. 범위가 애플리케이션과 맞을 때는 더 작은 구성 요소를 고려할 가치가 있다. 언어 요구사항이 이를 정당화할 때는 더 넓은 지원 범위를 고려할 가치가 있다.

따라서 이번 출시는 평가 범위를 넓힌다. 후보를 비교하기 전에 성공의 의미를 정의할 필요까지 없애지는 않는다.

양자화는 저장 공간을 바꾸지만, 검증 기준을 바꾸지는 않는다

양자화는 모델 값을 더 낮은 수치 정밀도로 표현하는 방식이다. ONNX 양자화 문서는 이것이 정확도 변화를 유발할 수 있으며 성능 이점은 모델과 하드웨어에 따라 달라진다고 설명한다.

이 일반 지침은 Mini의 배포 형식을 해석할 때 중요하다. 정밀도 감소는 측정이 필요한 결과를 수반하는 엔지니어링 결정이다. 동일한 음질이나 모든 환경에서의 가속을 주장하는 지름길이 되어서는 안 된다.

소형 실행 형식은 테스트할 수 있는 옵션을 제시할 뿐, 검증된 성능 결과를 의미하지는 않는다.

음성의 경우 유용한 평가는 수치 선택을 청취자가 듣는 결과와 연결해야 한다. 출력 파일은 기술적으로 유효할 수 있지만, 거슬리는 멈춤, 불분명한 단어, 일관되지 않은 전달을 포함할 수 있다.

공정한 비교라면 사용 가능한 실행 경로 전반에 동일한 입력 자료를 사용해야 한다. 또한 다른 개발자가 결과를 재현할 수 있을 만큼 명확하게 환경을 기록해야 한다.

그 목적은 특정 배포 관련 질문에 답하는 데 있다. 더 작은 표현 방식이 이 애플리케이션에서 허용 가능한 출력을 유지하는가? 애플리케이션의 리소스 한도 내에서 그 출력을 생성하는가?

이는 서로 다른 질문이다. 허용 가능한 음질이 허용 가능한 응답 시간을 보장하지는 않는다. 더 빠른 생성이 사용자가 이해하기 어려운 음성을 정당화하지도 않는다.

이 글은 Mini의 실행 형식 간 청취 비교를 수행하지 않았다. 또한 경과 응답 시간을 측정하는 지연 시간 결과도 재현하지 않았다. 여기서는 품질 동등성이나 속도 우위를 주장하지 않는다.

CPU 실행에도 마찬가지로 신중한 표현이 필요하다. 프로세서와의 호환성은 지원되는 경로가 존재한다는 사실을 보여 준다. 제품이 지원할 수 있는 모든 시스템에서 그 경로가 어떻게 동작하는지는 명시하지 않는다.

백그라운드 문서 내보내기는 대화형 읽기 버튼과 다른 방식으로 대기 시간을 감수할 수 있다. 여러 사람이 쓰는 워크스테이션은 음성 생성 전용 시스템과 다르게 동작할 수 있다. 어떤 차이가 중요한지는 제품 요구사항이 결정한다.

ONNX Runtime의 CPU 스레드 관리 문서는 구성 가능한 병렬 실행과 리소스 간의 절충점을 설명한다. 해당 지침은 결과를 보고할 때 런타임 설정을 기록해야 할 필요성을 뒷받침한다.

이러한 세부 정보가 없는 벤치마크는 독자가 모델 동작과 구성 선택을 구분하지 못하게 할 수 있다. 동일한 모델 이름도 서로 다른 리소스 정책을 가진 애플리케이션에 포함될 수 있다.

개발자는 재생 시작과 생성 완료도 구분해야 한다. 오디오 파일 생성을 효율적으로 마치는 시스템이라도 사용자가 실제로 무언가를 듣기 전까지 불편할 정도로 기다리게 할 수 있다.

반대로 내레이션을 미리 준비하는 제품은 즉각적인 재생보다 총 처리 시간에 훨씬 더 큰 비중을 둘 수 있다. 평가는 의도된 경험을 따라야 한다.

이 때문에 이번 릴리스의 배포 주장은 과장 없이 주목할 가치가 있다. 이는 CPU에서 실험할 수 있는 경로를 만든다. 앞으로의 과제는 그 경로가 어떤 워크로드에 적합한지 확립하는 일이다.

독립적이고 재현 가능한 측정은 이러한 평가를 훨씬 쉽게 만들 것이다. 그때까지는 사양과 측정된 결과를 분리해 두어야 한다.

언어 지원 범위에는 청취 근거가 필요하다

언어 레이블은 개발자에게 테스트를 시작할 지점을 알려 준다. 하지만 실제 워크플로 전반에서 사용자가 생성된 음성을 받아들일지는 알려 주지 않는다.

가장 강력한 평가는 청취자가 콘텐츠를 정확하고 편안하게 이해하는지를 묻는다.

문서 리더의 경우 이는 일반적인 단어를 인식하는 것 이상을 의미한다. 이름, 약어, 날짜, 기술 표기, 문장부호는 음성 버전이 원문의 의미를 보존하는지를 좌우할 수 있다.

예를 들어 엔지니어링 문서 리더는 제품 식별자와 축약된 단위를 마주할 수 있다. 대화체 문장에서는 듣기 좋은 목소리라도 그런 자료를 대상으로 평가할 필요가 있다.

행정 콘텐츠에도 같은 원칙이 적용된다. 잘못 발음된 식별자는 다소 부자연스러운 전환보다 더 중요할 수 있다. 오류의 중요성은 오디오가 수행하는 업무에 따라 달라진다.

이 사례들은 평가 우선순위를 설명한다. Kitten TTS 2 Mini에서 보고된 실패 사례가 아니며, 테스트 결과로 오해해서도 안 된다.

언어 평가에는 적절한 청취자도 필요하다. 영어 사용자 평가자는 다른 언어의 무음이나 왜곡을 알아차릴 수 있다. 그러나 그 평가자가 모든 발음 또는 표현 오류를 신뢰성 있게 판단할 수는 없다.

따라서 다국어 제품에는 중앙 팀이 샘플 모음을 승인하는 것 이상이 필요하다. 수용 기준은 각 언어를 사용할 것으로 예상되는 사람들을 반영해야 한다.

음성 설명은 또 다른 구분을 제시한다. 전달 스타일을 암시하는 레이블은 사용자가 후보를 고르는 데 도움이 된다. 하지만 해당 음성이 제품 고유의 콘텐츠를 어떻게 처리하는지 직접 들어 보는 일을 대체하지는 못한다.

더 긴 자료에도 주의를 기울일 필요가 있다. 음성은 첫인상은 좋을 수 있지만 지속적인 재생에서는 피로감을 줄 수 있다. 이는 대표적인 청취 세션이 필요한 제품 경험 문제다.

이번 릴리스는 Mini가 그러한 세션에서 어떻게 성능을 내는지 입증하지 않는다. 독자는 그 공백을 열의나 추정된 실패로 채우지 않아야 한다.

공정한 회의적 입장은 구체적이다. 공개된 자료는 평가의 근거가 되지만, 이용 가능한 사양만으로는 지원 카탈로그 전반의 청취 품질을 결론지을 수 없다.

이 입장은 논란을 만들어 내는 일도 피한다. 여기에는 검증된 독립적 지지나 비판적 청취 연구가 제시되지 않았다. 그러한 자료의 부재는 도출할 수 있는 결론을 제한한다.

지식 애플리케이션에서 잠재적 관련성은 분명하다. 음성은 말로 전달되는 버전이 충실하고 사용 가능하다면 글로 된 자료를 소비하는 또 하나의 방식이 될 수 있다.

기술 지식 베이스를 다루는 팀은 음성 평가를 후속 제품 과제로 볼 수 있다. 먼저 원본 콘텐츠를 확립한 뒤, 내레이션이 이를 보존하는지 판단해야 한다.

이 연결이 KittenML과 remio의 통합을 의미하는 것은 아니다. 이는 신뢰성을 뒷받침하는 세부 사항을 잃지 않으면서 유용한 정보를 접근 가능하게 만든다는 공통의 리더 관심사를 보여 준다.

따라서 실질적인 쟁점은 여전히 구체적이다. 개발자는 모델이 사용자가 필요로 하는 언어로, 배포 제약 아래에서 자신의 콘텐츠를 충분히 잘 말하는지 알아야 한다.

폭넓은 카탈로그는 그러한 조사를 시작하게 한다. 대표적인 사용 사례에서 얻은 증거가 그 방향을 결정한다.

로컬 음성 도입의 근거를 강화하려면

다음 단계는 더 많은 헤드라인 사양 모음이 아니라 관찰 가능한 증거를 통해 판단해야 한다. 몇 가지 발전은 개발자가 Mini가 출시 제품에 적합한지 결정하는 데 도움이 될 것이다.

가장 유용한 신호는 순서대로 재현 가능한 성능, 신뢰할 수 있는 언어 평가, 유지 관리 가능한 통합이다.

첫째, 독립적인 성능 보고서는 시스템, 모델 리비전, 실행 형식, 워크로드를 명시해야 한다. 준비 시간, 재생 가능 시점, 완료 시간을 구분해야 한다.

대표적인 하드웨어 전반에서 결과가 유용하게 유지된다면 이러한 보고서는 배포 근거를 강화할 것이다. 유난히 유리한 조건으로 제한된 결과는 모델을 고려할 만한 애플리케이션의 범위를 좁힐 것이다.

부정적인 발견도 유용할 수 있다. 한계에 대한 명확한 설명은 개발자가 부적합한 실험을 반복하지 않도록 돕는다. 결과가 릴리스에 유리한지보다 재현 가능성이 더 중요하다.

둘째, 청취 평가는 대표적인 콘텐츠를 다루고, 테스트한 각 언어를 평가할 자격을 갖춘 사람을 포함해야 한다. 비교는 청취자가 무엇을 평가했는지와 어떤 대안을 들었는지 설명해야 한다.

일관되게 이해 가능한 출력은 다국어 배포의 근거를 강화할 것이다. 특정 언어 또는 텍스트 범주에 집중된 오류는 팀이 주의하거나 다른 선택지를 찾아야 할 지점을 보여 줄 것이다.

중요한 결과는 적합성의 지도다. 애플리케이션은 알려진 한계를 바탕으로 건전한 결정을 내릴 수 있다. 광범위한 주장이 음성이 신뢰할 수 있는 조건을 숨기면 어려움을 겪는다.

셋째, 유지 관리되는 통합은 초기 시연 이후에 어떤 일이 일어나는지 보여 주어야 한다. 유용한 증거에는 완전한 패키징, 예측 가능한 업데이트, 문서화된 실패 동작, 제품의 실제 텍스트 지원이 포함될 것이다.

이 신호는 모델이 신뢰할 수 있는 구성 요소가 될 수 있다는 근거를 강화할 것이다. 아무리 매력적인 단독 데모라도 유지 관리 문제는 여전히 열어 둔다.

이러한 관찰은 분리해서 다뤄야 한다. 유지 관리되는 래퍼가 뛰어난 발음을 증명하지는 않는다. 강력한 청취 결과가 허용 가능한 설치 경험을 보장하지도 않는다.

현재 Kitten TTS 2 Mini는 개발자에게 조사할 수 있는 구체적인 대안을 제공한다. 그 중요성은 가능하게 한 배포 선택에 있으며, 적합성은 여전히 애플리케이션 수준의 판단이다.

음성 엔진을 선택하기 전에 대표 문서를 선택하라. 사용자가 실제로 마주하는 이름, 약어, 언어 전환, 까다로운 서식을 포함하라. 설치 과정과 재생 전 대기 시간을 포함해 애플리케이션의 전체 동작을 비교하라. 자격을 갖춘 청취자에게 음성 버전이 의미를 보존하고 편안하게 들리는지 물어보라. 테스트한 모델 리비전과 환경을 기록해 이러한 결과를 기존 음성 옵션과 함께 보관하라. Kitten TTS 2 Mini는 다운로드 가능한 음성이 기능의 실행 위치와 유지 관리 주체를 바꿀 수 있기 때문에 이러한 현실적인 비교를 할 가치가 있다. 릴리스를 증거를 수집할 이유로 삼고, 사용자가 필요로 하는 경험이 배포 결정을 이끌도록 하라.

 
 

무료로 시작하세요

개인 지식 관리 기능을 갖춘 로컬 우선 AI 어시스턴트

더 나은 AI 경험을 위해

현재 remio는 Windows 10+ (x64) 및 M-Chip Macs만 지원합니다.

업무를 위한 AI 파트너
remio와 더 많은 일을 해내세요

계획하고, 만들고, 완성하세요
모든 일을 한곳에서

bottom of page