多言語とマルチスピーカーサポート
大規模なマルチリンガル事前トレーニングモデルを介して7,000以上の言語をカバーしたマルチリンガル音声合成をサポートします。マルチスピーカー音声合成を可能にし、話者間でのリズム、強勢、抑揚などのポロージー(韻律)のクローニングを実現します
以下の例を使用してToucanTTSを試してください。
Turn text into natural speech and create voices for your next project.
Please wait while the demo prepares.
ToucanTTSは、大規模言語モデル(LLM)アシスタントの対話タスクや会話オーディオ・ビデオの導入などのアプリケーション向けに設計された音声生成モデルです。中国語と英語の両方をサポートし、約100,000時間の中国語と英語のデータを使用してトレーニングされたToucanTTSは、スピーチ合成において高い品質と自然さを示しています。
大規模なマルチリンガル事前トレーニングモデルを介して7,000以上の言語をカバーしたマルチリンガル音声合成をサポートします。マルチスピーカー音声合成を可能にし、話者間でのリズム、強勢、抑揚などのポロージー(韻律)のクローニングを実現します
生成された音声の詩の朗読や文学研究などに人間が介入する編集を可能にします
大規模なマルチリンガル音声合成、話者間のスタイルクローニング、音声設計、ヒューマン編集された詩の朗読のためのインタラクティブデモを提供します
主にFastSpeech 2アーキテクチャに基づき、PortaSpeechに触発された正規化フローに基づくPostNetなどの変更を含みます。Connectionist Temporal Classification(CTC)でトレーニングされた独立したアライナーとさまざまなアプリケーションのためのスペクトログラム再構成を含んでいます。マルチリンガルモデル、アライナー、埋め込み関数、ボコーダー、および埋め込みGAN用の事前トレーニング済みモデルを提供します
PythonとPyTorchで完全に構築され、シンプルで初心者でも使いやすくなることを目指していますが、パワフルな機能も提供しています
IMS Toucanシステムは、音素の発音表現を入力として取り入れ、低リソース言語にメリットを提供します
数ステップでToucanTTSを始めましょう。
GitHubからコードをダウンロードしてください。
git clone https://github.com/2noise/ToucanTTSToucanTTSをダウンロード開始する前に、必要なパッケージがインストールされていることを確認してください。torchとToucanTTSが必要です。まだインストールしていない場合は、pipを使用してインストールできます。
pip install torch ToucanTTSスクリプトに必要なライブラリをインポートします。torch、ToucanTTS、およびIPython.displayからのAudioが必要です。
import torch
import ToucanTTS
from IPython.display import AudioToucanTTSクラスのインスタンスを作成し、事前にトレーニングされたモデルを読み込みます。
chat = ToucanTTS.Chat()
chat.load_models()音声に変換したいテキストを定義します。 <YOUR TEXT HERE>をお好みのテキストに置き換えます。
texts = ["こんにちは、ToucanTTSへようこそ!",]テキストから音声を生成するためにinferメソッドを使用します。デコーダーを有効にするには、use_decoder=Trueを設定します。
wavs = chat.infer(texts, use_decoder=True)生成されたオーディオを再生するには、IPython.displayからのAudioクラスを使用します。サンプルレートを24,000 Hzに設定し、自動再生を有効にします。
Audio(wavs[0], rate=24_000, autoplay=True)参考のために、こちらが完全なスクリプトです:
import torch
import ToucanTTS
from IPython.display import Audio
# ToucanTTSの初期化
chat = ToucanTTS.Chat()
chat.load_models()
# 音声に変換するテキストの定義
texts = ["こんにちは、ToucanTTSへようこそ!",]
# 音声の生成
wavs = chat.infer(texts, use_decoder=True)
# 生成されたオーディオの再生
Audio(wavs[0], rate=24_000, autoplay=True)
短文、疑問文、長い段落、名前、略語を含めます。音読して句読点をそろえ、各言語に詳しい人に表現と発音を確認してもらいます。同じ原稿で音声を比較します。
聞き取りやすさ、発音、リズム、間、音量を分けて確認します。総合点だけでなく具体的な問題を記録し、サンプルの再生音量をそろえます。
現行ドキュメントの小さな例から始め、バージョンと設定を記録します。代表的な原稿を試し、一文の成功だけで全言語や話し方を評価しないでください。
対象者の端末でつなぎ、繰り返す用語、速度を確認します。テキスト、音声、メモを保存し、ソフトウェアとモデルのライセンス、録音の権利を確認します。実際の手順はリポジトリが基準です。
質問がありますか?一般的な疑問を以下で確認してください。
ToucanTTSは、FastSpeech 2アーキテクチャをベースにし、PortaSpeechに触発された正規化フローベースのPostNetなどの修正を加えています。
ToucanTTSは、音素の形容形を入力として取り込み、多言語データを低リソース言語に活用することができます。
はい、ToucanTTSはマルチスピーカー音声合成を可能にし、話者間での韻律、強勢、イントネーションのクローンを実現します。
ToucanTTSには、大規模多言語音声合成、話者間のスタイルクローニング、音声設計、および人間が編集した詩の朗読のためのインタラクティブなデモが提供されています。
ToucanTTSの大規模多言語事前学習モデルは7,000以上の言語をカバーしています。
はい、ToucanTTSは完全にPythonとPyTorchで構築されており、シンプルで初心者向けでもありながら強力な機能を備えています。