/sound_dataset_tools2

一个快速制作语音数据集的可视化工具

Primary LanguagePythonMIT LicenseMIT

sound_dataset_tools2

介绍

本工具主要用于快速制作语音数据集，可一键导出VITS等项目所需的训练数据集

注意：你正在查看项目的r1.0分支，本分支将停止更新新功能，仅做维护和留档，未来项目经过重构后会以r2.0分支为主

特色：

GUI界面！

中文文档

支持 音频+字幕/纯音频自动切割 两种方式导入数据（未来会更多）

自动优化了音频的切割效果，（尽量）避免出现断音

可直接导出符合VITS等项目要求的数据集格式，声道数/采样率均可设置

引入语音评测功能，通过为数据打分可以快速从海量数据中筛选出优质数据集

软件架构

数据库：sqlite、peewee

界面：PySide6

音频处理：FFMPEG、pydub等

安装教程

运行编译好的exe文件

进入 github 的 Release 界面 或 gitee 的发行版界面 根据提示下载对应的压缩包双击即可启动程序

从源代码运行

  1. 克隆本项目

    gitee:

    git clone https://gitee.com/kslizi/sound_dataset_tools2.git

    github:

    git clone https://github.com/kslz/sound_dataset_tools2.git

  2. 安装ffmpeg

    你可以通过配置环境变量，也可以将下载得到的ffmpeg压缩包解压然后在exe根目录下新建lib文件夹，将解压得到的bin文件夹改名为ffmpeg，然后复制到lib目录下，最后的目录结构如图所示

    image-20230306190922062

  3. 安装其他库

    pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

使用说明

运行项目

python main.py

选择工作区

image-20230306191102551

如果你当前的目录空间不足可以指定其他目录，导入的文件、数据库、生成的数据集都会存放在指定目录中

数据集选择界面

你可以在这里添加，修改，删除数据集。每个数据集之间互相独立。点击进入按钮，进入数据集。

image-20230306191345259

数据集概览界面

在此你可以对数据进行导入、导出、处理等操作

image-20230306191504981

导入数据

注意：所有导入数据的方式都经过了自动优化，关于自动优化的具体逻辑请见文末。

从文件导入（音频+字幕）

点击按钮，在弹窗中选择预先处理好的音频和字幕文件，支持视频文件和几乎所有（ffmpeg支持的）格式的音频文件导入，同时请输入发音人。关于字幕的获取请参见文末。

image-20230306191737405

导入后的界面如图所示，你可以在左侧的下拉框中选择翻页，也可以点击试听音频段

image-20230325203520340

点击快速导出后会将当前音频导出至 .\workspace\output\fastoutput\ 目录下

从文件导入（长音频）

点击按钮，在弹窗中选择预先处理好的音频文件，支持视频文件和几乎所有（ffmpeg支持的）格式的音频文件导入，同时请输入合适的发音人、最短静音长度、静音阈值信息

最短静音长度：当静音长度达到这个数值时进行一次裁切

静音阈值：当音频响度低于这个数值时则视为静音，如果你的音频底噪很低，可以适当调低此值获得更好的结果，反之则提高。

image-20230306192153819

导入后的界面如图所示，需要注意的是因为只有短音频，所以裁切出的音频段没有标注文本，将在未来引入语音识别以进行自动标注。

image-20230306192556509

删除数据

根据源音频删除数据

点击按钮后选择一个当前数据集中数据对应的音频，点击确定后音频本身和相关联的数据都会被删除

image-20230306192718584

导出数据

导出数据集（单发音人）

点击按钮后选择参数，你也可以选择对应预设然后点击应用按钮应用预设，如果你不了解这些值的含义使用默认即可。

注：

归一化：即响度匹配，会按照所输入的值进行音频音量进行自动缩放

目前的导出逻辑中将跳过标注文本中包含英文或数字的数据，不过如果有标注文本为空，仍会进行导出

点击下一步即可进行数据集导出，窗口可能会卡一下，请耐心等待。

image-20230306193433527

image-20230306193407322

导出后的文件可在对应目录找到

image-20230306193521430

语音评测

语音评测功能可以通过商用评测接口为语句打分，以实现快速挑选优质数据的功能。

目前已接入标贝语音评测接口

标贝语音评测
添加授权信息

首先进入软件设置-授权管理页面，点击添加按钮，输入名称等字段，应用类型选择语音评测。

image-20230806115645788

标贝相关字段请进入 标贝开放平台-语音评测页面 开通服务后查看（目前为免费试用期，想白嫖的尽快）

image-20230806120051148

添加完毕后会自动进行校验，期间请关闭代理程序。

进行数据评测

然后进入数据处理页面，点击标贝语音评测，选择相应授权信息后即可开始评测。

image-20230806120245067

image-20230806120318125

根据评测结果导出

返回数据集概览页面，点击导出按钮，在评测相关的部分选择标贝评测，并填入对应分数要求

image-20230806120507462

注意：选择评测的话，未进行评测的数据将不会被导出，同时因为标贝评测只支持中文，所以选择后所有英文数据也都不会被导出。

点击下一步，确认后即可开始导出

image-20230806120653755

image-20230806120927179

另附：不选择评测时的导出结果

image-20230806121007747

开发计划

编译exe版本

通过ASR标注

应用语音评测

应用声纹识别

导出多发音人数据集

快速导出

......

常见问题

  1. 如何获取字幕？

    使用剪映或videoSRT等工具获取SRT字幕文件，可以参考以下链接：

    剪映导出字幕

    video-srt-windows

    videosrt-pro

  2. 自动优化的逻辑？

    优化逻辑是从起位置开始向前截取10ms 检查这10ms和start到start+10两段的响度比较，如果前面的响度小则把start向前挪，直到找到一个响度最小的位置，end也是类似的逻辑，这样能尽量避免音频被截断

    另外剪映生成的字幕有时会讲一句话拆成多句，每句之间相隔33毫秒以内，遇到这种情况程序会将这些字幕合成一句。

  3. 如何升级exe版本

    下载新的压缩包后将其中的exe文件替换到原来的旧版软件相同路径，覆盖原文件即可

  4. 待补充...