TIGER是什么
TIGER（Time-frequency Interleaved Gain Extraction and Reconstruction Network）是清华大学研究团队提出的轻量级语音分离模型，通过时频交叉建模策略，结合频带切分和多尺度注意力机制，显著提升了语音分离的效果，降低了参数量和计算量。 TIGER 的核心在于创新的时频交叉建模模块（FFI），能高效整合时间和频率信息，更好地提取语音特征。模型引入多尺度选择性注意力模块（MSA）和全频/帧注意力模块（F³A），进一步优化了特征提取能力。
TIGER的主要功能
- 高效语音分离：TIGER通过创新的时频交叉建模模块（FFI）和多尺度注意力机制，能高效地分离混合语音中的不同说话者。
- 低计算量与低参数量：模型在压缩94.3%的参数量和95.3%的计算量后，性能仍与当前最先进的模型相当。
- 复杂声学环境适应：TIGER通过EchoSet数据集模拟真实场景中的噪声和混响，提升模型在复杂环境下的鲁棒性。
TIGER的技术原理
- 时频交叉建模策略：TIGER 的核心在于时频交叉建模模块（FFI），通过交替处理时间和频率信息，有效整合时频特征。模块包含频率路径和帧路径，每个路径都包含多尺度选择性注意力模块（MSA）和全频/帧注意力模块（F³A），能融合局部和全局信息，提升语音分离效果。
- 频带切分：语音信号的能量在不同频带上分布不均，中低频带包含更多语音信息，高频带包含更多噪声和细节。TIGER 通过频带切分策略，将频带划分为不同宽度的子带，减少计算量的同时，让模型专注于关键频带。
- 多尺度注意力机制：TIGER 引入了多尺度选择性注意力模块（MSA），通过多尺度卷积层和选择性注意力机制，融合局部和全局信息，增强模型对多尺度特征的提取能力。
- 整体流程：TIGER 的整体流程包括五个部分：
- 编码器：将混合音频信号通过短时傅里叶变换（STFT）转换为时频表示。
- 频带切分模块：将整个频带划分为多个子带，每个子带通过一维卷积转换为统一的特征维度。
- 分离器：由多个时频交叉建模模块（FFI）组成，用于提取每个说话者的声学特征。
- 频带恢复模块：将子带恢复到全频带范围。
- 解码器：通过逆短时傅里叶变换（iSTFT）生成每个说话者的清晰语音信号。
TIGER的项目地址
- 项目官网：https://cslikai.cn/TIGER/
- Github仓库：https://github.com/JusperLee/TIGER
- arXiv技术论文：https://arxiv.org/pdf/2410.01469
TIGER的应用场景
- 会议及演讲记录：在多人发言的会议或演讲场景中，TIGER 可以高效分离不同发言人的语音，提升会议记录的效率和准确性。
- 视频剪辑与制作：在视频内容创作中，TIGER 能精确分离主播与背景音或其他人物的语音，方便后期制作和剪辑。
- 电影音频处理：TIGER 在电影音频分离任务中表现出色，能分离出人声、音乐和音效，提升音频处理的灵活性和质量。
- 智能语音助手：在智能语音助手应用中，TIGER 可以帮助分离用户语音和背景噪声，提升语音交互的体验。