Hugging Face Blog·· 2020-09-10AI 评分46
Hugging Face 发布 pytorch_block_sparse:用块稀疏矩阵让语言模型更小更快
Block Sparse Matrices for Smaller and Faster Language Models
AI 导读
Hugging Face 发布 PyTorch 扩展 pytorch_block_sparse,提供 BlockSparseLinear 作为 torch.nn.Linear 的即插即用替代,实现块稀疏线性层的高效训练。
来源:Hugging Face Blog · huggingface.co