超越ZIP的无损压缩来了！华盛顿大学让大模型成为无损文本压缩器

华盛顿大学SyFI实验室推出LLMc——一种基于大语言模型的无损文本压缩引擎，已在多种文本数据上实现优于ZIP和LZMA等传统算法的压缩率，且性能媲美闭源方案。该技术利用LLM对词元的高概率预测能力，通过“基于排序的编码”机制，将词元替换为其在预测列表中的排名以减小体积。尽管存在计算开销大、吞吐量低等局限，目前仅适用于自然语言，但其开源特性为后续研究提供了重要基础。
来源：https://mp.weixin.qq.com/s/y7itP4r44wtVqLMv3-iNpg