轻松构建LLM技术驱动的应用

Tanuki.py是一个用于构建LLM（LargeLanguageModels）驱动应用的工具库。该库旨在通过自动模型蒸馏，实现应用在使用过程中的成本和延迟的逐渐降低，最多可达到90%的成本降低和80%的延迟降低。