登陆注册

让大模型

  • 让大模型“瘦身”90%!清华&哈工大提出极限压缩方案:1bit量化,能力同时保留83%

    对大模型进行量化、剪枝等压缩操作,是部署时最常见不过的一环了。不过,这个极限究竟有多大?清华大学和哈工大的一项联合研究给出的答案是:90%。他们提出了大模型1bit极限压缩框架OneBit,首次实现大模型权重压缩超越90%并保留大部分(83%)能力。可以说,玩儿的就是“既要也要”~一起来看看。大模型1bit量化方法来了
    站长网2024-03-10 18:00:25
    0000
  • AI助手Moemate:让大模型“阅读” 你电脑屏幕上的内容

    Moemate是一款应用程序,它可以让大型语言模型(包括Anthropic的Claude和GPT-4)“阅读”你电脑屏幕上的内容。Moemate是一款运行在macOS、Windows和Linux设备上的助手,以动漫风格的化身形式呈现,旨在为用户提供并朗读他们所提出的任何问题的最佳答案。体验地址:https://www.moemate.io/
    站长网2023-08-19 15:58:00
    0000