登陆注册

瘦身

  • 让大模型“瘦身”90%!清华&哈工大提出极限压缩方案:1bit量化,能力同时保留83%

    对大模型进行量化、剪枝等压缩操作,是部署时最常见不过的一环了。不过,这个极限究竟有多大?清华大学和哈工大的一项联合研究给出的答案是:90%。他们提出了大模型1bit极限压缩框架OneBit,首次实现大模型权重压缩超越90%并保留大部分(83%)能力。可以说,玩儿的就是“既要也要”~一起来看看。大模型1bit量化方法来了
    站长网2024-03-10 18:00:25
    0000
  • 大模型“瘦身”进手机 下一个iPhone时刻将至?

    一股“端侧大模型”浪潮正在涌来。华为、高通等芯片巨头正探索将AI大模型植入端侧,让手机实现新一代物种进化。相比ChatGPT、Midjourney等AI应用依赖云端服务器提供服务,端侧大模型主打在本地实现智能化。它的优势在于能够更好地保护隐私,同时让手机能通过学习成为用户的私人智能助手,还不必担心云端服务器宕机等问题。
    站长网2023-08-09 14:25:01
    0000
  • 腾讯“瘦身”,日赚3亿

    过去一年,腾讯继续在艰难中前行。3月22日晚,腾讯控股交出了一份触底反弹的四季度财报和一份略显平淡的2022年度报。2022年四季度,腾讯仍然很赚钱,平均每天净赚3.3亿元。季度收入创下新高,达到1449亿元,增速继过去两个季度负增长以来终于转正,同比增幅0.5%。净利润(非国际财务报告准则下)297.1亿元,同比增19%,在上一年低基数的基础上重回高速增长轨道。
    站长网2023-03-23 16:38:13
    0000