登陆注册

MLC

  • MLC 项目使得 AMD GPU 在 LLM 推理方面具有竞争力

    站长之家(ChinaZ.com)8月11日消息:AMDGPU通过MLC(Machinelearningcompilation)项目在编译和部署大模型方面取得了进展,实现了与英伟达GPU相当的性能。MLC-LLM方案在AMDRX7900XTX上的性能达到了英伟达GeForceRTX4090的80%,而价格只有RTX4090的60%。
    站长网2023-08-11 17:43:13
    0000
  • MLC Chat app上架App Store 让手机原生跑大模型

    近日,CMU助理教授陈天奇在社交平台上公布了一个好消息:MLCChatapp已经在苹果的AppStore上线了。据报道,MLCChat使用MLC-LLM作为基础,该模型由陈天奇和其他多名研究人员共同开发。该模型的最大特点是允许用户在任何设备上编译和运行大型语言模型,包括移动设备、电脑和网页端。
    站长网2023-06-05 21:07:03
    0000