3训练集群细节

【新智元导读】LLM开源从Infra做起!Meta公布了自己训练Llama3的H100集群细节，看来Llama3快来了。每年3月份，照例各家大厂又要开始秀自己最新的产品和研究了。OpenAI刚刚发布了震惊世人的Sora，最新的ChatGPT版本似乎也是箭在弦上。谷歌更是举全公司之力，从去年底就开始放出了包括GeminiUltra，Gemini1.5，Gemma在内，各分支赛道上的惊艳成果。