高端GPU持续缺货之下，一家要挑战英伟达的芯片初创公司成为行业热议焦点。 8枚芯片跑大模型，就能支持5万亿参数（GPT-4的三倍） 。 这是独角兽企业SambaNova刚刚发布的新型AI芯片SN40L—— 型号中40代表是他们第四代产品，L代表专为大模型（LLM）优化：高达1.5T的内存，支持25.6万个token的序列长度。
CEO Rodrigo Liang表示，当前行业标准做法下运行万亿参数大模型需要数百枚芯片，我们的方法使总拥有成本只有标准方法的1/25。 SambaNova目前估值50亿美元（约365亿人民币），累计完成了6轮总计11亿美元的融资，投资方包括英特尔、软银、三星、GV等。
他们不仅在芯片上要挑战英伟达，业务模式上也说要比英伟达走的更远：直接参与帮助企业训练私有大模型。
|
| |||||||||||||||||||||||||||||||||||||
点击朱笔，直抒胸臆