比C语言还快20%!Mojo首个大模型开放下载,性能达Python版250倍专为AI而来的新语言Mojo,推理LLaMA2性能比Python提升250倍!比C语言也要快上20%。上周五才开放下...

贴文 3个月前
1.5K 0

比C语言还快20%!Mojo首个大模型开放下载,性能达Python版250倍

专为AI而来的新语言Mojo,推理LLaMA2性能比Python提升250倍!

比C语言也要快上20%。

上周五才开放下载,Mojo这么快就自证实力了。

要知道,之前官方号称Mojo可以比Python快6.8万倍。

而且作者表示,其实还有进一步提升的空间。

这也展示了通过Mojo进行硬件优化的潜力。

OpenAI创始成员Karpathy已经赶来围观了。

目前,LLaMA.mojo已开放下载~

几行代码即可下载
带来这个版本的老哥是一位前Meta工程师Aydyn Tairov。

他利用Mojo的SIMD(Single Instruction Multiple Data,单指令多数据)和向量化原语,将llama2.py转化为Mojo,性能较Python版本提升了近250倍。

即便在快速运行模式下,Mojo版本也比C语言版本性能提升15-20%网页链接

暂无评论

暂无评论...