比C语言还快20%!Mojo首个大模型开放下载,性能达Python版250倍专为AI而来的新语言Mojo,推理LLaMA2性能比Python提升250倍!比C语言也要快上20%。上周五才开放下...
比C语言还快20%!Mojo首个大模型开放下载,性能达Python版250倍
专为AI而来的新语言Mojo,推理LLaMA2性能比Python提升250倍!
比C语言也要快上20%。
上周五才开放下载,Mojo这么快就自证实力了。
要知道,之前官方号称Mojo可以比Python快6.8万倍。
而且作者表示,其实还有进一步提升的空间。
这也展示了通过Mojo进行硬件优化的潜力。
OpenAI创始成员Karpathy已经赶来围观了。
目前,LLaMA.mojo已开放下载~
几行代码即可下载
带来这个版本的老哥是一位前Meta工程师Aydyn Tairov。
他利用Mojo的SIMD(Single Instruction Multiple Data,单指令多数据)和向量化原语,将llama2.py转化为Mojo,性能较Python版本提升了近250倍。
即便在快速运行模式下,Mojo版本也比C语言版本性能提升15-20%网页链接
版权声明: 发表于 2023-09-13 8:12:54。
转载请注明:比C语言还快20%!Mojo首个大模型开放下载,性能达Python版250倍专为AI而来的新语言Mojo,推理LLaMA2性能比Python提升250倍!比C语言也要快上20%。上周五才开放下... | AI 時.空 | AiTime.Space
转载请注明:比C语言还快20%!Mojo首个大模型开放下载,性能达Python版250倍专为AI而来的新语言Mojo,推理LLaMA2性能比Python提升250倍!比C语言也要快上20%。上周五才开放下... | AI 時.空 | AiTime.Space
暂无评论...