NBA九小球直播欢迎您的访问,请选择合适的语言
电话

0576-80687600

地址

浙江省,温岭市,东部新区

飞跃2 CPU+128MB内存成功运转Llama大模型:速度还挺快

来源:NBA九小球直播    发布时间:2025-01-25 05:36:35
国内展会 阅读(16)

  EXO Labs最近发布了一段视频,展现了在一台26年前史的Windows 98飞跃2 PC上运转大模型(LLM)。

  这台主频350MHz电脑成功发动进入Windows 98体系,随后EXO发动了根据Andrej Karpathy的Llama2.c定制的纯C推理引擎,并要求LLM生成关于“Sleepy Joe”的故事,令人惊奇的是生成速度相当可观。

  EXO Labs的这一豪举并非偶尔,该安排自称为“民主化AI”而生,由牛津大学的研究人员和工程师组成,他们都认为,少量大规模的公司操控AI对文明、真理和社会的其他根本方面是晦气的。

  因而,EXO期望树立敞开的根底设施,练习前沿模型,并使任何人在任何地方都能运转它们,这项在Windows 98上的AI演示,展现了即便在资源极端有限的情况下也能完结的工作。

  EXO Labs在文章中详细描述了在Windows 98上运转Llama的进程,他们购买一台旧的Windows 98 PC作为项目根底,但面临了许多应战。

  将数据传输到老设备上便是一个不小的应战,他们不得不运用“旧式的FTP”经过陈旧机器的以太网端口进行文件传输。

  编译现代代码以习惯Windows 98可能是一个更大的应战,EXO找到了Andrej Karpathy的llama2.c,能够总结为“700行纯C代码,能够运转Llama 2架构模型的推理”,Karpathy曾是特斯拉的AI主管,也是OpenAI的开创团队成员。

  使用这个资源和旧的Borland C++ 5.02 IDE和编译器(以及一些细微的调整),代码能够被制作成Windows 98兼容的可执行文件并运转,GitHub上有完结代码的链接。

无论您需要技术支持
或者是合作,或者是工作,都可以:

联系我们

0576-80687600