笔下文学

手机浏览器扫描二维码访问

第514章 用steamdeck安装AI大模型的体验gpt4all（第1页）

看到这个标题，你可能会觉得是噱头。谁不知道

chatgpt

模型有

1750

亿以上的参数，别说是在笔记本电脑上跑，就是使用高性能

gpu

的台式机，也无法带得动啊。老老实实调用

api

不好吗？其实，llm（大语言模型）有非常宽泛的参数量范围。咱们今天介绍的这个模型

gpt4all

只有

70

亿参数，在

llm

里面现在算是妥妥的小巧玲珑。不过看这个名字你也能发现，它确实是野心勃勃，照着

chatgpt

的性能去对标的。gpt4all

基于

meta

的

llama

模型训练。你可能立即觉得不对，你这跟

gpt

有啥关系？为什么要无端蹭热度？且慢，gpt4all

确实和

chatgpt

有关

——

它用来微调的训练数据，正是调用

chatgpt

产生的大量问答内容。我怕你对技术细节不感兴趣，因此只用下面这张图来说明

gpt4all

的训练过程。??gpt4all

其实就是非常典型的蒸馏（distill）模型

直播算命：你爹让你扔下水道了  开局创建杀手组织，我威压诸天  异能太强，大佬被特殊部门收编了  系统沙雕我添堵，一身反骨离大谱  开局就长生，可我咋是奴隶啊  三国：身为反贼，没有金手指  斩神：我道系青年，请个神合理吧  高中三年，无人知道我已觉醒  兽世溺宠：蛇蛇我啊，万龙之母  海贼：从女帝开始，路飞持续崩溃  大反派女魔头，前世居然是男的  被废静心多年，你们才开始后悔？  庶女当家日常  开局逃荒直接掀桌  穿书七十年代，过好自己的日子  北域时空  轮回塔  穿越之异世女领主  等你一直等到老  遗笑苍天