1. 准备内容

1.1 ollama

简单来说就是一个让你能在本地运行 AI 模型的工具。

页面大概就是这样，点击下载或者用命令下载都行。

要用到一个网站，不算特别准确，但是也大差不差了：

会自动识别你的显卡和系统配置，然后给出检测结果。

我就直接用 e4b 了。

根据你的电脑性能选一个带 gguf 的，这样才能在 ollama 里部署。

我选了这个，显卡实在是太烂，各位按需选择即可。

点击使用此模型，选择 ollama，就能看见安装命令了。

不过你先别急，还有一步要准备。

没错，需要用到 git，如果你已经安装过，那就跳过。

依旧是 Windows 链接，不过其他系统也都支持。

根据你的系统版本选个合适的就行。

到了这里，所有前期准备都已经完成。

打开 git bash，输入 1.3 那里复制的安装代码，粘贴到 git 里面回车运行，等待下载完成。

然后就没了，就已经部署结束了，你可以在对话框里直接问问题了。

觉得命令行不好看也可以安装一个浏览器插件，叫 page assist。

这样就可以在浏览器里进行调用了。

以防万一，我就不问什么敏感问题了。

没了，就这样。