在我自己折腾了一下午后终于也是成功地在手机上本地部署了DeepSeek。分享教程: 一.首先找到自己的手机型号。我是安卓的系统,iPhone可能兼容不了。设置拉到最底下一般会有,在“关于本机”里。以我自己的为例如p1,我们需要关注的一个是处理器,一个是运行内存。这两个参数直接决定了你的手机能不能带动本地部署的DeepSeek,以及能带动什么性能的d老师。如果是外行的话直接拿着你的处理器和可用运行内存去问d老师能不能用就行了。运行内存要留6GB以上,存储内存留10GB以上。建议一般机型的下载7b,运行空间充裕,处理器性能优越的使用8b。 二.我们要找到资源下载d老师的模型。我个人是在魔搭社区找的,HuggingFace上也有很多。我这里就先讲魔搭社区。 1.在魔搭社区搜索DeepSeek (注意是轻量的而不是1.6TB的,搜DeepSeekQ4就够用了)。这里的话我们要把浏览器切成网页版才能正常下载,浏览器底部一般会有设置,点开设置,设置成电脑版就能下载了。 2.搜索完如p2,四个文件只用下载最后一个Q4版本的就行了。 三.下载好的模型是gguf格式的,我们需要把它转换。 1.首先我们需要一个ADM下载器,这个直接浏览器搜就行,它能很好地帮助我们下载。 2.然后我们需要再下一个AI辅助软件,目前来说主流的有Pocket Pai,Maid,以及我用的ChatterUI。由于前两个软件我在使用的时候都遭遇了不明原因的闪退,我姑且只讲最后一个。 3.首先我们打开GitHub,打开侧边栏检索ChatterUI,界面如p3。然后点进第一个,复制网址,在网址末端添加/releases,跳转到p4界面,然后向下翻找到附件Assets。长按这个带apk后缀的附件,会有弹窗如p5。复制链接网址到ADM下载器里,点页面最下方加号,把复制的网址粘贴进去,开始下载。其他应用如Maid,PocketPai的下载也同理。 四..我们打开下载好的ChatterUI,在顶部导入我们下载好的模型。导入页面如p6。点开设置如p7,性能差手机调整上下文长度为1024或512,线程改到4或6。性能好点手机上下文长度调2048,线程改到6或8。下面几个不用管,别开保存本地cv。 2.然后我们退回主页,打开侧边栏,页面显示如p8,点进采样器,页面显示如p9。把Generate tokens改为上下文分配的一半。这个和你的模型一次能回你几个字有关。至于Temperature不用管它,这和你的ai生成内容风格有关,可以问d老师。最后调好了就是像p10一样的。 3.好了。 编写:Gailex。 特别感谢:D老师。 #DeepSeek #AI #实用教程 #实用教程分享