好了，又到了雷科技的DeepSeek整活时刻。
之前雷科技奏效尝试过在一台莫得独显的札记本电脑上，单纯依靠CPU和内存来腹地部署DeepSeek，最终奏效运行了一个7B参数目的Qwen蒸馏模子。
天然部署的条目很直率，然而7B参数目的AI模子表示也确乎很一般，而且PC自身也可以松驰赢得到更高参数目的AI模子，是以本色意旨并不大。不外，倘若可以把这个AI模子部署得手机上呢？7B的AI模子在责任等方面简略不行给咱们太多的匡助，然而在手机上拿来当随身AI助手的话，论断简略就不一样了。
在此之前，咱们领先要在手机上部署AI。网上有不少关系教程，小雷测试了其中的几种，也算是帮全球提前趟趟雷了。
手机腹地部署DeepSeek，还真行若是你在百度上搜索这个问题，简略会领先看到“天极网”发布的教程，这篇教程是通过一个名为Termux的app，在安卓手机上模拟一个Linux末端，然后部署Ollama，再通过ollama来下载DeepSeek模子并运行。
直率来说，等于将在电脑上部署DeepSeek的有计议，平直移植得手机上，因为是通过末端模拟器来运行，是以本色效力还要打个扣头。至于详备的部署经过，全球可以看一下小雷的几张截图：
图源：雷科技
天然全程齐仅仅需要输入高歌就会自动插阁下一步，然而无数东谈主看到这个满屏代码的画面，计算就会被寡言劝退。而且，在折腾了差未几两个小时后，我也终于阐述了一件事：教程里写的处事器出问题了。
若是按这个教程对环境部署处事器进行打听，其实是找不到原文里提到的清华大学镜像文献源，只剩下几个按大洲和区域区别的处事器可选，为了摒弃收罗身分，我还分别切换了不同的收罗尝试，齐只好八个处事器在线。
图源：雷科技
随后我分别尝试了亚洲和中国主干收罗的两个镜像源，齐在进行到Ubuntu安设的轨范卡死，下载速率相配慢的同期还有可能半途报错，导致整个下载停摆。在折腾几个小时齐无法完成安设后，我采选尝试另一个部署有计议。
这个有计议则是通过部署安设依赖后，平直下载ollama并在腹地运行，比之前的有计议要更毛糙，然而从本色的测试来看，若是你莫得颠倒收罗，可能会无法开启下载，即使开启下载后，仍然有可能卡在软件部署的经过中。
简而言之，若是你想用Tremux竣事最原始的AI大模子部署，那么简略要具备一定debug才气和精真金不怕火的收罗救助，不然就可能像我这么花了几个小时，仍然看着收罗诞妄的指示发愣。
不外好在当今AI宗旨相配红火，是以github上其实有好多开源的腹地AI部署app供全球采选，我此次就测试了三款：ChatterUI、PocketPal和MNN大模子，三款app各有优劣，全球可以凭证需要自行采选。
图源：雷科技
其中，ChatterUI和PocketPal救助平直加载腹地AI模子，并允许通过在线下载的花式而已加载模子到腹地系统，个东谈主提议若是你有电脑的话，最佳平直下载到电脑再复制得手机里，方面凭证需要更换模子，幸免一堆模子堆积在手机内存里，挤占手机空间。
提供AI模子下载的网站并不少，不外大多需要魔法收罗才气打听，是以我提议全球平直去魔塔社区下载即可，这是阿里达摩院运营的AI模子社区，其模子库基本上涵盖了大部分开源的AI模子偏激养殖版块，何况对模子进行详备分类，可以凭证词条进行快速查询。
图源：雷科技
注册并登录后，就可以运行采选你的AI模子，个东谈主提议内存小于12G的一又友采选Qwen 2.5-3B和LLama-3.2-3B两个版块的AI模子，12G及以上的一又友则可以采选DeepSeek-R1-7B的版块。
鄙人载模子并转存得手机后，接下来作念的等于安设app，然后加载模子，经过很直率。先来望望ChatterUI，这个app的本性是救助TTS（语音输出），接洽语音输入可以解锁更多的使用场景和花式。
图源：雷科技
安设好后点击左上角就可以唤出侧边栏，先点击「Formatting」在顶部选项栏里找到你下载的AI模子，比如你下的是DeepSeek那就选DeepSeek-R1。保存后退出再点击侧边栏的「Models」，点击右上角的添加并采选第一条选项，即可掀开手机存储，然后采选刚刚存入的AI模子，稍等片时就可以完成加载，临了点击最右侧的“运行”图标即可部署。
图源：雷科技
接下来只须你点击AI Bot，就可以与你采选的AI模子对话，若是想切换模子，复返Models进行确立即可。此外，ChatterUI也救助对模子的多样推理参数进行详备确立，点击侧边栏的「Sampler」即可，多样参数的对应效力全球可以在网上自行搜索学习，这里小雷就不张开来说了。
再来望望PocketPal，这个app的用起来还要更直率些，仅仅不救助TTS功能，相通是掀开侧边栏的「Models」，右下角可以平直添加腹地AI模子，何况也提供一些小参数的AI模子快速下载通谈，有敬爱敬爱的话可以下载来玩玩。
图源：雷科技
AI模子安设好后，如故点击右下角的运行进行加载，然后就可以平直回到首页进行发问了，右上角可以插足推理确立页面，与ChatterUI差未几。
若是说你认为以上两个app的英文不太看得懂，而且想要更直率易上手，那么我的提议是MNN，这是由阿里拓荒的开源app，整合了多个在手机等袖珍挪动建造上运行效力精真金不怕火的AI模子，涵盖了DeepSeek、Qwen、LLama等通用模子及一些专科模子，可以凭证需要平直点击下载。
图源：雷科技
下载完成后点击即可加载使用，全程傻瓜式操作，然而也有个残障，那等于不行像ChatterUI和PocketPal那样平直改变模子的推理参数，只可通过对话的花式让AI尝试着把回应变得更具创意一些。
以上三个app基本可以狡饰大无数的腹地AI部署需求，非论你是单纯想要个问答助手，如故想要个随身的解闷软件，亦或是想折腾不同的AI模子，望望其腹地部署的效力，齐可以松驰应酬，而且比通过Termux来部署要直率通俗得多。
手机腹地AI：性能不紧迫，隐独到保险AI部署收场，那么就到了雅俗共赏的体验关键，算作对比，我还下载了1.5B版块的DeepSeek-R1，表面上1.5B的版块可以被部署到8G以致6G内存的手机里，可以说是最泛用的。
原本我是对1.5B版块的DeepSeek不抱太大但愿的，然而没猜测这玩意开局就给我来了个「惊喜」。我先是老例的计议AI身份，望望他能否定知我方的AI模子版块，边界AI平直给我来了一套深度分析，从“对问题感到困惑”到“AIBot是谁（等于你我方呀）”，再到“AI Bot和User（我）之间的关系”，临了他给出了一个论断：
是，AI Bot是**东谈主工智能**。它莫得生命，也没特等志，仅仅一个功能模子或轨范，并非东谈主类。当你计议“你是谁”，AI Bot的回应其实是**莫得实体存在的**，它自身并非东谈主往复应的问题。
这种发问花式指示咱们在使用AI技艺时需要严慎，尤其是触及基础宗旨的问答时。
我平直一个问号就想打出去了，好家伙，这是加载了什么参数库？如何上来等于形而上学模式？因为回应过于概括，以至于我反复阐述加载的1.5B而非7B版块。临了通过仔细检察念念考经过，我发现可能是app的接口确立出现了一些问题，导致其与AI大模子之间的交流出现了问题，让AI以为这场对话有三个变装，我正派在算作旁不雅者回应我的问题。
图源：雷科技
直率来说，那时的场景就十分于User（我）指着AI Bot（ChatterUI）问DeepSeek：你（他）是谁，然后DeepSeek对着AI Bot等于一堆分析，临了得出了论断：这等于轨范。只可说，AI这玩意玩深远，依然是处处有惊喜，超越是DeepSeek这种“发散性念念维”的AI，常常能够给出一些让你目下一亮（或者一黑）的回应。
不外在后续的追问下，这个只好1.5B参数目的模子很快就走漏了马脚，运行驴唇不对马嘴，驴唇马嘴，澈底酿成了被玩坏的状况，只可说1.5B的模子确乎痛苦大用。而在切换成7B版块后，AI就松驰给出了正确的回应，然后我又追问了一个直率的问题：告诉我番茄炒蛋的作念法，天然AI先是说无法给出菜谱，然而随后亦然列出了作念法。
不得不说，腹地部署的AI在郑重性等方面确乎存在问题，与在线模式的AI体验有着相配昭彰的区别，而且不同app出现的问题也会各不沟通，比如PocketPal就偶尔会出现念念考到一半无法赓续的问题，后续发现是念念维链长度确立有问题，修改后就普通了。
而且，骁龙8至尊版+16G运存的手机，AI推理和生成速率齐相配可以，仍是完满得志日常问答和使用的需求，这少量亦然让我颇为巧合，事实上这个速率仍是不比一些札记本电脑差。
图源：雷科技
而在后续的一些发问里，7B的DeepSeek亦然对付答上了我的一些发问，比如当遭受一个癫痫症发作的病东谈主时该如何进行急救、介意境受伤莫得东谈主匡助时该如何自救等。基本上我等于设定了一个无法使用收罗的场景，何况我急需一些匡助，在这种情况下离线部署的AI简略等于你临了的助力了。
图源：雷科技
毕竟若是可以联网的话，非阴私问题平直问DeepSeek app或者其他第三方AI，可以得到更好更完善的回应。至于阴私性问题，我的提议是全球若是真有需求，可以去腾讯云等云处事商那边买个API接口，然后通过chatbox在腹地部署一个在线满血版AI客户端。
若是你对我方的阴私保护相配上心，那么找一台有20G以上显存的电脑，或者在华为云等云处事器供应商那边租一个云处事器，用来部署我方的专属AI模子亦然可选项。
回到正题，在手机上部署AI大模子，特等旨吗？我认为是有的。若是说电脑上部署7B版AI是“冠上加冠”，那么在手机上部署就不一样了。天然才气是相似的，然而手机上的离线AI确乎有效，他可以在你无网且需要匡助时，给你提供最基础的提议，有时候简略等于这个小小的提议，就能让你脱困也说不定。
再给全球回归一下三个app的腹地部署效力，若是你追求郑重可用，那么MNN是最佳的采选，在测试中亦然回应质地最郑重的，而ChatterUI和PocketPal天然功能丰富，然而也更容易出BUG，相宜有一定AI基础和编程基础的东谈主使用。
临了，但愿全球齐可以玩得昂扬。
举报/响应