一、本篇背景
之前有同学遇到这个问题:本地部署ollama来跑deepseek,但是从后台看CPU利用率百分百而GPU(即显卡)利用率不足1%,且本地输出的deepseek输出较慢,一段对话一个字一个字蹦,没有完全利用好本地的显卡资源。本篇基于这个情况给出从CPU切换GPU的解决方案,同时对于需要本地使用Deepseek的同学给出Ollama的部署教程。(两篇教程合并到一篇写了)
声明:
1、本站资源针对会员完全免费,站点中所有资源大部分为投稿作者付费教程,切勿轻易添加教程上除本站信息外的任何联系方式,谨防被割,如有疑问请随时联系客服。
2、本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
1、本站资源针对会员完全免费,站点中所有资源大部分为投稿作者付费教程,切勿轻易添加教程上除本站信息外的任何联系方式,谨防被割,如有疑问请随时联系客服。
2、本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。