本地部署DeepSeek大模型的基本方法(含Windows On ARM平台)

发布时间:2026/9/13 19:18:46
本地部署DeepSeek大模型的基本方法(含Windows On ARM平台)
在Windows中按照下载对应的框架点击这里Ollama【Windows x86的平台】正常安装Ollama程序然后点击下图中的内容然后随便在文本框里面输入一句话则程序会自动下载DeepSeek的模型下载完成后输入如下指令让外部的设备也能访问改机器记得要重启哦##在Window环境中输入如下两个指令就可以直接ollama访问方式对外了 setx OLLAMA_HOST 0.0.0.0 setx OLLAMA_ORIGINS * setx OLLAMA_KEEP_ALIVE -1【Windows On Arm的方法】直接到GitHub上面去下载命令行的版本点击Ollama for Windows Arm下载好后运行如下的代码进行跑后台服务程序及测试的客户端echo off setlocal :: encode for UTF 8 chcp 65001 set SCRIPT_DIR%~dp0 set OLLAMA_HOSTS0.0.0.0 set OLLAMA_ORIGINS* set OLLAMA_KEEP_ALIVE-1 set OLLAMA_CONTEXT_LENGTH256k set OLLAMA_MODELS%SCRIPT_DIR%models if not exist %OLLAMA_MODELS% mkdir %OLLAMA_MODELS% cd %SCRIPT_DIR% echo Start Ollama Server... start ollama server cmd /k chcp 65001 .\ollama.exe serve timeout /t 3 /nobreak :: list models echo list models for /f skip1 tokens1 %%a in (.\ollama.exe list) do echo %%a echo. :: run models you want set /p MODEL_NAMEex: qwen3-coder:30b: if %MODEL_NAME% set MODEL_NAMEqwen3-coder:30b echo Run Ollama Client cmd and run %MODEL_NAME% model... start ollama client cmd /k chcp 65001 set OLLAMA_MODELS%OLLAMA_MODELS% .\ollama.exe run %MODEL_NAME% echo Ollama is done. endlocal pause客户端访问方法或者可以直接接入智能体http://10.100.183.50:11434/v1在微软的edge浏览器的地址栏中输入如下的插件下载地址Page Assist - A Web UI for Local AI Models - Microsoft Edge AddonsMake Microsoft Edge your own with extensions that help you personalize the browser and be more productive.https://microsoftedge.microsoft.com/addons/detail/page-assist-a-web-ui-fo/ogkogooadflifpmmidmhjedogicnhooa?hlzh-CN安装完成后就可以在打开的插件中使用了记得要换对应架设服务器的对应的IP地址如果是本地的访问就可以直接用该插件自己带的地址就可以了例如我架设的远程服务器地址http://10.100.183.50:11434/上面的表示ollama的服务已经在运行了左上角选择对应的deepseek的模型就可以了