Windows本地AI开发环境：WSL2+Ollama+Codex一站式搭建指南

1. 项目概述这不是装个软件而是重建一套本地AI开发工作流“10分钟搭建 Windows WSL Codex环境”——这个标题在开发者社区里刷屏不是没道理的。它精准戳中了当前大量Windows用户的真实痛点想用上类Codex这里特指开源可本地部署的代码大模型推理前端如基于OllamaCodeLlama/Codex风格UI的轻量级桌面客户端非已下线的GitHub Copilot旧版Codex服务的智能编程体验又不想放弃熟悉的Windows生态既不愿折腾双系统也受不了虚拟机的卡顿和资源开销更关键的是很多人试过几次WSL安装就卡在“an error occurred while running a wsl command. please check your wsl configuration and try again.”这行报错上最后只能放弃。我从2021年WSL2稳定版普及起就在一线带团队做Windows端AI开发环境标准化经手过超300台研发笔记本的环境部署。实测下来“10分钟”不是营销话术而是指从干净的Windows 11 22H2/23H2系统开始到能在VS Code里敲出第一行/explain指令并获得响应的完整闭环时间。核心在于绕开所有官方文档里没明说但实际高频踩坑的环节比如WSL默认安装会把Ubuntu镜像拉到C盘导致后续磁盘爆满、Docker Desktop与WSL集成时的NAT代理冲突、Codex类客户端对WSL内核版本的隐式依赖、中文界面设置不生效背后是locale生成顺序问题……这些细节官方教程一个字都不会提但它们才是决定你花10分钟还是10小时的关键。这个环境真正解决的不是“能不能跑”而是“能不能稳、能不能快、能不能顺”。它让你在Windows资源管理器里双击打开一个.py文件右键选择“在WSL中打开”终端自动加载Ollama服务VS Code插件实时调用本地7B参数模型完成代码补全——整个过程没有弹窗、没有手动切换终端、没有反复重启服务。适合三类人刚转岗做AI工程的新手开发者告别云IDE延迟、需要离线调试模型的算法工程师尤其涉密或数据敏感场景、以及IT运维同事给研发团队批量部署标准化开发机。接下来我会把这10分钟拆解成可复现、可验证、可批量化的每一步连PowerShell命令里的空格数都给你标清楚。2. 整体设计思路为什么必须用WSL2而非WSL1或Docker Desktop原生2.1 WSL2是唯一能兼顾性能、兼容性与Windows集成的方案很多人看到“WSL”第一反应是“不就是Linux子系统吗WSL1不更轻量”——这是最大的认知偏差。WSL1本质是系统调用翻译层它把Linux syscall转译成Windows NT API执行。好处是启动快、内存占用低坏处是根本无法运行现代AI推理栈的核心组件。比如Ollama底层依赖的/dev/dri/renderD128设备节点用于GPU加速、CUDA驱动的nvidia-smi调用、甚至systemd服务管理器很多模型服务需要后台常驻WSL1全部不支持。我拿一台i7-11800HRTX3060的笔记本实测WSL1下运行ollama run codellama:7b直接报Error: could not create GPU device而WSL2下同一配置启用GPU支持后吞吐量提升4.2倍。WSL2则完全不同。它是在Hyper-V轻量级虚拟机中运行真实Linux内核5.10.102.1通过9P协议与Windows主机共享文件系统。这意味着GPU直通可行NVIDIA官方已为WSL2提供CUDA Toolkit支持无需额外驱动Docker原生兼容Docker Desktop默认将引擎指向WSL2发行版省去Docker Machine配置网络无缝互通localhost:3000在Windows浏览器访问等同于访问WSL2中127.0.0.1:3000无需端口转发文件系统双向实时同步修改\\wsl$\Ubuntu\home\user\project\main.pyWindows端VS Code立刻感知变更。提示别被“WSL2比WSL1慢”的旧说法误导。2023年后微软已优化9P协议实测在SSD上读写小文件1MB延迟仅比原生Linux高8%而大文件IO反而因Windows缓存机制更快。真正影响速度的是你选的发行版——Ubuntu 22.04 LTS比Debian 12启动快3.7秒因为前者预编译了更多内核模块。2.2 为什么放弃Docker Desktop原生Windows版搜索热词里高频出现docker desktop - wsl not installed和exit status 0xffffffff这暴露了Docker Desktop for Windows的致命缺陷它强行在Windows上模拟Linux内核行为导致CUDA支持形同虚设即使安装了NVIDIA Container Toolkit容器内nvidia-smi仍显示“No devices found”GPU内存分配失败运行--gpus all时抛出failed to start shim: fork/exec /usr/bin/containerd-shim-runc-v2WSL2集成开关反向依赖Docker Desktop要求先装WSL2但它的WSL2安装脚本又会覆盖你已配置好的.wslconfig引发后续an error occurred while running a wsl command报错。我让团队对比测试过同样运行ollama run deepseek-coder:6.7bDocker Desktop原生版平均响应时间42秒CPU模式而WSL2Ollama原生版仅需11秒GPU模式。差的那31秒全是Docker Desktop在Windows内核和Linux容器间反复翻译syscall消耗的。2.3 Codex类客户端必须走WSL2的三个硬性理由当前主流的Codex风格本地客户端如OpenWebUI、Docker Compose部署的Ollama WebUI、或Electron封装的Codex Desktop之所以必须依托WSL2根源在三个技术约束模型权重文件体积过大CodeLlama-34B单文件超20GBWindows NTFS对大于4GB的单文件写入有锁竞争而WSL2的ext4文件系统无此限制HTTP服务端口冲突Windows系统进程常占用8080/3000端口IIS、Skype等WSL2的独立网络栈彻底规避此问题中文locale支持深度绑定Codex UI的zh-CN语言包需完整glibclocale数据Windows Subsystem for Linux的locale生成机制与原生Linux一致而Docker Desktop的Windows版locale始终是C.UTF-8导致codex设置中文不生效成为顽疾。所以最终架构图非常清晰Windows 11作为宿主系统 → WSL2 Ubuntu 22.04作为AI运行时底座 → Ollama作为模型服务中枢 → Codex WebUI作为前端交互层。整条链路没有一层是冗余的每一环都解决一个具体痛点。3. 核心细节解析绕开90%人卡住的5个关键陷阱3.1 WSL安装阶段wsl --install太慢根本原因是镜像源没切官方wsl --install命令默认从Microsoft CDN下载Ubuntu镜像国内用户实测平均速度120KB/s2GB镜像要下载近5小时。但没人告诉你WSL镜像本质就是tar.gz压缩包完全可以手动替换。正确操作分三步提前下载离线镜像访问https://cloud-images.ubuntu.com/releases/22.04/release/下载ubuntu-22.04-server-cloudimg-amd64-wsl.rootfs.tar.gz注意是wsl.rootfs后缀非普通server版关闭Windows功能再重装以管理员身份运行PowerShell执行dism.exe /online /disable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /disable-feature /featurename:VirtualMachinePlatform /all /norestart shutdown /r /t 0重启后手动导入再次进入PowerShell管理员执行# 启用WSL2内核 dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart # 下载并安装WSL2内核更新包避免there was a problem with wsl Invoke-WebRequest -Uri https://wslstorestorage.blob.core.windows.net/wslblob/wsl_update_x64.msi -OutFile $env:USERPROFILE\Downloads\wsl_update.msi Start-Process msiexec.exe -ArgumentList /i, $env:USERPROFILE\Downloads\wsl_update.msi, /quiet -Wait # 手动导入Ubuntu镜像指定安装路径到D盘避免C盘爆满 mkdir D:\WSL wsl --import Ubuntu-22.04 D:\WSL\Ubuntu-22.04 $env:USERPROFILE\Downloads\ubuntu-22.04-server-cloudimg-amd64-wsl.rootfs.tar.gz --version 2注意wsl --import命令末尾的--version 2不能省略否则默认创建WSL1实例。我见过太多人漏掉这行装完发现ollama根本起不来又得重装。3.2 磁盘空间陷阱为什么WSL默认装C盘是自杀行为WSL2虚拟硬盘VHDX默认动态扩容但上限是256GB。表面看够用实则暗藏杀机Ollama模型缓存目录~/.ollama/models会随使用不断膨胀。以CodeLlama-7b为例解压后占12GBDeepSeek-Coder-33B解压后达38GB若同时存3个模型光模型就超100GB。而Windows C盘通常只有128GB SSD系统预留页面文件休眠文件已占60GB剩余空间根本撑不住。解决方案是强制WSL2使用D盘存储并设置合理上限创建%USERPROFILE%\wslconfig文件内容为[wsl2] kernelC:\\temp\\wsl2kernel memory4GB processors4 localhostForwardingtrue # 关键禁用自动磁盘扩展防止失控增长 swap0 pageReportingfalse # 指定D盘为默认存储位置 defaultUseruser在D盘创建专用目录mkdir D:\WSL\Ubuntu-22.04导入镜像时明确指定路径见3.1节命令进入WSL后执行# 修改WSL2 VHDX最大尺寸为128GB防爆盘 echo echo max disk size 128GB /etc/wsl.conf sudo tee -a /etc/wsl.conf EOF [automount] enabled true options metadata,uid1000,gid1000,umask022,fmask11 mountFsTab false [wsl2] kernelCommandLine systemd.unified_cgroup_hierarchy1 EOF实测数据同样运行ollama run codellama:13bC盘安装的WSL2在第3次调用后触发磁盘告警而D盘方案稳定运行超200小时无异常。3.3 中文环境失效locale生成顺序错误是元凶搜索热词里codex设置中文不生效出现频次极高根源在于WSL2的locale生成机制与传统Linux不同。WSL2启动时会读取/etc/wsl.conf但若该文件不存在则回退到Windows注册表中的Computer\HKEY_CURRENT_USER\Control Panel\International设置而Windows的locale是zh-CNLinux标准是zh_CN.UTF-8二者不匹配导致Codex前端无法加载中文语言包。修复只需两行命令# 生成完整中文locale注意必须用en_US.UTF-8模板否则中文字符乱码 sudo locale-gen zh_CN.UTF-8 # 设置系统默认locale echo LANGzh_CN.UTF-8 | sudo tee -a /etc/default/locale echo LC_ALLzh_CN.UTF-8 | sudo tee -a /etc/default/locale # 重启WSL使配置生效 wsl --shutdown实操心得别用dpkg-reconfigure locales交互式配置WSL2无TTY终端该命令会卡死。必须用locale-gen命令行方式。另外zh_CN.UTF-8中的下划线_不能写成短横-这是Linux locale命名规范写错会导致locale: Cannot set LC_CTYPE to default locale: No such file or directory报错。3.4 WSL网络代理冲突检测到 localhost 代理配置但未镜像到 wsl的真相当你的Windows设置了Clash for Windows或Proxifier等代理工具WSL2会自动继承http_proxy环境变量但NAT模式下WSL2的localhost指向自身而非Windows主机导致Ollama服务无法连接外部模型仓库如ollama pull codellama:7b超时。错误提示wsl: 检测到 localhost 代理配置,但未镜像到 wsl。nat 模式下的 wsl 不支持 local正是此问题。根治方案是在WSL2内显式禁用代理仅对特定域名放行# 编辑WSL2的bashrc echo export no_proxylocalhost,127.0.0.1,host.docker.internal | tee -a ~/.bashrc echo unset http_proxy https_proxy HTTP_PROXY HTTPS_PROXY | tee -a ~/.bashrc # 重新加载配置 source ~/.bashrc # 验证代理已清除 env | grep -i proxy # 应无任何输出如果必须通过代理拉取模型如公司内网则改用curl手动下载后导入# 以codellama:7b为例 curl -x http://127.0.0.1:7890 -L https://github.com/ollama/ollama/releases/download/v0.1.39/ollama-linux-amd64 -o /tmp/ollama sudo install /tmp/ollama /usr/bin/ollama3.5 Codex客户端选择网页版、桌面版、CLI的适用场景当前Codex生态存在三种形态新手常混淆其定位Codex网页版如OpenWebUI部署在WSL2中通过Windows浏览器访问http://localhost:3000。优势是免安装、支持多设备同步劣势是每次启动需手动cd ~/open-webui npm run dev且离线时无法使用Codex桌面版Electron打包如codex-desktop-win-x64.zip解压即用。优势是图标化、任务栏固定劣势是更新需手动下载新包且部分版本对WSL2路径识别错误如把\\wsl$\Ubuntu\home\user识别为C:\wsl$\Ubuntu\home\userCodex CLI命令行工具如codex-cli通过codex chat 解释这段Python代码调用。优势是可集成进VS Code任务支持管道操作劣势是无GUI调试复杂对话流困难。我的推荐组合是网页版为主力CLI为辅助桌面版弃用。原因很现实——网页版OpenWebUI已支持model context window自动分块解决ran out of room in the models context window问题而桌面版至今未修复context window溢出崩溃Bug。CLI则用于自动化场景比如在Git commit hook中自动检查代码规范。4. 实操全流程从零开始的10分钟倒计时4.1 准备工作确认Windows版本与硬件要求2分钟在开始前请严格核对以下三项缺一不可Windows版本必须为Windows 11 22H2或更高版本23H2优先。验证方法WinR输入winver查看版本号。Windows 10用户请立即停止——WSL2 GPU支持仅限Win11 22H2硬件虚拟化BIOS中必须开启Intel VT-x或AMD-V且Windows功能中Windows Hypervisor Platform已启用。验证命令# 在PowerShell中执行返回True才可继续 systeminfo | find Hyper-V Requirements磁盘空间D盘剩余空间≥150GB模型缓存日志。若不足请先清理D盘或更换目标盘符后续步骤中所有D:\WSL路径需同步修改。注意别信网上“Win10开启WSL2 GPU”的教程。那是2022年的过期方案微软已在2023年Q3正式废弃Win10的WSL2 GPU支持。我亲自测试过12台Win10机器最高只到CUDA 11.2而Ollama 0.1.39要求CUDA 11.8。4.2 WSL2安装与初始化3分钟按顺序执行以下命令复制粘贴即可已过滤所有空格和换行错误# 步骤1以管理员身份打开PowerShell关键 # 步骤2执行以下全部命令一行一行复制每行回车 dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart # 步骤3重启电脑必须 shutdown /r /t 0重启后再次以管理员身份打开PowerShell执行# 下载WSL2内核更新解决there was a problem with wsl Invoke-WebRequest -Uri https://wslstorestorage.blob.core.windows.net/wslblob/wsl_update_x64.msi -OutFile $env:USERPROFILE\Downloads\wsl_update.msi Start-Process msiexec.exe -ArgumentList /i, $env:USERPROFILE\Downloads\wsl_update.msi, /quiet -Wait # 创建WSL2配置文件解决C盘爆满 echo [wsl2] | Out-File -FilePath $env:USERPROFILE\wslconfig -Encoding utf8 echo memory4GB | Out-File -FilePath $env:USERPROFILE\wslconfig -Encoding utf8 -Append echo processors4 | Out-File -FilePath $env:USERPROFILE\wslconfig -Encoding utf8 -Append echo localhostForwardingtrue | Out-File -FilePath $env:USERPROFILE\wslconfig -Encoding utf8 -Append # 手动导入Ubuntu镜像此处用国内镜像加速 mkdir D:\WSL Invoke-WebRequest -Uri https://mirrors.tuna.tsinghua.edu.cn/ubuntu-cloud-images/releases/22.04/release/ubuntu-22.04-server-cloudimg-amd64-wsl.rootfs.tar.gz -OutFile $env:USERPROFILE\Downloads\ubuntu-22.04.tar.gz wsl --import Ubuntu-22.04 D:\WSL\Ubuntu-22.04 $env:USERPROFILE\Downloads\ubuntu-22.04.tar.gz --version 2 # 设为默认发行版 wsl --set-default Ubuntu-22.04 # 启动并设置用户名首次启动会卡住几秒请耐心 wsl -d Ubuntu-22.04此时屏幕会显示Installing, this may take a few minutes...等待约90秒后出现userDESKTOP-XXXXXX:~$即成功。输入exit退出。4.3 WSL2环境配置与Ollama部署3分钟在PowerShell中执行# 启动WSL2并自动执行配置脚本 wsl -d Ubuntu-22.04 -u root -e bash -c # 更新系统源为清华镜像解决apt慢 sed -i s/archive.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/g /etc/apt/sources.list sed -i s/security.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/g /etc/apt/sources.list apt update apt upgrade -y # 安装基础依赖 apt install -y curl wget git vim net-tools # 安装Ollama官方一键脚本 curl -fsSL https://ollama.com/install.sh | sh # 生成中文locale解决中文不生效 locale-gen zh_CN.UTF-8 echo LANG\zh_CN.UTF-8\ /etc/default/locale echo LC_ALL\zh_CN.UTF-8\ /etc/default/locale # 设置Ollama开机自启 systemctl enable ollama # 重启WSL2使所有配置生效 exit wsl --shutdown重启后再次执行wsl -d Ubuntu-22.04 -u user -e bash -c # 验证Ollama状态 ollama list # 若为空拉取首个模型用清华源加速 OLLAMA_HOST0.0.0.0:11434 ollama pull codellama:7b # 查看模型是否加载成功 ollama list 正常应看到NAME ID SIZE MODIFIED codellama:7b 4a5b6c7d8e9f 3.8 GB 2 minutes ago4.4 Codex WebUI部署与Windows端集成2分钟在PowerShell中执行wsl -d Ubuntu-22.04 -u user -e bash -c # 安装OpenWebUI轻量级Codex前端 curl -fsSL https://raw.githubusercontent.com/open-webui/open-webui/main/scripts/install.sh | bash # 修改OpenWebUI配置绑定到所有IP供Windows访问 sed -i s/0.0.0.0:8080/0.0.0.0:3000/g /opt/open-webui/docker-compose.yml # 启动服务 cd /opt/open-webui docker compose up -d # 验证服务状态 docker ps | grep open-webui 等待10秒后在Windows浏览器中打开http://localhost:3000。首次访问会跳转到设置页按提示Model选择codellama:7bLanguage下拉选择简体中文Save Reload。此时页面顶部应显示欢迎使用 OpenWebUI且右下角模型状态为Running。至此核心环境已就绪。4.5 VS Code深度集成实现“所见即所得”编码1分钟在Windows端安装VS Code官网下载然后安装扩展Remote - WSL、Ollama由tjdevries开发按CtrlShiftP输入WSL: New Window using Distro选择Ubuntu-22.04新窗口中按CtrlShiftP输入Ollama: Select Model选择codellama:7b创建test.py文件输入def fibonacci(n): # 请用中文解释这段代码选中# 请用中文解释这段代码按CtrlShiftI等待3秒即得中文解释。实操心得VS Code的Ollama扩展默认调用http://localhost:11434但WSL2中Ollama监听的是0.0.0.0:11434。若提示Connection refused请在WSL2中执行ollama serve 手动启动服务再重试。5. 常见问题与排查技巧实录那些官方文档绝不会写的真相5.1 “an error occurred while running a wsl command” 错误的7种根因与对应解法这个报错是WSL2用户的头号噩梦但90%的情况都源于以下7个具体原因。我按发生概率排序并给出精准诊断命令排查序号根本原因快速诊断命令解决方案1WSL2内核未更新最常见wsl -l -v查看VERSION列若为1则失败执行wsl --update或手动安装wsl_update_x64.msi2Windows Hypervisor Platform未启用systeminfo | find Hyper-V Requirements返回No在“启用或关闭Windows功能”中勾选Windows Hypervisor Platform重启3BIOS虚拟化被禁用coreinfo -vSysinternals工具显示HV为*进入BIOS开启Intel VT-x或AMD-V4WSL2 VHDX文件损坏wsl --shutdown后wsl -d Ubuntu-22.04仍报错删除D:\WSL\Ubuntu-22.04\ext4.vhdx重新wsl --import5Windows Defender实时防护拦截事件查看器→Windows日志→安全筛选ID 5059临时关闭Defender或添加D:\WSL为排除目录6磁盘空间不足C盘5GBdf -h在WSL2中执行看/使用率清理C盘或wsl --unregister Ubuntu-22.04后重装到D盘7Windows更新冲突KB5034441等wmic qfe list | findstr KB503卸载问题更新或升级到KB5037771注意别用wsl --unregister删除发行版后直接wsl --install重装这会恢复默认C盘路径。必须用wsl --import指定D盘路径否则一周后又爆盘。5.2 “codex设置中文不生效”的终极排查树当OpenWebUI界面仍是英文按以下顺序逐项验证每步耗时30秒检查WSL2 locale在WSL2中执行locale确认LANG和LC_ALL均为zh_CN.UTF-8。若不是执行sudo locale-gen zh_CN.UTF-8并重启WSL检查OpenWebUI容器环境变量执行docker exec -it open-webui-web-1 env \| grep -i lang若输出为空则编辑/opt/open-webui/docker-compose.yml在environment下添加environment: - LANGzh_CN.UTF-8 - LC_ALLzh_CN.UTF-8检查浏览器缓存Chrome中按CtrlShiftR强制刷新或访问http://localhost:3000/?clear_cache1检查模型是否支持中文在OpenWebUI中点击Settings→Model确认当前模型名称含zh或chinese字样。codellama:7b原生支持中文但llama2:7b不支持检查OpenWebUI版本执行docker images \| grep openwebui若版本低于v0.3.10则升级cd /opt/open-webui git pull docker compose down docker compose up -d。我统计过团队故障工单83%的“中文不生效”问题卡在第1步12%卡在第2步剩下5%是浏览器缓存。根本不用重装环境。5.3 “wsl --install 太慢”的替代方案与实测速度对比官方wsl --install的CDN地址https://wsldownload.azureedge.net在国内实测北京联通峰值180KB/s2GB镜像需3.2小时广州电信峰值85KB/s需6.8小时上海移动峰值210KB/s需2.8小时。而采用清华镜像手动导入方案下载ubuntu-22.04-server-cloudimg-amd64-wsl.rootfs.tar.gz1.8GB北京联通实测12MB/s耗时2.5分钟wsl --import导入i7-11800H实测1.3分钟总耗时3.8分钟提速57倍。操作命令已固化为一键脚本放在GitHub Gist链接略复制粘贴即可执行。5.4 “Ollama ran out of room in the models context window” 的3种应对策略当模型返回此错误说明当前对话token数超过模型上下文长度CodeLlama-7b为4K tokens。不要急着换更大模型先尝试自动分块处理推荐在OpenWebUI中点击右上角⚙️ Settings→Advanced→开启Auto-split long messages。它会将超长代码自动切分为≤3500 tokens的块依次提交手动精简输入删除代码中的注释、空行、日志打印语句。实测pandas.read_csv()函数文档从2800 tokens精简至1900 tokens调整temperature参数在OpenWebUI中Settings→Model Parameters→将Temperature从0.8降至0.3降低模型“发散”倾向减少无效token消耗。实操心得别迷信“越大越好”。CodeLlama-34B虽上下文达16K但单次响应需42秒而7b模型仅11秒。对日常编码辅助7b自动分块的组合效率更高。5.5 “Docker Desktop - wsl not installed” 报错的绕过指南当你看到此报错说明Docker Desktop检测到WSL2未就绪但你其实已手动安装。根本原因是Docker Desktop的检测逻辑过于僵化——它只认wsl --list --verbose输出中包含Ubuntu-22.04且状态为Running的发行版。修复只需两步在PowerShell中执行wsl -d Ubuntu-22.04 -u root -e bash -c systemctl enable docker wsl --shutdown重启Docker Desktop它会自动识别已存在的WSL2发行版。若仍失败直接卸载Docker Desktop改用podmanRed Hat开源容器引擎wsl -d Ubuntu-22.04 -u user -e bash -c curl -fsSL https://raw.githubusercontent.com/containers/podman/main/contrib/installation.md | bash podman machine init podman machine start Podman完全兼容Docker CLI且无需Windows服务彻底规避exit status 0xffffffff。6. 进阶技巧与生产环境加固6.1 模型离线部署构建企业级私有Codex知识库当你的代码涉及商业机密或网络环境完全隔离如金融、军工内网必须实现模型离线运行。核心是将Ollama模型导出为可移植包在WSL2中执行# 导出codellama:7b为tar包 ollama save -f codellama-7b.tar codellama:7b # 将tar包复制到Windows cp codellama-7b.tar /mnt/d/在目标离线机器上# 将tar包复制到WSL2 wsl -d Ubuntu-22.04 -u user -e bash -c cp /mnt/d/codellama-7b.tar ~/ ollama load -f codellama-7b.tar 注意ollama save生成的tar包包含模型权重、配置、许可证但不含modelfile构建指令。若需定制模型如注入公司代码规范请先在联网环境用ollama create my-codex -f Modelfile构建再save。6.2 GPU加速实测RTX3060 vs RTX4090的吞吐量对比启用GPU后Ollama会自动调用CUDA。验证是否生效wsl -d Ubuntu-22.04 -u user -e bash -c nvidia-smi -L # 应显示GPU型号 ollama run codellama:7b 11 # 首次运行会加载CUDA耗时较长 time ollama run codellama:7b print(\hello\) # 记录real时间 实测数据相同prompt10次平均 | GPU