#Mac Studio#Open WebUI#DGX Spark#EVO-X3#RTX4080#dashboard#quality×cost
实验室控制面:Mac Studio · Spark · EVO+4080
在 Mac Studio 上放 Open WebUI + 状态板,对接 Spark 与 EVO+4080。并汇总 Flash-Next 4080 spill quality×cost(1083s vs 5321s)。
AIAI Tech Engine Lab
•独立测试台实测
SPONSORED / ADVERTISEMENT
예약된 광고 영역
一句话。 推理在 Spark / EVO+4080;仪表盘在 Mac Studio(M2 Max)——Open WebUI 聊天,状态板看 health/模型/延迟。公开站点只放架构与最新 4080 赛果,不代理局域网 IP。
布局
| 角色 | 机器 | 地址 |
|---|---|---|
| 控制 · Open WebUI | Mac Studio | http://127.0.0.1:3080(仅局域网) |
| 控制 · Status | Mac Studio | http://127.0.0.1:3090(仅局域网) |
| 推理 · Flash-Next NVFP4 | DGX Spark | 192.168.1.200:30000 · SGLang |
| 推理 · Flash-Next + 4080 spill | EVO-X3 | 192.168.1.50:8080 · Vulkan1+0 -ts 56,8 |
| 公开文章 | Cloudflare Pages | tech.dubuworld.com |
不在 Studio 96GB 上硬塞 Flash-Next(~88G)或 Spark 版 GLM EXL3。Studio 只做驾驶舱。
1 · Open WebUI
cd lab-control
docker compose up -d
# → http://127.0.0.1:3080
两个后端:Spark qwen38-flash-next · EVO Flash-Next ROCmFP4(4080 spill)。
2 · Status board
./lab-control/serve-status.sh
# → http://127.0.0.1:3090
每 15 秒轮询两边 /v1/models,并固化最新 quality×cost 摘要。
3 · Flash-Next + RTX 4080 spill
同一 Playwright render_ok。详情:4080 spill 文。
| Spark | EVO + 4080 | |
|---|---|---|
| wall_sum | 1083s | 5321s |
| stages | 3/3 | 2/3(angry 12 失败) |
| arch3d first pass | 357s | 267s |
| decode | ~37 tok/s | ~21–26 tok/s |
代码:testbench/dgx/lab-control/