DeepInfer Studio GitHub
WEB PREVIEW 0.1 为好奇心,打开入口

没有昂贵算力,
也能上手推理。

你的第一台「虚拟推理实验室」。
从配置到生成,从观察到理解,在浏览器里走完一次推理。

开始模拟体验

无需 GPU · 无需安装 · 无需 API Key

PLAYGROUND / 01

让推理,变得看得见。

我的推理实验室 教学模拟 · 非实测
DEEPINFER LEARNING SCENARIO

我的第一次推理

准备就绪
01
模型加载准备权重与资源
02
Prefill处理输入上下文
03
Decode逐步生成 token
示意总吞吐 —tokens / s · 教学模型
示意单请求延迟—ms / token · 非实测
虚拟显存占用—GiB / 96 GiB 预算

每一段时间,都看得见

运行后展示 · 教学示意
Prefill 总计—
Decode 总计—
其中:通信—
示意总耗时—
示意计算与通信分段耗时
阶段 / Part耗时占比虚拟时间区间
运行一次,查看 Prefill、Decode 与通信的分段耗时。

固定 128 个虚拟输出 token;通信已包含在阶段总计内,请勿重复相加。此处采用串行示意,不含加载与排队;真实计算和通信可能重叠,不代表实测或屏幕播放用时。

示意吞吐曲线运行后展示变化
一次实验,从点击「运行模拟」开始
实验开始模拟进程 →
实验终端SIMULATED OUTPUT

studio 实验环境已准备好。选择一个场景开始探索。

notice 所有指标为教学示意,不代表 DeepInfer 的实测表现。

样例任务 · 请用一句话解释推理

等待运行。这里会回放预设示例文本,不会调用大模型。

所有计算在本地浏览器内完成

一套界面,两种旅程。现在学习模拟流程,未来连接你自己的算力。

LEARN BY DOING / 02

把复杂的第一步,变简单。

不必先拥有服务器。
先理解它是如何工作的。

01 / CONFIGURE

调一调,理解配置

从批大小与输入长度入手,认识资源预算如何影响一次推理实验。

02 / OBSERVE

跑一次,看见过程

沿着加载、Prefill、Decode 的顺序,观察日志与示意指标的变化。

03 / UNDERSTAND

错一次,学会排查

在安全的模拟环境里遇到显存不足,理解原因,再亲手修复。

WHAT'S NEXT / 03

从好奇开始,走向真实。

现在可用

网页版 · 模拟体验

场景探索、参数实验、故障练习,以及可导出的模拟报告。

立即体验 ↗
下一阶段

真实接入

计划连接兼容的 Linux 服务器,执行真实任务、回收日志与结果。

后续计划

桌面版

复用网页版体验,加入连接管理和更完整的本地工作流。

关注开源进展 ↗
BUILT IN THE OPEN

让更多人,走进推理的世界。

前端、Python、设计、文档。你的普通电脑,就是参与的起点。

加入共建
REAL CONNECTION / COMING NEXT

你的算力,未来在这里接入。

真实服务器连接尚未实现。当前版本只提供浏览器内教学模拟,不会连接、租用或提供 GPU。

查看项目进展 ↗
SIMULATION, EXPLAINED

理解取舍,不预测跑分。

这是独立编写的教学模型,没有执行 DeepInfer、没有加载权重,也没有使用真实 GPU。

实验记录保存在此浏览器中;无法使用本地存储时,仅保留本次页面会话的记录。

LOCAL EXPERIMENTS

最近的模拟实验

仅保留最近 6 次成功实验。全部为教学模拟数据。