TokenPie — 企业大语言模型综合管理平台

企业面临的挑战

企业引入大语言模型的六大挑战

AI 正从“个人尝鲜”走向“全员生产”，管理复杂度随之陡增

🧩 模型碎片化，重复集成

国内外模型众多、版本迭代以周计；各系统各自对接，重复开发，且容易被单一厂商锁定。

💸 成本黑盒，难以分摊

Token 按量计费却缺乏按部门 / 项目 / 用户的计量与预算，账单月底才“见光”，超支无法预警。

🔒 数据安全与合规风险

员工私用公网 AI 工具，敏感数据外泄；缺少调用日志与审计，难以满足监管与内控要求。

⚡ 稳定性缺乏保障

单一渠道限流、故障或 TPM / RPM 配额不足，直接导致业务中断，问题难以及时发现。

🪪 身份与权限割裂

各 AI 应用各有账号体系，无法与企业目录统一；人员入离职、调岗后权限难以及时回收。

📉 效果不可观测

不清楚谁在用、用在哪、效果如何，AI 投入的 ROI 无法衡量，更谈不上持续优化。

统一治理

从“各自为战”到统一治理

TokenPie 把 N × M 的点对点对接，变成 N + M 的统一网关治理

现状：N × M 点对点

✕25 条独立连接，密钥散落、重复开发
✕额度、日志、费用各管各的，无法汇总
✕任一模型变更，所有应用都要改造

TokenPie：N + M 统一治理

✓一次接入，应用与模型解耦，随时切换
✓身份、额度、日志、成本集中管理
✓故障转移与限流，保障业务连续

总体架构

企业 AI 应用与大模型之间的统一治理层

向上承接各类 AI 应用，向下统一纳管国内外模型，中间实现身份、额度、流控、成本与审计的统一治理

应用层 · AI 应用与入口

办公协作

Microsoft 365 · Teams · 钉钉 · 飞书 · 企业微信 · Office AI 插件

智能体平台

Copilot Studio · Dify · Coze 扣子 · FastGPT · n8n

研发工具

GitHub Copilot · Cursor · Cline · Claude Code

对话门户

Open WebUI · LobeChat · Cherry Studio · 企业 AI 门户

业务系统

CRM · ERP · OA · 智能客服 · 知识库 · 自研 AI 应用

⇅ 接入：OpenAI 兼容 API · SDK · 自定义模型端点 · 企业统一身份 SSO（Entra ID / LDAP）· API Key 托管

治理层 · TokenPie 企业大模型统一治理平台多租户 · 私有化 / 云上部署

模型接入与目录智能路由与降级Token 额度管理TPM / RPM 流控成本核算与分摊身份与权限敏感词与内容安全日志与安全审计运行监控与告警用量分析与报表

⇅

模型层 · 多厂商

国际主流模型

OpenAI · Azure OpenAI · Claude · Gemini · Grok

国产主流模型

通义千问 · DeepSeek · Kimi · GLM · 文心 · 豆包

私有化 / 开源模型

Qwen · DeepSeek · Llama 本地部署（vLLM / Ollama）

* 应用层为常见示例，需支持 OpenAI 兼容 API 或自定义模型端点；具体接入方式以各产品版本能力为准。才识 DataPie、AIPie、OfficePie 均通过 TokenPie 统一接入模型。

核心价值

一个平台，回应四类角色的核心诉求

同时满足 IT、财务、安全与业务部门的关注点

CIO / IT 部门

一次集成，统管全部模型

统一 API 接入国内外主流模型，避免重复开发
新模型快速上架，按应用灵活开放
负载均衡与故障转移，保障服务可用

财务 / 经营管理

Token 成本看得见、管得住

按部门、项目、用户、模型多维计量
额度分配、超额预警、自动停用
账单可追溯，支撑成本分摊与 ROI 评估

安全 / 合规部门

AI 使用全程可控、可审计

对接 Microsoft Entra ID，身份统一
敏感词过滤、数据保留策略
全量调用日志 + 管理操作安全审计

业务部门 / 员工

安全、稳定、好用的 AI

在 Office、Teams 等熟悉工具中直接用 AI
多模型按场景择优，体验更稳定
额度透明，按需申请调整

一个平台 · 管住模型 · 管住成本 · 管住风险 · 用好 AI

前后对比

引入 TokenPie 前后对比

从分散、不可见、不可控，到统一、透明、可治理

维度	引入前	引入 TokenPie 后
模型接入	✕各系统分别对接，重复开发、厂商锁定	✓统一 API 一次接入，国内外模型随时切换
成本管理	✕月底看账单，费用无法拆分到部门	✓实时用量看板，按部门 / 项目 / 用户分摊
额度控制	✕无上限调用，超支事后才发现	✓分应用、分模态额度，超额预警与自动停用
服务稳定	✕单渠道限流或故障即业务中断	✓多渠道负载均衡、故障转移与自动告警
安全合规	✕员工私用公网工具，数据外泄风险	✓统一身份、敏感词与数据保留，全程审计
运营优化	✕不知道谁在用、效果如何	✓日志、成功率、耗时全量可查，持续择优

管理控制台

面向管理员的一站式控制台

01

使用总览

调用量、Token 用量、调用分布与异常模型一屏掌握

02

日志中心

每次调用的问题、应用、用户、Token、耗时与结果全量留痕

03

模型配置

多供应商连接；对话、图像、语音、检索分类计量与开放

04

用户与额度

导入 Entra 组用户，按应用 × 模态分配与调整额度

05

运行监控

项目服务与供应商模型健康检测，异常自动告警

06

系统管理

组织与目录、数据保留、敏感词、安全审计

07

后台账号

管理员角色与页面级权限，绑定 Microsoft 账号登录

08

多租户管理

一套平台服务多个子公司 / 事业部，数据与额度隔离

产品实景

真实产品界面一览

以下均为 TokenPie 管理控制台真实界面（个人姓名与邮箱已做模糊处理）

**使用总览：AI 用量一屏掌握**趋势与上期对比 · 按模型 / 项目的调用分布 · 自动识别成功率低的模型 · 按模型 / 项目 / 用户的用量明细

**模型配置：多模型统一纳管**供应商连接集中管理 · 对话 / 检索按 Token、图像按张、语音按秒计量 · 按 Pie 应用开放 · 一键连通测试

**用户与额度：精细到人、应用与模态**一键导入 Entra 组 · 额度状态（正常 / 不足 / 耗尽 / 未配置）一目了然 · 调整额度必须填写原因，变更有据可查

**日志中心：每一次调用都有据可查**按问题、项目（Pie 应用）、结果筛选 · 记录应用、用户、时间、Token 与耗时 · 标注引用的知识源

**运行监控：异常早发现、快恢复**项目服务、供应商模型、告警记录三层视图 · 服务连续 3 次失败即告警 · 记录故障与恢复时间

**系统管理：治理有规，权限有界**查看敏感日志等管理操作全程留痕 · 配合数据保留与敏感词策略 · 管理员分级授权并绑定 Microsoft 登录

实践案例

TokenPie × OfficePie 企业内部落地

以才识科技自有租户为例（试运行数据，2026 年 10 月）

5

个 Pie 应用接入

PowerPoint / Excel / Word / Teams / Outlook

300

名业务用户

通过 Entra 组一键导入

4

类模型统一计量

对话 · 图像 · 语音 · 检索

100%

调用与管理操作留痕

日志中心 + 安全审计

1

背景

员工希望在 Office 中直接用 AI 写文档、做 PPT、分析表格和知识问答；IT 需要确保成本可控、数据合规。

2

方案

OfficePie 各应用统一经 TokenPie 网关调用通义千问系列模型；按“应用 × 模态”为每位用户配置额度；接入 SharePoint 知识库，日志记录引用来源；对 5 个 Pie 服务持续健康检测。

3

成效

用量与成本按应用、用户实时可见；告警记录显示多数服务异常在 1–2 分钟内恢复；管理员查看敏感日志等操作全部纳入安全审计。

典型场景

适用于各类规模企业的大模型统一接入与治理

全员 Office AI 助手

痛点: 员工私用公网 AI，数据外泄、成本失控
方案: OfficePie + TokenPie，按人按应用分配额度
价值: 安全地在全员范围普及 AI

企业知识库问答

痛点: 制度、流程文档分散，查找困难
方案: RAG 检索 + 引用溯源，嵌入 / 重排模型统一管理
价值: 回答有据可查，减少重复咨询

集团多子公司 / 事业部

痛点: 各单位分散采购模型，费用难以归集
方案: 多租户隔离 + 统一网关，按租户 / 部门结算
价值: 集团统一治理，成本清晰分摊

研发团队 AI 应用开发

痛点: 各项目自管 API Key，泄露与超支风险
方案: 统一 API 与密钥管理，TPM / RPM 限流
价值: 加速 Agent / RAG 应用上线，风险可控

部署与安全

灵活部署，数据可控；多层安全防护

部署方式

私有化部署

部署在企业自有数据中心，数据不出域；在已有环境中可快速完成部署

企业云租户部署

部署在客户自有的 Azure、阿里云等云订阅中，复用现有云安全体系

托管服务

由才识科技托管运维，快速开通，按需扩展

安全合规能力

统一身份认证

对接 Microsoft Entra ID，用户与组自动同步

角色与页面级权限

超级管理员 / 管理员分级授权

敏感词过滤

对输入输出内容进行敏感词管控

数据保留策略

按合规要求设定日志与数据保留周期

安全审计

管理员操作与敏感日志查看全程留痕

多租户隔离

租户间数据、额度、配置相互隔离

实施路径

四步稳妥落地

从评估到全面推广，小步快跑、风险可控

01

约 1 周

调研评估

梳理 AI 使用现状、模型与应用清单
明确额度、合规与审计要求

02

约 1–2 周

部署对接

平台部署，连接模型供应商
对接 Entra ID，导入用户组

03

约 2–4 周

试点运行

选定试点部门与应用
配置额度、告警与敏感词策略

04

持续

推广优化

全员推广，成本按部门分摊
基于用量与效果数据持续优化

* 周期为典型参考，视企业规模与集成范围调整

从一次沟通开始，用真实数据验证 TokenPie 的价值

01

需求沟通工作坊

1–2 小时，梳理 AI 使用现状、痛点与目标

02

产品演示与 POC

在企业环境中试用 TokenPie + OfficePie

03

试点评估报告

基于用量、成本、效果数据形成评估结论

04

正式方案与报价

确定部署方式、实施计划与服务内容

预约产品演示与 POC →