企业使用大模型的常见问题
模型能力持续提升,难点在于统一管理。
账号分散在个人手中员工离职带走账号,费用无法核算到部门
所有调用经企业统一入口,按部门与项目发放密钥,人员离职即停用密钥。
各系统重复对接模型更换模型需修改所有系统代码
网关对外提供统一接口,更换或新增模型只需在后台切换渠道。
敏感数据外发风险客户资料、报价单被直接粘贴至对话
按关键词与规则拦截,敏感业务路由至本地开源模型,调用内容留痕可查。
模型故障影响业务单一供应商限流或故障导致业务中断
多渠道自动切换与重试,单一渠道异常时转至备用模型。
网关提供的能力
开源底座保障可控性,企业所需的管理功能由蜂窝创新补充开发。
多模型统一接入
将国产、开源与海外模型统一为一种调用格式,业务系统仅需对接一次。
渠道管理
按价格、速度与可用性配置路由与权重,异常时自动切换。
额度与计费
按部门、项目与密钥设置额度,按月输出用量与费用报表。
调用审计
调用人、调用时间、所用模型与发送内容均可检索。
内容安全
按敏感词与规则拦截,指定业务仅允许调用内网模型。
企业账号对接
对接企业微信、钉钉或现有账号体系,统一登录与权限。
部署流程
标准部署通常 1–2 周完成,定制功能另行评估。
需求确认
确认接入模型、使用部门、并发量与合规要求。
环境部署
在企业服务器或指定云环境部署网关与数据库。
渠道与权限
配置模型渠道、部门额度、审计规则与账号对接。
培训与运维
开展管理员培训,提供升级、监控与故障处理服务。
开源与授权说明
网关底座来自开源项目 New API。蜂窝创新遵守其开源协议并保留原有版权声明,向客户提供部署、集成、定制开发与运维服务。
- 源码与部署环境由企业掌控,不依赖蜂窝创新的服务器
- 定制功能以独立模块交付,便于跟进上游版本升级
- 可提供部署文档与运维手册
| 适用企业 | 有多个部门或多个系统需要使用大模型的企业 |
|---|---|
| 支持模型 | 国产大模型、本地开源模型、合规前提下的海外模型 |
| 技术栈 | Go、React,MySQL / Redis |
| 部署方式 | 私有化部署 / 指定云服务器 |
| 交付周期 | 标准部署 1–2 周 |
常见问题
网关是否为蜂窝创新自研?
网关基于开源项目 New API 进行二次开发与集成,严格遵守上游开源协议,并在此基础上提供私有化部署、企业账号对接、审计报表与功能定制等服务。
可接入哪些大模型?
支持通义千问、DeepSeek、智谱、文心、豆包等国产大模型,以及在本地运行的开源模型;海外模型可在符合合规要求的前提下接入。业务系统只需对接一个统一接口。
员工直接使用各家官网有何不足?
可以使用,但存在账号分散、费用难以核算、敏感数据可能被随意粘贴外发等问题。网关将入口统一收拢:使用人、用量与发送内容均有记录,超出额度自动拦截。
部署对服务器有何要求?
网关本身资源占用较低,一台常规配置的云服务器或内网服务器即可运行;如需在本地运行开源大模型,则需另配 GPU 服务器,具体配置按并发量给出建议。
商务邮箱support@fengwoinno.com
扫码添加业务微信工作日 9:00–19:00 响应
扫码添加业务微信工作日 9:00–19:00 响应
扫码添加业务微信