tag

网关

回顾:上篇留下的 3 个谜题 ​ 在上篇《一次 AI 问答,背后是十几个 Agent 在 “传纸条” — RocketMQ Lite Topic 实战》中,我们通过两个真实场景 — AI 编程助手多 Agent 协作 和 大模型记忆服务的"记忆写入" — 看到了 Lite Topic 在 AI 原生

回顾:上篇留下的 3 个谜题 ​ 在上篇《一次 AI 问答,背后是十几个 Agent 在 “传纸条” — RocketMQ Lite Topic 实战》中,我们通过两个真实场景 — AI 编程助手多 Agent 协作 和 大模型记忆服务的"记忆写入" — 看到了 Lite Topic 在 AI 原生

一封让 CTO 一夜没睡的邮件 上个月,某公司的 CTO 收到了一封让他睡不着的邮件 - 大模型月账单比上个月涨了 3 倍。 更让他崩溃的是:财务追问 “这些钱花在哪儿” ,工程团队查了半天,只能给出一个模糊的答案: “大概……是这个 AI 助手在跑吧?” 没有多维度的成本拆解、没有多维度的场景分析

一封让 CTO 一夜没睡的邮件 上个月,某公司的 CTO 收到了一封让他睡不着的邮件 - 大模型月账单比上个月涨了 3 倍。 更让他崩溃的是:财务追问 “这些钱花在哪儿” ,工程团队查了半天,只能给出一个模糊的答案: “大概……是这个 AI 助手在跑吧?” 没有多维度的成本拆解、没有多维度的场景分析

一、设想这样一个场景 你打开一个 AI 助手,敲下一句话: "帮我看看明天去上海出差,天气怎么样、机票多少钱、我那天的日程排得开吗?" 你以为它就是一个模型在吐字?不是。 它背后是好几个 Agent 在协作:一个编排 Agent(主 Agent) 把你的问题拆成三件事 -> 查天气、查机票、查日程

一、设想这样一个场景 你打开一个 AI 助手,敲下一句话: "帮我看看明天去上海出差,天气怎么样、机票多少钱、我那天的日程排得开吗?" 你以为它就是一个模型在吐字?不是。 它背后是好几个 Agent 在协作:一个编排 Agent(主 Agent) 把你的问题拆成三件事 -> 查天气、查机票、查日程

把大模型接进生产,跑通「能调通」这一关之后,紧接着就是两道更难的题。 流量怎么分:多个模型供应商、多个调用服务,要按成本灰度放量、要平衡厂商风险、还要让不同团队各用各的模型——但业务代码一行都不想改。 挂了怎么办:主力模型限流、节点故障、超时,甚至「健康但 GPU 满载」——任何一种都可能让线上 A

企业里有上百个 RESTful 接口,AI Agent 一个都调不了——不是模型不行,是工具没接好。 本文将以 "智能贷款顾问" 业务场景为例,展示 腾讯云原生智能网关 - AI 网关(以下简称 AI 网关)如何通过 MCP 网关快速将存量接口 “零” 代码改造接入 AI 生态。 接口有了,AI 为

企业里有上百个 RESTful 接口,AI Agent 一个都调不了——不是模型不行,是工具没接好。 本文将以 "智能贷款顾问" 业务场景为例,展示 腾讯云原生智能网关 - AI 网关(以下简称 AI 网关)如何通过 MCP 网关快速将存量接口 “零” 代码改造接入 AI 生态。 接口有了,AI 为

企业 AI 落地的真正难点,不在于有没有模型,而在于模型怎么统一调度、工具怎么稳定调用、智能体跑起来之后怎么管住。 多数企业都会遇到同样的一组问题: 多家模型同时接入,如何统一管理?配额不足、服务异常时如何避免业务直接失败? ERP、CRM、数据库、审批流等存量系统,如何快速接入 AI 生态? 智能

蓝鲸智云节点管理,以下简称节点管理 在前面一篇指引中介绍了直连和非直连的安装方法,直连区域安装基本无需额外操作,非直连区域安装往往在端口策略开通上出错,那到底该如何开通策略才能保证安装的顺利呢? 复习两个概念 proxy:业务的云区域不能跟蓝鲸平台直接通讯,需要在云区域找一台或多台带外网的跟蓝鲸gs

陈鹏,腾讯云容器服务产品架构师,拥有丰富的云原生技术实践经验,同时也是 Kubernetes、Istio 等云原生项目 Contributor,《Kubernetes 实践指南》等电子书作者。 概述 EnvoyGateway 是基于 Envoy 实现 Gateway API 的 Kubernetes

2024年 6月动态 TSE 云原生 API 网关 01、云原生 API 网关支持路由和服务导入导出 云原生 API 网关支持路由和服务导入导出,方便您进行路由和服务的复制。 02、云原生 API 网关丰富系统监控指标 云原生 API 网关新增10项实例和节点级监控指标,方便您查看客户端与网关之间的

2024年 5月动态 TSE 云原生 API 网关 01、云原生 API 网关丰富公网负载均衡监控 云原生 API 网关新增开放40 多项公网负载均衡监控指标,方便您查看公网负载均衡的情况。 官网链接: https://cloud.tencent.com/document/product/1364/

2024年 4月动态 TSE 云原生 API 网关 01 云原生 API 网关支持共享带宽包 云原生API 网关支持使用共享带宽包,您可以将多个网关实例公网负载均衡加入共享带宽包中合并计费。 02 云原生 API 网关路由信息支持 YAML 视图 云原生API 网关路由信息支持表格和YAML两种展示