tag

网关

把大模型接进生产,跑通「能调通」这一关之后,紧接着就是两道更难的题。 流量怎么分:多个模型供应商、多个调用服务,要按成本灰度放量、要平衡厂商风险、还要让不同团队各用各的模型——但业务代码一行都不想改。 挂了怎么办:主力模型限流、节点故障、超时,甚至「健康但 GPU 满载」——任何一种都可能让线上 A

企业里有上百个 RESTful 接口,AI Agent 一个都调不了——不是模型不行,是工具没接好。 本文将以 "智能贷款顾问" 业务场景为例,展示 腾讯云原生智能网关 - AI 网关(以下简称 AI 网关)如何通过 MCP 网关快速将存量接口 “零” 代码改造接入 AI 生态。 接口有了,AI 为

企业里有上百个 RESTful 接口,AI Agent 一个都调不了——不是模型不行,是工具没接好。 本文将以 "智能贷款顾问" 业务场景为例,展示 腾讯云原生智能网关 - AI 网关(以下简称 AI 网关)如何通过 MCP 网关快速将存量接口 “零” 代码改造接入 AI 生态。 接口有了,AI 为

企业 AI 落地的真正难点,不在于有没有模型,而在于模型怎么统一调度、工具怎么稳定调用、智能体跑起来之后怎么管住。 多数企业都会遇到同样的一组问题: 多家模型同时接入,如何统一管理?配额不足、服务异常时如何避免业务直接失败? ERP、CRM、数据库、审批流等存量系统,如何快速接入 AI 生态? 智能

蓝鲸智云节点管理,以下简称节点管理 在前面一篇指引中介绍了直连和非直连的安装方法,直连区域安装基本无需额外操作,非直连区域安装往往在端口策略开通上出错,那到底该如何开通策略才能保证安装的顺利呢? 复习两个概念 proxy:业务的云区域不能跟蓝鲸平台直接通讯,需要在云区域找一台或多台带外网的跟蓝鲸gs

陈鹏,腾讯云容器服务产品架构师,拥有丰富的云原生技术实践经验,同时也是 Kubernetes、Istio 等云原生项目 Contributor,《Kubernetes 实践指南》等电子书作者。 概述 EnvoyGateway 是基于 Envoy 实现 Gateway API 的 Kubernetes

2024年 6月动态 TSE 云原生 API 网关 01、云原生 API 网关支持路由和服务导入导出 云原生 API 网关支持路由和服务导入导出,方便您进行路由和服务的复制。 02、云原生 API 网关丰富系统监控指标 云原生 API 网关新增10项实例和节点级监控指标,方便您查看客户端与网关之间的

2024年 5月动态 TSE 云原生 API 网关 01、云原生 API 网关丰富公网负载均衡监控 云原生 API 网关新增开放40 多项公网负载均衡监控指标,方便您查看公网负载均衡的情况。 官网链接: https://cloud.tencent.com/document/product/1364/

2024年 4月动态 TSE 云原生 API 网关 01 云原生 API 网关支持共享带宽包 云原生API 网关支持使用共享带宽包,您可以将多个网关实例公网负载均衡加入共享带宽包中合并计费。 02 云原生 API 网关路由信息支持 YAML 视图 云原生API 网关路由信息支持表格和YAML两种展示

2024年 3月动态 TSE 云原生 API 网关 01 云原生 API 网关支持对接 Web 函数 云原生 API 网关支持对接 Web 函数,方便将请求转发到您的 Web 函数。 02 云原生 API 网关专业版支持 CLS 日志大盘 云原生 API 网关(专业版)支持CLS 日志大盘,提供状态

​ 柯开 腾讯云高级工程师,腾讯云压测 OTeam 发起人,目前主要负责腾讯云可观测系统的开发与设计。 GoReplay 简介 GoReplay 是一个开源的流量录制回放工具。主要用于捕获实时流量并将其复制到测试环境中。这样做可以帮助开发者和测试人员在不影响实际用户的情况下,对软件进行压力测试和问题

云原生API网关介绍 云原生 API 网关是腾讯云基于开源网关推出的一款高性能高可用的云原生 API 网关产品,作为云上流量入口,集成请求分发、API 管理、流量监控、访问限制等功能,是微服务架构和容器架构中的重要组件。 TSE 云原生 API 网关提供多可用区容灾部署、多种接入方式统一管理能力、开

​ 近日,NeurIPS 2023(Neural Information Processing Systems)神经信息处理系统大会于公布论文录用结果,腾讯TGW网关团队、腾讯DDoS防护团队、清华大学联合发表的论文“Metis: Understanding and Enhancing In-Net

​ 2023年 12月动态 01、云原生 API 网关日志支持 Nginx 变量 云原生 API 网关自定义日志支持 Nginx 变量,日志配置更灵活。 02、云原生 API 网关接入 Terraform 云原生 API 网关核心资源已接入 Terraform,方便您使用 Terraform 管理网

作者:peter TGW全称Tencent Gateway,是一套实现多网统一接入,支持自动负载均衡的系统, 是公司有10+年历史的网关,因此TGW也被称为公司公网的桥头堡。本文从山海网关TGW的应用场景、背景需求讲起,重点解析了从山海1.0到山海2.0需要解决的问题和架构规划与设计实现,以及对于未