tag

框架

TACO-LLM 是基于腾讯云异构计算产品推出的一款**大语言模型推理加速引擎,**用于提高语言模型的推理效能。通过充分利用计算资源的并行计算能力,TACO-LLM能够同时处理更多的语言模型推理请求,已成功为客户提供了兼顾高吞吐和低时延的优化方案,吞吐性能提高了78%。TACO-LLM可以减少生成结

作者:barry 大模型(LLM)相关理论研究与工程实践随着 GPT3 的发布,在学术界、工业界大爆发,备受各行各业关注,并涌现出一些赋能行业、促进生产力、生产关系变革的实践。GPT3 [1] 以及斯坦福计算机学院近 100+ 教授联名论文 [2] 将大模型列为第三轮 AI 浪潮,相对于传统的机器学

1、项目简介 tRPC-Java是tRPC开发框架Java语言的实现,符合[tRPC](http://mp.weixin.qq.com/s?__biz=MzIwMzYwMjkzOQ==&mid=2247491993&idx=1&sn=28147f83fabf2bc12a562375626fa7fe&

引言 分布式 TDSQL for MySQL 数据库是标准的 Share Nothing 架构数据库,支持数据水平拆分与线性扩展,具备高性能、数据高可用、数据高可靠等特性。本文主要介绍的是,我们在“分布式 TDSQL for MySQL”数据库新计算引擎架构上,分布式计算下推所做的主要工作。 关键字

引言 分布式TDSQL for MySQL数据库是一种支持存算分离、自动水平拆分、Shared Nothing 架构的分布式数据库。整体架构分为数据节点和计算节点。数据节点由腾讯自研的 TXSQL 负责底层数据管理相关功能,计算节点在协议层和功能方面兼容 MySQL 8.0。本文主要介绍的是,计算节

导语 北极星是腾讯开源的一款服务治理平台,用来解决分布式和微服务架构中的服务管理、流量管理、配置管理、故障容错和可观测性问题。在分布式和微服务架构的治理领域,目前国内比较流行的还包括 Spring Cloud,Apache Dubbo 等。在 Kubernetes 的技术领域,也有以 Istio 为

文末有赠书福利。 在人工智能和大模型技术飞速发展的今天,我们有幸见证了AI如何深刻地影响和改变着我们的世界。这场变革不仅可能重塑我们的世界,更在各个领域引发了深远的影响。为了深入理解这场技术变革,把握AI应用的未来趋势,我们特别策划了这一期“大模型&AI应用”主题书单。 本期大牛书单,我们请来了鹅厂

2025年3月18-19日 腾讯混元在开源日活动上正式开源基于Hunyuan 3D 2.0技术框架的5款三维生成模型,进一步丰富了3D AIGC社区。 本次开源的Turbo加速系列、多视图推理模块及轻量级mini模型,均基于Hunyuan 3D 2.0模型,组成了包含6大模型的Hunyuan 3D

目前,OC支持了包括 TensorRT、PyTorch、Paddle 在内的超过30款的主流或热门推理框架、训练框架、应用框架及其WebUI应用。OC将推出「OC+AI上手」系列,教你如何从0到1,在OC 8上部署和训练相关模型及框架,从而获得高效、灵活、易用、稳定和可扩展的AI模型开发和部署体验,

InstantCharacter,兼容生图模型Flux 4月18日,腾讯混元宣布开源定制化图像生成插件InstantCharacter,并实现了对开源文生图模型Flux的兼容。通过这个插件,只需要一张图加一句话,你可以让任何角色以你想要的姿势出现在任何地方。 InstantCharacter的优势在

Kuikly 是腾讯大前端领域 Oteam(公司级)推出的,面向客户端开发的全新跨端解决方案。Kuikly 基于 Kotlin Multiplatform(KMP) 技术,可以使用 Kotlin 原生开发语言创建 Android、iOS、鸿蒙、Web、小程序应用。 开源简介 Kuikly 是腾讯广泛

​ 一 背景Kuikly 是腾讯广泛使用的跨端开发框架,基于 Kotlin Multiplatform 技术构建,为开发者提供了技术栈更统一的跨端开发体验,由腾讯大前端领域 Oteam(公司级)推出。在Android、iOS开源基础上,本次开源鸿蒙平台支持和Compose DSL支持,进一步提升业务

​ ovCompose(online-video-compose)是腾讯大前端领域Oteam中,腾讯视频团队基于 Compose Multiplatform 生态推出的跨平台开发框架,旨在弥补JetBrains Compose Multiplatform不支持鸿蒙平台的遗憾与解决iOS平台混排受限的

🔍 关于腾讯“犀牛鸟开源人才培养计划” 自2021年以来,腾讯持续开展“犀牛鸟开源人才培养计划”,响应国家开源政策,打造面向高校学生的开源课程和开源实践培养方案。该计划由教育部计算机类专业教学指导委员会、教育部软件工程专业教学指导委员会、教育部电子信息类专业教学指导委员会及中国信息通信研究院联合指