腾讯云正式发布面向大模型训练的向量数据库(Tencent Cloud VectorDB),预计8月正式登陆腾讯云官网。该数据库能够被广泛应用于大模型的训练、推理和知识库补充等场景,是国内首个从接入层、计算层、到存储层提供全生命周期AI化的向量数据库。
据介绍,腾讯云向量数据库最高支持10亿级向量检索规模,延迟控制在毫秒级,相比传统单机插件式数据库检索规模提升10倍,同时具备百万级每秒查询(QPS)的峰值能力。
腾讯云数据库副总经理罗云指出,向量数据库已经在QQ浏览器、腾讯视频、腾讯游戏、QQ 音乐、搜狗输入法等30+业务场景中应用,并自研了分布式向量数据库核心引擎Olama,原名ElasticFaiss。
此外,腾讯云在 6 月 19 日首次公布了其行业大模型研发进展,依托腾讯云 TI 平台打造行业大模型精选商店,为客户提供 MaaS(Model-as-a-Service)一站式服务。
今年 4 月,腾讯云发布了专为大模型训练设计的新一代 HCC 高性能计算集群,采用最新一代的腾讯云星星海自研服务器,具备业界最高的 3.2Tbps 互联带宽,算力性能提升3倍。