资讯

字节跳动旗下的Seed团队近期在人工智能领域取得了新的突破,他们研发出一种名为PHD-Transformer(Parallel Hidden Decoding ...
在人工智能技术飞速发展的今天,字节跳动旗下的Seed团队最近在该领域取得了令人瞩目的突破,推出了一种新型模型——PHD-Transformer(Parallel Hidden Decoding Transformer)。这一创新模型不仅在预训练长度扩展方面展现了卓越的能力,更有效解决了推理过程中KV缓存膨胀的难题,为大型推理模型的发展注入了新的活力。