在人工智能芯片领域,一款名为 RNGD 的芯片正悄然崛起,凭借先进的台积电制程,成功打入竞争激烈的推论市场。
RNGD 芯片由韩国人工智能芯片设计初创公司 FuriosaAI 打造,是一款张量收缩处理器(TCP),专为数据中心里的高性能、高效大语言模型和多模态模型推理而设计。它采用台积电 5nm 制程工艺,Die 面积为 653mm²,内置 400 亿颗晶体管,频率为 1.0GHz,具有 256MB 片上 SRAM,配备 48GB HBM3、内存带宽为 1.5TB/s,可在单张卡上高效运行 Llama 3.1 8B 等大语言模型 ,提供最高可达 512TFLOPS(FP8)和 1024TOPS(INT4)的计算能力。
页码:下一页