SambaNova alcanza 198 tokens por segundo en el DeepSeek-R1 671B completo, no destilado, con solo 16 chips RDU SN40L.
SambaNova ejecuta DeepSeek-R1 a 198 tokens/seg usando 16 chips personalizados El chip SN40L RDU es reportadamente 3X más rápido, 5X más eficiente que las GPU 5X aumento de velocidad prometido pronto, con 100X capacidad para fin de año en la nube La startup de IA china DeepSeek ha hecho rápidamente un nombre para sí misma … Leer más