DeepInfer (DeepSeek) : l'open source pensé pour 128 GPU ?

DeepSeek ouvre DeepInfer, le moteur d'inférence de ses propres services de production, sous licence Apache 2.0. Mais entre une unité minimale efficace documentée à 128 GPU et un code de gestion du cache KV et d'équilibrage de charge qui n'est pas intégralement publié, que gagne vraiment une équipe qui tente de l'adopter ? Décryptage de la frontière souvent floue entre dépôt open source et système d'infrastructure réellement opérable en production. #business #meta-volatile #deepseek #inference #infrastructure