Was passiert zwischen deiner Frage und der fertigen KI-Antwort? Das Video verfolgt eine Anfrage durch die Inferenz: von Tokens über die getrennte Verarbeitung von Eingabe und Ausgabe bis zu den ausgewählten Experten eines MoE-Modells.
DeepEP, Lastverteilung, spekulatives Decoding und Cache zeigen, warum schnelle Chips allein nicht genügen. Die Einordnung der Betriebszahlen basiert auf den Angaben von DeepSeek und dem Recherchestand des Videos vom 24. Oktober 2026.
Weiterlesen in den Originalquellen: DeepInfer, DeepEP und D-Spark.
