llama.cpp hat am 7. November Pull Request #30966 zusammengeführt und ermöglicht damit die CPU-Ausführung für ausgewählte Expert-Cache-Misses, statt diese Experten stets zu übertragen. Das von am17an beigesteuerte llama.cpp-MoE-CPU-Offloading-Update führt außerdem ein Skript ein, mit dem sich das Verhältnis auf einzelnen Systemen abstimmen lässt. Seine Bedeutung liegt in dieser Wahlmöglichkeit, nicht in einer garantiert höheren Geschwindigkeit. MoE, kurz für „mixture of expert