llama.cpp połączył pull request #30966 7 listopada, dodając wykonywanie obliczeń na CPU dla wybranych nietrafień pamięci podręcznej ekspertów zamiast zawsze przesyłać tych ekspertów. Aktualizacja odciążania MoE na CPU w llama.cpp, przygotowana przez am17an, wprowadza także skrypt do dostrajania równowagi na poszczególnych maszynach. Jej znaczenie wynika z tego wyboru, a nie z gwarantowanego wzrostu szybkości. MoE, skrót od mixture of experts, opisuje modele aktywujące wybrane
