llama_cpp_for_radxa_dragon_.../src
fairydreaming 8fcb563613
Load all MoE experts during warmup (#11571)
* llama : introduce llama_set_warmup() API call that controls warmup mode; use all MoE experts during warmup

* common : use new API to enable warmup mode during model warmup

---------

Co-authored-by: Stanisław Szymczyk <sszymczy@gmail.com>
2025-03-14 13:47:05 +01:00
..
CMakeLists.txt llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-adapter.cpp llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-adapter.h llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-arch.cpp llama : Add Gemma 3 support (+ experimental vision capability) (#12343) 2025-03-12 09:30:24 +01:00
llama-arch.h llama : Add Gemma 3 support (+ experimental vision capability) (#12343) 2025-03-12 09:30:24 +01:00
llama-batch.cpp
llama-batch.h llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-chat.cpp ggml : portability fixes for VS 2017 (#12150) 2025-03-04 18:53:26 +02:00
llama-chat.h
llama-context.cpp Load all MoE experts during warmup (#11571) 2025-03-14 13:47:05 +01:00
llama-context.h Load all MoE experts during warmup (#11571) 2025-03-14 13:47:05 +01:00
llama-cparams.cpp
llama-cparams.h Load all MoE experts during warmup (#11571) 2025-03-14 13:47:05 +01:00
llama-grammar.cpp tool-call: fix Qwen 2.5 Coder support, add micro benchmarks, support trigger patterns for lazy grammars (#12034) 2025-03-05 13:05:13 +00:00
llama-grammar.h tool-call: fix Qwen 2.5 Coder support, add micro benchmarks, support trigger patterns for lazy grammars (#12034) 2025-03-05 13:05:13 +00:00
llama-graph.cpp Load all MoE experts during warmup (#11571) 2025-03-14 13:47:05 +01:00
llama-graph.h graph : simplify attn input build for unified KV cache (#12381) 2025-03-14 10:47:44 +02:00
llama-hparams.cpp hparams : add SWA rope parameters (#12374) 2025-03-14 09:03:24 +02:00
llama-hparams.h hparams : add SWA rope parameters (#12374) 2025-03-14 09:03:24 +02:00
llama-impl.cpp
llama-impl.h cleanup: fix compile warnings associated with gnu_printf (#11811) 2025-02-12 10:06:53 -04:00
llama-io.cpp llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-io.h llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-kv-cache.cpp llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-kv-cache.h llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-memory.cpp llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-memory.h llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-mmap.cpp llama : add xcframework build script (#11996) 2025-03-05 06:30:31 +01:00
llama-mmap.h llama-mmap: fix missing include (#11796) 2025-02-10 20:58:18 +02:00
llama-model-loader.cpp
llama-model-loader.h
llama-model.cpp graph : simplify attn input build for unified KV cache (#12381) 2025-03-14 10:47:44 +02:00
llama-model.h llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
llama-quant.cpp
llama-quant.h
llama-sampling.cpp tool-call: fix Qwen 2.5 Coder support, add micro benchmarks, support trigger patterns for lazy grammars (#12034) 2025-03-05 13:05:13 +00:00
llama-sampling.h
llama-vocab.cpp ggml : portability fixes for VS 2017 (#12150) 2025-03-04 18:53:26 +02:00
llama-vocab.h
llama.cpp llama : refactor llama_context, llama_kv_cache, llm_build_context (#12181) 2025-03-13 12:35:44 +02:00
unicode-data.cpp
unicode-data.h
unicode.cpp repo : update links to new url (#11886) 2025-02-15 16:40:57 +02:00
unicode.h