llama_cpp_for_radxa_dragon_.../src
Georgi Gerganov 85a7d8677b
memory : remove KV cache size padding (#16812)
* memory : remove KV cache size padding

* cont : restore padding for n_kv tensor shape

* server : use slot context size instead of training context size

* server : simplify context limit logic
2025-10-28 20:19:44 +02:00
..
CMakeLists.txt
llama-adapter.cpp
llama-adapter.h
llama-arch.cpp model : add BailingMoeV2 support (#16063) 2025-10-20 21:38:20 +02:00
llama-arch.h model : add BailingMoeV2 support (#16063) 2025-10-20 21:38:20 +02:00
llama-batch.cpp
llama-batch.h llama-batch: fix build fails with -Werror=missing-braces (#16614) 2025-10-20 11:27:09 +03:00
llama-chat.cpp model : add BailingMoeV2 support (#16063) 2025-10-20 21:38:20 +02:00
llama-chat.h model : add BailingMoeV2 support (#16063) 2025-10-20 21:38:20 +02:00
llama-context.cpp llama : disable pipeline parallelism if compute buffer allocation fails (#16748) 2025-10-27 21:51:28 +01:00
llama-context.h
llama-cparams.cpp
llama-cparams.h
llama-grammar.cpp
llama-grammar.h
llama-graph.cpp graph : add clamping to ffn_moe_weights_sum to avoid div-by-zero (#16655) 2025-10-26 17:20:32 +01:00
llama-graph.h
llama-hparams.cpp
llama-hparams.h model : add BailingMoeV2 support (#16063) 2025-10-20 21:38:20 +02:00
llama-impl.cpp
llama-impl.h
llama-io.cpp
llama-io.h
llama-kv-cache-iswa.cpp
llama-kv-cache-iswa.h
llama-kv-cache.cpp memory : remove KV cache size padding (#16812) 2025-10-28 20:19:44 +02:00
llama-kv-cache.h memory : remove KV cache size padding (#16812) 2025-10-28 20:19:44 +02:00
llama-kv-cells.h
llama-memory-hybrid.cpp
llama-memory-hybrid.h
llama-memory-recurrent.cpp llama: consistent ctx <-> buf order for KV cache (#16746) 2025-10-28 11:23:54 +01:00
llama-memory-recurrent.h llama: consistent ctx <-> buf order for KV cache (#16746) 2025-10-28 11:23:54 +01:00
llama-memory.cpp
llama-memory.h
llama-mmap.cpp
llama-mmap.h
llama-model-loader.cpp
llama-model-loader.h
llama-model-saver.cpp
llama-model-saver.h
llama-model.cpp memory : remove KV cache size padding (#16812) 2025-10-28 20:19:44 +02:00
llama-model.h memory : remove KV cache size padding (#16812) 2025-10-28 20:19:44 +02:00
llama-quant.cpp
llama-quant.h
llama-sampling.cpp
llama-sampling.h
llama-vocab.cpp model : add BailingMoeV2 support (#16063) 2025-10-20 21:38:20 +02:00
llama-vocab.h
llama.cpp
unicode-data.cpp
unicode-data.h
unicode.cpp
unicode.h