aboutsummaryrefslogtreecommitdiff
path: root/llama.h
diff options
context:
space:
mode:
authoryangli2 <yangli2@gmail.com>2023-06-15 11:05:53 -0700
committerGitHub <noreply@github.com>2023-06-15 21:05:53 +0300
commitc36e81da62ebfe09a768201cc44fa8d712dd00ed (patch)
tree388f7d5de964bffd1ecc8dd0d88ff4b8c22ea049 /llama.h
parent3559433fecedf365e7aba2fe3d5f89d9abb817c1 (diff)
examples : add chat-vicuna.sh (#1854)
Co-authored-by: Yang Li <yangliyl@google.com>
Diffstat (limited to 'llama.h')
-rw-r--r--llama.h6
1 files changed, 3 insertions, 3 deletions
diff --git a/llama.h b/llama.h
index 6429226..1241ba6 100644
--- a/llama.h
+++ b/llama.h
@@ -244,9 +244,9 @@ extern "C" {
LLAMA_API const char * llama_token_to_str(const struct llama_context * ctx, llama_token token);
// Special tokens
- LLAMA_API llama_token llama_token_bos();
- LLAMA_API llama_token llama_token_eos();
- LLAMA_API llama_token llama_token_nl();
+ LLAMA_API llama_token llama_token_bos(); // beginning-of-sentence
+ LLAMA_API llama_token llama_token_eos(); // end-of-sentence
+ LLAMA_API llama_token llama_token_nl(); // next-line
// Sampling functions