cas/
teuken-7b-q4km:latest

172 4 months ago

Quantized from Teuken-7B-instruct-research-v0.4, an instruction-tuned 7B parameter multilingual large language model (LLM) pre-trained with 4T tokens within the research project OpenGPT-X.

4 months ago

5112fa46748b · 5.0GB ·

model
llama
·
7.45B
·
Q4_K_M
template
{{- if .System }}System: {{ .System }} {{- else }}System: Ein Gespräch zwischen einem Menschen und
system
Ein Gespräch zwischen einem Menschen und einem Assistenten mit künstlicher Intelligenz. Der Assist
license
Apache 2.0
params
{ "num_ctx": 4096, "repeat_penalty": 1.1, "stop": [ "</s>" ], "temperatu

Readme

No readme