diff --git a/rag.py b/rag.py index f622a94..b0f3127 100644 --- a/rag.py +++ b/rag.py @@ -83,7 +83,7 @@ try: context = "\n\n".join(docs[int(i)] for i in hits) prompt = ( - "Réponds en français, précis et factuel.\n" + "Réponds en français, de façon précise, et uniquement à partir du contexte fourni. Si l'information n'est pas dans le contexte, réponds : 'Je ne sais pas'.\n" f"{context}\n{q}" ) @@ -92,7 +92,7 @@ try: "model": "mistral7b-fast", "prompt": p, "stream": False, - "options": {"temperature": 0.2, "num_predict": 512} + "options": {"temperature": 0.0, "num_predict": 512} }, timeout=300) return r.json()["response"]