fix 3 optimize systemMsg and model default config values
This commit is contained in:
@@ -2,16 +2,16 @@
|
|||||||
parameters:
|
parameters:
|
||||||
retriex.model.default_name: 'mto-model'
|
retriex.model.default_name: 'mto-model'
|
||||||
retriex.model.default_stream: false
|
retriex.model.default_stream: false
|
||||||
retriex.model.default_temperature: 0.1
|
retriex.model.default_temperature: 0.7
|
||||||
retriex.model.default_top_k: 20
|
retriex.model.default_top_k: 20
|
||||||
retriex.model.default_top_p: 0.8
|
retriex.model.default_top_p: 0.1
|
||||||
retriex.model.default_repeat_penalty: 1.05
|
retriex.model.default_repeat_penalty: 1.15
|
||||||
retriex.model.default_num_ctx: 4096
|
retriex.model.default_num_ctx: 32768
|
||||||
retriex.model.default_retrieval_max_chunks: 25
|
retriex.model.default_retrieval_max_chunks: 25
|
||||||
retriex.model.default_retrieval_vector_top_k: 25
|
retriex.model.default_retrieval_vector_top_k: 50
|
||||||
|
|
||||||
retriex.model.guardrail_min_num_ctx: 512
|
retriex.model.guardrail_min_num_ctx: 1024
|
||||||
retriex.model.guardrail_max_retrieval_chunks: 200
|
retriex.model.guardrail_max_retrieval_chunks: 200
|
||||||
retriex.model.guardrail_max_vector_top_k: 200
|
retriex.model.guardrail_max_vector_top_k: 200
|
||||||
|
|
||||||
retriex.llm.timeout_seconds: 600
|
retriex.llm.timeout_seconds: 300
|
||||||
|
|||||||
@@ -778,15 +778,14 @@ final readonly class AgentRunner
|
|||||||
}
|
}
|
||||||
|
|
||||||
return match ($type) {
|
return match ($type) {
|
||||||
'answer' => $msg,
|
'answer' => ' '.$msg,
|
||||||
'err' => sprintf($this->agentRunnerConfig->getErrorHtmlTemplate(), $msg),
|
'err' => sprintf($this->agentRunnerConfig->getErrorHtmlTemplate(), $msg),
|
||||||
'think' => sprintf($this->agentRunnerConfig->getThinkHtmlTemplate(), $msg),
|
'think' => sprintf($this->agentRunnerConfig->getThinkHtmlTemplate(), $msg),
|
||||||
'info' => sprintf($this->agentRunnerConfig->getInfoHtmlTemplate(), $msg),
|
'info' => sprintf($this->agentRunnerConfig->getInfoHtmlTemplate(), $msg),
|
||||||
'debug' => sprintf(
|
'debug' => sprintf(
|
||||||
$this->agentRunnerConfig->getDebugHtmlTemplate(),
|
$this->agentRunnerConfig->getDebugHtmlTemplate(),
|
||||||
htmlspecialchars($msg, ENT_QUOTES | ENT_SUBSTITUTE, 'UTF-8')
|
htmlspecialchars($msg, ENT_QUOTES | ENT_SUBSTITUTE, 'UTF-8')
|
||||||
),
|
)
|
||||||
default => $msg,
|
|
||||||
};
|
};
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
Reference in New Issue
Block a user