Skip to content

LLM 支持额外参数吗? #11

Description

@hhun

LLM 支持 base_urlmax_tokens 之外的参数吗?

OpenAi JS SDK 是支持 extra


建议 base_url 支持非 /chat/completions 结尾的网址,因为有些供应商的节点网址不是 /chat/completions,最好是改成结尾是 /v1 时才会追加 /chat/completions

当然,这个不改也行,因为给非 /chat/completions 结尾的节点网址也能用 https://cbc.com/abc?a=/chat/completions 访问

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions