Releases: MoonshotAI/moonpalace
Releases · MoonshotAI/moonpalace
v0.12.0
v0.11.10
v0.11.10 修复 --auto-cache
选项被默认开启的问题
v0.11.9
v0.11.9 解决某些特殊场景下,使用自动缓存功能导致程序异常的问题
v0.11.8
v0.11.8 修复了在某些使用缓存的场景可能导致 key
混用的问题
v0.11.7
v0.11.7 解决 Tools 与 Cache 的兼容性问题
v0.11.6
v0.11.6 现在 --endpoint
参数不指定 http(s)
也能正常工作了
v0.11.5
v0.11.5 解决了在使用 tools
创建缓存时报错的问题
v0.11.0
v0.11.0 更新 --predicate
查询语法
现在支持以下语法:
- 使用括号组合
--predicate
查询条件; - 使用
field @ [lit1, lit2, lit3]
执行IN
查询; - 使用
field % '^regexp$'
执行正则表达式查询;
v0.10.0
v0.10.0 MoonPalace 现在支持自动创建和使用缓存
你可以通过 --auto-cache
参数启用自动缓存功能,并搭配 --cache-min-bytes
/--cache-ttl
/--cache-cleanup
参数调节缓存的各项参数:
$ moonpalace start --port <PORT> --auto-cache --cache-min-bytes 4096 --cache-ttl 90 --cache-cleanup 86400
--cache-min-bytes
参数指定了当调用 /chat/completions
接口时,请求的内容大小超过 --cache-min-bytes
设定的值时,将会自动启用缓存:
- 若当前请求内容不匹配任何已经创建的缓存时,创建一个新的缓存,有效时间为
--cache-ttl
设定的值; - 若当前请求内容匹配了已经创建的缓存时,使用已创建的缓存,并刷新缓存有效时间,有效时间为
--cache-ttl
设定的值;
--cache-cleanup
参数指定了缓存何时被清除,若已经创建的缓存在 --cache-cleanup
设定的时间(秒)内没有被使用过,将会被 MoonPalace 清除。
v0.9.13
v0.9.13 代码优化