旷视科技发布轻量级 LLM 模型推理框架 InferLLM
2023-07-28 16:27:08
来源：钛媒体
(资料图片仅供参考)
7月28日消息，旷视科技发布全新轻量级 LLM 模型推理框架 InferLLM，提供一个比 llama.cpp 更简单更容易上手的本地部署框架，助力大模型实现落地。
标签：
x
广告
x
广告