Clip Runtime

请先初始化子模块

qdrant 的 docker

git submodule update --init --recursive
cd docker-qdrant
./up.sh
./init.coffee

开发环境

请安装好以下软件（版本仅供参考，更高的版本应该也可以），可以用 rtx 管理版本。

• nodejs 20.2.0
• rust 1.72.0-nightly

bun 0.6.7

curl -fsSL https://bun.sh/install | bash

direnv 2.32.2

curl -sfL https://direnv.net/install.sh | bash

请配置好direnv hook。

然后 ./init.sh

./init.sh 会调用 rust/sh/provider.coffee 配置 ONNX 运行时支持的加速器 (execution-providers)。

qdrant

运行 ./qdrant.docker/up.sh 会启动一个 qdrant 。

./rust/clip_img2qdrant_grpc 可以通过 grpc 传入图片网址录入图片到向量数据库，用 bloomrpc 加载 ./rust/clip_img2qdrant_grpc/proto/img2qdrant.proto 可以调试。

TODO

• rust 和 js 的接口文档

• 性能评测

相关链接

本项目参考了以下项目的代码 :

• anansi