1 Star 2 Fork 1

fly-llm / candle-run-llm

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
test-vl-chat.py 678 Bytes
一键复制 编辑 原始数据 按行查看 历史
freegolang 提交于 2024-02-18 09:40 . first commit
import openai
client = openai.Client(
api_key="cannot be empty",
base_url=f"http://127.0.0.1:9997/v1"
)
response = client.chat.completions.create(
model="qwen-vl-chat", # qwen-vl-chat 或者 yi-vl-chat
messages=[
{
"role": "user",
"content": [
{"type": "text", "text": "这个图片是什么?"},
{
"type": "image_url",
"image_url": {
"url": "https://p3.dcarimg.com/img/motor-mis-img/2465f0c78280efddcc305991bd1f2ea2~2508x0.jpg",
},
},
],
}
],
)
print(response.choices[0])
1
https://gitee.com/fly-llm/candle-run-llm.git
git@gitee.com:fly-llm/candle-run-llm.git
fly-llm
candle-run-llm
candle-run-llm
master

搜索帮助

53164aa7 5694891 3bd8fe86 5694891