Nginx反代AI,不要忘了这个设置
现在很多小伙伴都会折腾各种大模型相关的服务,比如自建大模型 API 聚合网关(如 CLIProxyAPI)。 但在用 Nginx 反代大模型接口时,很多朋友往往照搬常规的 Web 反代模板,结果一测流式传输就傻眼了——明明请求参数里传了 "s...
现在很多小伙伴都会折腾各种大模型相关的服务,比如自建大模型 API 聚合网关(如 CLIProxyAPI)。 但在用 Nginx 反代大模型接口时,很多朋友往往照搬常规的 Web 反代模板,结果一测流式传输就傻眼了——明明请求参数里传了 "s...
对于 Emby 的重度玩家来说,手头拥有多个公益服、机场服或自己搭建的本地服是常态。但在实际使用中,经常会遇到以下几个痛点: 服务器地址繁多难记:Emby 服务器多了以后,每个服务器的域名、端口各不相同,在不同客户端上配置或更换设备时,需要...
最近买了台新服务器,想着直接把旧服务器上的1Panel整个迁移过来,结果OpenResty容器怎么都启动不起来,折腾了好久才发现是个很隐蔽的问题,记录一下排查过程 问题现象 从旧服务器把1Panel的配置快照搬到新服务器后,OpenResty容器...
前几天分享《抛砖引玉,教你如何使用CLIProxyAPI来自定义GPT画图模型》一文后,不少小伙伴反馈通过脚本调用的方式确实不太方便。好消息是,作者在当天发布的 v6.9.30 版本中就对底层翻译器进行了更新,现在我们已经可以直接通过 OpenA...
昨天,在群里小伙伴的提醒下,我了解到通过反代 Codex 也可以进行图片的生成和编辑了。随即我进行了一番实验,使用 GPT-Image-1.5 成功生成了如下图片: 技术原理:工具调用(Tool Calling) 与 Gemini 使用...
在使用亿安云这种提供多出口 IP 的 VPS 时,出口 IP 会动态变化。如果需要将这些 IP 添加到 IX(Internet Exchange)的白名单中,手动跟踪显然不现实。因而写了两个轻量 Shell 脚本,实现出口 IP 的自动记...
今天提到的 AmpCode 可能国内很少有人听过(大概是因为没有“白嫖”渠道?)。其实 AmpCode 凭借其独特的理念在 AI 编程领域已占有一席之地。它最核心的特点是效率优先,成本次之——用户无需关心模型选择,系统会自动调用当前最佳的模型来...
请注意: 本教程的部署方案需配合 CLIProxyAPI 使用。在开始之前,请确保你已有一个正在运行的 CLIProxyAPI 实例。 CLIProxyAPI 自 v6.3.x 版本起,开始支持通过 WebSocket 方式接入 AI ...
由于该系列教程篇幅较长,因此我按主题拆分,大家可以点击目录快速跳转到感兴趣的篇章 手把手带你用上AI神器 - CLIProxyAPI(零:配置详细解说) 手把手带你用上AI神器 - CLIProxyAPI(壹:项目介绍+Qwen实战)...
由于该系列教程篇幅较长,因此我按主题拆分,大家可以点击目录快速跳转到感兴趣的篇章 手把手带你用上AI神器 - CLIProxyAPI(零:配置详细解说) 手把手带你用上AI神器 - CLIProxyAPI(壹:项目介绍+Qwen实战)...