• lamp

    这个 GitHub 项目作者简直是赛博菩萨。将 34 家免费层供应商、635 个模型端点,全都接到同一个 /v1 调用入口。把这些供应商的免费token利用率拉到最大。

    项目叫 FreeLLMAPI。它支持 OpenAI SDK调用,换模型的时候不用改接口。它还支持自动换路,一家遇到限额或报错时,就尝试改走其他可用接口。对正在赶 AI 原型和 demo 的人来说,省下反复换供应商、改配置的时间。

    现在很多程序员都是在网上到处找免费的模型使用,那么一定要先了解这个项目。这里面的羊毛可以逐个的来薅。

    拿它试模型、做 demo 或个人实验很合适,别直接接进生产业务。正式上线时,还是要换成有稳定保障的方案。官方仓库

    https://github.com/tashfeenahmed/freellmapi

    主楼
  • bbs1org

    试试

    #1

发表回复

登录后回复