利用Cloudflare Workers AI 快速搭建教程ChatGPT
2024-1-7 11:31:0 Author: blog.upx8.com(查看原文) 阅读量:106 收藏

Cloudflare AI Web介绍

Cloudflare AI Web是一个在线开源基于GeminiPro Vision和ChatGPT搭建的融合Web平台,利用免费、免翻的 Cloudflare Workers AI 快速搭建文本生成、AI翻译、AI绘画平台,支持GeminiPro Vision / Cloudflare Workers AI / ChatGPT等等,支持Vercel Edge Functions 部署,全球CDN网络加速,500000次免费额度,无限制响应时间,开箱即用。

Cloudflare AI Web如何使用

特性

  • 利用免费的 Cloudflare Workers AI 快速搭建文本生成、AI翻译、AI绘画平台
  • Vercel Edge Functions 部署,全球边缘网络加速,500000次免费额度,无限制响应时间
  • 支持 ChatGPT GeminiPro(Vision),支持开启访问密码,支持自定义域名

模型支持

  • 视觉 GeminiPro Vision
  • 文生图 stable-diffusion-xl-base-1.0
  • 文本生成 GeminiPro llama-2-7b-chat-fp16 llama-2-7b-chat-int8 mistral-7b-instruct-v0.1 gpt-3.5-turbo
  • 代码生成 codellama-7b-instruct-awq
  • 翻译 m2m100-1.2b

部署说明

环境变量

  • CF_TOKEN - Cloudflare Workers AI Token
  • CF_GATEWAY - Cloudflare AI Gateway URL
  • OPENAI_API_KEY - OpenAI API Key (需要ChatGPT时填写)
  • G_API_KEY - Google AI API Key (需要GeminiPro时填写)
  • G_API_URL - Google AI 反代 (非美国ip填写,或参考以下配置)
  • PASSWORD - 访问密码 (可选)

CF_TOKEN

https://dash.cloudflare.com/profile/api-tokens

  • 单击创建令牌
  • 使用Workers AI (Beta)模板
  • 单击继续以显示摘要
  • 单击创建令牌
  • 复制您的令牌,在vercel中设置环境变量

CF_GATEWAY

https://dash.cloudflare.com/

  • Cloudflare 侧栏 AI - AI Gateway
  • 添加新 AI Gateway
  • 填写名称和URL slug创建
  • 单击右上角API Endpoints
  • 复制您的Universal Endpoint,在vercel中设置环境变量

G_API_KEY

https://ai.google.dev/tutorials/rest_quickstart#set_up_your_api_key

G_API_URL

参考 https://github.com/Jazee6/gemini-proxy 搭建反代

或者在nuxt.config.ts中添加以下配置

nitro: {
    vercel: {
        regions: ["cle1", "iad1", "pdx1", "sfo1", "sin1", "syd1", "hnd1", "kix1"]
    }
}

Tips

  • 由于Workers AI 目前为开放 Beta 版,不建议用于生产数据和流量,限制 + 访问可能会发生变化
  • 请不要启用AI Gateway的缓存,否则可能会导致重复的回复
  • 请保持与Main分支同步,以便获取最新的功能和修复

演示地址:https://ai.jaze.top

GitHub:https://github.com/Jazee6/cloudflare-ai-web


文章来源: https://blog.upx8.com/3991
如有侵权请联系:admin#unsafe.sh