跳转到主要内容

学习高级功能

流式响应

在生成时获取实时响应

函数调用

让 AI 与外部工具和 API 交互

视觉支持

使用多模态模型处理图像

API 文档

完整的 API 参考和指南

探索文档

API 参考

完整的 API 文档

OpenAI API

OpenAI 兼容端点

Anthropic API

Anthropic Claude 兼容端点

模型目录

浏览所有 70+ 个可用模型

构建真实应用

1. 聊天机器人

构建智能聊天机器人:

2. 内容生成器

生成博客文章、电子邮件或社交媒体内容:

3. 代码助手

构建编程助手:

4. 数据分析器

分析数据并生成见解:

最佳实践

  • GPT-4: 最适合复杂推理
  • GPT-3.5 Turbo: 快速且经济实惠
  • Claude Opus: 出色的分析和长上下文处理
  • Claude Sonnet: 平衡的性能
  • Gemini Pro: 强大的多模态能力
查看模型目录了解详细比较。
  • 从较便宜的模型开始测试
  • 使用 max_tokens 限制响应长度
  • 尽可能缓存响应
  • 使用流式传输改善感知性能
  • 在仪表板中监控使用情况
  • 具体且清晰
  • 需要时提供示例
  • 使用系统消息设置上下文
  • 将复杂任务分解为步骤
  • 测试不同的 temperature 设置
  • 跟踪对话历史
  • 限制历史以避免令牌限制
  • 如需要,总结旧消息
  • 对重复内容使用提示词缓存

生产考虑因素

安全性

  • 在环境变量中存储 API 密钥
  • 永远不要将密钥提交到版本控制
  • 为开发/测试/生产使用不同的密钥
  • 定期轮换密钥
  • 监控使用异常

性能

  • 使用流式传输获得更好的用户体验
  • 在适当的地方实施缓存
  • 添加指数退避的重试逻辑
  • 监控响应时间
  • 考虑使用 webhooks 进行异步操作

监控

  • 跟踪令牌使用情况
  • 监控错误率
  • 记录 API 请求(不包含敏感数据)
  • 设置配额限制警报
  • 定期审查成本

扩展

  • 实施速率限制
  • 为高容量请求使用队列
  • 缓存常见响应
  • 考虑批量请求
  • 规划故障转移策略

加入社区

Discord

与其他开发者聊天

GitHub

查看示例并贡献

Twitter/X

关注以获取更新

YouTube

观看教程

获取帮助

大多数常见问题在我们的常见问题中都有答案。
开发者文档中提供了全面的指南。
通过 support@megallm.io 向我们发送电子邮件以获取技术协助。
发现错误?在 GitHub 上报告。

有用的资源

准备好构建了吗?

今天就开始构建您的 AI 应用程序。如果您需要帮助,我们随时为您服务!

API 参考

完整文档

支持

从我们的团队获取帮助