此功能可帮助您决定生成请求是应同步运行（立即响应）还是作为后台任务异步运行。它提供明确的指导，以改善用户体验、系统可靠性以及在不同工作负载下的性能。
此功能阐明了何时应同步处理生成请求，何时应将其排队并在后台处理。它可帮助您根据预期的延迟、有效负载大小、计算成本和用户交互模式来评估请求。对于用户期望立即获得结果的快速、轻量级生成，它建议采用同步处理以保持流程的响应速度。对于长时间运行或资源密集型的生成，它建议使用后台任务以防止超时并保持应用程序稳定。该功能支持设计一致的用户体验模式，例如进度指示器、任务状态轮询和完成结果通知。它还可以通过将繁重的工作路由到队列和工作进程，而不是占用 Web 线程，来帮助您规划流量高峰。通过明确这一决策过程，团队可以在各个端点标准化实现，避免临时处理。它降低了因长时间等待、请求失败或响应时间不可预测而导致糟糕用户体验的风险。最终实现更具可扩展性的架构，使性能特征与用户期望保持一致。
外部资源
https://spicyapi.ai/
如果您知道某个工具或方法可以帮助人们解决我们尚未涵盖的问题，我们很乐意听取。
我们将在48小时内审核 我们会审核和测试每个技能 我们阅读每一份提交