开始使用

发送第一个流式请求

Bash 与 PowerShell 都可以完成的最小验证。

先查询模型,再发送生成请求

模型广场用于了解目录,带这把密钥请求 /v1/models 用于确认它看到的模型范围。列表可见仍不等于此刻每个模型都可成功生成。

Bash
export SOTAAI_API_KEY='YOUR_API_KEY'
export SOTAAI_BASE_URL='https://sotaai.org'
export SOTAAI_MODEL='YOUR_MODEL'
Bash
curl --fail-with-body --max-time 30 "$SOTAAI_BASE_URL/v1/models" \
  -H "Authorization: Bearer $SOTAAI_API_KEY"

Bash / macOS / Linux / WSL

将 YOUR_MODEL 换成真实模型 ID。这里不固定推理强度,避免把不适用的参数发给模型。需要时再依据模型能力添加。

Bash
curl --fail-with-body -N --max-time 120 "$SOTAAI_BASE_URL/v1/responses" \
  -H "Authorization: Bearer $SOTAAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL",
    "input": "Reply with exactly OK.",
    "stream": true,
    "store": false
  }'

Windows PowerShell

下面的变量仅在当前终端会话生效。PowerShell 使用反引号续行,不能照搬 Bash 的反斜杠。

PowerShell
$env:SOTAAI_API_KEY = 'YOUR_API_KEY'
$env:SOTAAI_BASE_URL = 'https://sotaai.org'
$env:SOTAAI_MODEL = 'YOUR_MODEL'
PowerShell
$headers = @{ Authorization = "Bearer $env:SOTAAI_API_KEY" }
Invoke-RestMethod "$env:SOTAAI_BASE_URL/v1/models" -Headers $headers

$body = @{
  model = $env:SOTAAI_MODEL
  input = 'Reply with exactly OK.'
  stream = $true
  store = $false
} | ConvertTo-Json

$body | curl.exe --fail-with-body -N --max-time 120 `
  "$env:SOTAAI_BASE_URL/v1/responses" `
  -H "Authorization: Bearer $env:SOTAAI_API_KEY" `
  -H "Content-Type: application/json" `
  --data-binary '@-'

如何判断真的成功了

  • 响应为 SSE 事件流,通常使用 text/event-stream 内容类型。
  • 能读到生成的文本,且最终收到 response.completed。
  • 如果收到 error、response.failed 或不完整结束,应检查事件正文,不只看 HTTP 状态。
  • 在控制台使用记录中核对同一时间、同一密钥的请求。

命令中的 120 秒是本地演示的超时上限,不能作为服务响应时间承诺。流式连接结束前,客户端主动停止也可能中断输出。

发现内容有误,或有未解答的问题?反馈文档问题 ↗
SOTA AI / 文档中心为每一次创造,减少一点阻力。
输入关键词,查找 28 篇文档
↑ ↓ 选择Enter 打开Esc 关闭