Moderations 审核

给定一个输入文本，输出模型是否将其分类为违反 OpenAI 内容政策。

1. Create moderation

分类判断文本是否违反 OpenAI 的内容政策

请求演示：

响应：

{
  "id": "modr-5MWoLO",
  "model": "text-moderation-001",
  "results": [
    {
      "categories": {
        "hate": false,
        "hate/threatening": true,
        "self-harm": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": true,
        "violence/graphic": false
      },
      "category_scores": {
        "hate": 0.22714105248451233,
        "hate/threatening": 0.4132447838783264,
        "self-harm": 0.005232391878962517,
        "sexual": 0.01407341007143259,
        "sexual/minors": 0.0038522258400917053,
        "violence": 0.9223177433013916,
        "violence/graphic": 0.036865197122097015
      },
      "flagged": true
    }
  ]
}

Request body(入参详解)

input （string or array，必填）
要分类的输入文本
model （string，选填，Defaults to text-moderation-latest）
有两个内容审核模型可用：text-moderation-stable 和 text-moderation-latest。
默认情况下，使用的是 text-moderation-latest 模型，该模型会随着时间自动升级。这确保您始终使用我们最准确的模型。如果您使用 text-moderation-stable，则在更新模型之前我们将提供高级通知。text-moderation-stable 的准确性可能略低于 text-moderation-latest。

Moderations 审核

Moderations 审核#

1. Create moderation#

Moderations 审核

1. Create moderation