图像内容审核器: Ferramenta de IA

检测任何图像中的不安全或违反政策的内容。提供图像 URL(以及可选的上下文文本),即可获得成人、暴力、仇恨或其他受限内容的结构化标志,非常适合在用户上传内容进入生成流程前进行预筛选。

📝

Overview

About this model

检测任何图像中的不安全或违反政策的内容。传入图像 URL(以及可选的上下文文本),即可获得布尔标志和触发类别的结构化列表——非常适合作为用户上传内容或 AI 生成画面进入下游流程前的预筛选。

1用户上传:在 API 边界拒绝明显不安全的图像,然后再存储或处理。
2生成流程:对生成的画面进行后置检查,在交付前重新生成或拦截。
3合规:为接触产品的每张图像保留可审计的安全日志。
💰

Pricing & Value

Cost analysis

muapiapp$0.01 per image

每次审核调用按固定费用计费,不设用量阶梯。

Fal.aiNão disponível

没有等效的第一方图像审核模型。

ReplicateNão disponível

没有等效的第一方图像审核模型。

** Competitor pricing is estimated based on similar model architectures and usage tiers.

⚙️

Technical Details

Configuration schema

Imagem URLstring

要审核的Imagem URL。Suportado公开 URL 和标准Imagem格式。

Default Valuehttps://d3adwkbyhxyrtq.cloudfront.net/ai-images/sample.jpg
上下文文本string

Optional context or custom moderation criteria. Use this to bias the moderator with extra context.

Default Value
📖

Implementation Guide

Developer documentation

Como Usar图像内容审核

  1. 提交图像:POST image_url(可公开访问的 URL)和可选的 text,用额外上下文为审核器提供偏置(例如:"flag anything with weapons")。

  2. 轮询结果:调用 /api/v1/predictions/{request_id}/result,直到 statuscompleted。或者设置 webhook 查询参数,以异步接收判定结果。

  3. 根据判定采取行动output.flagged 布尔值可作为你的闸门。output.categories 会列出触发的类别,output.has_nsfw_contents 会镜像提供方针对每个Saída返回的 NSFW 布尔值。

Common Questions

Frequently asked

支持哪些图像格式?

任何可通过 URL 访问的标准网页图像格式——JPEG、PNG、WebP、GIF。

`text` 有什么作用?

它是提供给审核器的可选上下文提示。可以用它根据自定义标准调整模型,例如:"flag content involving children"。

速度有多快?

通常每张图像只需几秒即可完成。