Gemini Pro API的内容安全设置通过多层过滤机制，对输入提示和输出内容进行检测，覆盖仇恨言论、骚扰内容、色情内容、危险内容等多个类别，开发者可以根据自身应用的合规要求调整对应的安全阈值。
Gemini Pro API内容安全设置的核心类别
Gemini Pro API将内容安全划分为四个核心检测类别，每个类别都有独立的安全阈值配置项，开发者可以单独调整每个类别的过滤严格程度：
- 仇恨言论类：检测针对种族、性别、宗教等群体的歧视性或攻击性内容
- 骚扰类：检测针对特定个人的辱骂、威胁或恶意骚扰内容
- 色情类：检测露骨的性内容、色情暗示相关内容
- 危险类：检测涉及自残、暴力、非法活动指导等危险内容
安全阈值的四个等级说明
每个安全类别都支持四个阈值等级，不同等级对应不同的过滤严格度，开发者可以根据应用类型选择合适的等级：
| 阈值等级 | 过滤规则 | 适用场景 |
|---|---|---|
| BLOCK_NONE | 不拦截任何内容，仅做检测标记 | 内容审核工具、需要全量获取内容的分析类应用 |
| BLOCK_ONLY_HIGH | 仅拦截高概率违规内容 | 创意写作、开放话题讨论类应用 |
| BLOCK_MEDIUM_AND_ABOVE | 拦截中高概率违规内容 | 通用社交、内容发布类应用 |
| BLOCK_LOW_AND_ABOVE | 拦截所有低概率及以上违规内容 | 面向未成年人的应用、金融政务类合规要求高的应用 |
Python环境下配置内容安全设置示例
使用官方Python SDK配置Gemini Pro API的内容安全设置时，需要在生成内容请求中传入safety_settings参数，以下是完整的配置示例：
import google.generativeai as genai
# 配置API密钥
genai.configure(api_key="你的API密钥")
# 定义内容安全设置
safety_settings = [
{
"category": "HARM_CATEGORY_HATE_SPEECH",
"threshold": "BLOCK_MEDIUM_AND_ABOVE"
},
{
"category": "HARM_CATEGORY_HARASSMENT",
"threshold": "BLOCK_MEDIUM_AND_ABOVE"
},
{
"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
"threshold": "BLOCK_LOW_AND_ABOVE"
},
{
"category": "HARM_CATEGORY_DANGEROUS_CONTENT",
"threshold": "BLOCK_LOW_AND_ABOVE"
}
]
# 初始化模型并传入安全设置
model = genai.GenerativeModel(
model_name="gemini-pro",
safety_settings=safety_settings
)
# 发送请求获取响应
response = model.generate_content("请介绍不同文化下的节日习俗")
print(response.text)
常见配置误区与注意事项
在配置内容安全设置时，开发者经常会遇到以下问题，需要特别注意：
- 不要盲目设置所有类别为BLOCK_LOW_AND_ABOVE，过高的过滤严格度会导致正常内容被误拦截，影响用户体验
- 如果应用需要处理敏感话题，建议先设置BLOCK_ONLY_HIGH等级，再结合人工审核机制处理边界内容
- 内容安全设置仅对当前请求生效，若需要全局生效，可以在初始化模型时统一传入安全配置
- 当内容被拦截时，API响应会返回
safety_ratings字段，开发者可以根据该字段判断具体是哪个类别触发了拦截，进而调整对应阈值
响应中安全评级的解读
每次API请求返回的结果中，都会包含safety_ratings数组，展示每个安全类别的违规概率评级，评级分为四个等级：
- NEGLIGIBLE：几乎无违规概率
- LOW：低概率违规
- MEDIUM：中概率违规
- HIGH：高概率违规
开发者可以通过解析该字段，记录内容安全日志，或者针对被拦截的内容做二次处理逻辑，比如返回友好的提示信息而不是空响应。
注意：内容安全设置是Gemini Pro API的基础防护机制，不能完全替代应用层的内容审核逻辑，对于合规要求极高的场景，建议在API层过滤的基础上，增加应用层的二次审核流程。
Gemini_Pro_API内容安全设置API配置安全阈值修改时间：2026-07-07 04:24:21