17370845950

本文详解如何通过 safety_settings 参数彻底关闭 gemini vision pro 模型的默认内容安全过滤，解决因图像触发敏感策略导致的 invalidargument 错误，并提供可直接运行的配置示例与关键注意事项。

在使用 Google Gemini Vision Pro（现已被整合进 gemini-1.5-pro 等更新模型，但 gemini-pro-vision 在旧版 SDK 中仍被广泛调用）进行多模态推理时，模型默认启用严格的安全过滤（Safety Settings），用于拦截潜在有害、违法或不适宜的内容。当输入图像（如自拍、含文字标识的场景、模糊纹理或特定构图）被安全系统误判为涉及 HARM_CATEGORY_* 类别时，API 会直接拒绝请求并抛出 google.api_core.exceptions.InvalidArgument 异常——该错误不返回具体原因，仅提示“error details recorded in logs”，极大增加调试难度。

要真正绕过这一限制，不能使用空列表 [] 或省略参数（SDK 会自动回退至默认高敏感阈值），而必须显式声明全部五大核心风险类别，并统一设为 "BLOCK_NONE"。注意：Gemini 官方文档明

确列出的完整类别共 5 项，但实际生效的关键是以下 4 项（原提问中误写重复了 DANGEROUS，且 DANGEROUS_CONTENT 才是标准命名）：

safety_settings = [
    {
        "category": "HARM_CATEGORY_HARASSMENT",
        "threshold": "BLOCK_NONE"
    },
    {
        "category": "HARM_CATEGORY_HATE_SPEECH",
        "threshold": "BLOCK_NONE"
    },
    {
        "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
        "threshold": "BLOCK_NONE"
    },
    {
        "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
        "threshold": "BLOCK_NONE"
    }
    # 注意：HARM_CATEGORY_DANGEROUS（无 "_CONTENT" 后缀）不是有效类别，应删除
]

✅ 正确用法示例（整合进你的函数）：

import google.generativeai as genai

def Gemini_vision(prompt, image):
    genai.configure(api_key=GEMINI_API_KEY)
    model = genai.GenerativeModel('gemini-pro-vision')

    safety_settings = [
        {"category": "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_NONE"},
        {"category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_NONE"},
        {"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_NONE"},
        {"category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_NONE"}
    ]

    response = model.generate_content(
        contents=[image[0], prompt],
        safety_settings=safety_settings
    )
    return response.text

⚠️ 重要注意事项：

• 合规性责任仍在开发者：禁用安全过滤不豁免你对生成内容的法律与伦理责任。生产环境强烈建议保留至少基础阈值（如 "BLOCK_LOW_AND_ABOVE"）。
• 模型版本兼容性：gemini-pro-vision 已于 2025 年逐步弃用，推荐升级至 gemini-1.5-pro 并使用其增强的 safety_settings 支持（语法一致，但类别更细粒度）。
• Streamlit 部署特殊处理：若在 Streamlit Cloud 运行，需确保 GEMINI_API_KEY 通过 Secrets 管理，且日志中出现 InvalidArgument 时，应检查 Cloud 控制台的 App Logs 获取真实错误码（如 400 BAD REQUEST + SAFETY_BLOCKED）。
• 调试技巧：首次集成时，可先用 response.prompt_feedback.block_reason 检查是否被拦截（即使报错，部分响应对象仍含此字段），快速定位触发的具体类别。

总结而言，禁用安全过滤的核心是精准枚举全部有效类别并设为 BLOCK_NONE，而非简化或遗漏。此举能显著提升调试效率，但务必与内容审核策略协同设计，平衡可用性与安全性。