AI安全工程师

该职位来源于猎聘 一、岗位职责 负责公司AI模型及AI应用场景的安全评估，包括大模型（LLM）、机器学习模型及AI Agent的安全风险识别与分析 建立并持续完善AI安全规范、技术基线与评估标准（包括模型安全、提示词安全、对抗攻击防护等） 负责AI系统在业务落地过程中的安全架构设计评审，确保AI系统符合公司安全要求 建设AI数据安全防护体系，包括训练数据、推理数据、日志数据的分类分级与保护机制 识别并防护AI相关安全风险，如数据泄露、模型投毒、提示词注入（Prompt Injection）、越狱攻击等 参与AI安全测试体系建设，包括红队测试、对抗测试及安全评估自动化能力建设 跟踪AI安全领域前沿技术与攻击手段，推动公司AI安全能力持续演进 配合数据安全、应用安全及基础设施安全团队，共同构建端到端AI安全体系 二、任职要求 必备要求 本科及以上学历，计算机、信息安全、人工智能等相关专业优先 熟悉机器学习/深度学习/大语言模型基本原理 具备应用安全或数据安全相关经验（如安全评估、渗透测试、SDL、安全架构等） 了解AI常见安全风险与攻击方式（如对抗样本、数据投毒、模型窃取等） 熟悉数据安全治理体系或安全基线建设方法 加分项 有大模型安全、LLM应用安全或AI红队经验 了解Prompt Injection、防越狱、RAG安全等机制 有云安全或MLOps安全经验 参与过AI安全标准制定或相关开源项目 有安全工具开发能力（Python/Go等）