【工作职责】 职位概述： 作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。 主要职责： 1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。 2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。 3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。 4.协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。 5.监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。 6.跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。 7.跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。 【任职要求】 1.本科及以上学历，计算机科学、人工智能、信息安全或相关领域；2年以上互联网产品经验，有AI安全、内容治理或风险控制相关经验。 2.精通生成式AI技术（如LLM、扩散模型）及其安全挑战，熟悉常见攻击和防护方案，精通AIGC识别基本方法（Watermark、C2PA、检测模型等）。 3.具备强产品思维和数据分析能力，能通过指标驱动决策；有从0到1构建安全产品的成功案例者优先。 4.出色的跨团队沟通和项目管理能力，能在快节奏环境中统筹复杂项目。 5.对社交平台生态有深刻理解，责任心强，具备战略视野和风险敏锐度。 6.有大型UGC平台治理或AIGC检测实战经验；熟悉小红书业务模式者优先。 7.发表过相关技术论文或参与过行业标准制定者优先。