加入我们
我们是一支以研究驱动的小团队，为AI智能体打造独立的安全测试。我们正在招聘工程师和实习生，并为研究者开设Sentinel Fellowship研究项目。所有职位均为混合办公。
开放职位
我们在招聘
点击职位查看详情。
全职 软件工程师
打造用于测试和保护客户AI智能体的平台。
工作内容
- 构建对AI智能体进行大规模安全测试并报告结果的系统。
- 构建运行时网关，在智能体的高风险操作执行前进行检查。
- 对接客户使用的工具、API和智能体框架。
我们希望你
- 具备扎实的软件工程经验，尤其是后端系统与API。
- 重视所交付代码的可靠性与安全性。
- 对AI和大模型感兴趣。有机器学习经验是加分项，但不是必需。
全职 AI工程师
将AI安全研究转化为可在真实智能体上运行的自动化测试。
工作内容
- 开发针对大模型和智能体的自动化红队测试方法，例如越狱、提示词注入和工具滥用。
- 构建评估流程，衡量智能体的安全程度及其随时间的变化。
- 与研究团队合作，将新的攻击与防御方法引入产品。
我们希望你
- 有大模型的实际经验：训练、微调或评估。
- 熟练掌握Python，并有PyTorch或类似框架的使用经验。
- 有AI安全研究经验或发表论文者优先。
实习 工程与研究实习生
用3至6个月的时间，在创始人的指导下专注完成一个工程或研究项目。
工作内容
- 负责一个范围明确的项目，例如一种新的攻击技术、一个评估基准或一项平台功能。
- 与团队一起在真实系统上工作，而不是做边缘项目。
我们希望你
- 计算机科学、机器学习、安全或相关专业的在读学生。
- 具备扎实的编程能力，对AI系统如何失效充满好奇。
Sentinel Fellowship
AI智能体安全研究项目
Sentinel Fellowship支持研究者攻关AI智能体安全领域的开放问题。入选者将用六个月的时间专注于一个研究项目，由我们的创始人指导，目标是产出公开成果：一篇论文、一个开源工具或一个评测基准。
研究方向
AI智能体红队测试、运行时防护、神经元级安全与修复，以及如何判断一个系统已经过足够测试、可以部署。
你将获得
六个月共计1,000英镑的津贴，来自在顶级安全与机器学习会议发表研究的创始人的密切指导，以及发表成果的支持。混合办公。
适合人群
博士生、博士后，以及具备研究背景、希望解决有实际意义的AI安全问题的工程师。
为什么选择Sentinel
解决还没有答案的问题
研究驱动
我们的创始人在USENIX Security、NDSS、NeurIPS和ICML发表研究成果。你将直接与他们共事，新的研究会直接进入产品。
真实的影响
AI智能体正在被赋予资金、数据和内部系统的访问权限。我们要回答的问题是：它们是否值得这份信任。
早期小团队
你将负责系统的完整模块，而不是处理任务队列，并参与塑造公司和产品的发展方向。