高级机器学习保证工程师

角色
我们的保障团队负责审查技术、金融和国防行业的高保障软件。我们的评估使我们的客户能够就其系统的风险做出明智的决策，包括如何最小化或减轻安全和安全问题。除了专注于应用安全、密码学、区块链安全和新兴平台安全的团队外，Trail of Bits还有一个机器学习(ML)实践，该实践创建工具和技术，用于探索可能导致模型性能下降、ML系统资产被利用以及ML输出的操纵或缺乏鲁棒性的新的攻击面和故障。Trail of Bits还创建并维护了200多个免费和开源工具（可在我们GitHub仓库中找到），并为公共和私营部门提供研究和工程服务。
作为一名高级机器学习保障工程师，您将是一个新成立的机器学习保障团队的一员，该团队旨在识别和分类直接影响ML模型性能的故障模式类别，以及可能破坏我们客户ML运营管道的新的危险和威胁。您将通过您在ML开发生命周期中的专业知识和经验，以及执行风险评估和威胁建模，为我们的客户提供价值。
职责

 
研究和发展机器学习保障框架，为新领域的ML审计和保障塑造方向。
 
对机器学习模型的功能及其故障模式进行风险评估和威胁建模。
 
分析系统缺陷导致的机器学习模型退化和故障。
 
直接与行业领先团队合作，审查系统代码和架构，并帮助通过系统分析和建模确保他们的产品。
 
制定并为政策和监管框架做出贡献，以实现在关键任务应用程序中部署机器学习和人工智能的保障和审计。

要求

 
3年以上机器学习数据管道或机器学习开发生命周期的经验。
 
3年以上关键任务应用程序的系统、安全或安全工程原理的经验。
 
3年以上执行或评估分析方法以评估机器学习性能、安全性或安全性的经验，从系统级要求（包括风险评估、系统危险分析、STPA等）。
 
了解ISO 38507、ISO 25012或类似的AI标准，如欧盟委员会关于可信AI的伦理指南。
 
出色的口头和书面沟通能力。
 
在地理分散和远程工作环境中取得成功的证明。
 
能够适应并在快速变化的领域中推动创新和性能。
 
技术背景，能够查看系统并分析其行为并实现其故障。

美国对这一全职W2雇员角色的估计基本工资为175,000-225,000美元，不包括奖金和福利。我们的薪资范围由角色、级别、地点和雇佣类型确定。每个职位发布上显示的范围反映了所有美国地点新雇员薪资的最低和最高目标。在此范围内，个人薪酬由多种因素决定，包括但不限于工作地点、与工作相关的技能、经验和相关的教育或培训。您的招聘人员可以在招聘过程中分享更多关于您首选地点的具体薪资范围的信息。