Anthropic设32个安全岗位防AI滥用

据Axios报道，AI公司Anthropic发布32个安全岗位，包括化学品与爆炸物、核武器、金融诈骗及网络犯罪等领域的分析员，旨在防止AI系统被用于制造危险品。薪资范围在25万至28万美元之间。公司发言人表示，确保模型不提供有害信息是负责任开发的核心，招聘这些敏感领域专家是为了在模型上线前进行压力测试并加强防御。CEO Dario Amodei此前曾警告，AI可能被用于生物攻击，称即使短期内不会发生，但长期来看存在造成数百万人伤亡的严重风险。OpenAI也在招聘年薪29.5万至44.5万美元的生物与化学风险研究员。由于人才流向私营部门且缺乏统一监管，科技公司正主导为日益强大的AI设置安全护栏。