OpenAI近日宣布推出“红队网络”

美国人工智能研究机构OpenAI近日宣布推出“红队网络”，邀请各行各业专家参与，以提升其AI模型的安全性。

OpenAI 表示，“红队网络”是一个由经验丰富且值得信赖的专家组成的社区，可以帮助公司更广泛地进行风险评估，而不是在主要模型部署之前进行一次性参与和选择过程。

这一举措旨在深化OpenAI与外部专家的合作，确保AI模型的可靠性和安全性。红队在识别AI系统中的偏见和评估安全过滤器方面发挥着关键作用，这在当前广泛采用生成式技术的情况下尤为重要。OpenAI特别邀请了来自不同领域的专家，包括语言学、生物识别、金融和医疗保健等领域的专家。他们强调了不同领域专业知识对于评估人工智能的重要性，这将确保专业知识在评估AI系统时得到充分应用，以确保其安全性和可靠性。通过与外部专家的合作，OpenAI致力于确保其AI技术的可持续发展和安全性。

据报道，“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用，已经成为人工智能模型开发过程中的关键一步，尤其是在生成式技术得到更广泛采用的情况下。

OpenAI 向不同领域的专家发出邀请，包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性，包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。