视听早报|  中原论道|  企业号| 政策| 招标| 人事| 会议| 专题
OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性
小狐狸| TechWeb.com.cn| 2023-09-21
【流媒体网】摘要：OpenAI的这一举措旨在深化和扩大其与外部专家的合作，以确保其人工智能模型的可靠性和安全性。

　　据外媒报道，美国人工智能研究公司OpenAI宣布推出“红队网络”（Red Teaming Network），并邀请各领域专家加入其“红队网络”，以提高其人工智能（AI）模型的安全性。

　　OpenAI的这一举措旨在深化和扩大其与外部专家的合作，以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险，在增强OpenAI人工智能系统的稳健性方面发挥关键作用。

　　尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作，但新推出的“红队网络”将这些努力正式化。

　　OpenAI表示，“红队网络”是一个由经验丰富且值得信赖的专家组成的社区，可以帮助公司更广泛地进行风险评估，而不是在主要模型部署之前进行一次性参与和选择过程。

　　据报道，“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用，已经成为人工智能模型开发过程中的关键一步，尤其是在生成式技术得到更广泛采用的情况下。

　　OpenAI向不同领域的专家发出邀请，包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性，包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。

责任编辑：李楠

分享到：
版权声明：凡注明来源“流媒体网”的文章，版权均属流媒体网所有，转载需注明出处。非本站出处的文章为转载，观点供业内参考，不代表本站观点。文中图片均来源于网络收集整理，仅供学习交流，版权归原作者所有。如涉及侵权，请及时联系我们删除!

相关文章

数智生活OpenAI下周将推GPT商店 用户可共享和销售定制聊天机器人
TechWeb.com.cn2024-01-05
数智生活亚马逊开发出有史以来最大的文本转语音模型
TechWeb.com.cn2024-02-18
数智生活OpenAI计划从微软获得进一步资金支持,今年已获得100亿美元投资
IT之家 2023-11-13
数智生活Meta最早可能会在本周推出有个性的人工智能聊天机器人
TechWeb.com.cn2023-09-26
数智生活OpenAI推出新版人工智能图像生成器DALL-E 3
TechWeb.com.cn2023-09-21

24小时热文

流 • 视界

专栏文章更多