OpenAI推出高达$20,000的漏洞赏金计划

关键要点

在4月11日的中，OpenAI宣布其漏洞赏金计划，奖励发现其人工智能系统安全漏洞的人，金额可高达$20,000。这一奖励的具体数额将根据报告问题的严重性和影响评估，低严重性的问题最高可获$200，而对于异常重大的发现，则可奖励高达$20,000。

Bugcrowd，这个平台提供漏洞赏金服务，与OpenAI合作负责漏洞提交和奖励的处理。该计划的推出正值对公司广泛使用的ChatGPT系统日渐增加的安全担忧之际。

上个月，OpenAI由于用户报告了一项漏洞，导致用户可以看到其他人的聊天记录，暂时关闭了整个ChatGPT系统。虽然该漏洞已经被修复，但公司承认一些用户的支付信息（包括信用卡号的最后四位数字和到期日）可能已被暴露。

三天后，一位Twitter用户rez0表示他在黑入系统时发现了超过80个ChatGPTAPI的秘密插件。针对这一发现，BugCrowd平台上的活跃研究人员GalNagli在Twitter上表示，如果OpenAI提供有偿的漏洞赏金计划，他将帮助公司“捕捉未来这些边缘案例”。

根据BugCrowd的数据，此计划在启动首日就有14个漏洞获得奖励，平均支付金额为$1,287.50。大约75%的提交在三小时内得到了接受或拒绝的回复。

根据，OpenAI强调与模型提示和响应内容相关的问题“严格不在奖励范围内”。被排除的问题包括监狱破解（jailbreak）和让模型说或做不当事情的行为。

监狱破解是修改系统以绕过其限制的过程，这可能导致ChatGPT输出未过滤的内容。今年早些时候，监狱破解者让GPT-3.5通过赋予其不同AI模型的角色，以“现在做任何事情”（DoAnything Now，简称DAN）的提示发出仇恨言论。

“尽管我们努力防范各种风险，但我们无法预见人们在现实中以何种方式使用或误用我们的技术，”该页面写道，并建议用户填写报告这些担忧。

3月，OpenAI的联合创始人兼首席执行官GregBrockman在他启动漏洞赏金计划或红队人员网络的计划，这一言论是回应22岁监狱破解提示爱好者AlexAlbert的帖子。

“民主化的红队工作是我们部署这些模型的原因之一，”Brockman写道。