广受欢迎的GPT AI 聊天机器人背后的公司 OpenAI 推出了一项漏洞赏金计划,以确保其系统“安全可靠”。
为此,它与众包安全平台Bugcrowd合作,让独立研究人员报告在其产品中发现的漏洞,以换取“低严重性发现 200 美元到特殊发现高达 20,000 美元”的奖励。
值得注意的是,该程序不包括模型安全或幻觉问题,其中提示聊天机器人生成恶意代码或其他错误输出。该公司指出,“解决这些问题通常涉及大量研究和更广泛的方法。”
其他被禁止的类别包括拒绝服务 (DoS) 攻击、暴力破解 OpenAI API,以及旨在破坏数据或未经授权访问敏感信息的演示。
“请注意,授权测试并不能使您免除 OpenAI 的所有服务条款,”该公司警告说。“滥用该服务可能会导致速率限制、阻止或禁止。”
然而,范围内的是 OpenAI API、GPT(包括插件)、第三方集成、OpenAI API 密钥的公开暴露以及公司运营的任何域中的缺陷。
这一发展是为了响应 OpenAI修补帐户接管和平台中的数据暴露缺陷,促使意大利数据保护监管机构对该平台进行更仔细的审查。
意大利数据保护局提出解除 GPT 禁令的措施
Garante 于 2023 年 3 月 31 日对 GPT 实施了临时禁令,此后概述了微软支持的公司必须同意在月底前实施的一系列措施,以解除禁令。
Garante表示:“OpenAI 必须起草并在其网站上提供一份信息通知,描述 GPT 运行所需的数据处理安排和逻辑,以及赋予数据主体的权利。”
此外,在注册该服务之前,意大利用户应该可以随时获得信息通知。用户还需要声明他们已年满 18 岁。
OpenAI 还被勒令在 2023 年 9 月 30 日之前实施年龄验证系统,以过滤掉 13 岁以下的用户,并制定规定为 13 至 18 岁的用户征求父母的同意。公司被要求在 5 月 31 日之前提交年龄限制系统的计划。
作为行使数据权利努力的一部分,服务的用户和非用户都可以在服务错误生成数据的情况下请求“更正其个人数据”,或者如果更正在技术上不可行,则删除数据。
根据 Garante,非用户应该进一步获得易于访问的工具,以反对他们的个人数据被 OpenAI 的算法处理。该公司还有望在 2023 年 5 月 15 日之前开展一场广告活动,以“告知个人将其个人数据用于训练算法”。