OpenAI称其遭遇有组织蒸馏,将矛头指向月之暗面
IT之家10月1日消息,当地时间9月30日,OpenAI 在官网发文,称其近期遭遇一场有组织的蒸馏活动。 OpenAI称其遭遇有组织蒸馏 OpenAI 在文中表示,该活动最初始于7月第一周, 符合对抗式蒸馏(adversarial distillation)之特征 ,即系统性未经授权地利用某模型输出或推理过程,帮助训练、复现或改进另一模型。 OpenAI 透露,7月1日的初始活动规模较小,直到7月24日和7月25日流量突然大幅增加,当时有超过4000名用户发起了1.6万次请求。该公司进一步调查后发现,超1.5万名用户存在类似提示词活动。到7月28日,OpenAI 已完全阻止该批活动。 本次活动并没有破解公司的加密系统,或入侵数据库,也没有直接访问用户对话。OpenAI 声称这些行动违反了他们的服务条款。 公司已通过前沿模型论坛(IT之家注:Frontier Model Forum)与行业合作伙伴分享相关信息 ,共同加强蒸馏防御能力。 OpenAI 最后披露,公司截至目前尚不清楚攻击实体。 不过公司认为其核心活动群体和开发 Kimi 模型的月之暗面有关 。 特别