首页 > 新闻 > 国内 >

字节跳动大模型训练被曝遭实习生攻击,官方未正式回应

发布时间:2024-10-19 09:50:00来源:
近日,网络上一则关于某头部大厂的大模型训练被实习生入侵的消息引起了广泛关注。据报道,该实习生在训练过程中注入了破坏代码,导致模型的训练成果不可靠,可能需要重新训练。据称,此次入侵涉及的代码量巨大,达到了8000多张卡,带来的潜在损失令人咋舌。

这则消息最初在10月18日开始在网络上流传,并迅速引发了各方关注。消息指出,这位实习生在某头部大厂(据相关人士透露为字节跳动)的商业化技术团队实习期间,因对团队资源分配不满,采取了极端手段,利用攻击代码破坏了团队的模型训练任务。

传闻显示,这位实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入了破坏代码。这导致模型的训练效果变得不稳定,忽高忽低,无法产生预期的训练效果。AML团队在排查问题时发现,他们无法准确核查原因,这使得整个训练过程受到了严重影响。

然而,在传闻曝出后,涉事的实习生却在某微信群里进行了“辟谣”。他声称,在发完论文后就已从字节跳动离职,并指责是另有其人钻了漏洞,修改了模型代码,将责任推卸到了自己身上。不过,据知情人士透露,字节跳动内部已经对此事进行了调查,并明确确认是这位田姓实习生所为。

目前,该实习生已被字节跳动辞退,并且公司已经将此事同步给了阳光诚信联盟和企业反舞弊联盟,以及该实习生所在的学校。尽管如此,这位实习生在被辞退后仍在四处“辟谣”,试图推卸责任。

值得注意的是,此次事件不仅给字节跳动的商业化技术团队带来了业务上的影响,还暴露了公司在技术训练方面的安全管理问题。一位技术安全专家指出,HF漏洞的产生通常与单一性集中训练有关,而字节跳动在此事上既没做权限隔离,也没有做好共用代码的审计。

正常情况下,每次大的代码变动都应该进行审计,确保每一次操作都有痕迹记录。然而,字节跳动在此次事件中显然没有做到这一点,使得一个人能够轻易地修改代码并破坏整个训练过程。这也提醒了其他企业在技术管理方面需要更加严格和细致。

截至目前,字节跳动官方尚未对此事进行正式回应。但无论如何,此次事件都给企业带来了深刻的教训,提醒他们在技术管理和人员管理方面需要更加谨慎和周密。
(责编: admin1)

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。