字节跳动回应:确有实习生“投毒”破坏大模型,现已辞退!

今年暑期有消息称字节跳动某位实习生,因为对团队资源分配不满,利用漏洞破坏GPU集群代码,导致大模型训练受到影响,字节方面在10月19日已经证实确有实习生“投毒”破坏大模型,目前已将其辞退,并且向全行业公开了这位实习生的信息。

事情发生在今年的6月份,字节内部负责大模型训练的某技术团队,遭遇了一次内部技术攻击时间,最后查明原来是一名田姓实习生所为,这位实习生利用HF平台的漏洞,在公司的共享模型中写入了破坏代码,导致大模型训练效果忽高忽低非常不稳定,始终无法产生预期的训练结果。

这位实习生因为团队领导将资源调度分配给了其他团队,心生恨意于是决定搞破坏,输入到GPU集群的攻击代码最初看起来是debug,利用Hugging Face的load ckpt函数的漏洞注入代码,修改模型参数梯度的方向,同时这名实习生还长期潜伏在团队群中,有针对性地对训练过程进行破坏。

字节内部花了差不多两个月才查明真相,这位实习生一开始还在狡辩,一位字节相关人员在Github上吐槽这位田姓实习生,“你在长达2个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实!”

字节证实这位田姓实习生来自国内TOP2某高校的在读博士生,在21年9月起就在字节实习,这位实习生所在团队今年还和王立威团队一起推出了新一代VAR视觉自回归模型,在图像生成质量、推理速度等多方面超越了DiT,目前这位实习生已经被字节辞退,同时个人详细信息也向大模型行业联盟公开,未来永不录用。

大模型相关:

深度学习入门——图灵奖AI三巨头

阿尔法狗之父——从游戏设计师,到化学诺奖得主!

AI编年史——深度学习的发展史(收藏向)

AI编年史2——GPT是如何诞生的?

AI学术巨佬——何恺明,从游戏中获得论文灵感

AI诺奖得主——辛顿,AI教父的成长史!

AI领军人物——孙剑,重剑无锋的经典之作

AI传奇巨佬——汤晓鸥,中国人工智能领袖人物!

AI女神李飞飞——从成都七中,到顶级AI科学家!

山姆·奥特曼——从游戏编程,到OpenAI之父!

张益唐——黎曼猜想,华人数学家再创重大突破!

B站大学——线代不挂科,MIT传奇教授的最后一课!

华为——盘古大模型解读,专注“小模型”工业落地!

英伟达——跟着老黄学AI,英伟达官方免费推出AI课!

微软免费AI课程——18节课,初学者入门大模型!

百度——萝卜快跑出圈,自动驾驶的发展史!

机器学习——科学家周志华,成为中国首位AI顶会掌门人!

机器学习入门——数学基础(积分篇

机器学习入门——数学基础(代数篇

机器学习入门——数学基础(贝叶斯篇

#gd的ai&游戏杂谈#

分享到:

评论已关闭