2024年10月19日 13:15:43
字節(jié)跳動商業(yè)化團(tuán)隊(duì)模型訓(xùn)練被“投毒” 內(nèi)部人士稱未影響豆包大模型
財聯(lián)社10月19日電,近日,有消息稱字節(jié)跳動發(fā)生大模型訓(xùn)練被實(shí)習(xí)生“投毒”事件。據(jù)悉,該事件發(fā)生在字節(jié)跳動商業(yè)化團(tuán)隊(duì),因?qū)嵙?xí)生田某某對團(tuán)隊(duì)資源分配不滿,利用HF(huggingface)的漏洞,通過共享模型注入破壞代碼,導(dǎo)致團(tuán)隊(duì)模型訓(xùn)練成果受損。消息稱此次遭到入侵的代碼已注入8000多張卡,損失或達(dá)千萬美元。字節(jié)跳動知情人士向記者透露稱,近期公司確實(shí)發(fā)生過破壞模型訓(xùn)練一事,但傳聞存在夸張和虛構(gòu)的部分,該事件實(shí)際發(fā)生在今年6月底,田某某是在商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí),因?yàn)閷F(tuán)隊(duì)資源分配不滿,使用攻擊代碼破壞團(tuán)隊(duì)的模型訓(xùn)練任務(wù),千萬美元損失的數(shù)字也有所夸大。

另外,該人士稱,受代碼入侵影響的業(yè)務(wù)不是豆包大模型,而是商業(yè)化技術(shù)團(tuán)隊(duì)的模型訓(xùn)練任務(wù),影響了廣告部門的部分技術(shù)工作,實(shí)習(xí)生通過共享模型進(jìn)行入侵的部分也不屬于集團(tuán)大模型。據(jù)知情人士向記者透露,目前該實(shí)習(xí)生已被辭退,公司也將相關(guān)情況同步給行業(yè)聯(lián)盟與實(shí)習(xí)生學(xué)校。 (第一財經(jīng))
收藏
466.58W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
關(guān)聯(lián)話題
4.21W 人關(guān)注
1.95W 人關(guān)注
8309 人關(guān)注