字节跳动商业化团队模型训练遇“投毒”风波,豆包大模型安然无恙?

   时间:2024-10-21 08:31 来源:天脉网作者:陆辰风

近日,科技界传出一则引人关注的消息,涉及知名科技公司字节跳动内部发生的一起安全事件。据内部消息人士透露,这起事件与一名实习生的不当行为有关,其通过技术手段对商业化团队的模型训练过程进行了干扰,但具体细节与外界流传的版本存在显著出入。

据称,该实习生田某因对团队内部资源分配感到不满,利用开源框架HF(Hugging Face)存在的安全漏洞,向共享模型中注入了破坏性代码。这一行为不仅影响了团队的模型训练进程,还触动了业界对于技术安全与权限管理的敏感神经。然而,字节跳动方面迅速澄清,指出事件的实际影响范围被外界夸大,实际受损的并非公司核心的豆包大模型,而是专注于商业化技术领域的模型训练任务,主要涉及广告部门的部分技术工作。

字节跳动事件相关图片

公司内部人士进一步强调,虽然事件确实造成了损失,但所谓“千万美元”的经济损失数字存在夸大成分。此事件的核心在于暴露了字节跳动在大型模型训练过程中的安全管理短板,特别是权限隔离和共用代码审计方面的不足。这一问题的暴露,促使公司开始重新审视并加强其内部的安全管理体系。

行业专家指出,加强权限隔离与定期审计是提升数据安全与系统安全性的关键措施。通过实时监控权限使用情况,企业能够及时发现并阻止权限滥用和异常操作;而定期的权限审计则能确保团队成员的权限设置符合既定的安全策略,有效防止内部风险的发生。然而,这些措施的实施也面临着不小的挑战,包括跨部门协作的复杂性以及持续的资源投入等。

针对此次事件,字节跳动已迅速采取行动,涉事实习生已被辞退,并已将相关情况通报给行业联盟及其实习所在的学校。公司表示,将以此为契机,全面升级内部的安全管理机制,确保类似事件不再发生。

尽管遭遇了这次风波,字节跳动在技术创新方面并未止步。就在近期,火山引擎在视频云技术大会上发布了针对视频大模型训练的视频预处理方案,该方案旨在优化视频大模型训练的成本、质量和性能,并已成功应用于豆包视频生成模型,展现出公司在技术创新领域的持续探索与突破。

 
反对 0举报 0 收藏 0
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  网站留言  |  RSS订阅  |  违规举报