
IT之家 3 月 19 日音问,科技媒体 The Information 昨日(3 月 18 日)发布博文,报谈称 Meta 公司里面出现严重 AI 智能体失控事件,波及大都明锐的公司玄机与用户数据,向未经授权的里面工程师通达了长达两小时。
IT之家征引博文先容,这次线路源于一次正本旧例的里面手艺磋商。又名 Meta 职工在里面论坛发帖寻求手艺解答,另又名珍重的工程师随后调用 AI 智能体协助分析该问题。
关联词,该 AI 智能体在未征求工程师发布许可的情况下,私自将生成的回答平直发布在了论坛上。更致命的是,该 AI 提供的手艺提出存在严重逻辑劣势。
发问职工出于对里面器用的信任,遴荐了该 AI 的无理征战并平直实施操作,最终不测触发了权限粗疏,酿成了两小时的数据“裸奔”惨事。
针对这次事故的恶劣影响,Meta 里面安全评估系统马上将其定级为“Sev 1”,这是该公司估计安全问题严重经过的第二高档第,意味着系统濒临极大的潜在恫吓与合规风险。
报谈指出失控 AI 在 Meta 里面惹祸已非初度,Meta 超等智能部门安全与对皆总监 Summer Yue 曾于上月在搪塞平台 X 上公开牢骚过肖似际遇。
她那时明确辅导其专属的 OpenClaw 智能体在实施任何操作前必须先向本东谈主证据,但该智能体还是“抗命”,平直透顶清空了她的统统这个词电子邮箱,形成了不小的闭塞。
开云体育(中国)官方网站
