华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等

IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。

IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为官方公开的案例:

当 AI 智能体开始替用户操作手机、完成复杂任务时,屏幕画面可能被伪造,操作过程也可能受到恶意诱导。对此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,探索相关安全风险的识别与防护技术。

当用户在购物、地图、外卖等应用之间切换时,既希望享受数据互通带来的便捷,又担心个人信息在协同过程中泄露。针对这一问题,“隐私保护关系图谱”课题将探索通过密态计算等技术,实现数据“可用不可见、协同不透传”,让便利与隐私保护不再成为单选题。

内容来自 IT之家,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab