转载学校官方公众号新闻：https://mp.weixin.qq.com/s/GZH8raEi7qBwPRalhn5AjA

在年级260多名学生里

他平均学分绩排名第一

斩获2次国家奖学金

3次学业一等奖学金

在计算机视觉领域三大顶会之一

2024年欧洲计算机视觉国际会议

（ECCV 2024）

作为共同第一作者发表论文

获评哈工大“十佳学习卓越之星”

……

余泓垚

对于深圳校区计算机科学与技术学院

2021级本科生余泓垚来说

目前取得的成绩

都是他矢志攀登科学高峰征途中

实现的一个个“小目标”

在他的心里

还深藏着一个“大梦想”

那就是为AI技术

加上更加牢固的“安全锁”

在哈工大

余泓垚有很多走进企业

和科研机构参观实践的机会

就在走进鹏城实验室的

一次实践活动中

余泓垚看到了令他印象深刻的

“一场演示”——

发电厂、无人驾驶汽车

遭受网络攻击带来了

严重的“模拟后果”

让他大受震撼

“我们如何应对AI时代的安全挑战？”

这个问题带给他浓厚的兴趣

也让“AI安全”在他的心中生根发芽

在学长的推荐下

余泓垚加入了广东省安全智能新技术重点实验室陈斌老师团队

开始了AI技术安全方面的研究

与团队的小伙伴们

展开了基于中间层搜索的

模型反演攻击研究

通过访问推理阶段的人脸分类模型

重建训练该模型的隐私人脸图片

相关研究成果以论文形式

发表在计算机视觉领域

三大顶会之一的ECCV 2024

余泓垚（右四）作为优秀学生代表参加CNCC中国计算机大会

这篇论文的最后一句话写到——

我们希望本文能引起人们

对发布预训练模型隐私泄露风险的关注

促进对模型反演攻击威胁的防范

“炙手可热的人脸识别技术

其实存在着隐私泄露的风险

我们希望通过自己的努力

为这项技术‘加密’”

余泓垚希望能够在日常生活中

保障人们个人隐私安全

同时

他又和小伙伴们

搭建了一个模型反演攻防开源平台

将原本各有“路数”的15种攻击算法

与5种防御算法集成到一起

为模型反演攻击与防御的研究

提供系统化标准化平台

“这对推动AI安全领域的

系统化发展很有助推作用”

余泓垚自豪地说

勇毅前行，追求卓越

相信余泓垚将会继续努力

在AI安全领域

让自己的“大梦想”变为现实

加油！