（陈斌、唐栋/文、图）2023年4月7日，广东省安全智能新技术重点实验室主办，深圳市计算机学会协办的SAILING讲坛暨硕博论坛第四期“可信人工智能：人工智能的安全与挑战”于哈尔滨工业大学（深圳）顺利召开。广东省安全智能新技术重点实验室是由广东省科学技术厅于2022年批准成立的省级科研平台，依托哈尔滨工业大学（深圳）进行建设管理。实验室遵循“开放、流动、联合、竞争”的发展方针。以提高自主创新能力为目标，聚焦广东优势学科、支柱产业以及重大战略需求，科学规划、整体布局，推进实验室体系提质增效，着力加强基础研究和源头创新能力，着力推进科技研发和成果转化，着力培育创新型人才队伍，着力强化开放共享，使之成为支撑广东建设更高水平科技创新强省的战略科技力量
本期论坛围绕“可信人工智能：人工智能的安全与挑战”，可信人工智能 是指一种能够在不损害人类利益的前提下，为人类提供有益帮助的人工智能系统。它是人工智能技术的一个分支，旨在解决人工智能系统的可靠性、安全性和伦理性等问题，以确保人工智能系统的使用符合人类的利益和价值观。可信人工智能的设计和实现需要考虑到多个方面，包括人工智能系统的算法和模型、数据来源和处理方式、系统的安全性和隐私保护、以及对人类社会的积极贡献等等。
本次SAILING讲坛暨硕博论坛由哈尔滨工业大学（深圳）刘川意教授和陈斌助理教授主持，采取线上线下同时举办的方式，由特邀嘉宾清华大学夏树涛教授和南洋理工大学张天威助理教授做精彩报告。现场学生与嘉宾积极互动，讨论激烈。
广东省安全智能新技术重点实验室副主任刘川意教授致开幕词。
首先，夏树涛教授做了题为《信息论、机器学习与AI安全初探》的特邀报告。夏树涛教授回顾了深度学习引领的第三次AI浪潮，并详细介绍了经典信息论中压缩和纠错两个过程，并把其跟深度学习的特征表示和推断两个环节进行有机的结合，并给出新的研究观点和理论解释。最后回顾了AI安全的研究进展，并介绍其课题组在压缩、纠错、AI安全等方面的研究成果。最后，夏老师介绍了课题组的研究方向和研究生培养情况，并欢迎参会的学生踊跃报考。夏树涛教授现为清华大学深圳国际研究生院教授，博导，计算机科学与技术研究所所长、深圳智能语义挖掘技术工程实验室主任。近年来主要从事信息论编码、互联网与人工智能等方向的教学与科研工作，目前的主要研究兴趣为编码/数据压缩与量化、AI+互联网及机器学习算法等。在在IEEE TIT, TPAMI, TSP, TDSC, ToN等国际顶级期刊和NIPS/ICML/ICLR, CVPR/ICCV/ECCV, DAC, MM, AAAI, WWW等领域顶级会议上发表论文一百多篇。
夏树涛教授介绍信息论与深度学习的联系和思考
张天威助理教授做了题为《Extracting Deep Learning Models for Fun and Profit》的特邀报告。张天威教授详细介绍了深度学习所衍生的各种安全问题，并详细介绍了深度强化学习、AutoML，鲁棒模型中存在的模型窃取威胁和应对方案。最后，张天威老师介绍了新加坡南洋理工大学的校园风貌和研究生申请流程，并欢迎参会的学生踊跃申请。张天威助理教授目前是新加坡南洋理工大学计算机科学与工程学院的助理教授。他于2011年在北京大学获得学士学位，于2017年在普林斯顿大学获得博士学位。他的研究重点是计算机系统安全，特别是人工智能安全、自主系统安全和计算机体系结构安全。他曾参与组织多个技术会议的组委会工作，包括担任KSEM'22的总主席。自2021年以来，他担任IEEE Transactions on Circuits and Systems for Video Technology (TCSVT)的编辑委员会成员。他已在顶级人工智能、安全和系统会议和期刊上发表了90多篇论文。他获得了多个最佳论文奖，包括ASPLOS'23、ICDIS'22和ISPA'21。
张天威助理教授讲解深度学习存在的利与弊
陈斌助理教授主持活动
夏树涛教授与现场学生互动
现场互动提问-1
现场互动提问-2
线上互动1
现场互动提问-3
会后合影
本期论坛由实验室成员陈斌老师组织和策划，陈斌老师担任本次论坛的主持人。
陈斌，博士，计算机科学与技术学院助理教授，硕士生导师。2021年毕业于清华大学计算机科学与技术系获得博士学位。曾在加拿大滑铁卢大学计算机与电子工程系任访问学生，在清华大学深圳国际研究生院担任博士后研究员。主要从事机器学习、深度学习、信息论编码等方向的教学与科研工作，目前的主要研究兴趣为分布式存储编码/图像压缩/图像检索/压缩感知/AI安全等。在人工智能/信息论/通信顶级期刊如IEEE Transactions on Patttern Analysis and Machine Intelligence (TPAMI), IEEE Transactions on Information Theory (TIT), IEEE Transactions on Communications (TCOM), Pattern Recognition和AAAI/CVPR/ECCV/MM/WWW/DAC/INFOCOM/ISIT/ICC等相关领域顶级会议上发表论文40余篇，并担任多个顶级期刊和会议的审稿人。（审核 刘洋）
