选课类别:计划内与自由选修 | 教学类型:理论实验课 |
课程类别:本科计划内课程 | 开课单位:计算机科学与技术系 |
课程层次:专业选修 | 学分:2.5 |
人工智能是二十一世纪最具革命性的科技之一,它使机器能够从海量数据中学习规律,并应用于实际问题的解决。然而,随着人工智能技术的快速发展,其安全性问题也日益引起关注。人工智能安全课程旨在探讨人工智能模型在实际应用中可能面临的安全挑战,并研究如何通过攻击测试和防御策略来提升模型的安全性和鲁棒性。
课程将首先介绍人工智能的发展历程和机器学习的基础知识,随后深入探讨人工智能安全的基本概念、威胁模型和常见的攻击与防御类型。我们将重点关注数据和模型安全,涵盖对抗攻击、后门攻击、数据窃取等实际案例,并分析对应的防御机制。通过学习这些内容,学生将了解如何评估和提高人工智能系统的安全性。
本课程不仅提供理论知识,还通过实际案例分析和实验,帮助学生掌握识别和应对人工智能安全威胁的实践技能。这将为学生在未来的职业生涯中,尤其是在涉及人工智能技术的行业中,应对复杂的安全挑战打下坚实的基础。
实验课好玩😋
评课不少于10字符
考核内容已经有人发过,难度算是比较正常的(考核内容的描述非常详细,而且开放性也不小,也不需要手搓算法(这一部分(诸如具体涉及到的算法原理)会在实验课中手把手教学,实验课老师和助教都会到场),考核里只需要对比不同策略带来的效果就OK),老师和助教都很友好,打个好评先
(建议缺学分或者想提升自己的和隔壁深度学习原理与实践一起选,这门课对那门课实验拓展部分有帮助(目前两次实验的拓展部分都有鲁棒性测试、鲁棒性增强内容,对应的就是对抗攻击和对抗训练),不过那门课确实是有些难度,相比之下更推荐小白去选深度学习实践(半软工半dl)和ffl老师的深度学习导论(无愧导论之名))