2025春 课程号：CS402701
- 课程难度：中等
- 作业多少：很少
- 给分好坏：超好
- 收获大小：很多
| 选课类别：计划内与自由选修 | 教学类型：理论实验课 |
| 课程类别：本科计划内课程 | 开课单位：计算机科学与技术系 |
| 课程层次：专业选修 | 学分：2.5 |
人工智能是二十一世纪最具革命性的科技之一，它使机器能够从海量数据中学习规律，并应用于实际问题的解决。然而，随着人工智能技术的快速发展，其安全性问题也日益引起关注。人工智能安全课程旨在探讨人工智能模型在实际应用中可能面临的安全挑战，并研究如何通过攻击测试和防御策略来提升模型的安全性和鲁棒性。
课程将首先介绍人工智能的发展历程和机器学习的基础知识，随后深入探讨人工智能安全的基本概念、威胁模型和常见的攻击与防御类型。我们将重点关注数据和模型安全，涵盖对抗攻击、后门攻击、数据窃取等实际案例，并分析对应的防御机制。通过学习这些内容，学生将了解如何评估和提高人工智能系统的安全性。
本课程不仅提供理论知识，还通过实际案例分析和实验，帮助学生掌握识别和应对人工智能安全威胁的实践技能。这将为学生在未来的职业生涯中，尤其是在涉及人工智能技术的行业中，应对复杂的安全挑战打下坚实的基础。
- 课程难度：中等
- 作业多少：很少
- 给分好坏：一般
- 收获大小：很多
- 难度：中等
- 作业：很少
- 给分：一般
- 收获：很多
来更新了，好课！
前提：本人选课之前就对人工智能安全感兴趣，从图书馆借了两本书自己看，所以老师lecture的内容理解起来不太费劲，只不过PPT不可避免有些历史和符号和公式，会让人犯困
教学：
理论课以PPT为主，老师偶尔会抛出问题，能回答最好，没有人回答老师也会自己解答（；实验课非常有意思，两名助教在机房随时答疑，而且此课程今年的实验课没有考核，就是手动复现~ 我比较喜欢各种调参😋
作业：
三次，考核1包含前半程课程涉及的算法的实现、改进、探究，鼓励自己从论文中寻找新的算法，鼓励使用python绘制图表；考核2是任选一个和课程有关的方向撰写英文文献综述，这个有点夸张，参考文献不少于30篇好像，不含参考文献的部分不少于10页，我只能说撰写的过程收获很大，但是坐在电脑前发呆也很痛苦（，考核3是全班人一起汇报自己的考核1+2的成果、过程，要制作PPT。（这些作业啊说实话比祖传实验有意思）
给分：
很好😋没有出小分。直接给总评，不过今年选课人数少，应该都给的高吧
⭐ 最后欢迎对人工智能安全性和鲁棒性感兴趣的同学加入阮老师的实验室！⭐
实验课好玩😋
- 课程难度：中等
- 作业多少：很少
- 给分好坏：超好
- 收获大小：很多
- 难度：中等
- 作业：很少
- 给分：超好
- 收获：很多
考核内容已经有人发过，难度算是比较正常的（考核内容的描述非常详细，而且开放性也不小，也不需要手搓算法（这一部分（诸如具体涉及到的算法原理）会在实验课中手把手教学，实验课老师和助教都会到场），考核里只需要对比不同策略带来的效果就OK），老师和助教都很友好，打个好评先
（建议缺学分或者想提升自己的和隔壁深度学习原理与实践一起选，这门课对那门课实验拓展部分有帮助（目前两次实验的拓展部分都有鲁棒性测试、鲁棒性增强内容，对应的就是对抗攻击和对抗训练），不过那门课确实是有些难度，相比之下更推荐小白去选深度学习实践（半软工半dl）和ffl老师的深度学习导论（无愧导论之名））
出分了，90。就考核二写的稍微有些折磨，其它考核都很舒服。
而且实测考核二的要求其实并没有上面写的那么严格，我的页数少了一页，而且也没查过重
magichear/Machine_Learning: A repo for 5 dl/ml course
考核二和考核三整了个活儿（笑）
