机器学习

一个非计算机学院的人来整点杂谈向点评 --- 本人目前巴院大三，专业法语（辅修信息工程） --- 课程内容：前面已经有兄弟把细节写得很全了 我个人感觉这课就是把机器学习要用的数学地基往外挖（或者说机器学习界的微积分、线代和概率论），硬核到你怀疑人生，差不多是我们学院《人工智能数学基础》的超大杯Pro Max Ultra版（可我们学院下一届开始就没这门课了，裂开，太可惜了）。我跨学院来选这门课，是想着它能给我未来的科研帮上点忙。 内容方面，从最基础的Kmean一路铺到近期的GNN、Attention、Transformer这些主流机器学习方法都扫了一遍，但RF、DT这种也挺常用的就没提。当然老师也讲了，这是他个人对机器学习的理解，加上课程时长就那么点，不可能全给你讲完，缺零星几个方法也没啥可挑的。这课真正抓的重点，是解释这些机器学习方法凭什么能跑通的那些数学工具，说不定能帮你未来科研里所用方法的“可解释性”往上抬一抬。 难度上，感觉只要一点点跟着老师的思路走还是能跟上的（EM算法除外，因为我们学院还没学概率论，啃起来是真的吃力到头皮发麻）。但考虑到课程塞得比较紧凑，要是关键的数学推导丢了一两节课，后头也得跟着遭殃，尤其是老师的心头好EM算法，在GMM章节、PCA章节、VAE章节全都有它的身影，前面没搞明白，后面就听天书。其余内容我感觉还比较好咽，因为如果你已经在实验室打工，对各种机器学习方法多少有点了解，听起来就很顺，等于在你原有的理解上再给叠一层老师对方法数学本质的更深的解读。 --- 上课自由度：高到离谱，只有1次签到且不计入成绩（巴院几乎所有课都得给你签满） --- 考核标准：50%作业+50%期末 三次小作业都和课程有关或者是课堂内容的延伸，比如让你解释方法为啥长这样、做点理论推导（上课讲过的）以及搞点小实验。所谓小实验，就是让你设计实验去试试上课讲的方法（估计因为上课讲得偏理论，实践这块就踹到作业里了）。这些小实验一般来说写代码不会烧掉太多时间（毕竟有ai给你扛着），但在运行和调参上得花点时间。Report方面，我不清楚电院类似作业一般要写多细，所以也不评价。给分比较友善，我感觉认真写了就不会大扣。 不过话说回来，第三次小作业的时间我不得不吐一下：15周布置17周交。16周我肯定要拿来全军复习（巴院祖传的超大课程量），17周我天天都在考试，那我啥时候做？？那13周布置16周就要交的超难大作业我又啥时候做？？那段时间这两个作业把我压在下面喘不上气 /(ㄒoㄒ)/~~ 大作业最多3人一组，大概是复现一篇文章。文章就是涂老师项目组的成果，从项目所用的方法里能闻到浓烈的涂老师气息，因为他组里用的方法本质就是他这课授课内容的延伸。我和队友挑的是草图分类+生成那道，一人一半比较好算贡献度（我说你们电院，大作业报告里为啥还要写这个，好魔幻）。我承包了草图生成那部分，因为觉得会比较好玩，结果是真的难，主要是源代码并没有把你要的功能都给你，比如评估和可视化，而且源码也不完全正确，这些都得自己一点点debug。花了我一个多星期课余时间啥都没干就肝这个，好在最后结果还行，可视化也挺好看，所以也就懒得喷了。整个过程里我的队友和助教都给了我十分关键的技术支持，狠狠感谢他们的帮助！！给分canvas上没查到，但看平时分应该没怎么扣。 期末考的内容前面的点评已经说得比较细了。身为非电院学生，我对电院的考法不太熟，复习也没啥思路，主要就是把课堂笔记抱紧去复习。一些核心推导ppt上是不直接给的，比较吃笔记，这次考到的ELBO（课上叫自由能F）还有用特征值表示PCA精度，都是老师上课板书里的。比较走运的是，后者正好是我考前一整的最后一眼，结果就撞上考试第一题。其他考题要么考理解（PCA主成分个数m的设置、VAE模式坍缩等等），要么考你对概念掌没掌握，比如SVM和因果的题，当然老师考前专门说过两个会各来一大题，所以也不意外。比较意外的是考了diffusion model里的ELBO，这不属于授课范围，不过公式都给了，大概代进去就行（？）总之还是得好好复习，尤其是那几个关键推导和老师最后一节课讲的绝对会考的东西。 --- 授课质量：高 课堂内容基本是由浅入深，用老师的话说，就是先给你解剖一只小麻雀，再慢慢过渡到深层次，我完整听下来感觉还行，能感受到老师的逻辑，至少我还愿意坐得住听。讲课风格比较轻松，就是拿轻松的语气讲你听不懂的东西（开个玩笑）。老师人还是很好的，去问他问题都很热情地回你，最后答疑时也超耐心地在给我们讲。 --- 总结：这课自由度超高、内容偏数学理论比较难、作业压力略大（不知道跟我们电院其他课比算什么水平）、考试较难且吃笔记、需要认真复习，但一个学期啃下来，确实是有点收获的。 一些吐槽： 1. 世界上怎么会有不签到且签到还不算分的课？？ 2. 跨学院选完课，我既要品鉴我们学院的四天早八+白天课几乎排满，又要品鉴电院的作业和大作业，等于两边的福气我全占了ˋ( ° ▽、° ) 3. 以前老觉得电院同学到大三就只有4门考试（对比巴院这学期6/7门）爽歪歪，现在真亲身被作业和大作业上一课后，就又不奇怪了，要好几门都是这种大作业，那确实不好躺 --- 本人平生第一回写点评，有哪里不当，烦请包涵`(*>﹏<*)′

课程内容：和前面老哥说的一样，数理基础这块是按着重型装甲来堆的 上课自由度：高到能当空气人 考核标准：期末和平时分直接对半劈开 授课质量：保质保量，但本人是个纯正傻逼，高分这玩意儿跟我是平行线

先谢罪，我的输入法已经摆烂到只会吐英文，我人还在中文互联网，魂已经被键盘流放了。 课程内容： *** EM algorithm（全课の灵魂C位，tsk爱到骨子里，但考试里出场镜头少得像个客串） *** PCA、FA、ICA，主打一个把证明细节背到能把草稿纸写出包浆，结论反而像赠品，不太重要 *** Deep learning，CNN GCN VAE diffusion 全家桶，这学期 final exam 里 diffusion 一个人扛了 35points，属实是深度学习界的顶流塌房现场 *** SVM，你至少能在这儿薅到点分，very easy。 *** Causality，你至少能在这儿薅到点分，very easy。 *** Regression， 上课自由度：very high，大约 about twice attendance checking，我 miss 了 twice，但 continuous assessment 还是拿到 95，属于是翘课翘出了财务自由。 考核标准：50% final exam 50% continuous assessment，作业要是写得稀烂，continuous assessment 就会给你表演一个自由落体。 授课质量：very high but very hard，他大部分时间都在把你摁进 detailed proof 里反复摩擦，而且这玩意儿是必要的，因为会被 examed；线性代数和概率的底子得硬（要是你学过 stochastic process 那就更好了）。

**课程内容**： - 从经典Kmeans一路滚到GMM，引出EM算法；再滑进贝叶斯学习 - PCA，ICA，FA - 线性回归，正则化，SVM，因果（这俩蹲守在最后面） - 深度学习：DNN，CNN，GCN，transformer；压轴狂讲VAE和Diffusion 前两部分是C位担当，吞掉了大半学期 **上课自由度**：高 第一节课放话人少就签到，结果实操只签过一次 **考核标准**：20%大作业 50%期末 30%平时作业 - 期末考试有点凶，得把上课内容整个听一遍，有些理解和推导PPT上根本不写（要是觉得光舔PPT就能懂，你是氪星人，这评语你可以删了） - 实战只出6个大题，题干长得像小作文，一部分推导一部分理解 - 推导：比如给你VAE的结构原理公式，一问让你从似然函数肝出ELBO，还给你Diffusion的内容让你推ELBO。数学底子够硬、KL散度这类基础知识在线的，可以半裸考上阵，不听他讲也能推出来，但不建议尝试；我复习时Diffusion听得魂不守舍，考场上能把这玩意儿推出来已经算是命悬一线了 - 理解：比如解释PCA里指定的主成分数量m和真实数量m*的大小关系跟欠拟合过拟合怎么对应，这类题弹性拉满，很好捞 - 还有几个纯送分大题，SVM、因果出的温良恭俭让 - 非得狠狠复习不可，我都差点没做完 - 大作业： 内容设置还凑合，这次是sketch的分类生成or基于预训练模型的training free的sketch生成 可这workload安排得像个不装刹车的过山车，13周才把题甩出来，害得16周围着大作业一边续命一边复习；好在给分够意思，看得出不是存心拿捏人，就是早点布置能谢天谢地 **授课质量**：高 私以为是讲得相当好，输出一个算法会先上直觉，intutive地给你捋，再把数学原理和推导一步步盘明白，最后又拐回直觉里消化这个算法 我之前在AI实验室打过杂，这课收成依然很可观，比如数学层面弄明白了VAE和Diffusion的道理（虽然是在考场顿悟的） 老师人很好，这条5分先生的原因之一 总结：不水+分高+高自由度，唯一槽点是大作业发布得太太太太晚（当然分想拿高得老实复习，起码拿一两天把课2倍速过一遍）

复习？复个寂寞。两天？再给我两天我也是在给空气做考前冲刺，这考法属于是你把书啃穿了它也啃不回来。 离谱，前面十几周讲的正经内容跟隐身了一样，几乎没露脸；后面几周赶工灌水的那点“不那么重要”的“知识”倒成了全场C位。 考完我还跟老师说了句新年快乐，算是给自己这趟浑水之旅留个温情结尾。 真想学东西的可以冲，像我这种平庸的老鼠人，只配在门口探头，不适合这课。 老师人挺好的，给3颗星吧，这分数估计都比我绩点高。