决策树

    2026-11-18
    一、决策树要解决什么问题 机器学习中有一类问题叫作监督学习:我们手里有一些已知答案的数据,希望机器从中总结规律,遇到新数据时能够给出预测。 例如,一个银行积累了若干贷款申请记录。每条记录包含申请人的年龄、是否有工作、是否有自己的房子、信用情况,以及过去是否批准了贷款。我们想把这些记录交给机器,让它学会判断新申请应该属于“批准”还是“不批准”这两个类别。 决策树的做法很像一个不断提问的人...
    Read More

    聚类

    2026-11-13
    一、聚类到底是什么 1.1 从顾客分群开始 假设你经营一家商场,有一万名顾客的数据,每人记录两项特征:年龄和月消费额。把每个人画成二维坐标系中的一个点,横轴表示年龄,纵轴表示月消费额。 你可能观察到三个比较明显的点群: 第一群顾客年龄较小、月消费额较低; 第二群顾客年龄较小、月消费额较高; 第三群顾客年龄较大、月消费额较高。 这些分组并没有预先写在数据里,却可能自然...
    Read More

    感知机

    2026-11-10
    第一部分:从分类任务认识感知机 1. 机器学习中的“分类”究竟是什么? 假设我们想让计算机判断一个水果是苹果还是橘子。 对于每个水果,我们记录两项可以量化的特征: $x_1$:重量,或者经过统一尺度处理的重量指标; $x_2$:颜色,或者经过数值化的颜色指标。 一个水果便可以记为: \[x=(x_1,x_2)\] 这里的 $x$ 不表示一个神秘的数学对象,它只是一个...
    Read More

    K 近邻算法(KNN)

    2026-11-10
    一、KNN 到底是什么? 1.1 从一个生活中的例子开始 假设你刚转学到一个新班级,想猜一位同学更喜欢打篮球还是踢足球。 你暂时不了解他,但注意到几位与他兴趣、性格和日常习惯比较相似的同学: 与他最相似的同学 A 喜欢篮球; 第二相似的同学 B 喜欢篮球; 第三相似的同学 C 喜欢足球。 如果让你根据这三位同学的情况作一个初步猜测,你大概率会猜“篮球”。理由是:三个...
    Read More

    Clangd中的SelectionTree:概述和实现

    2025-07-16
    SelectionTree在Clangd的Tweak系统中的作用 Clangd的SelectionTree是一个实用工具,用于将编辑器选择(或光标位置)映射到相应的AST节点。它被clangd的Tweak(code action)系统大量使用。当请求code action时,clangd会为请求的范围构建一个SelectionTree,并通过Tweak::Selection输入提供它。这允...
    Read More

    机器学习中的层规范化(及PyTorch示例)

    2023-04-24
    机器学习中层规范化的快速介绍,以及PyTorch示例代码。 导语 训练机器学习算法是一项颇具挑战性的任务,尤其是在使用来自现实世界的数据集时。在人们可能遇到的众多问题中,中间激活层统计量的稳定性问题是非常常见的一个。这篇文章中,我们将简要讨论保证统计量稳定性的常用方法之一:层规范化。 到底什么是层规范化? 遇到的问题 正如你所知道的,训练一个机器学习模型是一个随机化的过程。...
    Read More
    Views: Visitors: