LT's Blog

Actions speak louder than words.

Computer Systems:A Programmer's Perspective

深入理解计算机系统(第五章)

略读 第五章 优化程序性能 编写高效程序需要做到: 第一,适当的算法和数据结构。 第二,编写出编译器能够有效优化以转换成高效可执行代码的源代码。 消除连续的函数调用。在可能时,将计算移到循环外。考虑有选择地妥协程序的模块性以获得更大的效率。 消除不必要的内存引用。引入临时变量来保存中间...

Computer Systems:A Programmer's Perspective

深入理解计算机系统(第四章)

本章略读 第四章 处理器体系结构 不允许从一个内存地址直接传送到另一个内存地址。另外,也不允许将立即数传送到内存。 流水线 流水线的局限性(4.4.3) 不一致的划分:运行时钟的速率是由最慢的阶段的延迟限制的。 流水线过深,收益反而下降

Computer Systems:A Programmer's Perspective

深入理解计算机系统(第三章)

第三章 程序的机器级表示 基础 汇编代码、机器代码 机器代码的形式: 汇编代码是机器代码的文本表示。 目标代码是机器代码的一种形式,包含所有指令的二进制表示,但是还没有填入全局值的地址。 可执行代码是机器代码的第二种形式,也就是处理器执行的代码格式。 ...

Computer Systems:A Programmer's Perspective

深入理解计算机系统(第二章)

注:第二章本人采取略读。涉及细节很多,基本是数字逻辑、计组里的内容:有无符号/整数/浮点数编码/位级运算,等等。 第二章 信息的表示和处理 浮点运算:由于表示的精度有限,浮点运算是不可结合的。 例如,在多数机器上,C表达式(3.14+1e20)-1e20求得的值是0.0,而3.14+(1e20-1e20)求得的值是3.14。 ...

Computer Systems:A Programmer's Perspective(CS:APP)

深入理解计算机系统(第一章)

前言 本书来源于一门课:2015-15-213的ICS(Introduction to Computer Systems)。 在CMU(卡内基梅隆大学)它是一个导论性的课程,作为其它CS/EE专业课的基础,不知道为什么被翻译为“深入理解计算机系统”了。(确实很圣经,深入浅出) 本书从程序员的角度出发,旨在让应用程序员利用系统知识,写出更好的程序...

降维:PCA(Principal component analysis)

几何角度、概率角度

一、背景 维度灾难👉数据稀疏性 过拟合(训练误差小,泛化误差大)的解决方法 增加数据 正则化 降维 直接降维👉特征选择 线性降维👉PCA,MDS 非线性降维👉流形 二、几何角度:PCA(Principal c...

线性分类

背景、感知机、线性判别分析、Logistic Regression、高斯判别分析、朴素贝叶斯

一、背景 线性回归中,引入非线性的几个方面 属性:特征转换(多项式回归),比如$ f=w_{1}x_{1}^{2} + w_{2}x_{2}^{2} +w_{3}x_{1}x_{2}$ 全局:激活函数非线性 → 线性分类 系数:感知机、神经网络(初始值不同,结果不同) 局部:线性样条回归(输入空间分段,每一段都是非线性)、决策树...

线性回归

LSE,MLE; regularized LSE; 频率/贝叶斯角度

一,几何视角:最小二乘法LSE 假设有数据集D={(x1,y1), (x2,y2), …, (xN,yN)}。 定义 最小二乘估计简称为LSE 线性回归假设是$ y=f(w)=w^{T}x$。 损失函数$ L(w)= \sum_{i=1}...

频率派VS贝叶斯派

ML笔记

机器学习系列笔记根据课程整理而来。 频率派VS贝叶斯 问题背景:假设有个样本,每个样本都是p维向量。其中每个观测都是由p(x|θ)⽣成的。 频率派 认为θ是常量,\(θ_{MLE} = arg \max_{θ} log{ P ({x \\| θ}) }\) 贝叶斯派 认为θ是变量,θ~P(θ)先验分布 ...

图像处理-笔记

Lab-color-space、JPEG和zigzag

Lab颜色空间 命名 Lab色彩空间在1931年国际照明委员会(CIE)制定的颜色度量国际标准的基础上建立起来的。 1976年,经修改后被正式命名为CIELab。 注意,还有一个颜色模型叫做Hunter1948 L,a,b,是由HunterLab公司制作的。虽然和CIE的Lab模型有些关联,但实现不一样。 一般情况说Lab颜色模...