LT's Blog

Actions speak louder than words.

避免逆向攻击的方法

AI安全

避免逆向攻击的方法 模型加噪: 对网络参数做差分隐私 模型压缩: 砍掉95%的参数,避免了攻击者逆向推测训练样本,同时不影响模型检测精度。

GAN带来的问题和解决方法

训练不稳、模式坍塌

GAN带来的问题、原因、解决方法 两类损失 loss1 = log(1-D(G(z))) 训练初期下降慢 G梯度消失:在D*下,等价于JS。 loss2 = -log(D(G(z))) G梯度不稳:在D*下,等价于 KL - ...

生成模型(1)

VAE、变分推断

VAE、变分推断 笔记图解 参考视频 生成模型定义 生成模型只能做数据生成吗?不是 GMM:聚类 朴素贝叶斯:判别 概率角度,本质是建模 P(X) 有标签Y,建模 P(X,Y) 无标签,引入隐变量Z,建模 P(X,Z) 自回归,建模 P(X),拆成多个条件概率的乘积 ...

可逆网络

flow👉condition flow

可逆网络(flow)动机+特点 观点一,和GAN/VAE/自回归相比,更好地建模未知分布 我们知道,由贝叶斯派发展而来的是概率图模型。 概率图分为三个理论部分:表示、推断、学习(参数学习、结构学习)。 在参数学习里,带有隐变量的模型,称之为latent variable model。 latent variable model的核心...

Invertible Image Rescaling

ECCV-2020 微软 图像缩放 可逆网络

概述 出处 题目:Invertible Image Rescaling 用可逆网络完成图像缩放任务 单位 Peking University Microsoft Research Asia Toronto University 源码地址 https://gi...

做题ing

数据结构/算法 知识点、题型 整理

做题ing 按照知识点来整理题目 按照段位整理 数据结构:存储方式、遍历方式 数据结构有很多种。但是存储方式,无非就是数组或者链表。比如: 树 数组存储:完全二叉树👉堆 链表存储:最常用的,二叉树、AVL树、多叉树 图 ...

Regularization with Latent Space Virtual Adversarial Training

在潜在空间里施加扰动,间接生成对抗样本

略读:动机、方法、结果 论文简介 题目《Regularization with Latent Space Virtual Adversarial Training》,通过在潜在空间里施加扰动,生成 AE ,使分类器对AE具有鲁棒性。 发表状态:ECCV 2020 背景 众所周知,正则化 是一种典型的 避免过拟合 的方法。 一致性正则化(Consistency Reg...

C++ primer 第六版 笔记(一)

第一、二、三章

第一、二章 概述 编译C++程序时,编译器自动定义了一个预处理器名字__cplusplus,因此,我们可以根据它来判断该程序是否是C++程序,以便有条件地包含一些代码。例如: #ifdef __cplusplus // 我们要编译 C++ extern "C" #endif int min( int, int ); ...

Computer Systems:A Programmer's Perspective

深入理解计算机系统(第六章)

略读 第六章 存储器层次结构 基本存储技术包括随机访问存储器(RAM)、非易失性存储器(ROM)和磁盘。 随机访问存储器 随机访问存储器(Random Access Memory, RAM)分为两类:静态RAM(SRAM)和动态RAM(DRAM)。 SRAM 比DRAM更快,但也贵得多。 ...

Closed-Form Factorization of Latent Semantics in GANs

生成模型(GAN)潜在空间-语义解释性

Closed-Form Factorization of Latent Semantics in GANs 论文简介 题目《Closed-Form Factorization of Latent Semantics in GANs》,用于无监督条件下GAN潜在语义识别。 作者:Yujun Shen, Bolei Zhou 周博磊团队 单位:The Chinese Univer...