LmYjQ的博客

Thinking will not overcome fear but action will.

NLP基本概念

NLP基本概念

目录 NNLM Word2vec ELMO attention Transformer GPT BERT ELMO 可以根据上下文调整embedding,解决多义词问题 网络结构:双层双向LSTM 从前向后:单词特征,句法特征,语义特征 attention 以翻译为例,Encoder-Decoder框架:输入–编码–输出。如果输入的每一个词对输出的每一个...

MIR

Music Information Retrieval

译自 《A Tutorial on Deep Learning for Music Information Retrieval》 目录 1.动机(略) 2.深度学习基础 3.MIR任务介绍 4.核心模块 5.辅助模块 6.总结 2. 深度学习基础 BP+SGD求解神经网络;CNN提取特征,LSTM针对序列数据;Relu激活函数 2.1 深...

聊聊GAN

GAN的理论与应用

主要内容来自万字综述之生成对抗网络(GAN) 一、直观感受 首先,用一个简单有趣的 GAN🌰 来感受一下。其中向量vector类似mf模型的隐向量,每个维度“可以”代表一种解释性强的特征。 GAN(Generative Adversarial Networks) 接下来,我们需要解决的问题就是: 1.如何定义生成器(我)和判别器(王教授)? 2.如何训练? 3.训练好之后怎...

标题

副标题

译自 《THE BIGGEST LIE IN JIU JITSU》 目录 技术不是无敌的 我的见解 一个假设 真实的例子 这个神话是从哪里来的? 好消息 如何变得更强 你该怎么做 运动员A(中等技术 + 上等身体素质) > 运动员B(上等技术 + 下等身体素质)

标题

副标题

译自 《THE BIGGEST LIE IN JIU JITSU》 目录 技术不是无敌的 我的见解 一个假设 真实的例子 这个神话是从哪里来的? 好消息 如何变得更强 你该怎么做 运动员A(中等技术 + 上等身体素质) > 运动员B(上等技术 + 下等身体素质)

graph embedding&networks

图嵌入和神经网络

安装 https://www.jiqizhixin.com/articles/2018-12-27-11 https://github.com/cnclabs/proNet-core Xcode版本切换 显示当前使用的xocde版本 $ xcode-select --print-path 选择Xcode中的默认版本 $ sudo xcode-select -switch...

生成模型和判别模型

生成模型和判别模型

一、 定义 1. 判别模型 有特征x,有预测目标y,直接建模p(y|x),即:给定每个特征取值,直接算出等于预测目标的概率 比如:给定体重/颜色/喜欢吃的东西,直接预测动物类别 2. 生成模型 建模p(x|y)和p(y),通过贝叶斯公式(p(y | x)=\frac{p(x | y) p(y)}{p(x)})计算p(y|x) 比如:先计算每种动物的(体重/颜色/喜欢吃的东西)...