WN Blog

Thinking will not overcome fear but action will.

    名词解释1

  名词解释1

本系列的文章将会对一些晦涩难懂的基本概念进行解释。文章侧重点在于使用通俗易懂,简明扼要的语言对这些概念进行说明。这么做的主要目标有两个:①加深对所解释的概念的理解;②提高语言组织,逻辑组织能力 1.机器学习 模型   机器学习官方定义呢是通过算法实现机器在某方面的表现的过程叫做机器学习。这个定义显然很好,很准确,但是却对初学者来说是非常非常没有意义的。   首先我们从一个...

词向量消歧综述

词向量

本文是对词向量消歧各种技术的综述.主要参考的是这篇论文.   首先,这是一篇非常好的论文,非常全面的概括了词向量消歧方向的各种技术的发展,现状以及未来发展趋势,非常值得一读.下面本文将会根据这篇论文的思路进行介绍. 词的向量表示   词的向量表示自从有了自然语言处理的方向开始,就是研究人员关注的重点领域之一.这一点是不难想象的,因为作为人类设计的计算工具,计算机只能够识别...

Tensorboard的使用

TensorBoard

TensorBoard是通过读取tensorflow产生的事件文档来运行的.这些文档中包含着代码运行过程中产生的总结信息.下面本文将会对tensorboard进行详细的介绍. 1.生命周期   首先,创建想要收集数据的tensorflow graph,然后指明想要收集数据的节点.summary是一个operation.收集操作.   例如,假设你在MNIST数据集上训练卷积神经...

Tensorflow的使用

TensorFlow

Tensorflow 是谷歌开发的一款主要用于深度学习的强大工具.其功能涵盖了深度学习从数据获取,数据解析,模型建立,模型训练,模型预测的全过程.本文将会根据这篇官方教程对tensorflow进行简单的介绍. Basics Tensor Values   Tensorflow中数据单元的核心概念是张量(tensor).一个张量由一组数据组成,这组数据以多维数组的形式进行存储.一个...

元学习简介

人工智能的未来

1.Meta-Learning Origin Metalearning (also known as ‘meta-learning’ or ‘learning to learn’), an old informal concept of cognitive psychology, more recently became a formal concept of machine lear...

CS224学习作业一

作业一

第一部分主要介绍了word2vec的算法,算是比较基础的内容.作业一因此也相应的只涉及到一些基础的内容,包括:softmax函数,简单神经网络,正向反向传播等.本次作业的主要目的是为了能够让每个学生入门,入门包括算法理论方面的入门,即对nlp和深度学习有一些粗浅的了解以及如何解决一些简单的问题,具体的思路是什么;其次是要锻炼编程能力,在完成本次作业的过程中,接触到了一些比较高大上的编程...

    CS224学习笔记第一部分-Word2Vec

  信息熵

1.Intuition  本部分主要借鉴于这篇博客.  Word2Vec算法主要包括两个子算法:CBOW(Continuos Bag Of Words)和Skip-Gram算法.Word2Vec算法具体过程如下:  首先,给定一个数据集(一组句子,也叫语料库),然后模型遍历每一个句子的每一个单词.对于每一个单词,要么使用当前单词去预测相邻单词(Skip-gram),要么使用相邻单词去预测当...

    CS224学习笔记补充-矩阵求导

  矩阵求导

1.Introduction  线性代数在机器学习以及深度学习中扮演着重要的角色,涉及到向量的运算,矩阵的运算,特征值特征向量的求解等.在这里对于这些基础知识不再赘述,本文的重点在于矩阵的求导.本文主要参考吴恩达CS229课程的补充材料. 2.Gradient  假设存在函数 f : R m×n → R 以一个m×n的矩阵作为输入,以实数值作为函数的输出,那么这个函数的关于矩阵A的梯度...

    CS224学习笔记补充-信息熵

  信息熵

1.Intuition  熵是对信息量大小的一种描述,是香农在信息论中提出的概念,为了了解熵的概念的提出,有必要对信息论有一定的了解.  信息,是一个非常模糊的概念,涵盖很广也很杂乱,那么如何去描述信息量的大小呢?在描述的过程中难免会产生很多歧义.例如,假设天气预报一共有4种可能的情况,包括:rainy,sunny,cloudy,foggy.单独拿rainy这种情况出来看,就会产生歧义,因为...