陈曦
这篇日记总结的是4次的DL session（8.29 ~ 8.31）的报告内容，将分专题进行介绍。
专题一：image
- Two-stage unsupervised deep hashing for image retrieval
两阶段的非监督深度哈希的图像检索
方法如下，第一阶段通过卷积自编码器处理原始图像（保证信息丢失loss的最小和二元松弛约束binary relaxation constraint）。第二阶段的权重更新用反向传播算法。
具体看一下第一阶段的自编码，没有用到pooling层：
具体的loss function如下，保证输入和输出差距（mean square）最小：
第二阶段，为了保持第一次迭代时的原始信息，我们需要最后一次迭代时最小化l21:
总结一下作者提出的算法，伪代码和图析如下所示：
总结如下：
2. Joint multi-field siamese recurrent neural network for entity resolution
联合场多场递归神经网络用于实体分辨
特定领域的字符串度量，说明实体识别就是一个相似连接的问题：
要从labeled好的样本中学习，是个二分类的问题：
用端到端的学习方法（深度学习，让它自己选特征）：
方法如下，不同属性的数据放在不同的深度学习算法（RNN/LSTM）中学习：
实验结果：
3. Optimized by joint GANs and KL-MMD
用联合GANs和KL-MMD做优化
简单的介绍：领域适应domain adaptation是迁移学习的一种，它是从源领域source domain学习以后应用到目标领域target domain上同时最小化目标领域的测试错误（training时可以没有标签）。
数据偏差和领域转移很大程度影响在特定数据集上模型的重用能力，因而领域适应可以减轻标签稀疏或者是不存在的情况。更具体的解释，它利用深度神经网络使domains映射到一个普通的特征空间。
进一步解释，看下图：
他们提出的模型：
利用注意力机制，不仅能够展示出更多判别discriminative特征的信息还利用了end-to-end端到端的训练潮流。
他们的方法以及数学推导：
实验结果是好的，最后结论部分：
4. Residual convolutional neural networks with global and local pathways for classification of focal liver lesions
全局和局部路径的残差卷积神经网络在肝脏局灶性病变分类中的应用
看下图可知，病变的过程分为多个阶段：
在分类中，应用了loacal information和global information：
他们工作的贡献：
他们使用的方法（主要是后面三步）：
设计的CNN网络结构和自己定义的loss function：
和其他方法进行对比也具有优势，结论如下：
5. TypicFace: Dynamic margin cosine loss for deep face recognition
TypicFace：动态余弦损失用于深部人脸识别
脸部识别的卷积结构：
测试好坏的标准：
一般的损失函数：
用cos值来表示原始的softmax loss：
灵感来源：
按照角的距离来分类人脸的差距：
提出的算法的损失函数：
实验结果：
该算法的限制：
6. Nonlinearized relevance propagation
非线性相关传播
LRP模型建立在经典的NN模型上：
对于特殊层的处理：
提出的方法：
其中应用到了attentive pooling network、biLSTM和cos相似度：
实验过程：
结果：
讨论，用不同的激活函数会有怎样的结果？
结论：
7. Spectral image visualization using generative adversarial network
基于生成对抗网络的光谱图像可视化
背景介绍：
他们的目标：
他们算法的框架：
实现的细节：
loss function：
数据来源：
实验结果对比：
量化比较：
结论：
8. Weakly-supervised object localization by cutitingbackground with deep reinforcement learning
深度强化学习背景下的弱监督对象定位
简单的说就是找bounding boxes（比如人或者马所在图像中的什么位置）：
实验动机motivation：
方法框架：
实验结果：
总结：
专题二：text（with image）
- Automatically classifying Chinese judgment documents using character-level convolutional neural networks
基于字符级卷积神经网络的中文判决文档自动分类
他们做了什么：
数据怎么来的？怎样做数据的预处理？以及创建了一个character特征词典：
利用CNN进行分类：
实验结果：
未来的考虑方向：如何处理不平衡的样本？多标签问题，和避免过拟合。
2.Deep multi-modal learning with cascade consensus
基于级联共识的深度多模态学习
提出笔者模型的背景：
为了考虑同质的隐藏层的问题，提出的框架：
结果：
3.Two-step multi-factor attention neural network for answer selection
两步多因素注意神经网络用于答案选择
要完成的task是怎样的？以及例子：
做这件事的动机：
具体是怎样做的？
做实验：
实验结果：
4. Deep coordinated textual and visual network for sentiment-orented cross-modal retrieval
面向情感的跨模态检索深度协调文本和视觉网络
问题描述：
相关的工作：
本文主要是对图像中的情感倾向做判断：
方法：
具体来说：
实验：
结论：
