陈曦
今天主要是参加了NLP session和DL session（下午2场），还有就是keynote speech。那么这里分成三个部分进行陈述，重点在于NLP和DL（并且DL中要不就是处理text的问题要不就是处理image的问题，也有结合在一起谈的）。
第一部分： 9：00 ~ 10： 10 Keynote Speech
Title: Meta-Interpretive Learning: achievements and challenges
如下链接可以找到演讲者的更多信息，以及这篇文章的摘要：
http://cse.seu.edu.cn/pricai18/keynote_invited_speakers.html
整体上来谈我的理解是，尝试用创新性的方法解决一个新的图像问题。接下来进一步介绍这场主旨发言的内容，教授先带着我们回忆了最初的interpretation编译器模型：图灵机（turing machine）。我的理解是UTM通过观察流observation stream找到事物的规律，然后通过program进一步编译出来，得到一个assignment值（结合下图理解）。
Stephen教授做这个研究的初衷在于，人们看事物的时候有不同的视角，如下图所示。有时候背着光看东西，有时候没有背光看东西，同样的东西看出来的效果是不同的。又或者远看和近看也是不一样的。
因此提出了MLP的方法，具体的元素如下图中的M、B、E和H。教授给予了一些解释。这个后面的部分基本没听明白。
接下来就是实验的部分，第一个实验：是不同方向的光源照到月亮表面的图片问题。
第二个实验，更加有趣。下图中的左边是坑吗？还是小山？那么右边呢？很多人会认为左边的是坑，右边的是山。因为人们假设了灯光是从上面往下照下来的，实际上，两幅照片是一样的。并且都是山。
第三个实验的特点在于对图像的像素分类用的是超级像素的方法，如下图所示：
由于本人对图像识别没有太多的了解，无法更加深入理解，最后教授进行总结：
第二部分： 10：30 ~ 12： 10 NLP session
一场session中有多个演讲者（大多来自985高校的研究生，少数博士生和老师），接下来按照演讲的内容节选介绍。
第一场：阅读更有效率：利用双重注意力机制和复制生成器网络做多句子的总结
（背景介绍：现在的文本数据越来越多了）这里用到的两个主要方法，第一个是抓取extractive从文本中找出最重要的句子（有些多余的句子并没有什么实质意思/作用）。
抽象的方法（高级的自然语言处理）：换位、同义替换和句子缩写等等。
简单介绍了一下双重注意力网络模型（DANs），图片的明暗由这个算法生成权重。
这里的编码器encoder是双向RNN，给出了向量的计算公式和权重的计算公式：
由下图可以看出双重在什么地方，词语层面和句子层面同时都用了注意力机制，再将两者串接起来。
下面两张图给出了相应的数学公式：
接下来记录了复制生成器网络，以及实验过程（什么数据、衡量的标准、实现的细节和实验结果）。主要模型包括seq2seq+attn、seq2seq+dual attn和dual attn+copy generator，以下是做总结的例子：
总结：将seq2seq+attn用到了多句子级别上，还有利用了双重注意力和生成复制网络模型。从重要的词向量聚合到句子向量，再从重要的句子向量聚合到文章向量。
第二场：用丰富的词特征做文本分类
动机如下：
他这里设计的词向量由两个部分组成，词嵌入和上下文的特征信息。
模型的结构，将文本先做embedding然后乘上权重生成过渡层（包括前面word embedding生成的部分和乘上权重的部分），在做max pooling生成文本表示text representation。
仔细看contextualized word feature的部分，他们利用的是不同大小的卷积过滤器抓取情景化contextualized特征。
下一步中的fuse不太明白，然后就是concatenate两个向量了：
用max-pooling找出sentence representation：
实验中超参的选择和结果：
第三场：用对抗神经网络改进卷积神经网络做多标签的图像分类
研究的重点：用了迁移学习来解决训练数据不够的问题，在池化层用了一个空间金字塔的池化层来改良识别能力，训练了一个对抗神经网络改善模型以及用了cross-entrpy的方法计算loss反向更新权重。
多标签的图像如下所示，和Imange net的单标签不一样，第一行是马和人（但其中的马和人所在的地点和大小是不一样的）。大部分物体由occlusion闭合/咬合？？
比较下图中的单标签和多标签模型，利用单标签所训练出来的参数迁移到多标签模型上：
池化层的操作如下图所示：
损失函数：
利用对抗网络adversarial network提高精确度：
进一步介绍对抗空间dropout（ASDN生成一个噪声点像素，代表某个部分的特征被分配为0）神经网络：
联合学习joint learning，总结了一下本文主要做的事情：
本文主要提出的是一个改进的CNN模型（SPP层改良精度），先用的是单标签训练出来的权重迁移到多标签分类问题上，再通过ASDN生成更多的带噪声（被遮挡）的训练数据使得模型稳健性更好，与现在最新的方法相比分类效果有所提升。
第四场：用分类和共现关系来做法案判决推荐
简单的介绍：
问题陈述：
法律知识背景，中文的案例（裁判证书作为训练数据），通过阅读这些文本，得到两个信息：一是诉讼理由和判决有关，二是有些判决是同时一起判的。
方法如下，简单的生成TF-IDF词向量然后多分类再按照共现性排序sorting得到最可能被判哪种刑法：
实验数据：
与经典方法进行实验对比：
相关的工作：
结论：
这个是我听了这么多中，最简单的一个了，所以没有过多解释看ppt即可明白过程。我发现中国学生英文口语表达能力还是不太好，有提升的空间。
第三部分： 14：00 ~ 17：40 DL session
由于这个DL的session一共有四场，在PRICAI 2018-08-30 日记（PART 2）进行分专题的简单介绍。