20189218 2018-2019-2 《密码与安全新技术专题》第5周作业( 三 )


文章插图
深度学习与密码分析
1.基于卷积神经网络的侧信道攻击:
2.基于循环神经网络的明文破译:

20189218 2018-2019-2 《密码与安全新技术专题》第5周作业

文章插图
3.基于生成对抗网络的口令破解:
20189218 2018-2019-2 《密码与安全新技术专题》第5周作业

文章插图
4.基于深度神经网络的密码基元识别:
20189218 2018-2019-2 《密码与安全新技术专题》第5周作业

文章插图
深度学习与密码设计
两大重点科学问题包括“组件化可变密码算法设计与安全性评估”和“密文可编程数据安全存储与计算” 。因此未来对于新密码算法的设计需求将与日剧增,然而目前密码算法的设计还停留在人工设计阶段,较为耗时耗力,难以适应未来对密码算法设计的需求 。
生成对抗网络GAN():
20189218 2018-2019-2 《密码与安全新技术专题》第5周作业

文章插图
机器生成密码算法的思路:
20189218 2018-2019-2 《密码与安全新技术专题》第5周作业

文章插图

20189218 2018-2019-2 《密码与安全新技术专题》第5周作业

文章插图
2.学习中遇到的问题及解决3.本次讲座的学习感悟、思考
我们应该正确认识AI能够在当前取得的成就,才可以解决更加复杂的问题 。我们不能忽略:对于自然语言理解,虽然经过了数十年的发展,依然没有人工智能系统可以做到完全正确地理解人类的语言(包括语音识别和机器翻译);在机器人领域,即使工业机器人发展迅速,我们依然没有看到具有常识和推理能力的智能家庭机器人;在计算机视觉领域,即使我们在人脸识别和图片分类上取得了不小的成就,但是对于关系理解和完整的场景认知,现在系统能做到的还很有限 。
正如卡内基梅陇大学机器学习系Alex Smola教授认为:AI技术在未来确实有可能对流水线工人、卡车司机、保洁员等相对低技能要求的工种造成冲击,然而解决的办法只能是提高整个社会的教育水平 。其次,我认为社会也在对人工智能技术的发展产生各种积极的约束:譬如,用户对于技术的安全性和稳定性的要求;用户对于数据隐私的要求;用户对于产品的道德约束 。总而言之,当前是人工智能发展的一个令人兴奋的时期,机器学习技术对于整个人类的发展,也是具有不可估量的潜力 。我们应该正视科学技术发展的进步,理性看待所取得的结果 。
4.深度学习最新研究现状
目前从性能上考虑,深度学习已经大大优于传统的机器学习,深度学习今年发展到什么地步了呢?深度学习是否在某些方面遇到瓶颈?在深度学习领域有哪些前沿的做法?
On theof Deep
本文选自ICLR 2018Blind。
作者信息:
深度神经网络的理论研究不够充分,不能完全解释深度学习到目前的发展 。本文研究了深度学习的信息瓶颈(IB)理论,它提出了三个具体的主张:第一,深度网络经历两个不同的阶段,包括初始拟合阶段和后续压缩阶段; 第二,压缩阶段与深度网络的优秀泛化性能有因果关系; 第三,压缩阶段是由于随机梯度下降的类似扩散的行为而发生的 。本文通过分析结果和模拟的结合,证明信息平面轨迹主要是所采用的神经非线性的函数:双侧饱和非线性如tanh产生压缩阶段,因为神经激活进入饱和状态,但线性激活功能像广泛使用的ReLU那样的单侧饱和事实上并非如此 。此外,本文发现压缩和泛化之间没有明显的因果关系:不压缩的网络仍然能够泛化,反之亦然 。接下来,本文证明了压缩阶段并不是由训练中的随机性引起的,这表明我们可以使用完全批量梯度下降而不是随机梯度下降来复制IB发现 。最后,本文展示当输入域由任务相关和任务无关信息的子集组成时,隐藏层确实是压缩了任务无关的信息,并且这压缩与拟合过程是同时发生的,而不是有一个单独的压缩过程 。