笔趣阁 www.bqg34.org,学霸从谈恋爱开始无错无删减全文免费阅读!
的训练稳定性,避免了模型训练崩坏,解决了GAN一直以来受诟病的缺点,并且提供了稳定且更有意义的学习曲线……】
让他感到震惊的是,这一篇GAN的改良论文,足足有32页,其中的理论证明和实验任务都详细无比。
要知道,苏飞的ELMo也就15页,他自觉在ELMo中已经把理论证明部分写的无懈可击,但看到姜大校花的这篇论文时,才发现什么才叫真正的无懈可击。
苏飞越看越心惊,尤其是核心算法。
“你做的JGAN,提出的主要创新点是,判别器最后一层去掉sigmoid函数,生成器和判别器的损失函数不用log计算,优化算法不采取动量法优化,最后一点是引入KL散度作为衡量性能的工具,大致是这样,对吧?”
姜倾雪有些惊讶地看着苏飞,这前前后后才不到十分钟,就这么点时间,他就能把这篇JGAN的核心部分看懂,虽然早就知道苏飞的科研水平很高,但这脑子是转的多快啊……
毕竟这里面一大串一大串的让人眼花缭乱的公式可一点也不少。
“嗯,你觉得怎么样?”姜倾雪看起来很平静。
苏飞沉默了一会儿,毫无保留地夸赞道:“完美。”
“是吗。”姜倾雪轻轻松了一口气。
“只不过,为什么在更新参数的时候,不加一个步骤,把梯度截取一下呢?许多GAN的改良文献里都有这种方法。”苏飞补充道。
“我也有试过,但效果好像不太理想。”
“有试过生成器和判别器分别截取么,不要一起截取。”
“这倒没试过,简直是一个盲点,兴许有奇效。”姜倾雪惊叹道。
苏飞耸了耸肩:“也有可能一点用没有,还浪费你时间。”
“科研就是这样试错的,能有一个新的思路已经很好了,苏飞同学,谢谢。”姜倾雪微微鞠躬。
苏飞一时有些发愣。
“怎么了?”
“没什么……只是,这还是第一次被社长这样郑重道谢呢。”
“不喜欢么?”
“喜欢。”
喜欢俩字脱口而出,苏飞老脸一红,随即看到了姜大校花微微上扬的嘴角,他才反应过来上当了。
可恶,狡猾的姜倾雪!
这种喜欢不喜欢的简单二分类问题,也太狡猾了。
‘叮!姜倾雪好感度+3,目前好感度59。’
不过,有好感度赚,也不亏吧。
“我能问下你,为什么要取名为JGAN么?”苏飞有些好奇。
“因为J是姜的首字母啊。”姜倾雪如同看白痴一样看着苏飞,过了一会儿又说道:“不过,如果你的新思路有用的话,或许可以改名为JSGAN。”
好有诱惑力的提桉,恐怕能白嫖一篇顶会。
“不用了,社长,你的这篇论文花费了很久吧,我只是提了一点点小建议,如果这样都加上我的名字,那这顶会论文也太好蹭了。”
苏飞在这篇论文的署名上,只看到了姜倾雪一个人,这就说明整篇论文都是她一人独自完成,这样一篇论文,独自完成还没系统的外挂,前前后后恐怕得七、八个月。
就像之前姜倾雪不求回报地帮助自己一样,苏飞也只是想做同样的事情。
苏飞:“现在这个时间段……要投ACL么?”
ACL,全名The Assoputational Linguistics,计算语言学协会,自然语言处理领域的顶会,丝毫不逊AAAI。
姜倾雪点点头。
这个时间段,苏飞的Transformer恐怕也只能投ACL,这么一来,说不定会和姜倾雪对上。
思及此处,苏飞心中忍俊不禁,暗道:我这是不是资敌了?
不过,还蛮期待的,TransfAN的正面对决。
的训练稳定性,避免了模型训练崩坏,解决了GAN一直以来受诟病的缺点,并且提供了稳定且更有意义的学习曲线……】
让他感到震惊的是,这一篇GAN的改良论文,足足有32页,其中的理论证明和实验任务都详细无比。
要知道,苏飞的ELMo也就15页,他自觉在ELMo中已经把理论证明部分写的无懈可击,但看到姜大校花的这篇论文时,才发现什么才叫真正的无懈可击。
苏飞越看越心惊,尤其是核心算法。
“你做的JGAN,提出的主要创新点是,判别器最后一层去掉sigmoid函数,生成器和判别器的损失函数不用log计算,优化算法不采取动量法优化,最后一点是引入KL散度作为衡量性能的工具,大致是这样,对吧?”
姜倾雪有些惊讶地看着苏飞,这前前后后才不到十分钟,就这么点时间,他就能把这篇JGAN的核心部分看懂,虽然早就知道苏飞的科研水平很高,但这脑子是转的多快啊……
毕竟这里面一大串一大串的让人眼花缭乱的公式可一点也不少。
“嗯,你觉得怎么样?”姜倾雪看起来很平静。
苏飞沉默了一会儿,毫无保留地夸赞道:“完美。”
“是吗。”姜倾雪轻轻松了一口气。
“只不过,为什么在更新参数的时候,不加一个步骤,把梯度截取一下呢?许多GAN的改良文献里都有这种方法。”苏飞补充道。
“我也有试过,但效果好像不太理想。”
“有试过生成器和判别器分别截取么,不要一起截取。”
“这倒没试过,简直是一个盲点,兴许有奇效。”姜倾雪惊叹道。
苏飞耸了耸肩:“也有可能一点用没有,还浪费你时间。”
“科研就是这样试错的,能有一个新的思路已经很好了,苏飞同学,谢谢。”姜倾雪微微鞠躬。
苏飞一时有些发愣。
“怎么了?”
“没什么……只是,这还是第一次被社长这样郑重道谢呢。”
“不喜欢么?”
“喜欢。”
喜欢俩字脱口而出,苏飞老脸一红,随即看到了姜大校花微微上扬的嘴角,他才反应过来上当了。
可恶,狡猾的姜倾雪!
这种喜欢不喜欢的简单二分类问题,也太狡猾了。
‘叮!姜倾雪好感度+3,目前好感度59。’
不过,有好感度赚,也不亏吧。
“我能问下你,为什么要取名为JGAN么?”苏飞有些好奇。
“因为J是姜的首字母啊。”姜倾雪如同看白痴一样看着苏飞,过了一会儿又说道:“不过,如果你的新思路有用的话,或许可以改名为JSGAN。”
好有诱惑力的提桉,恐怕能白嫖一篇顶会。
“不用了,社长,你的这篇论文花费了很久吧,我只是提了一点点小建议,如果这样都加上我的名字,那这顶会论文也太好蹭了。”
苏飞在这篇论文的署名上,只看到了姜倾雪一个人,这就说明整篇论文都是她一人独自完成,这样一篇论文,独自完成还没系统的外挂,前前后后恐怕得七、八个月。
就像之前姜倾雪不求回报地帮助自己一样,苏飞也只是想做同样的事情。
苏飞:“现在这个时间段……要投ACL么?”
ACL,全名The Assoputational Linguistics,计算语言学协会,自然语言处理领域的顶会,丝毫不逊AAAI。
姜倾雪点点头。
这个时间段,苏飞的Transformer恐怕也只能投ACL,这么一来,说不定会和姜倾雪对上。
思及此处,苏飞心中忍俊不禁,暗道:我这是不是资敌了?
不过,还蛮期待的,TransfAN的正面对决。