本篇內(nèi)容主要講解“tensorflow查看梯度方式是什么”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“tensorflow查看梯度方式是什么”吧!

網(wǎng)站建設哪家好，找創(chuàng)新互聯(lián)建站！專注于網(wǎng)頁設計、網(wǎng)站建設、微信開發(fā)、小程序開發(fā)、集團企業(yè)網(wǎng)站建設等服務項目。為回饋新老客戶創(chuàng)新互聯(lián)還提供了秦皇島免費建站歡迎大家使用！

1. 為什么要查看梯度

對于初學者來說網(wǎng)絡經(jīng)常不收斂，loss很奇怪（就是不收斂），所以懷疑是反向傳播中梯度的問題

（1）求導之后的數(shù)（的絕對值）越來越小（趨近于0），這就是梯度消失

（2）求導之后的數(shù)（的絕對值）越來越大（特別大，發(fā)散），這就是梯度爆炸

所以說呢，當loss不正常時，可以看看梯度是否處于爆炸，或者是消失了，梯度爆炸的話，網(wǎng)絡中的W也會很大，人工控制一下（初始化的時候弄小點等等肯定還有其它方法，只是我不知道，知道的大神也可以稍微告訴我一下~~），要是梯度消失，可以試著用用resnet,densenet之類的

2. tensorflow中如何查看梯度

tf.gradients(y,x)這里的就是y對于x的導數(shù)（dy/dx）,x和y一定要有關聯(lián)哦~

直接tf.gradients(y_, weight1)就可以了~

到此，相信大家對“tensorflow查看梯度方式是什么”有了更深的了解，不妨來實際操作一番吧！這里是創(chuàng)新互聯(lián)網(wǎng)站，更多相關內(nèi)容可以進入相關頻道進行查詢，關注我們，繼續(xù)學習！

當前標題：tensorflow查看梯度方式是什么
網(wǎng)頁路徑：http://chinadenli.net/article48/pijiep.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供自適應網(wǎng)站、網(wǎng)站收錄、微信公眾號、Google、商城網(wǎng)站、外貿(mào)建站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)