nn.Module クラスに基づく線形回帰モデルの実装

[[411355]]

前回はシーケンシャルモデルを紹介しましたが、ほとんどの場合、ニューラルネットワークは基本的にクラスの形式で実装されます。

ほとんどの場合、Pytorch で nn.Module を継承するクラスを作成すると、自分で実装しなくても Pytorch が提供する多くの高レベル API を使用できるようになります。

nn.Module から作成できる最も単純なニューラル ネットワーク クラスの例を以下に示します。 nn.Module ベースのクラスの最小要件は、__init__() メソッドと forward() メソッドをオーバーライドすることです。

このクラスでは、2 つの入力と 1 つの出力を持つ単純な線形ネットワークが定義され、Sigmoid() 関数がネットワークの活性化関数として使用されます。

輸入トーチ
トーチインポートnnから
 
クラス LinearRegression(nn.Module):
    __init__(self)を定義します。
        #親クラスのコンストラクタを継承する
        super(線形回帰、self).__init__()
        #入力と出力の次元はどちらも1です
        自己線形 = nn.線形(1, 1)
    def forward (self, x):
出力= self.linear(x)
戻る 外 

それではモデルをテストしてみましょう。

 # LinearRegression() のインスタンスを作成する
モデル = 線形回帰()
印刷(モデル)
 # 出力は次のようになります
線形回帰
  (線形): Linear(in_features=1, out_features=1, バイアス= True )
 ）

ここで、損失関数と最適化関数を定義しましょう。

 model = LinearRegression()#オブジェクトをインスタンス化する
num_epochs = 1000 #反復回数
learning_rate = 1e-2#学習率 0.01
損失 = torch.nn.MSELoss()#損失関数
optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)#最適化関数

方程式によって生成されたデータセットを作成し、関数を通じてノイズを作成します。

輸入トーチ
matplotlibからpyplotをpltとしてインポートします
torch.autogradから変数をインポート
トーチインポートnnから
# データセットを作成する unsqueeze は以下と同等です
x = 変数(torch.unsqueeze(torch.linspace(-1, 1, 100), dim=1))
 y = 変数(x * 2 + 0.2 + torch.rand( x.size ()))
 plt.scatter(x.data.numpy(),y.data.numpy())
 plt.show()

torch.unsqueeze 関数の解釈。

 >>> x = トーチ.テンソル([1, 2, 3, 4])
 >>> torch.unsqueeze(x, 0)
テンソル([[ 1, 2, 3, 4]])
 >>> torch.unsqueeze(x, 1)
テンソル([[ 1],
        [2]、
        [3]、
        [4])

各エポックを走査し、損失を計算し、バックプロパゲーションによって勾配を計算し、勾配を継続的に更新し、最適化のために勾配降下法を使用します。

範囲(num_epochs)内のエポックの場合:
    ＃ 予測する
    y_pred = モデル(x)
    # 損失を計算する
    損失 = 損失(y_pred, y)
    # 以前のパラメータ値をクリアする
    オプティマイザ.zero_grad()
    #逆伝播
    損失.後方()
    #パラメータの更新
    オプティマイザ.ステップ()
    エポック% 200 == 0の場合:
        print( "[{}/{}] loss:{:.4f}" .format(epoch+1, num_epochs, loss)) 
 
 plt.scatter(x.data.numpy(), y.data.numpy())
 plt.plot(x.data.numpy(), y_pred.data.numpy(), 'r-' 、lw=5)
 plt.text(0.5, 0, '損失=%.4f' % loss.data.item(), fontdict={ 'サイズ' : 20, '色' : '赤' })
 plt.show()
 ####結果は次のとおりです####
 [1/1000] 損失:4.2052
 [201/1000] 損失:0.2690
 [401/1000] 損失:0.0925
 [601/1000] 損失:0.0810
 [801/1000] 損失:0.0802

 [w, b] = モデル.パラメータ()
印刷(w,b)
 # パラメータに含まれるもの:
 tensor([[2.0036]], requires_grad= True ) パラメータには以下が含まれます:
テンソル([0.7006], requires_grad= True )

ここで b=0.7 は、0.2 + torch.rand(x.size()) に等しくなります。多くのトレーニングを行った後、torch.rand() は一般に約 0.5 になります。