Python でシンプルなニューラル ネットワークを作成する方法 (コード付き)

[[251984]]

ニューラル ネットワークの仕組みを理解する最良の方法は、自分でニューラル ネットワークを作成することです。この記事では、その方法を説明します。

ニューラル ネットワーク (NN) は、人工ニューラル ネットワーク (ANN) とも呼ばれ、生物学的ニューラル ネットワークの概念に基づいた機械学習分野の学習アルゴリズムのサブセットです。

5 年以上の経験を持つドイツの機械学習の専門家、Andrey Bulezyuk 氏は、次のように主張しています。「ニューラル ネットワークは、幅広い分野や業界にわたって抽象的なオブジェクトを効率的にモデル化できるため、機械学習に革命をもたらしています。」

人工ニューラル ネットワークは基本的に次のコンポーネントで構成されます。

• 入力層: データの受信と受け渡し
• 隠しレイヤー
• 出力層
• レイヤー間の重み
• 各隠れ層には活性化関数があります。このシンプルなニューラル ネットワーク Python チュートリアルでは、シグモイド活性化関数を使用します。

ニューラルネットワークには多くの種類があります。このプロジェクトでは、フィードフォワードまたはパーセプトロン ニューラル ネットワークを作成します。このタイプの ANN は、データを前方から後方へ直接渡します。

フィードフォワード ニューロンのトレーニングには、多くの場合、ネットワークに対応する入力と出力のセットを提供するバックプロパゲーションが必要です。入力データがニューロンに送信されると、処理されて出力が生成されます。

次の図は、単純なニューラル ネットワークの構造を示しています。

ニューラル ネットワークの仕組みを理解する最良の方法は、ライブラリを使用せずに、ニューラル ネットワークをゼロから構築する方法を学ぶことです。

この記事では、Python プログラミング言語を使用して単純なニューラル ネットワークを作成する方法を説明します。

質問

以下に問題を示す表を示します。

新しいデータセットを提供し、それを使用してニューラル ネットワークをトレーニングし、正しい出力値を予測できるようにします。

上記の表に示すように、出力値は常に入力セクションの最初の値と等しくなります。したがって、出力値は 1 になると予想されます。

Python コードを使用して同じ結果を得られるかどうか確認してみましょう (このプロジェクトを続ける前に、この記事の最後でこのプロジェクトのコードを確認できます)。

NeuralNetworkクラスを作成する

正確な予測ができるようにニューロンをトレーニングするために、Python で NeuralNetwork クラスを作成します。このクラスには他のヘルパー関数も含まれます。

この単純なニューラル ネットワークの例ではニューラル ネットワーク ライブラリを使用しませんが、計算を支援するために numpy ライブラリをインポートします。

numpy ライブラリは、次の 4 つの重要なメソッドを提供します。

• exp—自然指数を生成するために使用
• 配列—行列を生成するために使用
• ドット—行列の乗算
• random — 乱数を生成するために使用されます。有効な分布になるように乱数を生成することに注意してください。

1. シグモイド関数を適用する

ニューラル ネットワークの活性化関数として、シグモイド関数を使用して特徴的な「S」曲線を描画します。

この関数は、任意の値を 0 から 1 の間の値にマッピングすることができ、入力の重み付けと正規化に役立ちます。

この後、重みの調整パラメータを計算するために、シグモイド関数の導関数を作成します。

シグモイド関数の出力は、その導関数を生成するために使用できます。たとえば、出力変数が「x」の場合、その導関数は x*(1-x) になります。

2. モデルのトレーニング

これは、ニューラル ネットワークに正確な予測を行うように教える段階です。各入力には重みがあり、重みは正または負になります。つまり、正または負の重みが大きい入力は、結果の出力に大きな影響を与えます。最初に、各乱数に重みを割り当てることから始めたことを思い出してください。

この例のニューラル ネットワークのトレーニング プロセスは次のとおりです。

ステップ 1: トレーニング データセットから入力を抽出し、トレーニング データセットの重みに応じて調整し、ニューラル ネットワークの出力を計算する方法を通じてフィルタリングします。

ステップ 2: バックプロパゲーション エラー率を計算します。この場合、それはニューロンの予測出力とトレーニング データセットの予想出力の差です。

ステップ 3: 誤差加重微分式を使用して、得られた誤差範囲に基づいて、いくつかの小さな重み調整が行われました。

ステップ 4: このプロセスを 15,000 回繰り返します。各反復では、トレーニング セット全体が同時に処理されます。

マトリックスを水平位置から垂直位置に変換するには、「.T」関数を使用します。したがって、数値は次のように保存されます。

最終的に、ニューロンの重みは提供されたトレーニング データに基づいて最適化されます。その後、ニューロンに以前の状態と同じ新しい状態を考慮するように要求すると、正確な予測を行うことができます。これがバックプロパゲーションの仕組みです。

パッケージ化して実行

***、NeuralNetwork クラスが正常に初期化されたら、コードを実行できます。

Python プロジェクトでニューラル ネットワークを作成する方法の完全なコードは次のとおりです。

 numpyをnpとしてインポートする 
    クラスNeuralNetwork():  
        __init__(self)を定義します。  
            # 乱数生成のためのシード 
            np.ランダムシード(1)  
            #重みを、値が-1から1で平均が0の3行1列の行列に変換します 
自己シナプス重み= 2 * np.random.random((3, 1)) - 1  
        シグモイドの定義(自己、x):  
            #シグモイド関数の適用 
            1 / (1 + np.exp(-x)) を返します。  
        sigmoid_derivative(self, x)を定義します。  
            #シグモイド関数の導関数を計算する 
            x * (1 - x) を返す 
        def train(self, トレーニング入力, トレーニング出力, トレーニング反復):  
            #重みを継続的に調整しながら正確な予測を行うようにモデルをトレーニングする 
            範囲内の反復(training_iterations):  
                #ニューロンを介してトレーニングデータを吸い上げる 
出力= self.think (training_inputs)  
                #バックプロパゲーションのエラー率を計算する 
エラー=トレーニング出力- 出力 
                #体重調整を行う 
調整= np .dot(training_inputs.T, error * self.sigmoid_derivative(出力))  
                self.synaptic_weights += 調整 
        def think(self, inputs):  
            #入力をニューロン経由で渡して出力を得る 
            #値を浮動小数点数に変換する 
入力inputs = inputs.astype(float)  
出力= self .sigmoid(np.dot(入力, self .synaptic_weights))  
            出力を返す 
    __name__ == "__main__" の場合:  
        #ニューロンクラスの初期化 
 neural_network =ニューラルネットワーク()  
        print("ランダムに生成された最初の重み: ")  
        印刷(ニューラルネットワーク.シナプスの重み)  
        #4つの例からなるトレーニングデータ - 3つの入力値と1つの出力 
トレーニング入力= np.array([[0,0,1],  
                                    [1,1,1],  
                                    [1,0,1],  
                                    [0,1,1]])  
トレーニング出力= np .array([[0,1,1,0]]).T  
        #トレーニング実施中 
        ニューラルネットワーク.train(トレーニング入力、トレーニング出力、15000)     
        print("トレーニング後の終了重み: ")  
        印刷(ニューラルネットワーク.シナプスの重み)     
 user_input_one = str (input("ユーザー入力1: "))  
 user_input_two = str (input("ユーザー入力2: "))  
 user_input_three = str (input("ユーザー入力3: "))   
        print("新しい状況を検討中: ", user_input_one, user_input_two, user_input_three)  
        print("新しい出力データ: ")  
        印刷(neural_network.think(np.array([user_input_one, user_input_two, user_input_three])))  
    print("わあ、やったね!")

コードを実行した後の出力:

このようにして、単純なニューラル ネットワークを作成することに成功しました。

ニューロンは最初にランダムな重みを割り当て、次にトレーニング例を使用して自分自身をトレーニングします。

その後、新しい状態[1,0,0]が出現すると、0.9999584と評価されます。

正解は 1 にしたかったことを覚えていますか?

この値は非常に近く、シグモイド関数の出力値は 0 から 1 の間になります。

もちろん、この例では、単純なタスクを実行するために単一のニューラル ネットワークのみを使用します。何千もの人工ニューラルネットワークを接続すると何が起こるでしょうか?人間の思考方法を完全に模倣することはできるでしょうか?