ML モデルに魂を吹き込む: MVP に基づく超シンプルなデプロイメント ソリューション

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

優れた機械学習モデルを開発するのは難しいですが、作業はそこで終わりません。展開されるまでは役に立たず、他の人が簡単にアクセスできるようになります。

モデルをデプロイする方法は多数ありますが、ここでは基本的な MVP に有効な非常にシンプルなソリューションについてお話ししたいと思います。Flask を使用してモデルの API を作成し、ソフトウェア サーバーに Gunicorn を使用し、Web サイト サーバーに Nginx を使用し、それを Docker でラップして他のマシン (特に AWS と GCP) へのデプロイを容易にします。

[[328507]]

サーバーの設定

私は、個人または仕事用のハードウェアを使用するのではなく、この目的のために特別にレンタルしたサーバーを使用して新しい構成を実験することを好みます。そうすれば、何かがひどく損傷したとしても、問題にはなりません。

したがって、Linode の使用をお勧めします。私は個人的に実験に使用していますが、そのハードウェアは使い心地が良いです。 Ubuntu 18.04 LTS を使用している限り、他の必要なサービスも使用できます。

この部分はLinidesを使用する人に適しています。 Linodes に移動し、「Linode の追加」をクリックします。記入しなければならない事項がいくつかあります。ディストリビューションバージョンでは、Ubuntu 18.04 LTS イメージを選択することをお勧めします。

• 地域 - あなたの近くの地域（私はドイツのフランクフルトを使用しました）
• Linode プラン – Nanode (月額 5 ドルのみ、ニーズを満たすのに十分)
• ルートパスワード - あなたのパスワード

次に、「作成」をクリックします。数分ほど経つと、「ネットワーク」に移動し、SSH 経由でサーバーにアクセスするための情報を確認できます。

次のステップは、サーバーに接続し、sudo 権限を持つ非 root ユーザーを作成することです。この背後にあるロジックは非常に単純です。サーバー上ですべてを root として実行したくないのです。そうすると、物事を壊すのがはるかに簡単だからです。

 adduser ユーザー名usermod -aG sudoユーザー名

最後に、新しいユーザーに切り替えます。

 su — ユーザー名

アプリケーションコンテナを作成する

システム全体の構成は、アプリケーション コンテナー (Flask + Gunicorn) と Web コンテナー (Nginx Web サーバー) の 2 つの部分に分かれています。

（1）ステップ0 - DockerとDocker Composeをインストールする

Docker と Docker-compose のインストールは非常に簡単で、それぞれ 4 行と 2 行で実行できます。

（2）ステップ1 - FlaskAppとWSGIエントリポイントを作成する

ホームディレクトリに flask アプリディレクトリを作成し、次のファイルを配置します。

フラスコからインポートFlask
サーバー= Flask (__name__)
             @server.route('/')
      defhello_world():
          'hello world!' を返します。

これは、ほとんど機能のない最も基本的な Flask アプリケーションです。モデルをロードせず、GET / POST リクエストやコンテンツ (以下に表示されます) を追加しません。現在、「helloworld」と書かれたホームページを持つアプリケーションがあります。

この部分は非常に簡単です。Gunicorn をポート 8000 で実行するための別のファイルを作成するだけです。

（3）ステップ2 - Flask用のDockerイメージを作成する

ここで、これらのファイルを取得して後で実行できるイメージを作成する Dockerfile を作成する必要があります。

 Python:3.6.7より
             WORKDIRusr/src/flask_app
           COPYrequirements.txt 。
           pip install --no-cache-dir -r requirements.txt を実行します。
           コピー 。 。

Docker に詳しくない人のために、このスクリプトが行うことを説明します。

• Python 3.6.7 イメージのインポート
• すべてのファイルの作業ディレクトリを設定する
• Flask、Gunicorn、および Flask アプリケーションを実行するために必要なその他すべてのファイルが含まれる要件ファイルをコピーします。

次に、RUN コマンドを使用して必要なすべてのパッケージがインストールされ、最後にすべてのファイルが flaskdir からコンテナー内の usrscrflask アプリケーションにコピーされます。次に、このファイルを同じ flask_app ディレクトリに配置し、requirements.txt を追加します。

フラスコ
     ガンコーン

ディレクトリと内容について混乱した場合は、記事の最後にある完全なプロジェクト構造を確認するか、GitHub リポジトリにアクセスしてください。

（4）ステップ3 - Nginxファイルを作成する

Nginx を実行するには、いくつかの設定が必要です。ただし、次の手順に進む前に、ホーム ディレクトリ内 (flask_app と同じレベル) に nginx ディレクトリを作成してください。その後、最初に必要なファイルは nginx.conf です。このファイルには、ほぼすべての基本的な Nginx 情報と変数が含まれています。

基本的な Nginx 設定を見てみましょう。

 # Nginxサーバーを所有して実行するユーザーを定義します
      ユーザー nginx;
      # ワーカープロセスの数を定義します。推奨値は
      サーバーで使用されているコア数
      ワーカープロセス 1;
      # エラーログのファイルシステム上の場所と最小値を定義します
      # メッセージをログに記録する重大度
      error_log /var/log/nginx/error.log 警告;
      # メインNGINXプロセスのプロセスIDを保存するファイルを定義します
      pid /var/run/nginx.pid;
             # イベント ブロックは、接続処理に影響するパラメータを定義します。
      イベント {
          # ワーカープロセスによって開くことができる同時接続の最大数を定義します$
          ワーカー接続 1024;
      }
             # http ブロックは、NGINX が HTTP Web トラフィックを処理する方法のパラメータを定義します。
      http {
          # NGINXでサポートされているファイルタイプのリストを定義するファイルをインクルードします
          /etc/nginx/mime.types を含めます。
          # ユーザーに返されるデフォルトのファイルタイプを定義する
          デフォルトタイプはtext/htmlです。
          # ログメッセージの形式を定義します。
          log_format main '$remote_addr - $remote_user [$time_local] "$request" '
                            '$status$body_bytes_sent "$http_referer" '
                            '"$http_user_agent" "$http_x_forwarded_for"';
                                # NGINXへのアクセス試行のログの場所を定義する
          access_log /var/log/nginx/access.log メイン;
          # 静的コンテンツの配信を最適化するためのパラメータを定義する
          ファイル送信オン;
          tcp_nopush オン;
          tcp_nodelay オン;
          # クライアントとのキープアライブ接続のタイムアウト値を定義する
          キープアライブタイムアウト65;
          # 転送するデータ量を減らすためにgzip圧縮アルゴリズムの使用を定義します
          #gzip オン;
          # 仮想ホスト/サーバーの追加パラメータを含める
          /etc/nginx/conf.d/*.conf を含めます。
      }

2 番目のファイル - アプリケーション固有の構成。これを行うには、2 つの一般的な方法があります。

• /etc/nginx/sites-available/your_project に設定ファイルを作成し、/etc/nginx/sites-enabled/your_project へのシンボリック リンクを作成します。
• メインの Nginx ディレクトリに project.conf を作成するだけです。以下は2番目の方法です。

サーバー{
                 聞く 80;
         サーバー名 docker_flask_gunicorn_nginx;
                 位置 / {
             proxy_pass http://flask_app:8000;
                     # 変更しないでください
             proxy_set_header ホスト $host;
             proxy_set_header X-Real-IP $remote_addr;
             proxy_set_header X-Forwarded-For$proxy_add_x_forwarded_for;
         }
                 場所 /static {
             ^/static(.*) /$1 を書き換えてbreak;
             ルート /static;
         }
      }

注意すべき点がいくつかあります。まず、アプリケーションが実行されるポートを指定する listen80 を確認します。デフォルトのポートとして、80 を選択します。次に、サーバー名です。 Linode から取得した IP アドレスを指定することも、Docker イメージ名を使用することもできます。

最後に、proxy pass コマンドは、Nginx 構成を flask プロジェクトにポイントする必要があります。 Flask コンテナの名前は flask_app (後ほど紹介します) なので、コンテナの名前と Flask プロジェクトで指定したポートだけを使用すれば大丈夫です。

（5）ステップ4 — Nginx用のDockerイメージの作成

この特定の Docker イメージは非常にシンプルです。 Flask と同様に、わずか 5 行で構成され、次の 2 つのことだけを実行します。

 nginx:1.15.8より
             rm/etc/nginx/nginx.conf を実行します。
           nginx.conf/etc/nginx/ をコピーします。
           rm /etc/nginx/conf.d/default.conf を実行します。
           project.conf/etc/nginx/conf.d/ をコピーします。

nginx イメージをインポートし、ファイルをコピーして、デフォルトのファイルに置き換えます。

（6）ステップ5 — Dockerfilesとdocker-composeを組み合わせる

現在、2 つの Dockerfile があります。

• フラスコ + グニコーン用
• Nginx 用のもう 1 つ。

今度は、それらを相互作用させてシステム全体を実行させます。これを実現するには、docker-compose が使用されます。ホームディレクトリに docker-compose.yml ファイルを作成するだけです。

バージョン: '3'
             サービス:
          フラスコアプリ:
           コンテナ名: flask_app
           再起動: 常に
           ビルド: ./flask_app
           ポート:
             - 「8000:8000」
           コマンド: gunicorn -w 1 -b 0.0.0.0:8000 wsgi:server
               nginx:
           コンテナ名: nginx
           再起動: 常に
           ビルド: ./nginx
           ポート:
             - 「80:80」
           依存:
             - フラスコアプリ

これがどのように機能するかを理解するために、いくつかの重要な問題について考えてみましょう。

• まず、docker-compose は flask_app と nginx の 2 つの部分 (2 つのサービス) に分割されます。次の行からわかるように、flask_app コンテナは Flask アプリケーションを実行する Gunicorn を実行し、1 つのワーカーでポート 8000 に切り替えます。
• 2 番目のコンテナはポート 80 でのみ Nginx を実行します。また、depends_on セクションに注意してください。このセクションでは、docker-compose に、まず flask_app コンテナを起動し、次に --- nginx を起動するように指示しています。これは、これら 2 つのコンテナが相互に依存しているためです。

また、この Docker セットアップを簡単に実行できるようにするために、もう 1 つ追加する必要があるものがあります。それが run_docker.sh ファイルです。

 echo 古い docker プロセスを強制終了する
        docker-compose rm -fs
             echo Dockerコンテナの構築
        docker-compose を起動 --build -d

セットアップは docker-compose up を実行するのと同じくらい簡単ですが、まずこの時点で古い docker プロセスがアクティブになっていないことを確認してください。

（7）ステップ6 - すべてをまとめる

現在のプロジェクト構造は次のようになります。

 。
 ├── フラスコアプリ
│ ├── app.py
 │ ├── wsgi.py
 │ └── Dockerファイル
├── nginx
 │ ├── nginx.conf
 │ ├── プロジェクト.conf
 │ └── Dockerファイル
├── docker-compose.yml
 └── run_docker.sh

すべての準備が整ったことを確認したら、Docker を実行できます。

 bash 実行_docker.sh

Linode から取得した IP に移動し、ブラウザでメイン ページを表示します。

（8）ステップ7 - 結果が得られない場合はどうすればいいですか？

まず Linode でサーバーをレンタルし、docker と docker-compose をインストールし、git リポジトリをクローンして bash run_docker.sh を実行します。

正常に実行されることを確認したら、変更を開始します。何かが失敗するまで、Flask、Dockerfiles、または docker-compose を使用してみてください。その後、問題を特定し、解決に取り組みます。

（9）ステップ8 - 次は何ですか？

次に追加するのは、FlaskApp での POST リクエストのサポートです。この方法では、モデルにリクエストを送信し、応答を受け取ることができます。

必要なのは、リクエストを処理できるモデルと、POST リクエストが自立できることの 2 つです。

 FlaskからimportFlask、request、jsonify
サーバー= Flask (__name__)
             defrun_request():
インデックス= int (request.json['index'])
リスト= ['赤', '緑', '青', '黄', '黒']
           リストを返す[インデックス]
             @server.route('/',メソッド=['GET', 'POST'])
        defhello_world():
           リクエストメソッド== 'GET' の場合:
               'モデルは起動して実行中です。POST リクエストを送信してください' を返します。
           それ以外：
               戻り実行リクエスト()

便宜上、この場合、モデルはカラー リストの i 番目の要素のみを返します。しかし、実際にはどのモデルを実行するかは重要ではなく、すべてのメソッド (server = Flask(__name__) がある場所) でモデルのインスタンスを作成するだけで、準備は完了です。

ここで、IP アドレスに移動すると、「モデルは起動して実行中です。POST リクエストを送信しています」というメッセージが表示されます。これは、IP に移動するだけで GET リクエストとして扱われるためです。

ただし、モデル インデックスを含む json ファイルを使用して POST リクエストを送信してみましょう。私は Postman を使用していますが、好みに応じて何でも使用できます (例: Curl)。

うまくいきました! これで、GET / POST リクエストを受信するための他のルートを追加できます。このアイデアの背後にある理由は、複数のモデルをロードすることで、URL に基づいて特定のモデルにリクエストを送信できるためです。

（10）ステップ9 - さらに進むには？

実は、もう 1 つ重要なステップがあります。この Docker セットアップを迅速に展開するには、クラウド スペースに展開することをお勧めします。このアプローチの主な利点は、AWS がクラスター管理インフラストラクチャを提供することです。

学びましたか？