Python の高レベル自然言語処理ライブラリである SpaCy は、世界最速の構文解析ツールとして知られています。

Python の高レベル自然言語処理ライブラリである SpaCy は、世界最速の構文解析ツールとして知られています。

spaCy は、最先端の研究に基づいて構築され、実際の製品での使用のためにゼロから設計された、Python と Cython の高度な自然言語処理ライブラリです。 spaCy には、事前トレーニング済みの統計モデルと単語ベクトルが付属しており、現在 20 を超える言語でのトークン化をサポートしています。世界最速のパーサー、タグ付け、解析、固有表現認識のための畳み込みニューラル ネットワーク モデル、およびディープラーニングとの統合を特徴としています。これは、MIT ライセンスに基づいてリリースされた商用オープンソース ソフトウェアです。

spaCy プロジェクトは @honnibal と @ines によって管理されていますが、電子メールによる個人的なサポートは利用できません。しかし、オープンソース開発者は、公開して共有すれば、その支援の価値が高まり、より多くの人が恩恵を受けることができると考えています。 (公式 Github アドレス: https://github.com/explosion/spaCy#spacy-industrial-strength-nlp)

spaCyの特徴:

  • 世界最速のパーサー

  • エンティティ名の認識

  • 非破壊マーキング

  • 20以上の言語をサポート

  • 事前学習済みの統計モデルと単語ベクトル

  • ディープラーニングモデルの簡単な統合

  • 品詞記号

  • タグ依存性分析

  • 構文に基づく文の分割

  • 視覚的に文法とNERを構築する

  • 文字列からハッシュへのマッ​​ピングはより便利

  • NumPyデータ配列をエクスポートする

  • 効率的なバイナリシリアル化

  • モデルのパッケージ化と展開が簡単

  • 最速スピード

  • 強力かつ厳格な評価精度

spaCyのインストール

ピップ

pip を使用すると、spaCy バージョンは現在ソース パッケージとしてのみ利用できます。

  • pip インストール spacy

pip を使用する場合は、システム状態の変更を避けるために、通常、仮想環境にパッケージをインストールすることをお勧めします。

  • venv .envsource .env/bin/activate

  • pip インストール spacy

コンダ

コミュニティ開発者の努力により、conda サポートがようやく復活しました。 spaCy は conda-forge 経由でインストールできるようになりました。

  • conda config --add-channels conda-forge

  • conda インストール spacy

spaCyの更新

spaCy の一部のアップデートでは、新しい統計モデルのダウンロードが必要になる場合があります。spaCy v2.0 以降を実行している場合は、validate コマンドを使用して、インストールされているモデルに互換性があるかどうかを確認し、互換性がない場合は、アップデート方法の詳細を出力できます。

  • pip インストール -U スペース

  • スペイシー検証

独自のモデルをトレーニングした場合は、トレーニングと実行時の入力が一致する必要があることに注意してください。 spaCy を更新した後は、新しいバージョンでモデルを再トレーニングすることをお勧めします。

モデルをダウンロード

v1.7.0 以降では、spaCy のモデルを Python パッケージとしてインストールできます。つまり、他のモジュールと同様に、アプリケーションのコンポーネントになります。 モデルは、spaCy のダウンロード コマンドを使用するか、pip にパスまたは URL を指定して手動でインストールできます。

モデルの読み込みと使用

モデルをロードするには、モデルのショートカット リンクで spacec.load() を使用します。

すでに pip 経由でモデルをインストールしている場合は、それを直接インポートして load() メソッドを呼び出すこともできます。

旧バージョンのサポート

古いバージョン (v1.6.0 以下) を使用している場合でも、python -m spacy.en.download all または python -m spacy.de.download all を使用して、spaCy から古いモデルをダウンロードしてインストールできます。 v1.6.0 リリースには .tar.gz アーカイブも添付されています。モデルを手動でダウンロードしてインストールするには、アーカイブを解凍し、含まれているディレクトリを spacy/data に配置し、spacy.load('en') または spacy.load('de') でモデルをロードします。

ソースからのコンパイル

spaCy をインストールする別の方法は、GitHub リポジトリをクローンしてソースからビルドすることです。 コード ベースに変更を加える場合、一般的なアプローチは、ヘッダー ファイル、コンパイラ、pip、virtualenv、git を含む Python ディストリビューションで構成された開発環境を確保することです。コンパイラ部分が最も難しいです。これを実行する方法はシステムによって異なります。詳細については、Ubuntu、OS X、Windows の手順を参照してください。

pip による通常のインストールと比較して、requirements.txt では Cython などの開発者依存関係も追加でインストールされます。 詳細と手順については、ソースから spaCy をコンパイルするドキュメントと、プラットフォームと Python バージョンに適したコマンドのクイックスタート ウィジェットを参照してください。上記の詳細なコマンドの代わりに、以下の構造化されたコマンドを使用することもできます。すべてのコマンドは、仮想環境が .env というディレクトリにあることを前提としています。別のディレクトリを使用している場合は、環境変数 VENV_DIR を使用して変更できます。たとえば、VENV_DIR=".custom-env" fab clean make です。

ウブントゥ

apt-get 経由でシステムレベルの依存関係をインストールします。

  • sudo apt-get install build-essential python-dev git

macOS / OS X

いわゆる「コマンドライン ツール」を含む、最新バージョンの XCode をインストールします。 macOS と OS X には Python と git がプリインストールされています。

ウィンドウズ

Python インタープリターのコンパイルに使用したバージョンと一致する Visual Studio Express 以降のバージョンをインストールします。公式ディストリビューションは、VS 2008 (Python 2.7)、VS 2010 (Python 3.4)、VS 2015 (Python 3.5) です。

テストの実行

spaCy には広範なテスト スイートが付属しています。 まず、spaCy がインストールされている場所を確認します。

  • python -c "os をインポートします。spacy をインポートします。(os.path.dirname(spacy.__file__)) を印刷します"

次にそのディレクトリで実行します。 --vectors、--slow、および --model フラグはオプションであり、追加のテストを有効にします。

  • # 最新のpytestバージョンを使用していることを確認してください

  • python -m pip インストール -U pytest

  • python -m pytest <

<<:  TensorFlow とオートエンコーダー モデルを使用して手書き数字を生成する方法

>>:  単一画像超解像におけるディープラーニングの応用: SRCNN、知覚損失、SRResNet

ブログ    
ブログ    

推薦する

ディープラーニングニューラルネットワークによる予測区間

[[390133]]予測区間は、回帰問題の予測における不確実性の尺度を提供します。たとえば、95% ...

CAIOは企業が緊急に必要とする人材になりつつある

数え切れないほど多くの企業が AI 技術の研究や導入に競い合う中、多くの企業が熟練した AI チーム...

「ブラックスワン」の翼の下で:情報戦場におけるAIの光と影

[51CTO.comからのオリジナル記事] 突然の流行に直面して、国民は情報の適時性、透明性、伝達効...

8 クイーン問題を解く C# アルゴリズムの簡単な分析

8つのクイーンの問題の説明: 8 クイーン問題は古くからある有名な問題であり、バックトラッキング ア...

ドバイが無人「空飛ぶ車」を試験:世界初のドローン旅客サービスとなる見込み

[[204952]]ボロコプター、ドバイで無人空飛ぶ車のテストを開始ロイター通信は北京時間9月26日...

...

LLMが互いに戦うことを学ぶと、基本モデルは集団進化の先駆けとなるかもしれない

金庸の武侠小説には両手で戦うという武術が登場します。これは周伯同が桃花島の洞窟で10年以上の厳しい修...

MobileSAM: モバイルデバイスに高いパフォーマンスをもたらす軽量の画像セグメンテーションモデル

1. はじめにモバイルデバイスの普及とコンピューティング能力の向上により、画像セグメンテーション技術...

マイクロソフトがローブを買収:一般の人々が人工知能を簡単に利用できるように

マイクロソフトは、人工知能はテクノロジー大手が反体制派を排除するための武器として利用されるべきではな...

音声認識におけるCNNの応用

序文音声認識の現在の開発状況をまとめると、DNN、RNN/LSTM、CNN が音声認識における主流の...

...

...

Langchain、ChromaDB、GPT 3.5 に基づく検索強化型生成

翻訳者|朱 仙中レビュー | Chonglou概要:このブログでは、検索拡張生成と呼ばれるプロンプト...

独占インタビュー | 独立系開発者 Li Xiaoyu: AI ツールを使用して作業効率を向上

パートナーシップ、会社登録、資金調達なしで、独立系開発者の Li Xiaoyu は継続的に実践と反復...