最適化されたアルゴリズムによる高度なデータ分析に視覚化を活用する 5 つのステップ

最適化されたアルゴリズムによる高度なデータ分析に視覚化を活用する 5 つのステップ

[[177815]]

著者: Carl Johan Ivarsson (Qlucore)

厳選記事 | ハン・シャオヤン

翻訳:ウー・レイ

校正 | レン・ジエ

【はじめに】ほとんどの科学研究において、大量の実験データの統計分析は、通常、コンピューティングと統計の技術専門家によって実行されます。 残念ながら、これらの専門家は対応する研究分野の専門家ではないため、分析に欠陥が生じる可能性があります。 研究者がツールや方法を簡単に使用してデータを処理し、分析できれば、豊かな研究成果が得られることは間違いありません。

質問

多くの科学者、特に実験で大量のデータを生成する分子生物学の分野の科学者は共通の課題に直面しています。膨大な量のデータを扱う場合、データを効果的に解釈するためのソフトウェア ツールが必要です。

今日、ビッグデータの量は増え続けていますが、コンピュータ ソフトウェアは依然として主にデータ処理に重点を置いており、技術専門家向けのユーザー インターフェイスを通じて標準的な統計手法を使用してデータ結果を提示しています。 そのため、科学者や研究者がこれらのデータを深く解釈することは難しく、大量のデータ分析作業は専門のバイオインフォマティクス専門家や生物統計学者によってのみ実行可能です。 しかし、研究分野について最もよく知っているのは通常科学者であるため、このモデルは理想的ではありません。

解決

最適化されたアルゴリズムと組み合わせることで、視覚化手法はこれらの課題をある程度解決し、より多くのユーザーがデータを探索および分析できるようになります。視覚化テクノロジーは、重要な構造やパターンを迅速に識別するための積極的かつ効果的な方法を提供し、フィードバック情報も理解しやすいものになります。 コミュニティの観点から見ると、これはより多くの科学者が実験データと結果を分析し議論することを可能にし、それによってイノベーションを促進するため、重要なアプローチでもあります。

視覚化を使用してデータ内の新しいサブグループとパターンを識別する場合は、再現可能で有意な結果を確保するために 5 段階のアプローチをお勧めします。 この分析ステップの目的は多岐にわたります。最も基本的な意図は、データ内のまったく新しいグループまたはパターンを特定することです。もう 1 つの側面は、データを調査して予想されるパターンのみを検出することです。これは品質管理に適した方法です。 この 5 段階のアプローチを適用することで、科学者は統計の専門家にならなくても、大規模で複雑なデータ セットを研究できます。 この方法については以下で詳しく説明しますが、ここではいくつかの基本的な概念を説明する必要があります。これは、RNA-seq、遺伝子発現アレイ、プロテオミクス、DNAメチル化、メタボロミクスなど、高次元データやサンプルデータなど、あらゆる種類のライフサイエンス業界のデータに適用できます。

ステップ1: データ次元を削減する

まず、高次元データを 3D でレンダリングできるように低次元に縮小する必要があります。 この目的のために、主成分分析 (PCA) の手法を使用することを提案します。さらに、情報を強化するためにデータの色付けツールを使用し、データセットの一部を選択するためにフィルターなどのツールを使用する必要があります。

[[177817]]

5 段階のアプローチは、アクティブなデータセットから悪意のある信号を検出して削除することから始まります。 信号が識別されると、それを削除して、より弱いけれども認識可能な他の信号があるかどうかを確認できます。強い信号を削除すると、通常、アクティブなサンプルや変数 (機能) が減少します。

ステップ2: 信号対雑音比を評価する

プロセスの 2 番目のステップは、PCA、投影スコア、ランダム化を使用して、データの信号対雑音比を評価することです。 投影スコアは、検出された信号またはテンプレートの視覚的な強度を示します。

[[177818]]

ステップ3: ノイズを除去するための分散フィルタリング

3 番目のステップは、分散フィルタリングによって「ノイズ」を除去することです。 研究者がアクティビティ データセットで重要な信号対雑音比を確認できる場合、ノイズの原因となる可能性が最も高いアクティブ変数の一部を削除するようにしてください。 必要な分散フィルタリングの量を識別するために、ユーザーは PCA からのスコアを視覚化して投影する方法を使用して、分散フィルタリングの量を取得できます。 いくつかの異なる分散設定をテストすることで、明確なパターンを見つけやすくなります。

ステップ4: 統計的検定

[[177819]]

ステップ 4 の統計テストは、5 ステップのプロセスの他のすべてのステージに適用できるオプションのステップです。つまり、初期分析中、ステップの繰り返し時、ステップの終了時に実行することも、まったく実行しないことも可能です。 テストするデータ セットは、事前に定義することも、反復プロセス中に決定することもできます。 (2番目のデータセットで検出されたデータ構造と配列を検証することをお勧めします)

ステップ5: サブグループまたはクラスターを検索する

次に、グラフを使用してサブグループまたはクラスターの検索を絞り込みます。 たとえば、ネットワークまたはグラフ内の接続サンプルを、より高次元 (つまり、3D PCA プロットで表すことができる 3 次元以上) に移動できます。サンプル プロットで作成されたグラフは、すべてのアクティブ変数の空間距離に基づいているため、ユーザーはデータ構造をより深く理解できます。

新しいデータ構造が見つからなくなるまで、これらの 5 つの手順を繰り返します。

このように操作すると、視覚化は研究者にとって強力なツールになります。データは明確な方法で視覚化できるため、科学者は専門のバイオインフォマティクス専門家や生物統計学者に頼ることなく、興味深い結果や重要な結果を簡単に特定できます。 代わりに、科学者はバイオインフォマティクスの専門家と協力して、より有意義な結果を得ることができます。

出典: http://www.qlucore.com

[この記事は51CTOコラムBig Data Digest、WeChatパブリックアカウント「Big Data Digest(id: BigDataDigest)」のオリジナル翻訳です]

<<:  KDnuggets 調査 | データ サイエンティストが最もよく使用するアルゴリズム トップ 10

>>:  最もよく使われる機械学習アルゴリズムのトップ10を簡単に理解する

ブログ    
ブログ    
ブログ    

推薦する

...

サイバーセキュリティにおける人工知能技術の役割

次世代のサイバーセキュリティの脅威には、新しい予期しない攻撃に迅速に対応できる、俊敏でインテリジェン...

GPU を通じて Pandas のパフォーマンスを高速化するもう 1 つのデータ処理ツールです。

NVIDIA の RAPIDS cuDF は、データの読み込み、結合、集約、フィルタリング、その他...

世界を変えた10人のアルゴリズムマスター

ドン・E・クヌース[[236633]]アルゴリズムとプログラミング技術の先駆者。ああ、神様!海外のウ...

マイクロソフト、機械学習モデル向けの高性能推論エンジン ONNX をオープンソース化

Microsoft は、Linux、Windows、Mac プラットフォーム向けの ONNX 形式の...

...

...

...

...

まだ気づいていないかもしれませんが、AIが人間を助けているアプリケーショントップ10

人工知能 (AI) 技術を使用すると多くのメリットがもたらされますが、その 1 つは、社会問題を別の...

米国の自動車所有者調査:自動運転車に楽観的な自動車所有者が増えている

一般の人々は自動運転車についてどう思っているのだろうか?市場調査会社CarGurusは最近、将来の自...

2021年、人工知能は知的ではない

ガートナー曲線について聞いたことがあるかもしれません。新しい技術が初めて導入されたとき、誰も興味を示...

IDC、2021年以降のITトレンドトップ10を発表

2020年に世界的に発生したCOVID-19パンデミックによる混乱にもかかわらず、ほとんどの製品やサ...

...

AIの導入は増加しているが、障壁は残っている

AI の可能性は魅力的ですが、導入までの道のりには課題がないわけではありません。企業は、急速に変化す...