マイクロソフトがAIコンテンツレビューツール「Azure AI Content Safety」を正式にリリース

10月18日、マイクロソフトは健全で調和のとれたコミュニティ環境を作り、写真やテキスト内の偏見、憎悪、暴力などに関する否定的な内容を減らすため、今年5月にAIコンテンツレビューツール「Azure AI Content Safety」をリリースした。数か月のテストを経て、このツールは本日正式にリリースされた。

IT ホーム ノート: Azure AI コンテンツ セーフティは、画像やテキスト内の偏見、憎悪、暴力などに関連する否定的なコンテンツを検出できる一連のトレーニング済み AI モデルを提供します。また、8 つの言語で画像やテキストを理解して検出し、マークされたコンテンツの重大度をスコア付けし、アクションが必要なコンテンツを人間のレビュー担当者に指示することができます。

コンテンツ レビュー ツールは当初 Azure OpenAI サービスに統合されていましたが、Microsoft は現在これをスタンドアロン システムとして正式にリリースしています。

マイクロソフトは公式ブログ投稿で次のように書いている。「これは、顧客がオープンソースモデルや他の企業モデルからのAI生成コンテンツにこれを使用できるだけでなく、一部のユーザー生成コンテンツを呼び出すこともできるため、実用性がさらに広がることを意味します。」

マイクロソフトは、この製品は公平性と文脈の理解という点で他の類似製品に比べて大幅に改善されているが、データとコンテンツのラベル付けには依然として人間のレビュー担当者に依存していると述べた。つまり、最終的に公平性は人間にあるということです。ただし、データやコンテンツを処理する際には、人間のレビュー担当者が独自の偏見を持ち込む可能性があるため、完全に中立かつ慎重であることはできません。