Google、オンライン上の有害なコメントを削除する新しい機械学習アプリをリリース

[[184203]]

機械学習を通じて Perspective をトレーニングするために、Jigsaw は批評家が有害だと判断した数千件のレビューを収集しました。次に、機械学習ソフトウェアが他のレビューを確認し、類似点に基づいてスコアを付けます。すべての機械学習システムと同様に、Perspective は、新たな有害なコメントを発見するたび、または間違っている可能性があると特定した内容をガイドして修正するたびに、より賢くなり、より正確になります。

Jigsaw 社は自社の研究所で Perspective のテストとトレーニングを行っているだけでなく、ニューヨーク タイムズ紙とも協力してテストを行っているという。現在、タイムズには、公開前にすべてのコメントを確認する専任のモデレーターのスタッフがおり、チームは 1 日に約 11,000 件のコメントを確認しています。しかし、この手動によるレビューは、同メディアが記事の約 10% についてのみコメントを公開することを意味している。 Jigsaw の Perspective と提携することで、New York Times のレビュー チームはコメントをより早く公開し、より多くの記事にコメントを公開できるようになります。

Perspective は Jigsaw の唯一のツールではありません。Jigsaw には、インターネットの秩序を調整できる他の多くの製品もあります。同社は昨年、あらゆる報道機関が攻撃から身を守るツール「Project Shield」の利用登録を許可した。これらのツールは便利ですが、Perspective は人々が毎日出版物やニュース サイトを閲覧する方法に影響を及ぼす可能性があります。ニューヨーク・タイムズとジグソーが、パースペクティブがサイト上のレビューにどのような影響を与えているかを明らかにするデータを共有してくれることを期待している。