Today's PICK UP

ヤフー、個人に対する誹謗中傷等をの投稿へ対策強化 深層学習を用いたAIの技術提供や検討会を設置へ

ヤフー株式会社(以下、Yahoo! JAPAN)は、個人に対する誹謗中傷等を内容とする投稿への対応に関し、サービスをユーザーがより安心して使えるよう、現在「Yahoo!ニュース コメント」において導入している深層学習を用いた自然言語処理モデル(AI)のさらなる活用などの対策強化を進めると発表した。
Yahoo! JAPANでは、多数の投稿系サービスを提供しており、多くの人が手軽に利用できる場を提供すると同時に、安心して利用されるよう、サービスの健全化にも力を入れて取り組んでいるという。誹謗中傷等の他人を傷つける表現行為は許されないものであり、Yahoo! JAPANでは、以前より誹謗中傷等の内容を含む投稿行為を禁止し、ユーザーに遵守するよう頼んでいるとのことだ。

また、ユーザーへの周知・啓発などにより当該投稿の事前抑止に努めるとともに、専門チームによるパトロールや、深層学習を用いた自然言語処理モデル(AI)を利用して不適切な投稿対策を行ってきた。「Yahoo!ニュース コメント」においては、深層学習を用いた自然言語処理モデル(AI)による検知を通して、1日平均約2万件の不適切な投稿(記事との関連性の低いコメントや誹謗中傷等の書き込みなど)の削除を行っている。今回、大変痛ましい事態についての報道があったことを踏まえ、Yahoo! JAPANはこれからも対策を強化して対応をするという。

今後は、こうした深層学習を用いた自然言語処理モデル(AI)について、他の投稿系サービス事業者に対する技術提供を進めていきたいと考えているという。さらに、これらの問題への対処にあたっては、法的課題や実務的課題があると認識しており、これらの課題をデジタル時代に即した共通規範に基づき解決すべく、議論を行う場である検討会を2020年6月中めどに設置するとのことだ。本検討会においては、法律家のみならず幅広い分野から有識者を募り検討を行うこととし、その結果を公表していくという。

人気の記事

日経クロストレンド「トレンドマップ 2020夏」が発表 技術分野は「DX」が躍進

日経クロストレンド「トレンドマップ 2020夏」が発表 技術分野は「DX」が躍進

株式会社 日経BPは2020年9月3日、マーケティング&イノベーション専門メディア「日経クロストレンド」が作成した「技術」「マーケティング」「消費」の潮流を見極める「トレンドマップ 2020夏」を発表した。本調査は18年夏、19年冬、19年夏、20年冬に続く5回目、新型コロナウイルスの影響が本格化した20年上半期のトレンド変化を踏まえた初の調査結果となる。