ヤフー、不適切コメント対策のAIのAPIを無償提供

投稿系サービス事業者は、Yahoo! JAPANのAPIを活用することで、自社サービスに投稿されたコメントをAIで評価し、それをもとに自社においてコメントの削除や表示順の並び替えなどを行うことができる。9月18日より日本国内の投稿系サービス事業者に向けて受付を開始した。

「Yahoo!ニュース」はユーザーがニュースを通してさまざまな意見に触れ、新たな視点を得るきっかけを作るために、配信される記事に意見や感想を投稿できる機能「Yahoo!ニュース コメント」を2007年より提供している。「Yahoo!ニュース」では健全な言論空間を創出するため、専門チームによる人的なパトロールに加えて、自社で開発した「深層学習を用いた自然言語処理モデル（AI）」を利用して、誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど、不適切な投稿への対策を行っている。

加えて、言論空間のさらなる健全化と充実化を目指し、「深層学習を用いた自然言語処理モデル（AI）」によって、「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示させる同社独自の技術である「建設的コメント順位付けモデル」を、2018年から取り入れている。

今回外部へ無償で提供するのは「建設的コメント順位付けモデル」の技術。投稿系サービス事業者は、1日平均33万件以上の投稿がある「Yahoo!ニュース」のコメント対策に活用さている本AI技術を導入することにより、AI開発に必要となる大量の学習データや計算コストなどの初期投資をかけずに、本AI技術を利用した自社サービスのコメント健全化対策を開始できる。

「Yahoo!ニュース」は健全な言論空間を創出するため、以前より誹謗中傷などの内容を含む投稿行為を禁止し、コメントガイドラインの制定、ユーザーへの周知・啓発など、継続的な対策を実施している。Yahoo! JAPANはインターネット企業の社会的責任として、同社が独自に開発した技術を外部の投稿系サービス事業者にも無償で提供し、各事業者の自主的な取組みを促すことで、業界全体で、日本におけるインターネット空間を健全化させるために活発な議論を行っていきたいと考えているという。