Today's PICK UP

SHOWROOM、悪質コメントを検知し投稿前にブロックするAI機能を開発

SHOWROOM株式会社は、自社が運営する仮想ライブ空間「SHOWROOM」において、悪質コメントを検知し、投稿される前にブロックするコンテンツモデレーションAI機能を自社にて開発し、「SHOWROOM」に搭載したと発表した。

■コンテンツモデレーションAI機能スキーム図

これまでは視聴者から悪質なコメントが投稿されると、別の視聴者やライバー自身が通報し、SHOWROOM監視チームがコメント確認後にブロック作業を行っていた。そのため、コメントに問題があった場合も監視チームの確認が完了するまでの間は表示された状態だった。しかし、コンテンツモデレーションAI機能を導入することで、誹謗中傷を中心とする悪質なコメントが視聴者によって書き込まれた際、AIがスクリーニング。問題がある場合には、投稿される前に自動でブロックすることができる。そのため、不快なコメントを、ライバーはもちろん、別の視聴者が目にする機会を大幅に軽減することが可能になるという。

今回のタイミングでは、その前段階として、AIがユーザーのかわりに通報を行う機能を実装。悪質なコメントをこれまで以上に早く確認し、投稿削除するまでのスピードを一層あげることが可能となるとのことだ。今後は、精度を上げながら、自動的にユーザーの悪質投稿を表示させない機能をリリースしていくという。
出典元:プレスリリース

■AIスクリーニング機能誕生の背景

匿名での投稿をメインとするSNSで見受けられる誹謗中傷。社会問題になると共に、これをもとにした犯罪が近年急増している。SHOWROOMとしても、悪意のあるコメントにこれまで確固たる対応をとってきたが、監視チームの24時間体制のパトロール、ならびに視聴者から寄せられる通報をもってしても、悪意のあるコメントの投稿を事前に防ぐことは難しく、一時的にライバーや視聴者の目に触れてしまっていたという。互いの交流を楽しみにしているライバーと視聴者の時間を無駄にしたくない、楽しい体験の最中に不快な感情を与えたくない、そんな想いから誕生したのが本サービスだという。AIスクリーニングを駆使することにより、ライバーや視聴者の目に触れる前に投稿を削除。誹謗中傷によるダメージを限りなくゼロに近づけていく予定とのことだ。

■コンテンツモデレーションAIのテクノロジー

ディープラーニングをコンテンツモデレーション機能に応用。従来のキーワード等の検出ではなく、文脈を含めてコメントをニューラルネットワーク上で抽象化し、即時にそのコメントの悪質性を判断。投稿前に自動削除することを可能としたという。膨大なコメントのデータを活用することで、高い確率で悪質コメントを検知することに成功したとのことだ。

人気記事

大手ゲーム会社も注目!今後のNFT市場をゲームが牽引する理由。

大手ゲーム会社も注目!今後のNFT市場をゲームが牽引する理由。

今年に入り、突如として注目度の高まった「NFT(非代替性トークン)」というキーワード。アート業界のバズワードとして認識している人も多いかもしれません。ところが実は、NFTはゲーム業界の未来、IP(知財)コンテンツの未来を考える上でも欠かせないキーワードであることをご存知でしょうか。そこで今回お話を伺ったのが、世界No.1を記録したNFTを活用しているブロックチェーンゲーム『My Crypto Heroes』(現在の運営はMCH社)を開発したdouble jump.tokyo株式会社の代表取締役 上野 広伸氏です。この新たなテクノロジーは、ゲームの世界にどのような変化をもたらすのでしょうか。そのポテンシャルに迫ります。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

立教大学ビジネススクール 田中道昭教授の熱血講義『世界最先端のデジタルシフト戦略』Vol.1 最速10分で商品が手元に。「ダークコンビニ」に学ぶ、未来のコンビニ像

立教大学ビジネススクール 田中道昭教授の熱血講義『世界最先端のデジタルシフト戦略』Vol.1 最速10分で商品が手元に。「ダークコンビニ」に学ぶ、未来のコンビニ像

コロナ禍で大きな打撃を受けている日本のコンビニ業界。その一方で、アメリカで生まれた「ダークコンビニ」は、コロナ禍において三密回避ができる新しいビジネス業態として注目されています。店舗を持たずに取扱商品を厳選して、オーダーが入れば30分以内という超短時間で商品を届けるサービスが支持を集め、いまでは各国で同業態が生まれているほど。そのターゲットは一般消費者のみならず、B2B業界にも拡大中です。三密回避が求められる時代において、コンビニはどのように変化していくべきなのでしょうか。アメリカの事例も踏まえながら、AIやDXを活用した未来のコンビニの姿について、GAFA等メガテック企業の戦略にも詳しい、立教大学ビジネススクール田中道昭教授に徹底解説いただきました。

出光興産CDOに聞く、レガシー企業DX成功の秘訣

出光興産CDOに聞く、レガシー企業DX成功の秘訣

ブリヂストンを経て出光興産へ。日本を代表する大企業二社のCDO(Chief Digital Officer)を歴任し、DXを推し進めてきた三枝 幸夫氏。これまで培ってきたレガシーを活かしながら、時代の最先端をゆくビジネスを創造するための秘訣は、どこにあるのだろうか。デジタルホールディングス代表取締役会長である鉢嶺 登氏が、これまでの三枝氏の仕事を振り返りながら、社内全体を巻き込んでDXを進めていくために押さえておくべきポイントについてお話を伺いました。

ナイキ、ディズニー、グッチも注目。大人気のゲーム版YouTube「Roblox」とは?

ナイキ、ディズニー、グッチも注目。大人気のゲーム版YouTube「Roblox」とは?

2021年3月10日に時価総額、約4兆円でニューヨーク証券取引所に上場したゲームプラットフォーム「Roblox(ロブロックス)」を知っているだろうか。月間ユーザーは1.6億人を超え、世界で大流行中のゲームプラットフォームだ。特に子どもたちに絶大な人気を誇り、アメリカでは16歳未満の子どもの約半数がプレイしていると言われている。 Robloxとは、なぜそれほどまでの人気を誇り、なにが魅力なのか。 Robloxの人気の秘密と、企業が今Robloxに注目すべき理由について、EntertainmentxFinancialをコンセプトに、投資を通じたエンタテインメント事業開発を支援する、EnFi株式会社の代表取締役 垣屋美智子氏にご説明いただいた。

累積導入2万件以上!デジタルマーケ初心者企業から圧倒的支持を得るSaaS徹底解剖

累積導入2万件以上!デジタルマーケ初心者企業から圧倒的支持を得るSaaS徹底解剖

コロナ禍の影響を受けて、これまで以上にデジタルマーケティングの重要性が高まる昨今。その一方、人材やノウハウの不足から、デジタルマーケティングの第一歩を踏み出せない中小企業も、少なくありません。そうした企業の担当者から、今、多くの支持を集めているのがクラウド型デジタルマーケティングツール「Cloud CIRCUS(クラウドサーカス)」です。指原 莉乃さんがカラフルな動物キャラを率いてサーカスの団長を務めるCMで覚えている方もいるかもしれません。「従来のSaaSとは設計思想から異なる」というそのツール群には、どんな魅力があるのでしょうか。クラウドサーカス株式会社の北村 健一CEOにお話を伺いました。

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

「ユニコーン企業」ーー企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてのfacebookやTwitter、現在ではUberがその代表と言われている。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は欧米を中心に注目されている「代替肉」を扱う「インポッシブル・フーズ」を紹介する。

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

「ユニコーン企業」ーー企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてのfacebookやTwitter、現在ではUberがその代表と言われている。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は欧米を中心に注目されている「代替肉」を扱う「インポッシブル・フーズ」を紹介する。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。