Today's PICK UP

SHOWROOM、悪質コメントを検知し投稿前にブロックするAI機能を開発

SHOWROOM株式会社は、自社が運営する仮想ライブ空間「SHOWROOM」において、悪質コメントを検知し、投稿される前にブロックするコンテンツモデレーションAI機能を自社にて開発し、「SHOWROOM」に搭載したと発表した。

■コンテンツモデレーションAI機能スキーム図

これまでは視聴者から悪質なコメントが投稿されると、別の視聴者やライバー自身が通報し、SHOWROOM監視チームがコメント確認後にブロック作業を行っていた。そのため、コメントに問題があった場合も監視チームの確認が完了するまでの間は表示された状態だった。しかし、コンテンツモデレーションAI機能を導入することで、誹謗中傷を中心とする悪質なコメントが視聴者によって書き込まれた際、AIがスクリーニング。問題がある場合には、投稿される前に自動でブロックすることができる。そのため、不快なコメントを、ライバーはもちろん、別の視聴者が目にする機会を大幅に軽減することが可能になるという。

今回のタイミングでは、その前段階として、AIがユーザーのかわりに通報を行う機能を実装。悪質なコメントをこれまで以上に早く確認し、投稿削除するまでのスピードを一層あげることが可能となるとのことだ。今後は、精度を上げながら、自動的にユーザーの悪質投稿を表示させない機能をリリースしていくという。
出典元:プレスリリース

■AIスクリーニング機能誕生の背景

匿名での投稿をメインとするSNSで見受けられる誹謗中傷。社会問題になると共に、これをもとにした犯罪が近年急増している。SHOWROOMとしても、悪意のあるコメントにこれまで確固たる対応をとってきたが、監視チームの24時間体制のパトロール、ならびに視聴者から寄せられる通報をもってしても、悪意のあるコメントの投稿を事前に防ぐことは難しく、一時的にライバーや視聴者の目に触れてしまっていたという。互いの交流を楽しみにしているライバーと視聴者の時間を無駄にしたくない、楽しい体験の最中に不快な感情を与えたくない、そんな想いから誕生したのが本サービスだという。AIスクリーニングを駆使することにより、ライバーや視聴者の目に触れる前に投稿を削除。誹謗中傷によるダメージを限りなくゼロに近づけていく予定とのことだ。

■コンテンツモデレーションAIのテクノロジー

ディープラーニングをコンテンツモデレーション機能に応用。従来のキーワード等の検出ではなく、文脈を含めてコメントをニューラルネットワーク上で抽象化し、即時にそのコメントの悪質性を判断。投稿前に自動削除することを可能としたという。膨大なコメントのデータを活用することで、高い確率で悪質コメントを検知することに成功したとのことだ。

人気記事

日本5社目のユニコーンと報じられた「Opn」。世界を舞台に急成長を遂げるフィンテック企業の展望とは

日本5社目のユニコーンと報じられた「Opn」。世界を舞台に急成長を遂げるフィンテック企業の展望とは

伝説の幻獣である「ユニコーン」になぞらえて、企業価値評価額の高いスタートアップを評する言葉、「ユニコーン企業」。アメリカや中国でその数が増え続けている一方で、日本では未だ、少ない状況にあります。そんななか、2022年5月にシリーズC+ラウンドで1億2,000万ドルを調達し、日本5社目のユニコーンと報じられた企業があります。それが創業からグローバルを視野に事業を営み、東京やバンコクなどアジア6カ国を拠点とするフィンテック企業、Opn株式会社です。 さらに資金調達と同時に、ビジョンと戦略を刷新。無駄を削ぎ落し、鋭さの増した同社の成功を支える組織とプロダクトの強み、次に目指す世界について、創業者であり、代表取締役CEOを務める長谷川 潤氏にお話を伺いました。

過疎地を救う? お手伝い×旅のプラットフォーム「おてつたび」による関係人口の増加

過疎地を救う? お手伝い×旅のプラットフォーム「おてつたび」による関係人口の増加

地域活性化や地方創生という言葉が聞かれ始めて久しい昨今。UIJターン移住者に向けて補助を行っても、少子高齢化などの課題改善が難しい地域もあります。そんな多くの自治体が抱える課題に「旅」という側面からアプローチをするのが、プラットフォーム「おてつたび」です。「お手伝いをして賃金を得ながら旅がしたい」と考える方と、「人手不足を解消しながら地域の魅力を伝えたい」と考える地域の方々をプラットフォーム上でマッチングすることで、地域の課題解決や活性化に貢献しています。 今回は、おてつたびを運営する、株式会社おてつたびの代表取締役 CEOである永岡 里菜氏に、お手伝いをしながら旅をすることが地方や人々に与える価値、今後おてつたびが地方創生に対して担う役割についてお話を伺いました。

東芝の舵を取る新社長 島田太郎氏が見据える復権の鍵に、立教大学ビジネススクール田中道昭教授が迫る【前編】

東芝の舵を取る新社長 島田太郎氏が見据える復権の鍵に、立教大学ビジネススクール田中道昭教授が迫る【前編】

2022年3月に東芝の代表執行役社長 CEOに就任した島田太郎氏。デジタル分野のトップを務めた島田氏は、「東芝でデジタルが分かる初めての社長」として就任時から大きな注目を集めています。 昨年開催された「Digital Shift Summit 2021」では「日本企業がデジタルシフトでGAFAに打ち勝つ方法」というテーマの鼎談に立教大学ビジネススクールの田中道昭教授と、デジタルホールディングス代表取締役会長の鉢嶺登氏とともに参加し、東芝および日本企業の未来についての展望を語っています。 島田氏は、日本を代表する企業である東芝でどのような事業を強化し、どう舵取りをしていくのか。東芝が目指すDXの形や、プライバシーを最優先した次世代のデータビジネスとはどのようなものなのか? また、東芝および日本企業がGAFAに打ち勝つためにできることとは。社長に就任した島田社長が抱くビジョンに迫ります。 前編は島田氏が社長に就任してからの変化、東芝が手がけるスマートレシート躍進の理由と将来の展望、ナノエコノミーの可能性などについてお話をうかがいます。

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国企業の最新動向から、DXのヒントを探っていく本連載。今回は、ガソリン車に代わるモビリティとして期待が高まるEV(Electric Vehicle=電気自動車)と、その核とも言える自動運転技術で世界をリードする中国の強さに迫ります。前編では「EV先進国」の名を欲しいままにしているその理由を、国の政策や技術の面から探ってきました。後編となる今回は、自動車産業に参入してきた新興メーカー3社を紹介するとともに、日本の立ち位置の考察、中国が抱える課題を話題に進めていきます。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

DX・カーボンニュートラル・量子コンピューティング。「人と、地球の、明日のために。」東芝ができること。東芝 島田太郎新社長×立教大学ビジネススクール田中道昭教授【後編】

DX・カーボンニュートラル・量子コンピューティング。「人と、地球の、明日のために。」東芝ができること。東芝 島田太郎新社長×立教大学ビジネススクール田中道昭教授【後編】

2022年3月に東芝の代表執行役社長 CEOに就任した島田太郎氏。デジタル分野のトップを務めた島田氏は、「東芝でデジタルが分かる初めての社長」として就任時から大きな注目を集めています。昨年開催された「Digital Shift Summit 2021」では「日本企業がデジタルシフトでGAFAに打ち勝つ方法」というテーマの鼎談に立教大学ビジネススクールの田中道昭教授と、デジタルホールディングス代表取締役会長の鉢嶺登氏とともに参加し、東芝および日本企業の未来についての展望を語っています。 島田氏は、日本を代表する企業である東芝でどのような事業を強化し、どう舵取りをしていくのか。東芝の考える顧客中心主義とは? 東芝の技術はカーボンニュートラルにどう寄与するのか? 島田社長が抱くビジョンに迫ります。 後編は東芝の「人と、地球の、明日のために。」という企業理念に込められた思い、島田社長の考えるリスキリングのあり方、量子コンピュータの持つ可能性などについてお話をうかがいます。

【Netflix徹底解剖】Netflix4.0、世界最先端のDX戦略を追う

【Netflix徹底解剖】Netflix4.0、世界最先端のDX戦略を追う

全世界での有料会員数が2億人を突破。飛ぶ鳥を落とす勢いで快進撃を続ける企業、Netflix。現在の利用者の中には、彼らの事業が店舗を持たないDVDオンライン郵送サービスからスタートしたことを知らない人もいるかもしれません。1997年、小さなスタートアップ企業として創業したNetflixはその後、DVDレンタルのサブスクリプション、動画ストリーミング配信のサブスクリプション、そして動画オリジナルコンテンツの配信と、デジタルを基盤に着実にビジネスを変革し、今や皆さんご存知の通り、デジタルコンテンツプラットフォームの王者へと成長を遂げています。今回の「世界最先端のデジタルシフト戦略」vol.4では、そのビジネストランスフォーメーションの変遷を立教大学ビジネススクール 田中道昭教授に徹底解剖していただきます。小さなスタートアップ企業であったNetflixがいかに王者となれたのか。その変革の奥にある秘訣とは。DXに取り組む日本企業も見習うべき一貫した姿勢に迫ります。

メンタルヘルス後進国、日本。DXはメンタルヘルスに貢献できるのか

メンタルヘルス後進国、日本。DXはメンタルヘルスに貢献できるのか

欧米に比べ大きく遅れているといわれる日本のメンタルヘルスを取り巻く環境。事実、欧米ではカウンセリングを受診した経験のある人は52%にも上りますが、日本では6%という低水準。先進国のなかで突出した自殺者数についても、厚生労働省は深刻な状況と受け止めています。 そんななか、β版での運用を終え、2022年7月5日に正式ローンチされた「mentally(メンタリー)」は、日本では敷居の高いメンタルヘルスに関する相談が気軽に行えるアプリ。株式会社Mentally 代表取締役CEOを務める西村 創一朗氏は、自身も過去に双極性障害(※)を乗り越えた経験を持っています。メンタルヘルス市場はDXによりどう変化していくのか。インタビューを通して、日本のメンタルヘルス市場の未来を紐解きます。 ※ 双極性障害:活動的な躁(そう)状態と、無気力なうつ状態を繰り返す障害。

マンガアプリ世界NO.1。急成長市場の覇権を握る「ピッコマ」の戦略

マンガアプリ世界NO.1。急成長市場の覇権を握る「ピッコマ」の戦略

8万以上タイトルの人気マンガやノベルを取り扱い、累計ダウンロード数は3,000万を超える電子マンガ・ノベルサービスの「ピッコマ」。サービス開始は2016年4月という後発ながら、23時間待てば一話を無料で読める「待てば¥0」サービスを他社に先駆けて導入するなど、新しい試みを積極的に取り入れ業界トップに君臨しています。短期間でピッコマが躍進を遂げた理由から、従来のマンガに代わる新しい表現形式である「SMARTOON」の魅力、今後のグローバル展開について、株式会社カカオピッコマ常務執行役員の熊澤 森郎氏にお話を伺いました。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

「ユニコーン企業」ーー企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてのfacebookやTwitter、現在ではUberがその代表と言われている。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は欧米を中心に注目されている「代替肉」を扱う「インポッシブル・フーズ」を紹介する。

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国企業の最新動向から、DXのヒントを探っていく本連載。今回は、ガソリン車に代わるモビリティとして期待が高まるEV(Electric Vehicle=電気自動車)と、その核とも言える自動運転技術で世界をリードする中国の強さに迫ります。前編では「EV先進国」の名を欲しいままにしているその理由を、国の政策や技術の面から探ってきました。後編となる今回は、自動車産業に参入してきた新興メーカー3社を紹介するとともに、日本の立ち位置の考察、中国が抱える課題を話題に進めていきます。

デジタル戦略で生まれ変わるカインズ。ホームセンターからIT小売企業への変遷の軌跡【前編】

デジタル戦略で生まれ変わるカインズ。ホームセンターからIT小売企業への変遷の軌跡【前編】

生産労働人口の減少を受け、日本企業はいよいよ生き残りをかけたデジタル化に取り組まなければいけないと言われるフェーズに入ってきました。とはいえ、それができている企業とそうでない企業との差が激しくなっているのも現状です。 そんななか、ホームセンター大手カインズでは、40年かけて積み重ねてきたホームセンターとしてのあり方を見直し、IT小売企業として生まれ変わろうとしています。カインズでデジタル戦略本部長を務め、戦略の指揮をとる池照 直樹氏に、同社のデジタル戦略についてお話を伺いました。 前編は、カインズがどのようにしてデジタル化を実現させていったのか、具体的な取り組みを交えてお届けします。

Facebookも注目の「メタバース」とは何か? スマホ向けメタバース「REALITY」のDJ RIO氏に聞く

Facebookも注目の「メタバース」とは何か? スマホ向けメタバース「REALITY」のDJ RIO氏に聞く

Facebookが社名を変更し、中核事業に据えるほど力を入れる「メタバース」。2021年8月にはグリー株式会社が、今後2~3年で100億円規模の事業投資を行い、グローバルで数億ユーザーを目指すと発表しましたが、その中核を担うのが、グリー株式会社の子会社であり、これまでバーチャルライブ配信アプリを手がけてきたREALITY株式会社です。今回は、そんな同社の代表を務めるDJ RIO氏にインタビュー。そもそもメタバースとは何なのか。なぜこんなにも注目が集まっているのか。メタバースは、世界のあり方をどのように変えるのか。メタバース初心者のビジネスパーソンには必読のインタビューです。