Today's PICK UP

エフセキュア、AI推薦に関する実験を行い「意図的な偽情報や陰謀論の拡散が操作可能なもの」だと発表

F-Secure (以下、エフセキュア) は、ソーシャルメディアにおけるAI推薦に関する実験を行い、その結果、敵対する人/企業/政府を陥れるための意図的な偽情報や陰謀論の拡散が操作可能なものであったと発表した。
AIによる推薦システムは、検索エンジン、オンラインショッピングサイト、ストリーミングサービス、ソーシャルメディアなど、今日私たちが享受している多くのオンラインサービスで使用されている。しかし、人々がインターネット上で見るものやすることに対する影響力が大きくなっていることから、意図的な偽情報の拡散や陰謀論の促進に積極的に利用されるなど、様々なタイプの悪用に対する懸念が生じている。

エフセキュアの人工知能研究センターのシニア・リサーチャーであるAndy Patel (アンディ・パテル) 氏は最近、単純な操作技術がソーシャルメディア上のAI推薦にどのような影響を与えるかを知るために、一連の実験を行った。
「TwitterをはじめとするSNSは、多くの人々やグループが様々な主張を押し付ける戦場となっています。その中には、有機的な会話や広告だけでなく、正当な情報に対する信頼を損ない、低下させることを目的としたメッセージも含まれています。これらの『工作員』がどのようにAIを操作できるかをリサーチすることで、AIが現実的にできることの限界を明らかにし、理想的にはどのように改善できるかを明らかにすることができます。」

PEWリサーチセンターが2020年末に実施した調査によると、アメリカ人の53%がソーシャルメディアからニュースを入手していることがわかったという。18歳から29歳の回答者は、最も頻繁にニュースを入手する情報源としてソーシャルメディアをあげている。一方、ソーシャルメディアを情報源とすることに潜在的なリスクがあることも調査で明らかになっている。2018年に行われた調査では、虚偽の内容を含むTwitterの投稿がリツイートされる確率は通常の投稿より70%も高いことが判明しているとのことだ。
出典元:プレスリリース
パテル氏は、Twitterからデータを収集し、協調フィルタリングモデル (機械学習の一種で、過去のやりとりに基づいてユーザーとコンテンツの類似性を符号化する) を学習させて、推薦システムに利用することを試みた。その後、特定のアカウント間でリツイートが行われたデータ (ポイズンデータ) を用いてモデルを再学習させ、推奨度がどのように変化するかを調べる実験を行った。

リツイートするアカウントを適切に選択し、リツイートを行うアカウントの数と公開するリツイートの数を変化させることで、ごく少数のリツイートであっても、注入されたリツイートによってコンテンツが共有されたアカウントを推奨するように推薦システムを操作することができたという。

今回の実験は、ソーシャルメディアなどのウェブサイトがユーザーにおすすめ情報を提供する際に採用するであろうAIの仕組みを簡略化して行ったものだが、パテル氏は、Twitterをはじめとする多くの大手サービスが、現実世界で既にこうした攻撃に対処していると考えているとのことだ。
「私たちは、実際の攻撃がどのように行われるかを知るために、簡略化したモデルに対してテストを実施しました。ソーシャルメディアのプラットフォームは、今回の研究で実証されたものと似たような攻撃にすでに直面しているものと思いますが、これらの運営企業は結果だけを見て、それがどのように機能するかにはさほど注意を払っていないため、こうしたことが現実に起こっていると信じるのは難しいのではないでしょうか。」

エフセキュアのAI担当バイスプレジデントであるMatti Aksela (マッティ・アクセラ) 氏は、AIのセキュリティに関する潜在的な課題を認識し、対処することが重要だと語っている。
「今後、AIへの依存度が高まっていく中で、潜在的な悪用からAIを守るために何をすべきかを理解する必要があります。私たちが依存しているサービスの多くをAIや機械学習が担うようになると、その結果を信頼できるものとするために、得られる利益に加えて、そのセキュリティ上の強みと弱みを理解する必要が出てきます。セキュアなAIは、信頼できるAIの基盤なのです。」

人気記事

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

住友生命が「保険を売らない」フラッグシップ店を銀座の超一等地に出店した理由。住友生命社長 高田幸徳氏×立教大学ビジネススクール田中道昭教授対談

住友生命が「保険を売らない」フラッグシップ店を銀座の超一等地に出店した理由。住友生命社長 高田幸徳氏×立教大学ビジネススクール田中道昭教授対談

デジタルシフトが加速するなか、大きな変革を求められている保険業界。そんななか「リスク」に備えるだけではなく、リスクを「減らす」健康増進型保険“住友生命「Vitality」”を提供するなど、デジタルの力でいち早く事業変革を実践しているのが住友生命保険相互会社です。今回はそんな同社が8月24日に銀座にオープンさせたばかりの「住友生命『Vitality』プラザ 銀座Flagship店」を舞台に実施された、同社の社長高田幸徳氏と立教大学ビジネススクール田中道昭教授の対談の模様をレポート。前編では、高田社長自ら銀座Flagship店をご案内いただきながら、銀座の一等地に「保険を売らない」保険ショップをオープンさせた狙いや、Vitalityによって住友生命が実現したいビジョンについてお話を伺いました。

大手ゲーム会社も注目!今後のNFT市場をゲームが牽引する理由。

大手ゲーム会社も注目!今後のNFT市場をゲームが牽引する理由。

今年に入り、突如として注目度の高まった「NFT(非代替性トークン)」というキーワード。アート業界のバズワードとして認識している人も多いかもしれません。ところが実は、NFTはゲーム業界の未来、IP(知財)コンテンツの未来を考える上でも欠かせないキーワードであることをご存知でしょうか。そこで今回お話を伺ったのが、世界No.1を記録したNFTを活用しているブロックチェーンゲーム『My Crypto Heroes』(現在の運営はMCH社)を開発したdouble jump.tokyo株式会社の代表取締役 上野 広伸氏です。この新たなテクノロジーは、ゲームの世界にどのような変化をもたらすのでしょうか。そのポテンシャルに迫ります。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

デジタルシフトカンパニーへの変遷、中核企業だったオプト3分割の真の狙いとは。デジタルホールディングス 取締役 グループCOO 金澤大輔氏に立教大学ビジネススクール田中道昭教授が迫る

デジタルシフトカンパニーへの変遷、中核企業だったオプト3分割の真の狙いとは。デジタルホールディングス 取締役 グループCOO 金澤大輔氏に立教大学ビジネススクール田中道昭教授が迫る

2020年7月にオプトホールディングから社名を変更したデジタルホールディングス。従来のインターネット広告代理事業に代わり、企業のデジタルシフトを支援する事業を中核に据え、日本社会の挑戦の先陣を切り、社会のデジタルシフトを牽引する存在となっていくことを掲げています。 デジタルマーケティングの先進国アメリカでは個人情報を保護する法整備が進み、Web上でのクッキーの使用に大きな制限がかけられた結果、ウォルマートのような膨大な顧客データを持つ企業が自らメディア化する流れが生まれています。そんな中、日本の広告産業はどう変化していくのか。また企業のデジタルシフト事業を中核に据えたデジタルホールディングスはどう変化していて、変革の先にどんな未来を見据えているのか。元株式会社オプトの代表取締役社長CEOにして、現在は株式会社デジタルホールディングス 取締役 グループCOOを務める金澤大輔氏をゲストに迎え、立教大学ビジネススクール田中道昭教授がお話を伺います。

デジタルシフトの先駆者が語るIX(Industrial Transformation)。DX全盛の今、産業変革に挑むべき理由とは?

デジタルシフトの先駆者が語るIX(Industrial Transformation)。DX全盛の今、産業変革に挑むべき理由とは?

2020年7月、日本企業および日本社会におけるデジタルシフトの重要性と緊急性をいち早く捉え、社名変更によって「まずは自らが変わる」という大きな決断と意思を示したデジタルホールディングス。コロナ禍によりDXという言葉が世の中に浸透し、各企業がこぞって取り組みを進める中、彼らは企業単体のDXだけではなく、産業変革=IX(Industrial Transformation)を起こしていくという新たな構想を打ち出している。IXとは何を意味するのか。IXによって社会はどのように変わっていくのか。本来の意味でのDXが日本で進んでいない要因とIXへの想いについて、グループCEO野内 敦氏にお話を伺いました。

コロナ禍でラジオが復権!? 民放ラジオ業界70年の歴史を塗り替えたradiko(ラジコ)の「共存共栄型 DX」とは

コロナ禍でラジオが復権!? 民放ラジオ業界70年の歴史を塗り替えたradiko(ラジコ)の「共存共栄型 DX」とは

Clubhouseをはじめ、新勢力が次々と参入し、拡大を見せる音声コンテンツ市場。その中で、民放開始から70年の歴史に「大変革」を巻き起こしているのが“ラジオ”です。放送エリアの壁を取り払う、リアルタイムでなくても番組を聴けるようにするといった機能で、ラジオをデジタル時代に即したサービスに生まれ変わらせたのは、PCやスマートフォンなどで番組を配信する『radiko(ラジコ)』。今回は、株式会社radiko 代表取締役社長の青木 貴博氏に、現在までのデジタルシフトの歩みと将来の展望について、お話を伺いました。

マツダの天才エンジニアとして知られた人見氏が本音で語るDX!Appleなど巨大テック企業が参入するなか、日本の自動車メーカーの生き残り戦略とは?

マツダの天才エンジニアとして知られた人見氏が本音で語るDX!Appleなど巨大テック企業が参入するなか、日本の自動車メーカーの生き残り戦略とは?

100年に一度の大変革期を迎えている自動車業界。そのなかで日本の自動車メーカーの行く末に「猛烈な危機感がある」と明かすのは、かねてよりマツダの天才エンジニアとして知られ、現在はシニアイノベーションフェローを務める人見 光夫氏だ。Appleをはじめとした巨大テック企業たちが自動車業界への参入をこぞって表明する今、既存の自動車メーカーが生き残りをかけて望むデジタルシフト戦略とは。ここでしか聞けない、本音が満載のインタビューです。

【保存版】全企業の経営者・DX推進者に贈る、デジタルシフトを成功に導く10箇条

【保存版】全企業の経営者・DX推進者に贈る、デジタルシフトを成功に導く10箇条

新型コロナウイルスの感染拡大の影響もあり、デジタル化が遅れていると言われ続けていた日本でも「デジタルシフト」「DX」という言葉を聞かない日はありません。しかし、その重要度や緊急度に対して、正しく認識できていない企業・経営者はまだ多いというのが現状です。 アメリカのコンサルティングファーム「イノサイト」によると、S&P500を構成する企業の平均寿命は年々低下してきており、2027年にはわずか12年になると予想されています。自動車に保険、ヘルスケアから不動産まで、GAFAをはじめとする巨大テック企業の影響を受けない業界は、今や皆無と言っても過言ではありません。あらゆる業種・業界が飲み込まれる「デジタル産業革命」待ったなしの現在、具体的にどのような手順、心構えでデジタルシフトに臨むべきなのか? 事業ドメインをデジタルシフト事業へと変更し、多くの産業・企業のDXを支援している株式会社デジタルホールディングス 代表取締役会長の鉢嶺 登氏は、「中途半端にDXに着手する企業は大抵失敗する」と語ります。

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

「ユニコーン企業」ーー企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてのfacebookやTwitter、現在ではUberがその代表と言われている。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は欧米を中心に注目されている「代替肉」を扱う「インポッシブル・フーズ」を紹介する。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。