Today's PICK UP

エフセキュア、AI推薦に関する実験を行い「意図的な偽情報や陰謀論の拡散が操作可能なもの」だと発表

F-Secure (以下、エフセキュア) は、ソーシャルメディアにおけるAI推薦に関する実験を行い、その結果、敵対する人/企業/政府を陥れるための意図的な偽情報や陰謀論の拡散が操作可能なものであったと発表した。
AIによる推薦システムは、検索エンジン、オンラインショッピングサイト、ストリーミングサービス、ソーシャルメディアなど、今日私たちが享受している多くのオンラインサービスで使用されている。しかし、人々がインターネット上で見るものやすることに対する影響力が大きくなっていることから、意図的な偽情報の拡散や陰謀論の促進に積極的に利用されるなど、様々なタイプの悪用に対する懸念が生じている。

エフセキュアの人工知能研究センターのシニア・リサーチャーであるAndy Patel (アンディ・パテル) 氏は最近、単純な操作技術がソーシャルメディア上のAI推薦にどのような影響を与えるかを知るために、一連の実験を行った。
「TwitterをはじめとするSNSは、多くの人々やグループが様々な主張を押し付ける戦場となっています。その中には、有機的な会話や広告だけでなく、正当な情報に対する信頼を損ない、低下させることを目的としたメッセージも含まれています。これらの『工作員』がどのようにAIを操作できるかをリサーチすることで、AIが現実的にできることの限界を明らかにし、理想的にはどのように改善できるかを明らかにすることができます。」

PEWリサーチセンターが2020年末に実施した調査によると、アメリカ人の53%がソーシャルメディアからニュースを入手していることがわかったという。18歳から29歳の回答者は、最も頻繁にニュースを入手する情報源としてソーシャルメディアをあげている。一方、ソーシャルメディアを情報源とすることに潜在的なリスクがあることも調査で明らかになっている。2018年に行われた調査では、虚偽の内容を含むTwitterの投稿がリツイートされる確率は通常の投稿より70%も高いことが判明しているとのことだ。
出典元:プレスリリース
パテル氏は、Twitterからデータを収集し、協調フィルタリングモデル (機械学習の一種で、過去のやりとりに基づいてユーザーとコンテンツの類似性を符号化する) を学習させて、推薦システムに利用することを試みた。その後、特定のアカウント間でリツイートが行われたデータ (ポイズンデータ) を用いてモデルを再学習させ、推奨度がどのように変化するかを調べる実験を行った。

リツイートするアカウントを適切に選択し、リツイートを行うアカウントの数と公開するリツイートの数を変化させることで、ごく少数のリツイートであっても、注入されたリツイートによってコンテンツが共有されたアカウントを推奨するように推薦システムを操作することができたという。

今回の実験は、ソーシャルメディアなどのウェブサイトがユーザーにおすすめ情報を提供する際に採用するであろうAIの仕組みを簡略化して行ったものだが、パテル氏は、Twitterをはじめとする多くの大手サービスが、現実世界で既にこうした攻撃に対処していると考えているとのことだ。
「私たちは、実際の攻撃がどのように行われるかを知るために、簡略化したモデルに対してテストを実施しました。ソーシャルメディアのプラットフォームは、今回の研究で実証されたものと似たような攻撃にすでに直面しているものと思いますが、これらの運営企業は結果だけを見て、それがどのように機能するかにはさほど注意を払っていないため、こうしたことが現実に起こっていると信じるのは難しいのではないでしょうか。」

エフセキュアのAI担当バイスプレジデントであるMatti Aksela (マッティ・アクセラ) 氏は、AIのセキュリティに関する潜在的な課題を認識し、対処することが重要だと語っている。
「今後、AIへの依存度が高まっていく中で、潜在的な悪用からAIを守るために何をすべきかを理解する必要があります。私たちが依存しているサービスの多くをAIや機械学習が担うようになると、その結果を信頼できるものとするために、得られる利益に加えて、そのセキュリティ上の強みと弱みを理解する必要が出てきます。セキュアなAIは、信頼できるAIの基盤なのです。」

人気記事

「組織としての自己変革にかける想いに共感し、みずほへ入社」。みずほFG執行役員 秋田夏実氏×立教大学ビジネススクール田中道昭教授【前編】

「組織としての自己変革にかける想いに共感し、みずほへ入社」。みずほFG執行役員 秋田夏実氏×立教大学ビジネススクール田中道昭教授【前編】

国内外の金融機関と前職のアドビを含め、主にマーケティングや広報領域で手腕を発揮してきた秋田夏実氏。2022年5月に入社したみずほフィナンシャルグループでは、これまでのキャリアから一新して、グループCPO(Chief People Officer)とグループCCuO(Chief Culture Officer)を務め、組織開発・D&I推進等と企業文化の改革に挑戦をしています。立教大学ビジネススクールの田中道昭教授とともに、これからの時代のキャリアと学びについて意見を交わしました。 前半は秋田氏のこれまでの経歴、アメリカのビジネススクールでのエピソード、みずほに入社を決めた理由などをうかがいます。

AIの思考を人間が助ける。AI領域で人気の職種「プロンプトエンジニア」とは何か

AIの思考を人間が助ける。AI領域で人気の職種「プロンプトエンジニア」とは何か

プロンプトエンジニアという言葉をご存知でしょうか。英語圏では2021年頃から盛り上がりを見せている職種の一つで、中国でも2022年の夏頃からプロンプトエンジニアの講座が人気を呼んでいます。今回は、プロンプトエンジニアとは何か、どうトレーニングすればよいのかについて、日本国内でプロンプトエンジニアの採用と教育を実施している株式会社デジタルレシピ 代表取締役の伊藤 新之介氏に解説していただきました。

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国企業の最新動向から、DXのヒントを探っていく本連載。今回は、ガソリン車に代わるモビリティとして期待が高まるEV(Electric Vehicle=電気自動車)と、その核とも言える自動運転技術で世界をリードする中国の強さに迫ります。前編では「EV先進国」の名を欲しいままにしているその理由を、国の政策や技術の面から探ってきました。後編となる今回は、自動車産業に参入してきた新興メーカー3社を紹介するとともに、日本の立ち位置の考察、中国が抱える課題を話題に進めていきます。

香りを言語化するAI。KAORIUMが切り拓くビジネスチャンス

香りを言語化するAI。KAORIUMが切り拓くビジネスチャンス

イメージする香りはあるけれど、その通りの香水をなかなか見つけられない。「甘口」「辛口」だけでは、自分好みの日本酒を選べない。セントマティック社が開発する「KAORIUM(カオリウム)」は、香りや風味を言語化することで、そんな悩みを解消してくれる最先端のAIシステムです。今回お話を伺ったのは、同社の代表取締役である栗栖俊治氏。なぜ香りの分野に注目したのか。ビジネスとしての香り市場の秘めたるポテンシャルとは。KAORIUMの活用で広がる可能性とは何か。世界も注目するその取り組みに迫ります。

企業文化の変革から始まる「みずほの挑戦」。みずほFG執行役員 秋田夏実氏×立教大学ビジネススクール田中道昭教授【後編】

企業文化の変革から始まる「みずほの挑戦」。みずほFG執行役員 秋田夏実氏×立教大学ビジネススクール田中道昭教授【後編】

国内外の金融機関と前職のアドビを含め、主にマーケティングや広報領域で手腕を発揮してきた秋田夏実氏。2022年5月に入社したみずほフィナンシャルグループでは、これまでのキャリアから一新して、グループCPO(Chief People Officer)とグループCCuO(Chief Culture Officer)を務め、組織と企業文化の改革に挑戦をしています。立教大学ビジネススクールの田中道昭教授とともに、企業に求められるダイバーシティとエクイティ、ジェンダー問題について意見を交わしました。 後編は秋田氏がグループCPOとして手がけてきた施策、みずほフィナンシャルグループが考えるダイバーシティとエクイティ、これからの企業と従業員の関係性についてお話をうかがいます。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

【AI×音楽】AI作曲が可能となっても、作曲家の仕事は残る。「FIMMIGRM」が変える音楽の未来<後編>

【AI×音楽】AI作曲が可能となっても、作曲家の仕事は残る。「FIMMIGRM」が変える音楽の未来<後編>

AIによりヒットソングの特徴をふまえたオリジナル楽曲を作成するサービス「FIMMIGRM(フィミグラム)」。AIによる作曲サービスが盛り上がりを見せつつある昨今、音楽プロデューサーとしてYUKIや中島美嘉、Aimerなどのアーティストを手がけてきた玉井健二氏が開発に携わっていることで、大きな話題を呼んでいます。 FIMMIGRMの利用方法は、大量に自動生成された曲から好みの曲をジャンルごとに選択するGENRES(ジャンル)、ワンクリックでAIが曲を生成する ONE-CLICK GENERATE(トラック生成)、ユーザーの自作曲をもとにAIが曲を生成するGENERATE(トラック生成)、AIが生成した曲にプロの編曲家が手を加えるPRO-ARRANGED(プロアレンジ)の4パターン。AIにより専門知識不要で誰もが作曲できるようになる未来が間近に迫った今、音楽業界はどのように変化するのか? 株式会社TMIKと音楽クリエイター集団agehaspringsの代表を務める玉井健二氏にお話を伺いました。

【Netflix徹底解剖】Netflix4.0、世界最先端のDX戦略を追う

【Netflix徹底解剖】Netflix4.0、世界最先端のDX戦略を追う

全世界での有料会員数が2億人を突破。飛ぶ鳥を落とす勢いで快進撃を続ける企業、Netflix。現在の利用者の中には、彼らの事業が店舗を持たないDVDオンライン郵送サービスからスタートしたことを知らない人もいるかもしれません。1997年、小さなスタートアップ企業として創業したNetflixはその後、DVDレンタルのサブスクリプション、動画ストリーミング配信のサブスクリプション、そして動画オリジナルコンテンツの配信と、デジタルを基盤に着実にビジネスを変革し、今や皆さんご存知の通り、デジタルコンテンツプラットフォームの王者へと成長を遂げています。今回の「世界最先端のデジタルシフト戦略」vol.4では、そのビジネストランスフォーメーションの変遷を立教大学ビジネススクール 田中道昭教授に徹底解剖していただきます。小さなスタートアップ企業であったNetflixがいかに王者となれたのか。その変革の奥にある秘訣とは。DXに取り組む日本企業も見習うべき一貫した姿勢に迫ります。

メンタルヘルス後進国、日本。DXはメンタルヘルスに貢献できるのか

メンタルヘルス後進国、日本。DXはメンタルヘルスに貢献できるのか

欧米に比べ大きく遅れているといわれる日本のメンタルヘルスを取り巻く環境。事実、欧米ではカウンセリングを受診した経験のある人は52%にも上りますが、日本では6%という低水準。先進国のなかで突出した自殺者数についても、厚生労働省は深刻な状況と受け止めています。 そんななか、β版での運用を終え、2022年7月5日に正式ローンチされた「mentally(メンタリー)」は、日本では敷居の高いメンタルヘルスに関する相談が気軽に行えるアプリ。株式会社Mentally 代表取締役CEOを務める西村 創一朗氏は、自身も過去に双極性障害(※)を乗り越えた経験を持っています。メンタルヘルス市場はDXによりどう変化していくのか。インタビューを通して、日本のメンタルヘルス市場の未来を紐解きます。 ※ 双極性障害:活動的な躁(そう)状態と、無気力なうつ状態を繰り返す障害。

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

「8割以上の精度で、赤ちゃんが泣く理由が判明」CES2021イノベーションアワード受賞。注目の日本発ベビーテック企業とは

テクノロジーの力で子育てを変えていく。そんなミッションを掲げ、泣き声診断アプリや赤ちゃん向けスマートベッドライトなど、画期的なプロダクトを世に送り出してきたファーストアセント社。「CES2021 Innovation Awards」を受賞するなど、世界的に注目を集めるベビーテック企業である同社の強さの秘密とは。服部 伴之代表にお話を伺いました。

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

世界のMaaS先進事例7選。鉄道・バス・タクシーなど交通手段を統合したサブスクモデルも!

国内でMaaS(Mobility as a Service)実証が活発化している。新たな交通社会を見据え、既存の交通サービスの在り方を見直す変革の時期を迎えているのだ。 交通社会は今後どのように変わっていくのか。MaaSの基礎知識について解説した上で、海外のMaaSに関する事例を参照し、その変化の方向性を探っていこう。

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国EV市場を席巻する、三大新興メーカーを徹底分析。脅威の中国EVメーカー最新事情・後編【中国デジタル企業最前線】

中国企業の最新動向から、DXのヒントを探っていく本連載。今回は、ガソリン車に代わるモビリティとして期待が高まるEV(Electric Vehicle=電気自動車)と、その核とも言える自動運転技術で世界をリードする中国の強さに迫ります。前編では「EV先進国」の名を欲しいままにしているその理由を、国の政策や技術の面から探ってきました。後編となる今回は、自動車産業に参入してきた新興メーカー3社を紹介するとともに、日本の立ち位置の考察、中国が抱える課題を話題に進めていきます。

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

Googleやビル・ゲイツも出資する“代替肉”スタートアップ「インポッシブル・フーズ」〜海外ユニコーンウォッチ#2〜

「ユニコーン企業」ーー企業価値の評価額が10億ドル以上で設立10年以内の非上場企業を、伝説の一角獣になぞらえてそう呼ぶ。該当する企業は、ユニコーンほどに珍しいという意味だ。かつてのfacebookやTwitter、現在ではUberがその代表と言われている。この連載では、そんな海外のユニコーン企業の動向をお届けする。今回は欧米を中心に注目されている「代替肉」を扱う「インポッシブル・フーズ」を紹介する。

コロナ禍でラジオが復権!? 民放ラジオ業界70年の歴史を塗り替えたradiko(ラジコ)の「共存共栄型 DX」とは

コロナ禍でラジオが復権!? 民放ラジオ業界70年の歴史を塗り替えたradiko(ラジコ)の「共存共栄型 DX」とは

Clubhouseをはじめ、新勢力が次々と参入し、拡大を見せる音声コンテンツ市場。その中で、民放開始から70年の歴史に「大変革」を巻き起こしているのが“ラジオ”です。放送エリアの壁を取り払う、リアルタイムでなくても番組を聴けるようにするといった機能で、ラジオをデジタル時代に即したサービスに生まれ変わらせたのは、PCやスマートフォンなどで番組を配信する『radiko(ラジコ)』。今回は、株式会社radiko 代表取締役社長の青木 貴博氏に、現在までのデジタルシフトの歩みと将来の展望について、お話を伺いました。

デジタル戦略で生まれ変わるカインズ。ホームセンターからIT小売企業への変遷の軌跡【前編】

デジタル戦略で生まれ変わるカインズ。ホームセンターからIT小売企業への変遷の軌跡【前編】

生産労働人口の減少を受け、日本企業はいよいよ生き残りをかけたデジタル化に取り組まなければいけないと言われるフェーズに入ってきました。とはいえ、それができている企業とそうでない企業との差が激しくなっているのも現状です。 そんななか、ホームセンター大手カインズでは、40年かけて積み重ねてきたホームセンターとしてのあり方を見直し、IT小売企業として生まれ変わろうとしています。カインズでデジタル戦略本部長を務め、戦略の指揮をとる池照 直樹氏に、同社のデジタル戦略についてお話を伺いました。 前編は、カインズがどのようにしてデジタル化を実現させていったのか、具体的な取り組みを交えてお届けします。