映像をAIで解析し臨場感を伝える「感情表現字幕システム」が開発

近年、多くの人にわかりやすく情報を伝える“ユニバーサルメディア”へのニーズが高まっており、テレビも聴覚に障がいのある人や高齢者などに向けて、より多くの番組への字幕付与が求められている。NTでは2018年度に「多様な視聴者が番組やコンテンツを楽しめる」をテーマに聴覚に障がいのある人とディスカッションを行い「これまでの字幕放送はフォントに抑揚が無い」、「タイミングがずれることがある」、「発話者がわかりにくい」といった課題があがる一方で、映像効果としてテロップに使われるユニークなフォントは印象深くなるという意見があがったという。また、制作側では番組に字幕を入れる作業が大きな負荷になっており、自動的に精度の高い字幕を付与できる技術が求められていた。こうしたニーズを受けて、両社は「感情表現字幕システム」の共同開発にいたったとのことだ。

１．映像と音声をAIで解析して、字幕の自動付与と最適なフォントへの自動変換表示
録画やライブ（生放送）の音声を解析して、リアルタイムで字幕を自動的に付与する。その際、字幕の内容や発話者の表情を解析して感情を把握し、その感情の表現に最適なフォントを12種類の中から自動で選んで字幕に使用する。例えば、楽しい内容は丸みのあるフォントで、怒っている内容は角ばったフォントで表示することで、より直感的に内容を伝える。

２．映像内の人物の顔を認識して、発話者の口元の近くに字幕を自動的に表示
映像内の発話者を特定して、自動的にその口元の近くに字幕を表示することができる。これにより、複数の人物が登場する映像でも、誰が何を話しているかを直感的に伝えることができる。

・12種類の感情・イメージと使用フォントの組み合わせ例（感情の分類やフォントは手動で変更可能）