報告に記載されている実験内容とは、ある被験者に「ガ(ga)」という音を発している映像と「バ(ba)」という音声を組み合わせた映像を視聴させると、被験者は「ガ」でも「バ」でもなく、「ダ(da)」という音が聞こえたように感じた、というもの。
つまり、ある音を発話している映像(視覚情報)が別の音の音声(聴覚情報)の認識に干渉し、第三の音が聞こえたように脳が錯覚している。
仕組みと図解
脳は、異なる感覚情報(視覚・聴覚)を統合しようとする性質があり、その過程で錯覚が生じる。
[ 視覚 ]:口の動き → 「ガ」
[ 聴覚 ]:実際の音 → 「バ」
↓
[ 脳 ]:統合・補正 → 聞こえた音「ダ」
提唱者
1976年に**ハリー・マガーク(Harry McGurk)とジョン・マクドナルド(John MacDonald)**によって発見された。
デザインにおける活用方法と事例
1. 映像メディアにおける字幕・アフレコの整合性
映像コンテンツでは、映像と音声がズレていると違和感や誤認を生む。マガーク効果を理解しておくことで、視覚と聴覚の整合性の重要性が明らかになる。字幕制作やアフレコ時に意図しない知覚の誤りを防ぐために役立つ。
2. UIアニメーションと効果音の同期
インターフェースにおいても、操作音とボタンの動きが一致しない場合、使用者は意図した反応が起きなかったと誤認する可能性がある。マガーク効果を意識することで、音と動作のタイミングの設計が重要であることがわかる。
3. AR・VRにおけるクロスモーダル設計
拡張現実や仮想現実のデザインにおいては、視覚・聴覚・触覚の一致が没入感の鍵となる。マガーク効果の知識をもとに、感覚の不一致を避けるインタラクション設計が可能になる。
4. 教育・学習デザインにおけるマルチメディアの統合
教材ビデオなどで、話している口元の動きとナレーションがずれていると、児童の理解力や集中力が低下する可能性がある。マルチモーダルな学習体験を設計する際にも、この効果を回避・活用すべきである。