iPhoneやAndroidに搭載された、AIアシスタントを利用した攻撃を実演
米国と中国の研究者は、人間の聴覚で聞き取ることのできない音を利用し、悪意のある攻撃を引き起こすスマートデバイスコマンドを実演しました。
この攻撃では、実際にスマートフォンを外部から侵入することなく、人間の耳には検出できない音によるコマンドで、iPhoneに搭載されているSiriやAndroidの「OK,Google!」のようなAIアシスタントに、所有者が意図したことのない行動を実行することができます。
同研究者は、この攻撃を実証するためテストを行っています。
今回の調査では、The New York Timesが、この潜在的なコマンドが電話番号、オープンウェブサイト、悪意のある行為を間違った手で犯す可能性があることを示唆しています。
カリフォルニア大学バークレー校とジョージタウン大学の学生グループが今月、音楽録音や音声テキストにコマンドを埋め込むことができると発表しました。
Amazon EchoやApple iPhoneの近くでこのコマンドを実行すると、所有者が頼んでもいないのに、SiriやAlexaは「買い物リストに何かを追加するよう指示が出るかもしれない」と語る。
近い将来、声によるドアのロックを解除することができるようになった場合や、銀行からお金を引き出す場合、オンラインで買い物をする場合など、不正に利用される可能性は広がります。
普通に使っていて大丈夫なのか
音によるSiriやAlexaを不正に利用する方法については、一般の人々にすぐに脅威になるものではありませんが、論文の著者の1人であるNicholas Carliniは、悪意のある第三者がすでに同様の技術で侵入している可能性があると考えています。
コンピュータセキュリティの学生、U.C.バークレーとその論文の著者の一人で、5年目の博士号を取得したニコラス・カーティーニ氏は、「私たちはそれをさらに所有者に知られることなく、コマンドを実行することができるかどうかを見極めたい」と語った。
Carlini氏は、これらの技術が実験の域を超えたという証拠はないものの、誰かがそれらを悪用しようとするのは時間の問題かもしれないと付け加えた。
「私の前提は、悪意のある人々が既に私がしていることをするために人々を雇っていることだ」と彼は語った。
昨年、プリンストン大学と中国の浙江大学を拠点とする研究者たちも同様のテストを実施し、人間が聞いたことのない周波数からAI補助装置を起動できることを実証した。
「DolphinAttack」という技術では、特定の電話番号をダイヤルした隠しコマンドを送信する送信機を構築し、他のテストでは写真を撮ってテキストメッセージを送信に成功しています。
しかし、DolphinAttackは、「受信デバイスに近くなければならない」という条件があるため、攻撃に関して制限されていると言われています。
DolphinAttackは、常時接続のシステムを起動し、Siriを起動してiPhoneでFaceTimeコールを開始し、Googleを有効にするなど、最新の音声認識システム（Siri、Alexaなど）で隠れた音声コマンドを実行することができます。
例えば、iPhoneやスマホを飛行機モードに切り替え、さらには自動車のナビゲーションシステムを操作するなどです。
さらに別の研究では、イリノイ大学アーバナ・シャンペーン校のグループが、この範囲の制限が25フィート離れた場所からのコマンドを示すことができることを証明しました。
最新のバークレーの研究者グループにとって、CarliniはThe New York Timesに対し、彼のチームはまもなく、 "市場に出ているスマートデバイスシステムに対して"成功したコマンドをすぐに提供できるとった。
同グループは、この欠陥が潜在的な問題であることを企業に証明したいと述べ、企業が実際に問題と捉え改良が行われることを願っていると語った。
セキュリティ上の理由から、Appleは特定のHomeKit関連のSiriコマンドを厳しく制限しており、ユーザーがパスコードを有効にしているときは常にパスコードによってロックされています。
例えば、接続されているスマートロックでドアのロックを解除する場合は、Siriに依頼することができますが、コマンドを発行した後でiPhoneまたはiPadにパスコードを入力する必要があります。
まとめ
音でiPhoneやスマホを外部から操作できるというのは、考えもしませんでした。
しかも人間が聞き取ることのできない音で操作できるため、iPhoneやスマートフォンの所有者は気づくことができません。
後になってから気づく場合がほとんどだと思われます。
技術の進歩に伴って、セキュリティも進歩していく必要性があります。
Sorce:MacRumors
