Geminiを欺きスマートホームを操作？「プロンプトウェア」悪用の衝撃事例を解説

2025年8月8日

Geminiを悪用したプロンプトウェア攻撃でスマートホームが不正操作される事例を解説するイメージ

人工知能（AI）の普及が進む一方で、「悪用されて生活を勝手にコントロールされるのではないか」という不安を抱く人は少なくありません。特に、スマートデバイスがハッキングされるようなシナリオは、多くのユーザーにとって恐怖の対象です。今回、Googleの人気AIモデル「Gemini」に関する研究報告が、この懸念を現実的な問題として浮き彫りにしました。

1. 話題の背景と今回の研究概要

2025年8月、イスラエルのテルアビブ大学、イスラエル工科大学（テクニオン）、セキュリティ企業SafeBreachの研究者チームが、Geminiの脆弱性を悪用した攻撃のデモンストレーションを公開しました。

この実験は制御された環境で行われたものですが、Geminiを介してスマートホーム機器を遠隔操作することに成功。実際にボイラーを作動させる、シャッターを開けるといった物理的なアクションが実行されました。

研究プロジェクトの名称は「Invitation is all you need」。Googleカレンダーの招待メッセージに悪意ある指示を仕込み、Geminiがカレンダー要約を行う際に、それらの指示が発動する仕組みを実証しました。

2. 「プロンプトウェア」とは何か？攻撃の仕組み

この攻撃で使われた手法は「間接的プロンプト挿入攻撃（Indirect Prompt Injection）」で、研究チームはこれをプロンプトウェアとも呼んでいます。

従来のマルウェアのようにコードを仕込むのではなく、AIが解釈する「指示文（プロンプト）」そのものに悪意を持たせるのが特徴です。

今回のケースでは、以下の流れで攻撃が成立しました。

攻撃者がGoogleカレンダーの招待に見せかけたイベントを作成
イベント詳細に「Geminiが解釈すると機器を操作する指示」を埋め込む
ユーザーがGeminiに「カレンダーを要約して」と依頼
Geminiがイベント詳細を読み込み、隠された指示を実行
結果として、スマートホーム機器が遠隔操作される

この手法は見た目が無害なため、ユーザーが攻撃を察知するのは極めて困難です。

3. 実験と現実の違い、そしてユーザーへの影響

今回の事例はあくまで研究目的のデモであり、実際の犯罪行為ではありません。ただし、実際に悪意ある攻撃者が同様の手口を使えば、現実世界の機器を操作される危険性は十分にあります。

特にGeminiのようにスマートホームや外部サービスと連携できるAIアシスタントは、便利な反面、物理的な影響範囲が広い点がリスク要因となります。

被害が発生した場合に想定されるリスクは以下の通りです。

家電や設備の無断操作（暖房・照明・シャッターなど）
監視カメラの無効化
エネルギー浪費による経済的損失
防犯性の低下による侵入リスク増大

4. Googleの対策とユーザーができる予防策

Googleはこの報告を受け、Geminiの防御システムをアップデート。具体的には以下のような強化策が実装されています。

出力のフィルタリング：不審な指示を自動で検知・排除
ユーザー同意の必須化：慎重に扱うべきアクション実行前に確認を求める
プロンプト分類器の導入：間接的プロンプト挿入を検知するAIモデル
多層防御（Defense-in-Depth）による攻撃面の縮小

しかし、AIの検知精度は万能ではありません。ユーザー側でも次のような対策が推奨されます。

AIアシスタントに与える操作権限を必要最小限に制限する
連携する外部サービスやデバイスを定期的に見直す
不審なカレンダー招待やリンクは開かない
ファームウェアやアプリを常に最新状態に保つ

5. 今後の展望と懸念

今回の実験は、AIが現実世界に直接作用する時代における新たなセキュリティ課題を示しました。

今後、スマートホーム・IoT機器との連携はますます拡大すると予想され、攻撃者にとっては魅力的な標的になります。特に「プロンプトウェア」のような手口は、従来のウイルス対策ソフトでは検知が難しく、AI特有の防御技術が求められます。

業界全体として、AIモデル開発者、デバイスメーカー、ユーザーが連携してセキュリティ意識を高めることが重要です。