フィッシング攻撃に見られる旬のエサ:針先に潜む生成AI

3 分で読めます

エグゼクティブサマリー

生成AI(GenAI)の急速な拡大により、コード支援、自然言語生成、チャットボットとの対話、Webサイトの自動作成などの機能を提供するWebベースのプラットフォームが多様化しています。この記事では、生成AIによるWebがどのように進化しているかの傾向を示すために、遠隔測定からのインサイトを使用しています。

生成AIは普及が進んでおり、脅威アクターが悪用できる新たなベクトルを開いています。近年では攻撃者による生成AIプラットフォームの活用はますます増加しており、リアルなフィッシング攻撃コンテンツの作成をはじめ、信頼できるブランドのクローンや、ローコードサイトビルダーなどのサービスを使った大規模なデプロイメントの自動化が行われています。脅威の検出は難化の一途をたどっています。

弊社ではAIが生成するフィッシング攻撃ページや悪意のあるチャットボットなど、具体的な悪用シナリオを検証しました。本稿はこれら活動の指標を公開するものであり、検出と対応の試みにご活用いただければ幸いです。

パロアルトネットワークスをご利用のお客様は、以下の製品を通じて、本書で取り上げる脅威に対する確実な保護をご構築いただけます。

Advanced URL FilteringとAdvanced DNS Securityは、この活動に関連する既知のドメインとURLを悪意のあるものとして識別することが可能です。

情報漏えいの可能性がある場合、または緊急の案件がある場合は、Unit 42インシデントレスポンスチームまでご連絡ください。

生成AI利用の増加

WebベースのAIサービスの紹介

生成AIは、会話アシスタントからマルチメディア作成ツールまで、新しいWebサイトやプラットフォームの急増に拍車をかけています。エコシステムが進化するにつれて、弊社では人々がどのように異なるカテゴリのAIサービスを採用するかについて、新たなパターンを特定しました。

AIライティングアシスタントをはじめ、会議ツール、コード生成ツール、Webサイト構築ツールは、従来は多大な手作業を要していたタスクを効率化するものであり、分野を問わず仕事の進め方と提供の仕方に変化をもたらしています。これらのAIツールはワークフローを効率化するとともに手作業を削減し、またコンテンツ作成における新たな方法を提示しています。

弊社では、特にAI分野における社会的関心とイノベーションの急増を受け、業界全体で生成AIの採用が大幅に増加する傾向を観察しています。図1に示すように、わずか半年でAIの利用は2倍以上に増加し、現在も順調に伸びています。

青い線は、2024年4月から2025年4月までのAIのWebサイトの訪問者数を億単位で表したものです。赤い棒グラフは、AIサービスをホストする新しいWebサイトの検出数を数百万単位で示しています。AI Webサイトへのトラフィックが増加しているこの全体的な傾向より、生成AIアプリケーションとサービスの採用が拡大していることが分かります。

2024年4月から2025年04月までのAIホストの新規開設数(百万)とAI Webサイトの訪問数(億)を示す棒グラフと折れ線グラフ。ホストのローンチは赤い棒で、Webサイトの訪問は青い線で可視化されている。パロアルトネットワークスとUnit 42のロゴがロックアップ。 — 図1.2024年4月から2025年4月までのAI Webサイトのトラフィックと成長率の前月比推移。

AIサービスの動向と業界の焦点

人々がAI特有の機能をどのように採用しているかを議論し、それを基に様々な機能がどのように新たなリスクをもたらすかを予測しました。テレメトリーを検証した結果、以下のことが明らかになりました。

AIの導入をリードしている業界上位は以下の通りです。
- ハイテク
- 教育
- 情報通信
- 専門・法務サービス
ハイテク部門がAI利用を独占しており、図2に示すように生成AIツール利用全体の70％以上を占めています。
この活動のほとんどは、図3に示すように、テキスト生成アプリケーション(AIライティングアシスタントやAIチャットボットなど)とメディア生成ツールに集中しています。
AIサービス利用の約16%は、データ処理とメールキャンペーン生成などのワークフロー自動化に特化しています。

AIサービスの業種分布を示す円グラフ。「ハイテク」が74.0％と圧倒的で、「その他」が3.3％、「州・地方政府」が1％未満、「製造」が1.50％、「卸売・小売」が1.2％、「専門・法律サービス」が3.1％、「電気通信」が5.6％と続く。「教育」は9.1％である。パロアルトネットワークスとUnit 42のロゴがロックアップ。 — 図2.AIサービスの業界トップシェア。

AI技術によって管理されるタスクの分布を示す円グラフ。セグメント別では、メディア生成が24.5％、AIデータとワークフローが15.8％、チャットボットが13.2％、コード支援が2.5％、会議アシスタントが1.3％、Webサイト生成ツールが4.3％、AIプラットフォーム＆サービスが6.6％、ライティングアシスタントが31.8％となっている。パロアルトネットワークスとUnit 42のロゴがロックアップ。 — 図3.全産業におけるAIカテゴリーの分布。

各種AIサービスを悪用したフィッシング攻撃の概要

生成AIツールは強力な機能を提供する一方で、脅威アクターがフィッシング攻撃やその他のタイプのサイバー攻撃に悪用できる重大なリスクももたらしています。

AIコードアシスタントは、ソフトウェア開発を大幅に強化することができるもので、リアルタイムでコーディングの提案を行い、コード生成を自動化し、エラーを減らすことができます。しかし、専有コードや機密性の高い知的財産を不注意に公開し、標的型攻撃の入り口を作ってしまう可能性があります。
会話、文章作成、会議アシスタントなどのテキスト生成ツールは、生産性に寄与し、コンテンツ作成や顧客との対話を改善することができます。しかし、攻撃者はそれらを操作することで、説得力のあるフィッシングコンテンツを生成したり、誤った情報を拡散したり、機密データを漏洩させたりすることができます。
AIモデルサービスは、デプロイメント、訓練、推論を簡素化するものです。しかし、機密性の高いモデルやデータが不正アクセスにさらされる危険性が伴うもので、悪意のあるワークフローでモデルがハイジャックされたり、悪用されたりするリスクを招く恐れがあります。
攻撃者は、メディア生成ツールやWebサイトビルダーなどのマルチメディアAIツールを使用して、リアルに見えるが詐欺的なWebサイトやディープフェイクコンテンツ、および信頼できるブランドを模倣した欺瞞的なフィッシングページを素早く作成することができます。
AIを活用したデータプラットフォームとワークフロー自動化ツールは、ビジネスプロセスを最適化し、効率を向上させ、情報に基づいた意思決定をサポートします。しかしながらガバナンスが緩いと、統合されたシステム全体にわたって、データ漏洩や不正アクセス、自動的なデータ窃取を生むベクトルとなる可能性があります。

これらのリスクを総合すると、生成AIがフィッシング攻撃キャンペーンやその他のソーシャルエンジニアリングの脅威を増幅させる可能性があることがわかります。そのため、より強力な保護措置と脅威検出機能が必要となります。

図4は、フィッシング攻撃に悪用された上位3つのAIサービスを示したものです。

Webサイト生成ツール(約40%)
ライティングアシスタント(約30%)
チャットボット(概ね11%)

フィッシング攻撃に悪用されたAIサービスの分布を示す円グラフ。「Webサイト生成ツール」が40.4％でトップ、「ライティングアシスタント」が29.6％、「チャットボット」が10.5％、「メディア生成ツール」が8.4％、「AIプラットフォームサービス」が4.1％、「会議アシスタント」が3.5％、「AIデータワークフロー」が3.2％、「コード支援」が0.3％と続く。パロアルトネットワークスとUnit 42のロゴがロックアップ。 — 図4.フィッシング攻撃に悪用されたAIサービスのカテゴリー分布。

Webサイト作成サービスの悪用

このようなサービスは比較的新しいものの、攻撃者はすでにAIを搭載したWebサイトビルダーを実際のフィッシング攻撃に悪用していることが確認されています。

弊社では、Webサイトビルダーを用いて脅威アクターによって作成されたフィッシングWebサイトを観察しました。これは数秒でWebサイトを作成することができる人気のあるAIを搭載したものです。このプラットフォームでは、プロンプトを入力することで、電子メールや電話による確認なしにWebサイトを構築し、公開することができます。サイトには、プロンプトに基づいて画像とテキストを生成し、Webサイトを作成できるAIが搭載されています。

2025年5月、AIが生成したフィッシング攻撃用のランディングページの実例を2件検出しました。図5と図6に示すこれらのフィッシングページは、どちらも攻撃者が所有するクレデンシャル盗用サイトにリンクしています。

プロモーション用のWebページには、12ヶ月のスタンダードプランを100％割引で利用できる「無料クーポン」が掲載されており、「クーポンコードを表示」と書かれたボタンの後に[Click here(ここをクリック)]と書かれた別のボタンがある。背景には赤と黒でぼかした図形が描かれている。 — 図5.2025年5月に見られたフィッシングページのスクリーンショット。

あるWebサイトの「ギフトカード」プロモーションページのスクリーンショット。3枚のぼやけたカードの画像に、さまざまなショッピング特典をアピールするテキストがオーバーレイされている。ナビゲーションメニューには、「ホーム」、「会社概要」、「製品」、「お問い合わせ」のオプションが並んでいる。 — 図6.2025年5月に見られたフィッシングページのスクリーンショット。

私たちが調査したAI支援Webサイトビルダーのなかには、既存の企業や組織へのなりすますのを防ぐガードレールが欠けているものがありました。テストとして、有名なAI支援Webサイトビルダーを使用して、パロアルトネットワークスのサイトを模した偽のページを作成しました。

このWebサイトビルダーは、有効な電子メールアドレス(パロアルトネットワークスの電子メールアドレスである必要はない)のみを必要とし、トライアルアカウントの作成後に弊社になりすましたページを公開することに成功しました。これらのページは、新しい企業や組織を対象としており、Webでの存在感を素早く確立することを目的としているため、犯罪者が標的のブランドになりすますために使うようなデザイン要素は備わっていません。

Webサイトビルダーでは60秒で無料のAI Webサイトを生成することが謳われており、弊社が行ったテストでもこれは正確な表現であることが証明されました。私たちが入力したのは、最初のテキストプロンプトのための会社の簡単な説明だけでした。図 7 は、[Enhance Prompt (プロンプトを強化)]ボタンをクリックする前に、最初のプロンプトに入力したパロアルトネットワークスの簡単な説明です。

AIを使ったWebサイトビルダー。無料のAI Webサイトを60秒で作成。プロンプトのウィンドウには「パロアルトネットワークスは、次世代ファイアウォールやその他のセキュリティソリューションを提供するサイバーセキュリティのリーディングカンパニーです」と記入されている。巨大なカーソルが[Enhance Prompt (プロンプトを強化)]ボタンを選択しようとしている。 — 図7.弊社の簡単な説明: AIアシストWebサイトビルダーに入力されたプロンプト。

[Enhance Prompt(プロンプトを強化)]ボタンは、図8に示すように、最初の入力を取り込み、ページの完全なAIプロンプトを作成するものです。完成したプロンプトには、AIが生成した会社紹介のパラグラフをはじめ、簡単に変更できるデフォルトのデザインスタイル、サイトに掲載するコンテンツのリストが含まれていました。

Webページのスクリーンショット。パロアルトネットワークスのイノベーションとサイバーセキュリティへのコミットメントを説明するテキストが掲載されている。会社のミッションとサービスとともにビジネス/プロジェクト名のセクションがある。カーソルが右の上向き矢印に合わせられている。 — 図8.AI支援Webサイトビルダーによるプロンプトの強化。

図8に記した矢印ボタンをクリックすると、ビルダーは約5〜10秒かけてサイトのステージング環境を作成しました。入力された最初のプロンプト「パロアルトネットワークスは、次世代ファイアウォールやその他のセキュリティソリューションを提供する主要なサイバーセキュリティ企業です」から生成されたページ(図9)は、サイバーセキュリティ企業として信憑性のある内容となっていました。

AIが作成したパロアルトネットワークスの偽Webサイト。「Cybersecurity redefined - Protect your assets with confidence（サイバーセキュリティは再定義され、自信を持ってお客様の資産を守ります）」というテキストと「View Services（サービスを見る）」ボタンが表示されている。 — 図9.AIが生成したインデックスページ。

サイトビルダーが生成したインデックスページをスクロールしていくと、図10に示すように、AIが生成した説得力のある当社の説明が現れました。

AIが生成したパロアルトネットワークスの偽ホームページ。プロフェッショナルがデジタルスクリーンの前に立ち、主要なサイバーセキュリティソリューションに関するテキストが表示されている。 — 図10:AI支援Webサイトビルダーによって生成されたページ内の会社説明。

インデックスページには、次世代ファイアウォール、クラウドセキュリティソリューション、脅威インテリジェンスサービスを説明するさまざまなページへのリンクが含まれていました。図11は、脅威インテリジェンスサービスのインデックスページからのリンクと、そのリンクから得られるページであり、会社の説明と同様に、これらのサービスの説明も、多くの人が定評のあるサイバーセキュリティ企業に期待するような内容となっていました。

AIが生成したパロアルトネットワークスの偽ウェブサイトのスクリーンショットのコラージュ。クラウドセキュリティ、脅威インテリジェンス、高度な脅威防御サービスに関するセクションと、ネットワークセキュリティ運用の画像、サイバーセキュリティソリューションに関する説明文が掲載されている。 — 図11.AI支援Webサイトビルダーによって生成された脅威インテリジェンスサービスのページ。

Webサイトビルダーには、サイトを公開するためのボタンが備わっており、このボタンを押すと、図12に示すダイアログウィンドウが表示されました。

AIが生成した偽のパロアルトネットワークスのWebサイトエディタインターフェースのスクリーンショット。「Publish website(Webサイトを公開する) 」というタイトルのポップアップウィンドウが表示されている。このポップアップは、価格情報や契約プランとともにカスタムドメインを追加するようユーザーに促すものである。[View plans (プランを見る)]、[Cancel (キャンセル)]、[Publish(公開)]のボタンが見える。 — 図12.テストしたサイトを公開するダイアログウィンドウ。

作成したパロアルトネットワークスの偽サイトは公開していませんが、以前紹介した2つの実例など、サイバー犯罪者はこのビルダーを悪用して他社ブランドを模倣したフィッシングページを公開していると思われます。

これらのプラットフォームの多くは、最近AI支援機能を追加していることから、攻撃者は他のWebサイトビルダープラットフォーム上でも同様の攻撃ベクトルを再現することができるとされます。図13は、一般的なWebサイトビルダーで作成された、人気業者になりすました偽ギフトカードサイトの例です。

「すべてのカードに喜びを」と謳うギフトカード詐欺サイトのプロモーション用バナー。下記には、ストアクレジット、割引券、ギフトカード、サブスクリプションクレジットなど、さまざまなカードが表示価格とともに表示されている。 — 図13.別の人気AI搭載Webサイトビルダーで作成された割引ギフトカードのWebページ。

現在のところ、AIを搭載したWebサイトビルダーで実際に見られるフィッシング攻撃は比較的初歩的なものに留まっており、被害者としてサイトを訪れた来訪者のほとんどを欺くことはできないものと思われます。しかし中長期的には、AIを搭載したWebサイトビルダーがより強力になるにつれて、こうした攻撃はより説得力を増すと予想されます。

ライティングアシスタントサービスの悪用

Webサイトビルダーに加え、弊社ではサードパーティのAIライティングアシスタントプラットフォーム上で生成・ホストされている複数のフィッシングURLを実際に確認しました。これらすべてのケースで攻撃者はアプリを使ってフィッシングページをホストしており、フィッシングページには、「新しい文書があります。閲覧するにはボタンをクリックしてください」というような一般的なメッセージがありました。ボタンをクリックすると、Microsoftの偽ログインページなど、二次的にクレデンシャルを盗むサイトに被害者が誘導される仕組みです。

AIを活用したコンテンツ生成を提供するプラットフォーム上でホストされているにもかかわらず、これらのフィッシングページは非常にシンプルであり、AIが関与している明確な兆候は見られませんでした(図14と15を参照)。この種の活動は、プレゼンテーションビルダーやその他の合法的なコンテンツ共有ツール上でホストされているフィッシングページのような、サービスとしてのソフトウェア(SaaS)プラットフォームの悪用キャンペーンで見られたものと似ています。

「SECURE BUSINESS DOCUMENTS (ビジネス文書の保護)」と題されたデジタル文書共有インターフェースのスクリーンショット。特徴としては、「VIEW PDF ONLINE」へのリンクや、ログイン、著者の詳細、Windows用のアクティベーション・リマインダーなどのセクションが追加されている。 — 図14.SEOアシスタントプラットフォームで作成されたフィッシングページのスクリーンショット。

文書共有サービスのスクリーンショット。PDF文書が共有可能な状態になっている。「VIEW DOCUMENT」と書かれたボタンがあり、その後に「Kim Cromidas」と名乗る人物の署名がある。 — 図15.セールスアシスタントプラットフォーム上で作成されたフィッシングページのスクリーンショット。

将来敵に攻撃者がこれらのプラットフォームのAI機能をより強力な方法で活用する懸念は残るものの、現在のところこれらのプラットフォームは主に悪意のあるコンテンツのホスティングサービスとしての利用に留まっています。

結論

本記事では、Webベースの生成AIサービスについて説明し、それを悪用したフィッシング攻撃についてレビューしました。弊社では、AIを搭載したWebサイトビルダーによるフィッシングページの例を調査し、脅威アクターがこれらのビルダーを利用してフィッシングコンテンツをより簡単に作成する方法を調査しました。脅威アクターはAIを搭載したライティングアシスタントサービスもその悪質な活動で利用しているが、これらのプラットフォームは主に悪意のあるコンテンツのホスティングサービスとして利用されており、AIが関与している明確な兆候は確認されませんでした。

弊社が行った遠隔測定では、生成AIのアプリケーションとサービスの採用が増加していることが確認されており、時間の経過とともに生成AIを利用した攻撃が増加することが予想されます。

パロアルトネットワークスのお客様は、以下の製品を通じて、本書で取り上げるツールに対する確実な保護を構築いただけます。