1. 攻撃の前提が変わった——AIは攻撃者にも武器を与えた
生成AIは、業務の生産性を大きく高める技術です。しかし同じ技術は、攻撃者の生産性も高めています。文章を自然に書き、多言語に翻訳し、大量のパターンを瞬時に生成する能力は、フィッシングやビジネスメール詐欺（BEC）といった「人をだます攻撃（ソーシャルエンジニアリング）」と、極めて相性が良いのです。
従来、日本の組織はある意味「日本語の壁」に守られていました。海外発のフィッシングメールは、機械翻訳特有の不自然な日本語で書かれており、多くの人が「これは怪しい」と気づけました。しかし生成AIの登場で、その壁は崩れました。ネイティブと見分けがつかない自然な日本語のフィッシングメールが、誰でも・大量に・瞬時に作れるようになったのです。
この記事の立ち位置
本記事は、生成AIが攻撃に悪用される傾向を防御側の視点から整理するものです。攻撃メールの作り方や犯罪ツールの入手方法など、悪用につながる具体的手順は一切扱いません。「攻撃が高度化した前提で、どう守るか」に焦点を当てます。
2. 消えた「不自然な日本語」——フィッシングの高度化
生成AIによって、フィッシングメールは次のように高度化しています。
- 自然な言語：文法ミスや不自然な言い回しが消え、正規のメールと見分けがつかなくなった。「日本語が変だから怪しい」という定番の見分け方が通用しない。
- 大量・多様なバリエーション：同じ内容を少しずつ変えた無数のパターンを瞬時に生成でき、パターンマッチによる検知をすり抜けやすい。
- ターゲットに合わせた文面：公開情報（会社サイト、SNS、プレスリリース）をもとに、相手の業種・役職・状況に合わせた「もっともらしい」文面を作れる。標的型フィッシング（スピアフィッシング）のハードルが劇的に下がった。
- 多言語対応：あらゆる言語で自然な文面を生成でき、言語圏を問わず攻撃できる。
つまり、これまで「大量にばらまくが精度は低い」攻撃と「精度は高いが手間がかかる」標的型攻撃の間にあったトレードオフが、生成AIによって崩れました。高精度な標的型フィッシングを、大量に・安価に実行できる時代になったのです。
「怪しいメールの見分け方」が次々と無効になる
「日本語が不自然」「差出人名がおかしい」「文面が雑」——これまで社内研修で教えられてきた見分け方の多くが、生成AIによって無効化されつつあります。もちろん基本的な注意喚起は依然として重要ですが、「従業員が見破ること」に防御の大部分を依存する体制は、もはや持続可能ではありません。人の注意力を過信しない設計が必要です。
3. 業務メールに紛れるBEC——文脈を理解する攻撃
BEC（Business Email Compromise／ビジネスメール詐欺）は、取引先や経営層になりすまして送金や情報提供を指示する攻撃です。世界的に見て、企業が受ける金銭被害の中でも特に大きな割合を占める攻撃類型として、各国の法執行機関が繰り返し警告しています。生成AIは、このBECをさらに巧妙にしています。
- 文脈に沿った自然な文面：「請求書の振込先が変更になりました」「至急この件で送金を」といった業務メールを、その企業・業界の慣習に沿った自然な言い回しで作成できる。
- 過去のやり取りを模倣：窃取したメールのやり取りを学習させ、実際の取引の流れに割り込む形で、違和感のない偽メールを差し込む。
- スピードと物量：多数の標的に、それぞれに合わせた文面を同時に送れる。
さらに、前段のフィッシングでメールアカウントそのものを乗っ取られると、攻撃者は「本物のアカウント」から偽の指示を送れるようになります。この場合、差出人アドレスも文面も完全に正規のものであり、受け取った側が不審に思う要素はほとんど残りません。BEC対策が「メールを見て気づく」ことに依存できない理由がここにあります。
BEC対策の本命は「業務プロセス」にある
メールの真偽を見分けるのが難しくなった以上、BEC対策の本命は業務プロセス側にあります。「振込先変更や高額送金は、メールとは別の既知の経路（電話等）で必ず確認する」「送金は複数名の承認を必須にする」といった、メールの真偽に依存しない手続きを制度化することが決定的に重要です。技術だけでなく、運用ルールで守る発想が求められます。
4. 犯罪特化型AIツールという地下市場
一般の生成AIサービスには、有害な使い方を拒否する安全機構（ガードレール）が組み込まれています。しかし2023年以降、これらの制限を取り払った、あるいは犯罪利用に特化したとうたう「犯罪特化型AIツール」が地下市場に登場したことが、セキュリティ企業によって報告されてきました。「WormGPT」「FraudGPT」といった名称で知られるこれらのツールは、フィッシングメールやマルウェアの作成を支援すると宣伝され、地下フォーラムで販売されていたとされます。
これらのツールの実態や有効性については誇張を含むとの指摘もあり、すべてを額面通りに受け取るべきではありません。しかし重要なのは、「攻撃をAIで支援するサービス」を求める需要と、それに応える市場が存在するという事実です。攻撃の高度化が、専門知識のない者にも「サービスとして」提供される流れ（Crime-as-a-Service）は、以前から続いてきたものであり、生成AIはその流れを加速させています。
- 攻撃の民主化：高度な攻撃が、技術力の低い者にも実行可能になる。
- スケールの拡大：自動化により、攻撃の量と速度が飛躍的に増す。
- 防御側の負担増：質・量ともに攻撃が増え、従来の人手・パターンベースの防御では追いつかなくなる。
5. 「見破る訓練」の限界と、認証で守る発想
ここまで見てきたように、生成AIによる攻撃の高度化に対して、「従業員がメールを見破る」ことに依存する防御は限界を迎えつつあります。もちろん、セキュリティ意識向上のための訓練は今も重要です。しかし、それだけを頼みの綱にするのは危険です。発想を転換する必要があります。
発想の転換：「だまされない」から「だまされても被害が出ない」へ
人はいつか必ずだまされます。自然な日本語で、業務の文脈に沿って、正規アカウントから届く偽の指示を、100%見破ることは不可能です。だからこそ、「だまされても、それが被害につながらない」仕組みを用意することが、現実的で本質的な防御になります。
フィッシング耐性認証という答え
フィッシングの多くは、最終的に「偽サイトでID・パスワードを入力させ、認証情報を盗む」ことを目的とします。ここでFIDO2/パスキーのようなフィッシング耐性認証を使っていれば、たとえ従業員が偽サイトにアクセスしても、認証が成立しません。FIDO2は認証が正規ドメインに紐づいており、偽サイトでは反応しないからです。盗ませる「合言葉」自体が存在しないため、フィッシングの目的そのものが無効化されます。
| 防御アプローチ | 考え方 | AI時代の有効性 |
|---|---|---|
| 従業員教育・訓練 | 怪しいメールを見破る | 重要だが、単独では限界 |
| メールフィルタ・検知 | 攻撃メールを技術的に遮断 | 必要だが、すり抜けは避けられない |
| 業務プロセス（承認・確認） | 送金・変更をメール以外で確認 | BEC対策として有効 |
| フィッシング耐性認証（FIDO2） | だまされても認証情報を悪用させない | 根本的で有効 |
これらは排他的なものではなく、組み合わせて多層で守るものです。ただし、その土台として「認証情報を盗まれても侵入されない」というフィッシング耐性認証を据えることが、AI時代の防御の要になります。
6. Net Peaceによる「だまされても侵入されない」防御
Net Peaceは、生成AIで高度化する攻撃に対して、「人の注意力に依存しない」認証・アクセス管理を提供します。
Keyper——フィッシング耐性のあるパスワードレス認証
Keyperは、FIDO2/パスキーによるフィッシング耐性認証を実現します。認証が正規ドメインに紐づくため、どれほど精巧なフィッシングサイトでも認証が成立しません。秘密鍵は端末内に保管され外部に出ないため、盗んで悪用することもできません。従業員が巧妙なメールにだまされてリンクを開いてしまっても、認証情報の窃取という攻撃の目的を達成させないのです。
UPAS ZTA——侵入を前提とした被害の封じ込め
万一アカウントが侵害されても、被害を広げない備えが重要です。UPAS ZTAは、デバイス認証と条件付きアクセスにより、認証を突破された後の横展開や、未承認端末からのアクセスを制限します。認証（Keyper）とネットワークアクセス（UPAS ZTA）の両面で、多層的に守ります。
技術と運用の両輪で
前述のとおり、BEC対策には送金承認プロセスの整備など運用面の対策も欠かせません。Net Peaceは、認証基盤の提供にとどまらず、セキュリティ診断を通じて、技術と運用の両面から「だまされても被害が出ない」体制づくりを支援します。攻撃者がAIで武装する時代には、防御側も「人頼み」から仕組みによる防御へと発想を変える必要があります。