AI時代のサイバーセキュリティ：不正アクセスと情報漏洩に、判断で備える

AI時代のサイバーセキュリティとは、AIによって変わった攻撃の手口と情報の流れに合わせて、不正アクセスと情報漏洩への備えを組み直すことです。生成AIは、業務の文章や資料づくりを軽くしました。同じ力は、攻撃する側にも使われています。社内では、生成AIに何を入力してよいか、AIにどこまでの権限を渡すかという、これまでになかった判断が増えました。一方で、AIは守る側の強い味方にもなります。この記事では、AIを前提に業務を組み直すAX（AIトランスフォーメーション）を進めるうえで欠かせない、セキュリティの考え方を整理します。不正アクセスと情報漏洩がどこから起きるか、社内で生成AIを安全に使うルール、警報とログの判断をAIと分け合う守り方、何から始めるかの順に見ていきます。

AI時代に、セキュリティの何が変わったか

AIの広がりで、セキュリティには3つの変化が起きています。攻める側、使う側、守る側のそれぞれです。

1つ目は、攻める側がAIを使うようになったことです。以前のなりすましメールは、不自然な日本語で見分けられることがありました。生成AIを使えば、取引先や社内の上司を装った自然な文面を、短い時間で大量に作れます。声や映像をまねる技術も身近になり、電話やオンライン会議でのなりすましにも注意が要ります。公開されているシステムの弱点を探す作業も、自動化が進んでいます。

2つ目は、使う側に新しい情報の通り道ができたことです。社員が業務で生成AIを使うとき、顧客の情報や社外秘の資料をそのまま入力してしまうことがあります。会社が把握していないAIサービスを個人の判断で使う「シャドーAI」も、管理の目が届かない経路になります。さらに、AIエージェントのように、メールやファイル、業務システムを操作できるAIには、どこまでの権限を渡すかを決める必要があります。

3つ目は、守る側の量の問題です。クラウドのサービスやテレワークが広がり、見張るべき機器とアカウントが増えました。セキュリティの製品が出す警報やログも増え、すべてを人の目で確かめるのは難しくなっています。警報が多すぎて、本当に急ぐものが埋もれてしまうことが、守る側の大きな悩みです。

不正アクセスは、どこから入るか

不正アクセスとは、権限のない者が、他人のアカウントやシステムの弱点を使って社内のシステムに入り込むことです。入り口は、大きく4つに分けられます。

• 盗まれた・使い回されたパスワード：フィッシングで入力させたパスワードや、ほかのサービスから漏れたパスワードで、正規の利用者になりすまして入ります。
• 更新されていない機器とソフトウェア：VPNの機器や公開しているサーバーに、修正されていない弱点（脆弱性）が残っていると、そこから入られます。
• 設定の誤り：クラウドの保存場所を誰でも見られる設定にしていた、退職者のアカウントが残っていた、といった設定の誤りが入り口になります。
• 取引先や委託先：システムの保守を任せている会社や、つながっている取引先が先に攻撃され、そこを経由して入られることがあります。

どの入り口にも、基本の備えがあります。パスワードだけに頼らず、多要素認証（パスワードに加えて、スマートフォンの確認などを組み合わせる認証）を使うこと。機器とソフトウェアを更新し続けること。アカウントと権限を定期的に見直し、必要な人に必要な分だけを渡すこと。取引先とは、つながり方と守り方を確かめておくことです。

AIで攻撃の文面が巧妙になっても、この基本の価値は変わりません。むしろ、なりすましを見た目で見抜くのが難しくなるほど、パスワードが盗まれても入れないしくみが効いてきます。

情報漏洩は、外からと内からの両方で起きる

情報漏洩は、外からの攻撃だけで起きるわけではありません。経路を4つに分けて考えると、備えが整理しやすくなります。

外からの攻撃でいま警戒すべきなのが、ランサムウェアです。社内のデータを暗号化して使えなくし、元に戻すことと引き換えに金銭を求めます。データを暗号化する前に持ち出し、「払わなければ公開する」と脅す手口もあります。業務を止めない備えとして、バックアップを、攻撃者から触れない場所に取っておくことが大切です。

なりすましは、技術ではなく人の判断を狙います。取引先を装って振込先の変更を伝えるメールや、経営者を装って急ぎの送金を求める連絡が典型です。生成AIで文面や声が自然になるほど、見た目で見抜くのは難しくなります。支払い先の変更や機密の送付は、届いた連絡とは別の手段で確かめる、という手順を決めておくのが確実です。

内からの誤りには、メールの誤送信、パソコンや記録媒体の紛失、共有の設定の誤りがあります。悪意がなくても、漏洩は漏洩です。また、個人データの漏洩のうち、要配慮個人情報が含まれる場合や、不正アクセスのように不正な目的によるおそれがある場合などは、個人情報保護委員会への報告と本人への通知が求められます。起きてから慌てないよう、報告の判断と連絡の手順を、平時に決めておきます。

社内で生成AIを使うときの、情報漏洩への備え

生成AIを業務で使うこと自体は、AXの入口として大切な一歩です。禁止するより、安全に使えるルールを先に決めるほうが、シャドーAIも減らせます。ルールは、次の4つを押さえます。

1. 入力してよい情報の区分：公開情報、社内情報、機密情報、個人情報に分け、どの区分をどのサービスに入力してよいかを決めます。
2. 使ってよいサービス：入力した内容をAIの学習に使わない設定や契約になっているかを確かめ、会社として使ってよいサービスを示します。
3. AIに渡す権限：AIエージェントや、業務システムとつないだAIには、仕事に要る範囲の権限だけを渡します。送信や削除のような取り消せない操作は、人の承認を挟みます。
4. 答えの扱い：AIの答えは確かめてから使います。AIが読み込んだ文書やWebページに仕込まれた指示に従ってしまう「プロンプトインジェクション」という攻撃もあるため、外から来た文書をAIに処理させるときは特に注意します。

ルールは、作って配るだけでは守られません。なぜその区分なのかを、具体的な業務の例で説明すること。迷ったときに聞ける窓口を決めること。使ってよいサービスを会社が用意し、個人で探さなくても済むようにすること。この3つがそろうと、ルールが現場で使われるようになります。

AIで守る：警報とログの判断をAIと分け合う

AIは、守る側の判断も支えます。セキュリティの現場には、毎日くり返される判断がたくさんあります。届いた警報のどれから調べるか、大量のログのどこが異常か、障害の原因はどこで、誰が対応すべきか。どれも件数が多く、人の目だけでは追いきれない判断です。

クラスフォックスは、セキュリティとIT運用の判断を、次のような活用構想として設計しています。

• AI SOC：インシデントの優先度を判断します。届いた警報を順に調べる監視の拠点（SOC）から、急ぐインシデントから分析者が当たるSOCへ変わります。
• AIログ監視：ログの中から、対応が要る異常を判断します。大量のログを人が見張る監視から、異常の兆しだけが担当者に届く監視へ変わります。
• AI障害対応：障害の原因の候補と、対応すべき担当者を示します。関係者を集めて原因を探す対応から、すぐ手が打てる対応へ変わります。
• AI DevOps：システムの変更を本番に出すときのリスクを見立てます。担当者の経験だけで決めるリリースから、見立てを手がかりにチームが決めるリリースへ変わります。

不正の見張りは、情報システム部門の外にもあります。不正注文AIは通販の注文のうち疑わしいものを、不正取引AIは金融の取引のうち疑わしいものを、経費AIは経費の申請のうち不自然なものを挙げます。盗まれたアカウントやカードが使われると、こうした業務の記録にも跡が残ります。

これらはどれも、「リスク・異常の検知」や「優先順位づけ」という同じ型の判断です。全部を同じ重みで見るのではなく、確かめるべきものを先に挙げ、人がそこに時間を使う。判断の型について詳しくは、「Decision AIとは」で整理しています。

AIに任せる範囲と、人が決めること

守りの判断をAIと分け合うときも、AIが受け持つのは、調べる順番を並べることと、異常の兆しを挙げることです。通信を遮断するか、アカウントを止めるか、取引先や顧客に知らせるか、当局に報告するか。こうした判断は業務や信用に大きく響くため、担当者と責任者が確かめて決めます。

AIに任せる範囲は、答えに付く確信度で決めます。目安は、95%以上は自動で処理、70〜95%は担当者が確認、70%未満は上長や専門家へ、の3段階です。セキュリティでは、自動で処理するのは警報の並べ替えや、同じ原因の警報をまとめることのように、止めても戻せる影響の小さいものから始めます。見逃しの許されない領域なので、AIが「急がない」とした警報も、一定の割合で人が抜き取って確かめる運用を組み合わせます。

しきい値は、PoC（本格導入の前に効果を確かめる試行）で決めます。期間中は分析者がすべての答えを確かめ、AIの判断と人の判断がどれくらい一致するかを見ます。判断の理由と結果を記録に残すことは、AIのためだけでなく、後から対応を説明する責任を果たすためにも役立ちます。

AI時代のセキュリティは、何から始めるか

セキュリティの備えは、一度に全部をそろえる必要はありません。次の順で進めると、足元を固めながらAIを生かせます。

1. 足元を固める：多要素認証、機器とソフトウェアの更新、アカウントと権限の見直し、触れられない場所へのバックアップを確かめます。
2. 生成AIの利用ルールを決める：入力してよい情報の区分、使ってよいサービス、AIに渡す権限、答えの扱いを決め、現場に説明します。
3. 判断を1つ選んで机上で比べる：警報の優先順位や、ログの異常の判定のように、件数が多く迷う時間が長い判断を選びます。過去の警報やログをCSVで書き出し、AIの答えと分析者の判断を比べます。
4. PoCで確かめて任せる範囲を決める：3〜8週を目安に実際の業務で試し、調べ始めるまでの時間や見逃しの件数など、決めておいた指標の変化を見ます。

効果は、導入前に数字で言い切れるものではありません。目標とする値は、現状を測ってから決めます。クラスフォックスの Vertical AI SaaS は、いまの監視の製品や業務システムを入れ替えず、その上にのる判断レイヤーとして入ります。自社のDX・AXがどの段階にあり、どこから手を付けるべきかを決めかねているときは、DX・AX診断（10問・約2分）で、いまの位置と次の一手を確かめられます。

DX・AXの基礎をあわせて読む

AIを業務に生かす考え方は、DX・AXの基礎を整理した次の記事とあわせて読むと、全体の見取り図がつかめます。

• 「AXとは」：AIを前提に業務を組み直すAXの意味と、1つの判断から始める進め方
• 「DXとAXの違い」：対象・手段・成果の比べ方と、どちらから始めるかを決める3つの問い
• 「Vertical AI SaaSとは」：業界特化のAIを1業務から使う形と、向いている会社の見分け方
• 「Decision AIとは」：業務の判断だけを返すAIの、答えの型・判断の型・確信度のしくみ

よくある質問

本記事で紹介する活用の例は、クラスフォックスが設計した活用構想です。効果は、貴社のデータを使ったPoCで確かめます。