
対象は、ブラウンシュヴァイク工科大学の職員7,741人です。研究者、事務職、技術職などが含まれます。事前に訓練の実施が知らされ、クリックすると教育ページが開く方式でした。メールが確実に届くよう、送信元は迷惑メールフィルターの許可リストに入れています。測ったのはクリックで、パスワードを盗まれた人数ではありません。
このうち、メールアドレスと結び付く公開情報が見つかったのは4,010人です。そこから3,310人にAIの個別メールを、100人に人手の個別メールを送りました。残りは一斉型との比較に使っています。
論文が示した数字は次のとおりです。
人が丁寧に書いた個別メールには届きませんが、AIの個別化だけで、クリックは約4%から約10%、およそ2.5倍に増えました。訓練だと事前に知らされていた条件なので、実際の攻撃では数字が上がる可能性があります。一方で、群の大きさや話題は完全に同じ条件ではなく、この数字を他社の被害確率としてそのまま使うことはできません。ITmediaの報道も、この数字を伝えています。

工程は三段です。メールアドレスで検索して、経歴や所属、研究内容を集めます。そこから人物の概要を作り、その人の活動に関連する文面を書きます。宛名に名前を差し込む処理とは別物で、受信者ごとの下調べと文面作りを、AIが自動でこなしてしまいます。
自分の研究や担当業務に触れたメールは、無関係な一斉メールと違い、読む理由が生まれます。NISTのPhish Scaleも、メールの手掛かりに加えて、受信者にとって場面設定がもっともらしいかを、検出の難しさの要素にしています。信頼を生むのは文章の流暢さより、仕事の文脈との一致です。
意外なのは、公開情報が多い人ほどクリックが低かった点です。AI個別メールでは、情報が少ない群が12.7%、中程度の群が12.1%で、多い群は約6%まで下がりました。
論文は、情報が多いと要約や言い換えが進み、具体的な関連が薄れることを理由の一つに挙げています。ただ、情報を多く公開する人は職種や警戒の仕方も違い得ます。公開量を変えた実験ではないので、「情報を増やせば安全」とは言えません。
公開情報を知っていることは、送り主が本物である証拠になりません。仕事に関係する内容かどうかと、誰が依頼しているかは、別々に確かめる必要があります。

いちばん注目したいのは、1通あたりの安さです。論文は、1通あたり約0.03ドルと報告しています。
内訳は、検索が約20ドル、GPUのレンタル(毎時2ドルと仮定)が約100ドルで、合計約120ドルです。約4,010件を1台のGPUで、約50時間かけて作った総額になります。
人手の個別メールは、専門の研究者が100件を書くのに約12時間かかりました。1通あたりの説得力は人が上、安く大量に作れるのはAIです。
この費用に、初期の仕組み作りや人の点検、運営は含まれていません。それでも、手間がかかりすぎて個別に狙われにくかった一般の職員や小さな会社の担当者が、個別メールの対象になり得ることは読み取れます。

クリックそのものを完全に防ぐのは難しいのが前提です。しかも今後は、こうした個別化メールが増えていきます。自分の仕事に合った内容のメールでも、AIで作られた偽物かもしれないと疑う必要があります。
そこで、クリックの後に被害へ進む段階ごとに止める手を置きます。NISTの指針と論文の提案から整理すると、次の5つです。
クリックしたかどうかと、組織として拡大を止められたかは別の問題です。
▶︎ あわせて読みたい:認証や漏えい後の対応まで、公的機関の呼びかけを7点で点検

自社の訓練でクリックが少なくても、備えができたとは言えません。NISTは、題材が仕事に合わない、見破りやすい、以前の訓練に似ているときも、クリック率は下がると説明しています。
部署に合った題材か、不審と気付く手掛かりがどれだけあるかを記録し、近い難易度の訓練どうしで推移を見ます。大学の率を自社の目標値にしてはいけません。NISTのガイドは、クリック率に加えて報告率の読み方も示しています。ここに、報告が担当者に届いてから確認が済むまでの時間も足します。
今回の話は、最先端の突破力ではなく、もともと弱い入口に手軽に届くようになった話です。日本の職場でも、メールで届いた依頼を担当者が承認して実行する流れが業務の中心にあります。承認の前に別経路の確認を挟む設計は、早く入れた組織から有利になるでしょう。
個別化が安くなるほど、人の注意力だけに頼る防御は割に合わなくなります。逆に、確認・認証・権限・報告を工程に組み込んだ組織は、文面がどれだけ巧みになっても同じ強さを保てます。見抜く力を競う時代から、クリックされても被害へ進まない設計を競う時代へ移ります。
大学職員を対象にした訓練では、AIの個別メールのクリック率は約10%だった。全員に同じ文面を送る一斉型の約4%から、およそ2.5倍になる。人手で丁寧に書いた個別メールの24.2%には届いていない。訓練だと事前に知らされていた条件なので、この数字を他社の被害確率としてそのまま使うことはできない。
足りない。個別化が安くなるほど、人の注意力だけに頼る防御は割に合わなくなる。クリックを完全に防ぐのは難しいので、別経路での確認、認証先に結び付く認証、権限の分離、報告から対処までの手順、公開情報の整理を重ねて、クリック後の被害を止める。
クリック率だけで備えができたとは言えない。NISTは、題材が仕事に合わない、見破りやすい、以前の訓練に似ているときもクリック率は下がると説明している。部署に合った題材か、不審と気付く手掛かりの量を記録し、近い難易度の訓練どうしで推移を見る。報告率と、報告が届いてから確認が済むまでの時間も合わせて測る。
AIに権限をどこまで持たせ、どこで人の確認を挟むか。AIを徹底的に使いこなすためだけのコミュニティ「フロンティア・リーダーズ」で、実務を持ち寄りながら探っています:https://frontier-leaders.vercel.app/
2時間で、AI活用術を実践のハンズオンで学べます(過去回のアーカイブ):https://handson.workstyle-evolution.co.jp/
AIニュースの毎日解説は、YouTube『いけともch』で:https://www.youtube.com/@iketomo-ch