不正な利益を求める「ブラックハット」ハッカーに応える、新種の仮想アシスタント ソフトウェアが地下フォーラムに登場した。 これらのハッカーツールは、ChatGPT の背後にあるものと同様の生成 AI モデルの力を利用しており、「FraudGPT」や「WormGPT」などのあだ名を採用しており、悪意のあるソフトウェアやフィッシングメールの作成から、攻撃サイトの構築や脆弱性の特定に至るまで、幅広い機能を約束している。 特に、ビジネス電子メール侵害 (BEC) 攻撃を促進する際にその有効性が際立っている。
サイバー犯罪領域への生成 AI ツールの進出は、7 月中旬の「WormGPT」の導入から始まった。 このツールは、おそらく 2021 年に登場した GPT-J 言語モデルに由来し、BEC 攻撃用に洗練されているようだ。重要な機能は、ターゲット言語の言語熟練度を必要とせずに、プロフェッショナルな外観の電子メールを生成できる機能にある。
続いて、7 月下旬には、より幅広い機能を誇る「FraudGPT」が登場した。 悪意のあるコードの作成者、熟練したインターネット スキャナー、ハッキング ユーティリティの開発アシスタント、詐欺ページの生成者、サイバー犯罪ツールの適用に関するトレーニングのイネーブラーなどへの機能が備えられている。
これらのツールは当初、主流の「クリアネット」インターネット フォーラム、つまりアマチュア向けプラットフォームでデビューしたが、その性質のため、最終的には追放された。 その結果、開発者は Telegram に目を向けた。 「CanadianKingpin12」という別名で活動する「FraudGPT」の開発者は、さらに 2 つの生成 AI ツール「DarkBART」と「DarkBERT」が間もなくリリースされることも明らかにした。 前者は、Google の Bard AI の亜種を表していると言われている。後者は、ダークウェブのコンテンツでトレーニングされた包括的なアプリケーションの役割を担っている。これらの新しいツールは Google レンズとの統合を特徴としており、テキストと画像の両方を介した入力が可能になる。ただし、その効果と最終的なリリースは依然として不確実だ。
初期のサイバー犯罪ツールは、生成 AI モデルを通じて、または革新的な開発の結果として、予見可能な将来に拡大する準備が整っている。現在のツールは自然言語に似た電子メールを生成する能力を発揮しますが、精緻なソーシャル エンジニアリング キャンペーンの調整や、あいまいなゼロデイ脆弱性の特定など、より複雑な目的を果たすために進化する可能性が考えられる。
高度なサイバー犯罪ツールの急増により、アマチュアハッカーにその影響を拡大する能力を与え、攻撃量を急増させる可能性が目前に迫っている。並行して、正規の生成 AI モデルを悪用し、違法な活動への参加を防ぐ障壁を回避することに重点を置いた地下取引が出現した。 この急成長する取引には、サイバー犯罪者が報酬を得るために操作されたプロンプトを交換することが含まれており、盗まれたログイン資格情報の取引を模倣している。「CanadianKingpin12」が主導する取り組み「DarkBERT」は、こうしたアクセスを容易にするように設計されているようで、当初はダークウェブから知識を吸収することでサイバー犯罪と戦うために考えられたモデルをサイバー犯罪者が操作できるようになる可能性がある。
簡単にアクセスできる生成型 AI サイバー犯罪ツールが急増する中、組織は防御戦略を強化するというプレッシャーの増大に直面しています。 AI 主導のセキュリティ ツールは、自動化された脅威検出によってある程度時間稼ぎできる可能性があるが、最前線の防御の核心は依然として従業員の意識を高めることだ。これらの高度な機能を包括的に理解することと、人をターゲットにした複雑な攻撃のリスク増大についての理解を深めることが、堅牢なサイバーセキュリティ実践の基盤を形成する。
2023年8月20日 日曜日