【キャンペーン】サイバーリスク スコアリングキャンペーン(1/23)
\ 来年度の戦略や計画策定に / 詳細についてお問い合わせ、お見積りはこちら 簡単リスク評価!キャンペーン実施中! 近年、サイバー攻撃はますます巧妙化し、サプライチェーンを標的とした攻撃も増加しています。経済産業省も企業のサイバー対策強化を推進しており、2025年度には企業のサイバー対策を5段階で格付けする制度を始める政策案を公表しています。 自社のセキュリティ対策は万全ですか? 取引先のセキュリ...
SOMPO CYBER SECURITY
AIパッケージ幻覚(AI Package Hallucinations)あるいはAIパッケージ・ハルシネーションは、人工知能における「幻覚」(Hallucination)を悪用する攻撃手法です。
幻覚は、人工知能が情報を捏造し、あたかも事実を吐いているかのように振る舞う挙動を示す用語ですが、攻撃者はこの幻覚を悪用し、ChatGPT等のAIチャットボットに対して、悪意のあるコードパッケージをユーザーに推奨するように働きかけます。
この攻撃手法は、Vulcan Cyber社の研究チームによって公表された後、メディアで報じられました。
攻撃シナリオでは、攻撃者はChatGPTに対し、コーディングの問題に関する解決策を質問します。これに対しChatGPTは幻覚を伴う回答、すなわち実際には存在しないパッケージリポジトリを含む複数のパッケージを解決策として回答します。
この回答を確認した攻撃者は、ChatGPTが提示した存在しないパッケージ名を持つ悪性パッケージを公開することにより、ターゲットに対し悪性コードを配送することができます。
現在主流となっている悪性パッケージの配布方法は、タイポスクワッティング等を用いたなりすまし/偽パッケージの公開ですが、AIパッケージ幻覚を用いることで、このような攻撃がより検知しにくくなる可能性があります。
参考記事:ChatGPTとサイバーセキュリティ
\ 来年度の戦略や計画策定に / 詳細についてお問い合わせ、お見積りはこちら 簡単リスク評価!キャンペーン実施中! 近年、サイバー攻撃はますます巧妙化し、サプライチェーンを標的とした攻撃も増加しています。経済産業省も企業のサイバー対策強化を推進しており、2025年度には企業のサイバー対策を5段階で格付けする制度を始める政策案を公表しています。 自社のセキュリティ対策は万全ですか? 取引先のセキュリ...
目次 はじめに・キャンペーン特価のご案内 ワンタイムレポートの戦略的利点 ワンタイムレポートの実用的なユースケース 継続的な脅威インテリジェンス活用への入り口としてのワンタイムレポート まとめ はじめに 皆さん、こんにちは。 今日の絶え間なく進化を続ける脅威のもと、組織はサイバーセキュリティ戦略を常に見直し、調整する必要があります。サイバー脅威インテリジェンス (CTI) の継続的な監視はプロアク...
目次 はじめに CTIを活用したセキュリティ強化 4例の紹介 ソリューションとしてのCTI グループ会社間でのこ効率的な利用 予算に優しいアプローチ:レポートサービスの活用 まとめ はじめに 皆さん、こんにちは。 SOMPO CYBER SECURITYで上級研究員を務めるマオール・シュワルツ(Maor Shwartz)です。 私は来日する以前から現在までの10年近く、軍(イスラエル国防軍8200...
脅威インテリジェンスサービスCognyteは、ダークウェブやTelegram、SNSなどから膨大な情報を収集し、情報漏洩や脅威アクターの活動を検知することによって、組織のサイバー・リスクを軽減させるサービスです。 COGNYTE | 2024年10月 お手頃価格で効率的に脅威をモニタリング。脅威インテリジェンスサービス「Cognyte」はこちら 記事に関するご意見・お問い合わせはこちらへお寄せくだ...