ChatGPTとは【用語集詳細】

カテゴリ
用語集 
タグ
用語集  用語集:英数字記号  用語集:C  通信技術 

SOMPO CYBER SECURITY

B!

脆弱性診断サービス

ChatGPTは、OpenAIが開発した対話型AIチャットボットです。
2022年11月に公開され、ユーザーの質問に対する精度の高い回答、あるいは一見それらしく見える誤答や自己訂正の対応例等が話題となり、全米ニュースでも大きく取り上げられました。
2023年2月には、公開から2か月でアクティブユーザーが推定1億人に達したと報道されています。

ChatGPTは、大量のテキストデータを与えて、タスクを通して学習させる「大規模言語モデル(Large Language Model)」と呼ばれるAI技術を活用しています。利用されているエンジンGPT3.5は、インターネット上の膨大なデータを集積し、人間からの質問に的確に回答できるように処理することができます。
また、質問を通じてプログラミング言語によるソースコードを生成する、あるいはバグを修正する能力も備えています。

ChatGPTが公開されるとともに、サイバーセキュリティやサイバー攻撃の観点からの調査や懸念も報じられました。
このチャットボットは、「爆弾の作り方を教えてほしい」、「マルウェアを作ってほしい」といった犯罪・危険につながる質問を制限しています。
しかし、SCmagazine紙の記事は、セキュリティ研究者がこの制限をうまく回避することで、完璧なフィッシングメールや、ランサムウェアと同等の機能を持つソースコードをAIに回答させることに成功したことを報じています。

またセキュリティベンダーCheck Point Software Technologies Ltd. による調査では、攻撃者がChatGPTを用いてフィッシングメールの作成・改良から悪性Excelドキュメント生成までを自動化・簡略化する可能性について示唆しています。この調査では、同OpenAIのコード生成用AIであるCodexを用いた悪性コード生成にも成功しています。
CyberArk社は、ChatGPTを利用し低労力でポリモーフィック・マルウェアを作成できるとのレポートを公開しました。

OpenAIはMicrosoft社の出資を受けており、今後100億ドル規模の投資を行うとForbes紙に回答しました。現在Microsoft社は、自社製品であるTeamsや検索エンジンBingと、ChatGPT・GPTエンジンとの連携を進めています。

2023年2月、ChatGPT搭載Bingに対して成功した攻撃として、プロンプト・インジェクションが米メディアで報じられました。

ChatGPTとサイバーセキュリティに関するブログ記事こちら



関連記事

アイランドホッピング攻撃とは【用語集詳細】

・ アイランドホッピング攻撃(Island Hopping Attack)は、軍事における飛び石作戦に由来する攻撃手法です。現在普及しているアイランドホッピング攻撃の一般的な定義は、脆弱な関連会社やパートナーを侵害し、本来のターゲットに移行するサプライチェーン攻撃に似た意味で用いられています。 .scope_blog .cover { margin: 80px auto 18px!importan...

アカウント乗っ取りとは【用語集詳細】

・ アカウント乗っ取り(Account Take Over、ATO)は、金融サービスやSNS、Webアプリ等のアカウントを不正に乗っ取ることで、詐欺や金銭窃取を含む様々な悪意ある活動を実行する行為です。 個人の口座アカウントやWebサービスから、企業や著名人のSNSアカウントまで、乗っ取りの対象は様々です。 ターゲットのアカウントを乗っ取る手段としては、フィッシングやソーシャルエンジニアリング、ビ...

アクセシビリティ・サービスとは【用語集詳細】

・ アクセシビリティ・サービス(Accessibility Service)は、障害を持つユーザーが快適に情報端末デバイスを利用するために、プラットフォーム企業が開発しているサービスです。 例えば、視覚障害、運動障害、聴覚障害のためにアクセスできないウェブページやアプリケーションを、スクリーンリーダー、音声ベースの入力システム、点字ベースのアクセスシステム、スイッチベースの入力システムなどでアクセ...

アウトオブバンドとは【用語集詳細】

・ アウトオブバンド(Out-of-Band、OOB)とは、「帯域外」や「不定期」を意味する言葉です。ITおよびセキュリティ領域においては、この言葉は様々な文脈で利用されます。 ITシステムの管理においては、特定のシステムに対しリモートからネットワークを用いて、通常のプロセスとは別個の手段を用いて管理することを指します(アウトオブバンド管理)。 アプリケーションにおけるアウトオブバンド通信(OOB...