ChatGPTとは【用語集詳細】
ChatGPTは、OpenAIが開発した対話型AIチャットボットです。
2022年11月に公開され、ユーザーの質問に対する精度の高い回答、あるいは一見それらしく見える誤答や自己訂正の対応例等が話題となり、全米ニュースでも大きく取り上げられました。
2023年2月には、公開から2か月でアクティブユーザーが推定1億人に達したと報道されています。
ChatGPTは、大量のテキストデータを与えて、タスクを通して学習させる「大規模言語モデル（Large Language Model）」と呼ばれるAI技術を活用しています。利用されているエンジンGPT3.5は、インターネット上の膨大なデータを集積し、人間からの質問に的確に回答できるように処理することができます。
また、質問を通じてプログラミング言語によるソースコードを生成する、あるいはバグを修正する能力も備えています。
ChatGPTが公開されるとともに、サイバーセキュリティやサイバー攻撃の観点からの調査や懸念も報じられました。
このチャットボットは、「爆弾の作り方を教えてほしい」、「マルウェアを作ってほしい」といった犯罪・危険につながる質問を制限しています。
しかし、SCmagazine紙の記事は、セキュリティ研究者がこの制限をうまく回避することで、完璧なフィッシングメールや、ランサムウェアと同等の機能を持つソースコードをAIに回答させることに成功したことを報じています。
またセキュリティベンダーCheck Point Software Technologies Ltd. による調査では、攻撃者がChatGPTを用いてフィッシングメールの作成・改良から悪性Excelドキュメント生成までを自動化・簡略化する可能性について示唆しています。この調査では、同OpenAIのコード生成用AIであるCodexを用いた悪性コード生成にも成功しています。
CyberArk社は、ChatGPTを利用し低労力でポリモーフィック・マルウェアを作成できるとのレポートを公開しました。
OpenAIはMicrosoft社の出資を受けており、今後100億ドル規模の投資を行うとForbes紙に回答しました。現在Microsoft社は、自社製品であるTeamsや検索エンジンBingと、ChatGPT・GPTエンジンとの連携を進めています。
2023年2月、ChatGPT搭載Bingに対して成功した攻撃として、プロンプト・インジェクションが米メディアで報じられました。
ChatGPTとサイバーセキュリティに関するブログ記事はこちら
