BCNセッションでは、週刊BCN副編集長の日高彰が登壇。「AIと『ともに』戦おう～ChatGPT時代のサイバーセキュリティ～」をテーマに講演した。


　2022年11月に登場した生成AI「ChatGPT」が、今、バズワード的な盛り上がりを見せている。「何か言葉を投げかけると、いろいろな情報を返してくれる」。問い合わせにソツなく答えてくれるChatGPTに期待する人は多く、1億ユーザーを獲得するまでにかかった期間はわずか2カ月だったという。

　ただ、現状の生成AIにはいくつかの懸念点も存在する。まず挙げたのは、情報漏洩や著作権侵害の可能性があること。生成AIは、インターネットなどで集めた文章や画像を教師データとして使って学習し、その学習結果をもとに質問への回答となる文章や画像を生成する仕組み。生成されたものが“教師データの丸写し”だと、情報漏洩や著作権侵害になってしまうのだ。懸念解消のために必要なことについては「情報漏洩についてはパブリッククラウドと同様にデータガバナンスで対応できるが、著作権侵害については国際的な枠組みに期待するしかないだろう」と語る。

　また、サイバーセキュリティについては、「サイバー攻撃の道具になってしまうのではないか」という懸念がある。具体的には、詐欺メールの文面を生成AIに考えさせたり、マルウェアをChatGPTに作らせたりといった使い方だ。「現状のChatGPTは『マルウェアを作ってください』という質問には回答しない仕組みが組み込まれているが、“上手に”質問すると不正な使い方もできてしまうようだ」としている。

　このほか、生成AIが組み込まれている業務アプリに攻撃者が巧妙なプロンプト（指示）を与えると、システムの内部情報を回答として出力してしまう可能性もあるという。

　「このような懸念を解消するために、“AIアプリケーションファイアウォール”のようなセキュリティ対策ツールがいずれ製品化されるだろう」。一般企業側でできる対策としては、「従業員の再教育」や「社内規定や業務プロセスの見直し」によってフィッシング攻撃に対抗したり、プロンプトを事前にチェックする仕組みを業務アプリに実装したり、といったことがあると解説した。

　さらに、生成AIをセキュリティ対策ツールとして活用することも考えられる。講演で示されたのは、マルウェアの解析とソースコードの脆弱性診断の二つの使い方。「これからのセキュリティ対策では、AIとともに戦っていくことになるだろう」と締めくくった。