はじめに

こんにちは。YUJIです。

AWS re:Invent2024に現地参戦した際に、AI活用におけるセキュリティに関連するセッションがあったので見てきました！

現地の空気感と、セッションの概要についてわかりやすくお伝えできればと思います。

と、その前に個人的な思い

実は私自身も、10月に地方自治情報化推進フェア2024で
『生成 AI活用 + セキュリティ』という、同じようなテーマで登壇する機会がありました。

セッション内容への興味も勿論のこと、セッション中の立ち居振る舞いも今後の参考になるかと思い
ぜひ生で見てみたく、予約して現地で見てきた次第です。

開場まで

re:Inventのセッションの待機列は
・事前予約済みの列
・walk-up列(当日枠)
に分かれますが、自分は事前予約済みなので、右側の列に並んでいます。

walk-upにもそれなりの列が出来ていて、AI トピック自体の人気と、AI を活用する際のセキュリティ対策についての関心の高さがうかがえます

1分でも遅れたらwalk-up列の人に席が開放されるので、事前予約していようがセッションは遅刻厳禁です。

セッションアーカイブ(Youtubeリンク)

AWS re:Invent 2024 – AI in the cloud: Heroes, “villains,” and security strategies (AIM240)

セッションの主題

AIにおけるリスクと解決策を解説する。というのがセッションの前提であり
かつ、技術的な内容を箇条書きしたような、「TechTechTechTechTech…..(早口) 」なセッションではなく
「おとぎ話のように、リスクをヴィラン(悪役)、解決策をヒーローとして、分かりやすく情熱を持って学ぼう」
というのが、このセッションの主題です。

本編

AI活用について、下記の前置きからセッションがスタートします。

• AIツールがより身近になった。(一時期はAI自体が疑問視されていたが、最早そのフェーズではない。)
• 開発者やセキュリティチームはより迅速にイノベーションを起こせるようになった。
• しかし、場合によっては悪意のある攻撃者も同じ力を手にすることになった。

そのため、AI活用においてクラウド環境をいかに保護するか、いかに組織のデータの安全性を確保するか。
が重要であるという事をフェルナンド氏は説明します。

「ヒロイックなAI活用の旅をする上で、防御策を計画することがいかに重要か。」
それを、フェルナンド氏自身が書き上げた資料(Security for AI Blueprint)から紐解いていく内容に入ります。

Is AI usage exposing your organization to vulnerabilities? Our comprehensive Security for #AI Blueprint offers a robust cybersecurity framework, including threat modeling for Large Language Models (#LLMs).

Download here and learn more:https://t.co/hiaz9qPC9O pic.twitter.com/HAHg0CXWE8

— Trend Micro (@TrendMicro) December 13, 2024

AI活用におけるヴィランとヒーロー、その一例

例えばデータ層としては、元となるデータは検証、分類、保護されているかが重要であり
下記のような解説がありました。

■ヴィラン(悪役)となるリスク

• データポイズニング
• データの盗難
• 機密情報の漏洩

■ヒーローとなる対抗策

• モニタリング
• 事前のデータ分類(個人情報データのタグ付など)
• データセキュリティに向けた姿勢のマネジメント

例えば、S3をはじめとして、EFSやRDSなど、色んな場所からデータを取ってきている場合に
「どの場所で利用されているか、どんな情報があるかを可視化できているかが重要」という事をフェルナンド氏は主張しています。
データソースは複数箇所に散らばりがちで管理がおろそかになるというのは、確かに生成 AIにありがちなリスクかと思います。

このあたりは、「ウチのTrend Vision Oneを是非とも使ってください」という事なのでしょうね。
抜け目ないスポンサーセッション、流石です。
(tips:今回のセッション名のAIM240-Sのように、セッションIDに”S”がついたものは、スポンサーセッションである事を意味しています。)

実際の所、ヴィランとして紹介されたリスクは確かに存在していて、防御策は講じるべきものなので
こういったサードパーティ製のソリューションを使うというのは、賢く効率的な選択だと思います。

他にも、セッション内では以下のような内容が語られました。

・クラウドの設定ミスのリスクに備えるために、CSPM（Cloud Security Posture Management：クラウドセキュリティ態勢管理）のような技術を活用し、ミスを検出・修正すること。

・脆弱性とマルウェアを防ぐためには、エージェントレス技術などの技術を使用すること。

・AI固有のセキュリティ態勢管理（AI-SPM）を理解し、ベストプラクティスを適用すること。
　(AI-SPMというのをこのセッションで初めて聞きました。海外の製品群では共通認識のような言葉になっていますが、明確に標準化されているわけではなさそう？)

セッションを通しての見習うべき点として
リスク、つまりこのセッションにおけるヴィランだけを並び立てて脅して萎縮させるのではなく
対策となるヒーローも多く紹介することで、「便利なAIをセキュアに使おう」と導こうとしているのを感じました。

まとめパート

「セキュリティを後回しにするのではなく、最初から考慮することが大事。」
「フレームワーク、つまり戦略を持つことを忘れてはならない。」
といった、フェルナンド氏のセキュリティファーストの哲学の紹介の後
「その後、様々な場面で、ヴィランに対してヒーローを立てた結果、AI活用する彼らは安全に暮らし続けましたとさ…」
というおとぎ話調で、セッションは締め括られます。

「冗談はさておき、楽しんで頂けましたでしょうか。」と英語で聞こえた気がしたので、現地で頷かせていただきました。
(筆者は英語が得意ではないので、文字起こし＆自動翻訳を使っていましたが限界がありました。来年もし機会があれば英語の勉強を頑張ります！)

個人的感想

技術的な学びもあり、スライドの作りが丁寧で
かつ登壇者本人も、ちゃんと聴講者たちに目線を合わせて、口調や挙動は落ち着き払いながらも
・アイスブレイクを挟む
・聴講者に問いかける
・分かりやすく噛み砕いて説明する
という事を凄く意識されているのを感じて、登壇機会がある側としては参考になる部分が多かったです。

「自身のセッションの際は、こういうところも意識しなきゃな」と思うのと同時に
実際にエンジニアとして顧客に生成AIを提案する際は、きちんとセキュリティファーストを意識しようと思いました。