はじめに

こんにちは、Shunです！
2024年8月1日(木)、2日(金)に行われたGoogle Cloud Next Tokyo ’24 へ参加し、DAY 1 基調講演を聴講してきました！

本記事では、発表内容を大きなアップデートや重要なことなどを1分で読めるようにまとめました！

本記事内の画像は、Google Cloud Next Tokyo ’24 DAY 1 基調講演の資料を引用しています。
引用: Google Cloud Next Tokyo ’24 Day 1 基調講演

概要

DAY 1 基調講演
今、世界中が注目する生成 AI に関するアップデートを中心に、Google の取り組み、および Google Cloud の最新ソリューションとカスタマーのユースケースをお届けします。日本で活躍するビジネスリーダーのビジョンを聞き、進化し続けるクラウド技術を知り、みなさまのビジネスをどうドライブすることができるか、ヒントを見つけてください。
出典: Next Tokyo ’24

発表内容

• 1,500億円を投資し、日本と北米を繋ぐ新たな海底ケーブルを2本構築することを発表しました。

AIハイパーコンピュータ

• NVIDIA社のH100が搭載された、A3 Mega VMs の一般提供が開始されました。
  

• NVIDIA GB200 NVL72 が2025年中にリリース予定との発表があらためてありました。
  

基盤モデル

• Google Cloud 上でPLaMo-100Bが開発されており、マーケットプレイスで利用可能になります。
  

• Gemma2 9B/27B が一般提供を開始しました。
  

• Llama 3.1 405B がプレビューとなりました。8B/70B は使用可能になる予定です。

• Mistral Codestral/Large 2/NeMo がモデルガーデンから使用できるようになりました。

Gemini モデル in Japan

• ユーザープロンプトやモデルの回答が日本に保存されるようになります。

• ML Processing in Japan
  • 今年の後半に、Gemini のバックエンド処理が日本国内で完結する機能が実装されます。
• Gemini for Google Cloud Service Level Agreement (SLA)
  • 規制が強い業界も安心して Gemini を使えるようになりました。
  • Google Cloud 向け Gemini サービス レベル アグリーメント (SLA)

Gemini

• Gemini 1.5 Pro/Flash コンテキストキャッシング（プレビュー）
  • 大規模なコンテンツキャッシュがプレビューで利用できるようになりました。入力コストが最大75%削減されます。

Grounding on Vertex AI

• サードパーティーによるグラウンディングが2024年度の第3四半期に導入予定です。
  • Moody’s、MSCI、Thomson Reuters 、Zoominfoなどの専門プロバイダーと協力して、各社のデータセットへのアクセス可能となります。
• 高忠実度モードによるグラウンディングが試験運用プレビューされます。
  • 高忠実度モードは、ハルシネーションを抑制する新機能です。
• Dynamic Retrieval が2024年度の第3四半期に導入予定です。
  • Dynamic Retrieval とは、ユーザープロンプトに応じて、RAG クエリを最適化する機能です。

詳細は、Google Cloud 公式ブログからも発表がされています。
Google Cloud expands grounding capabilities on Vertex AI