【やってみた】Gemini 1.5 ProをColab EnterpriseでVertex AI経由で呼び出してみた
2024.5.17
はじめに
みなさんこんにちは、フクナガです。
NHNテコラスの生成AI担当として様々なキャッチアップを行ってきたのですが、そろそろ実装部分についても記事を書いていきたいなと思っています。
今回の記事では、超基本の型である「Vertex AIの使い方」についてご紹介していこうと思います。
「Vertex AIってPythonだとどんな感じで利用するの?」とか、「実装の難易度が知りたい!」という方にはぴったりの記事かなと思います!
Gemini 1.5 Proについて
Geminiの最新バージョン(2024年5月14日時点)で、テキストや画像に加えて音声、映像など多くの種類の入力に対応していたり、高いパフォーマンスを実現していることから、かなり注目されているモデルとなります。
「Gemini 1.5 Proを使いたいから、Vertex AIを採用する。」となる方も、少なくないかもしれません。
なぜColab Enterpriseなのか
以前、こちらの記事でColab Enterpriseについてご紹介をしました。
Pythonコードを実行できるノートブック環境を爆速で用意できるため、今回のようなプログラムの書き方や簡単なデモにはかなり重宝しています。
この記事では、実行環境を用意するパートをできるだけ省略し、要点だけお伝えしたいので採用いたしました。
次の手順に進む前に、Colab Enterpriseでの実行環境を用意してください!!
テキストでの回答作成
ここからは、「Colab EnterpriseでPythonノートブック環境を超短時間で用意する」を読み、Colab Enterpriseの実行環境を整えた前提で進んでいきます。
ざっくり何をやればよいか知りたい方は、先に以降の内容を読んでいただいても大丈夫です。
1. Colab Enterpriseコンソールでノートブックを作成する
添付画像では、ノートブック名を「VertexAI_Sample_fukunaga」と変更しております。
2. 下記コードをコードセル(コードを入力可能な部分)に入力し、コードセル左の実行ボタンを押下
!pip install "google-cloud-aiplatform>=1.38"
3. 下記コードをコードセル(コードを入力可能な部分)に入力し、コードセル左の実行ボタンを押下
このコードでは、Vertex AI呼び出し用の関数を定義しています。
import vertexai from vertexai.generative_models import GenerativeModel, Part def generate_text(project_id: str, location: str, prompt: str) -> str: # Initialize Vertex AI PROJECT_ID = project_id REGION = location vertexai.init(project=PROJECT_ID, location=REGION) # Load the model model = GenerativeModel('gemini-1.5-pro-preview-0409') response = model.generate_content(prompt) return response.text
4. 下記コードの値を指定のものに変更し、コードセル左の実行ボタンを押下
generate_text("プロジェクトIDを入力","リージョンを入力(us-central1など)","プロンプトを入力")
このような形で出力されれば完了です。
まとめ
今回の記事では、とにかくどシンプルに「Colab EnterpriseでVertex AI経由でGeminiを呼び出す」ということのみをご紹介しました。
このコードをベースに、前処理を実施したり、プロンプトを複雑にしたり、様々なことができると思いますのでぜひぜひチャレンジしてみてください!
参考
Vertex AI Gemini の API を試す
Google AI の Gemini から Vertex AI に移行する
Google Cloud生成AI活用支援 | C-Chorus | NHN テコラス
テックブログ新着情報のほか、AWSやGoogle Cloudに関するお役立ち情報を配信中!
Follow @twitterインフラエンジニア歴5年のフクナガです。2024 Japan AWS Top Engineers選出されました! AWS(特にAmazon BedrockとAWS CodePipeline)とGoogle Cloud(Vertex AI)が得意分野です。休日はベースを弾いてます。
Recommends
こちらもおすすめ
Special Topics
注目記事はこちら
![これから始めるBigQuery基礎知識](https://techblog.nhn-techorus.com/wp-content/uploads/2024/04/BigQuery-thumbnail.png)
データ分析入門
これから始めるBigQuery基礎知識
2024.02.28
![AWSの請求代行リセールサービス](https://techblog.nhn-techorus.com/wp-content/uploads/2021/11/OGP11.png)
AWSの料金が 8 %割引になる!
『AWSの請求代行リセールサービス』
2023.01.15