ども、Webマーケティングチームのいきをです。
この記事はNHN テコラス Advent Calendar 2018の14日目の記事です。

開催開始から7回目となる今年のre:Invent2018には、なんと5万人もの来場者（日本から1,300人以上）が参加し、新しく発表されたサービス・機能は100以上（昨年が40だったので、2.5倍！）にものぼるそうです。
発表されたサービスの多さからも、ビルダーズ(AWSの中ではITを駆使したものづくりを行う人達の総称のこと。エンジニアだけでなく、サービスを作り上げる際の全ての関係者を指す)に必要なときに適切なツールをいつでも提供するというAWSの強い意志を感じることができますね。

さて、100以上ものサービスが発表されたのですが全てを理解するのは難しいため、re:Inventに参加した若手エンジニアに注目しているサービスについてヒアリングしました。

tmtkが注目する、Amazon Elastic Inference

現在のディープラーニング業界において、ディープラーニングの計算コストの大きさは重大な問題になっています。ディープラーニングの計算コストの大きさに対処するため、各社がさまざまな取り組みを行っています。GoogleはTPUと呼ばれるハードウェアを開発し、Intelはエッジでの推論のためのMovidiusというデバイスを発売しました。エッジでの推論をソフトウェアベースで高速化しているベンチャー企業もあります。私自身もディープラーニングで作ったモデルを実用化する上で、推論速度の遅さに頭を悩ませた経験があります。
今回のAWS re:Invent 2018では、ディープラーニングの推論の高速化に関する製品が3つ発表されました。機械学習モデルをコンパイルして高速化するAmazon SageMaker Neo、EC2インスタンスにGPUの推論パワーを付与できるAmazon Elastic Inference、そして機械学習の推論専用チップAWS Inferentiaです。今回のこの3製品の発表は、ディープラーニングの推論の遅さの問題にAWSが本気で取り組む姿勢の現れであると、私は見ています。
Amazon Elastic Inferenceをつかえば、GPUの推論能力を好きなEC2インスタンスと組み合わせて、CPUやメモリとGPUのバランスを柔軟に選択できます。この柔軟性によって、コストが削減できるということのようです。
Amazon Elastic Inferenceを使ってみるには、この公式ドキュメントにしたがえばいいです。なお、私のミスかもしれませんが、ap-northeast-1ではうまく動かず、かわりにus-east-1では動きました。
みたところでは、Amazon Elastic Inferenceを使えばEC2インスタンスをそのままGPUが載っているかのように使えるというわけではなく、「TensorFlow Serving」というプログラムがモデルをElastic Inferenceに送信し、gRPCから「TensorFlow Serving」に推論に使いたいデータを送ることで、推論結果を得るという仕組みのようです。
また、公式ドキュメントの別のページによれば、Elastic InferenceはEC2インスタンスの立ち上げ時にしかアタッチできず、デタッチをするためにはEC2インスタンスを終了する必要があるなど、いくつかの制約があるようです。
いくつかの制約があり、また完全にGPUと同じように使えるわけではないElastic Ineferenceですが、安価にGPUの高速化の恩恵にあずかれるところは魅力的です。Elastic Inferenceによってディープラーニングを使ったアプリケーションがより安価に実現できるようになり、ディープラーニングの実用化がますます進んでいくはずです。今後のAWSのディープラーニング関連製品の展開が楽しみです。

qldbが注目する、AWS Outposts

AWS Outpostsは、C5、M5、R5を始めとするNitro世代のAWSハードウェアをオンプレミスに(※1)持ち込むことができるというサービスで、2019年ローンチ予定となっています。
しかも、マネージメントコンソールやAPIを始めとするAWSの操作感はそのままで、1サーバーからラック単位で発注できるようです。
当社ではデータセンター・MSP事業を10年以上前から提供しており、物理的な設置場所(※2)やバックボーン回線(※3)を有しています。
筐体ごとに構成が違う物理サーバーの調達や管理、サポートに強みを持ったフルマネージドホスティングも提供しています。
AWS Outpostsと既存のオンプレミスサーバーを低遅延で接続するなど、適材適所の活用法を探りたいと考えています。

(※1) AWS Outposts FAQs Page
(※2) 歌舞伎町データセンター24時～livedoorさん　データホテル
(※3) データセンターなんでもランキングmonthly（2018年12月）

以上、若手エンジニアが注目しているAWSの新サービスでした。

サービスが増えすぎてわけがわからないぜ！と混乱してしまっている方（私もです）
まずは基本に立ち返って新しいサービスではなくいま導入・運用している環境に必要なのかを見極めてからでも遅くはありません。