Stockmark Tech Blog

自然言語処理テクノロジーで社会を進化させる ストックマークのテックブログです。

2020-11-01から1ヶ月間の記事一覧

Cloud TPUを用いたBERT推論処理基盤の開発

ML

はじめに Cloud TPUを用いた推論処理基盤 システム概要 MLOps Cloud Runを用いた全件処理時の工夫 Cloud TPU導入の効果 TPUとGPUのパフォーマンス比較 TransformersのBERTをTPUで動かす。 TPUを用いる上での工夫 まとめ ML事業部の近江崇宏です。 Stockmark…