機械学習周りのプログラミング中心。 イベント情報
ポケモンバトルAI本電子書籍通販中

2020-05-04から1日間の記事一覧

TensorRTのバッチサイズチューニング【コンピュータ将棋】

前回の記事ではNVIDIA GPU上でDNNモデルを高速実行できるライブラリであるTensorRTの使い方について紹介しました。 select766.hatenablog.com その中で、最適化プロファイルの設定というチューニング項目の効果について紹介します。 TensorRTはモデルとGPUの…