きっかけ きっかけは二つありまして １．KerasでImageDataGeneratorを使い大量の画像で学習したり batchサイズを大きくすると、GPUのメモリが不足して（？）計算が止まる事がある ２．Tensor coreを使うためにFP16で計算させたいが GPUにFP16でデータ渡ってるの？ そもそもTensor core動いてるの？ というわけでGPUのログを取れないかと調べておりまして @kuroyagi様の記事を参考に動かしてみました https://qiita.com/kuroyagi/items/e70c55cbc88fc0ed0220 @kuroyagi様の記事は「Jupyter」を使用していましたが この記事では「spyder」を使用しています 結論としてはログは取れるようになりましたが ログの中身の解説は全くありません() 確認環境 OS:Windows10Hom
新しくPCを組んだので入れ方をメモ なんで9.0+V7.1かというとjetson TX2と同じにしたかった為 1.入れたものと入れた先の情報 1)インストールしたもの cuda_9.0.176 CuDNNv7.1 2)インストール環境 OS:Windows10Home GPU：GTX1070 GPUのドライバー：399.07 VS2015：Version 14.0.25431.01 Update 3 開発環境 (1)python3.6.6 (2)tensorflow1.10.0 (3)keras2.2.2 2.ソフトの入手 1)VS2015 ローカルにあったのを使用（） 2)CUDA9.0 ダウンロード 本体とパッチ４つを落とす 3)CuDNNの入手 ダウンロード 詳細略() 3.インストール 1)VS2015 入れるときはカスタムにしてC++とPythonのオプションを入る 2)CUDA
Visual Studio 2017 + OpenCV 3.4.1 + CUDA 10.0 + Intel TBB 2018U5 ビルド手順BuildCUDAOpenCVVisualStudioVisualStudio2017 環境 ・Windows 7 Professional 64bit ・Intel Corei7-3770K ・16GB RAM ・Geforce GTX 780 ・Visual Studio 2017 Version 15.7.0 ・CMake 3.12.0 事前準備 ・OpenCV 3.4.1 ダウンロード 「Sources」をクリックしてダウンロード。 ダウンロード後、解凍(e.g. C:\opencv\3.4.1) ※今回はエクストラモジュール入れてません。 ・Intel TBB ダウンロード 「tbb2018_20180618oss_win.zip」をクリック
NVRTCError Traceback (most recent call last) /usr/local/lib/python3.6/dist-packages/cupy/cuda/compiler.py in compile(self, options) 240 try: --> 241 nvrtc.compileProgram(self.ptr, options) 242 return nvrtc.getPTX(self.ptr) cupy/cuda/nvrtc.pyx in cupy.cuda.nvrtc.compileProgram() cupy/cuda/nvrtc.pyx in cupy.cuda.nvrtc.compileProgram() cupy/cuda/nvrtc.pyx in cupy.cuda.nvrtc.check_status() NVRTCError:
nvidia driver 375 sudo apt-get install nvidia-375 sudo service lightdm restart reference 日本語入力 不完全な〜〜〜のダイアログが表示されるのでインストール 設定->テキスト入力-> 次のソースへ切り替え 半角全角キーを押す 設定->言語サポート すべて適用 デュアルブート -grub sudo fdisk -l sudo blkid /dev/sda /dev/sda: PTUUID="dff0173d" PTTYPE="dos" sudo gedit /etc/grub.d/40_custom 以下、記載して保存 Register as a new user and use Qiita more conveniently You get articles that match your needsY
CUDA 10.0 Download (deb) sudo dpkg -i cuda-repo-ubuntu1604-10-0-local-10.0.130-410.48_1.0-1_amd64.deb sudo apt-key add /var/cuda-repo-10-0-local-10.0.130-410.48/7fa2af80.pub sudo apt-get update sudo apt-get install cuda cuDNN 7.3.1 cuda10 official wget tar xzf cudnn-10.0-linux-x64-v7.3.1.20.tgz sudo cp -a cuda/lib64/* /usr/local/lib/ sudo cp -a cuda/include/* /usr/local/include/ sudo ldconfig CUDA
この記事について CMakeを使って、CUDAアプリケーション開発用プロジェクトを作ります。WindowsとLinuxの両方でビルドできるようにします。 が、今回はLinux側は環境構築していないので、動作未確認です。 CMakeを使うことのメリット マルチプラットフォーム対応 インクルードパスやライブラリ設定を自動化できる (特に、GitHub等で他の人に渡すときに便利) 環境 Windows10 64-bit Visual Studio 2017 Community Version 15.6.7 _MSC_VER = 1913 CUDA 10.0 CUDAとVisualStudioのバージョン問題 CUDA 9.0だと、_MSC_VER = 1911以降のVisual Studioをサポートしていません。公式に言われているわけではなさそうですが、_MSC_VERのバージョンチェックでエ
環境構築の流れ 以下の流れで構築します。 NICの設置 UEFI(BIOS)の設定 ESXiのインストール、ネットワーク設定 GPUパススルーの設定 Ubuntuのインストール UbuntuでGPUを使用するための設定 各種ソフトウェアのインストール 1. NICの設置 ESXiは対応しているNICが限られており、Realtek社などのオンボードNICは対応していないことが多いです。 IntelのオンボードNICなら対応しているかもしれませんが、今回使用するオンボードNICはRealtek社製であり非対応でした。 NICのドライバを入手してESXiのイメージを作り直す方法もありますが手間なので、今回はIntel NICを導入しました。 2. UEFI(BIOS)の設定 GPUパススルーするにはUEFI(BIOS)の以下の設定変更が必要です。 具体的な設定項目は使用するM/Bによって異なるた
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? インストール環境 ・Windows 7 Professional 64bit ・Intel Corei7-3770K ・16GB RAM ・Geforce GTX 780 ・Visual Studio 2017 Version 15.7.0 Step 1. GPUの確認 ここにアクセスし、GPUがCUDAを使えるかを確認する。 Compute CapabilityはCUDAで使える機能の豊富さだとでも思っておけばよいです。 https://developer.nvidia.com/cuda-gpus Step 2. ダウンロード 以下か
追記 CuPy v7でplanをcontext managerとして扱う機能が追加されたので、この記事の方法よりそちらを使う方がオススメです。 はじめに CuPyにv4からFFTが追加されました。 これにより、NumPyと同じインターフェースでcuFFTを使うことができるようになりました。 しかし、NumPyとインターフェースを揃えるために、cuFFTの性能を使い切れていない場合があります。 この記事では、CuPyの内部実装を利用することによってFFTを更に高速化する方法を紹介します。 （注）この方法は仕様になっていない内部実装を利用するので、minor updateでも使えなくなる可能性があります。 環境 CPU: Intel Core i7-8700K GPU: GeForce GTX 1080 Ti CUDA: 9.1 NumPy: 1.15.2 (+MKL) CuPy: 4.4.1
始めに CUDAプログラムの実行時間を計測するための色々な方法のまとめ記事です。仕事に必要で自分なりに一生懸命に探した結果なのですが、もし間違っている場合は是非お教えください。 結論から言うと並列処理の最適化をする場合ならNVIDIA Visual Profilerが役に立ちます。コードの最適化の為なら最後のTimer registerを使う方法が一番いいと思います。 ホスト側でCUDAカーネルの実行時間を測定する CUDAプログラムは基本的にホスト側が主導権を持つ為、タイマーもまたホスト側でコントロールすることが自然な考え方ではあります。その為、関連した関数や文書は容易に探す事ができます1。 CudaEvent NVIDAで用意した時間測定のためのイベントです。GPUの時間を記録するcudaEvent_tオブジェクトとそのオブジェクトに時間を刻むcudaEventRecord関数を使いま
いつも AWS だったので、 GCP でもやってみる。 $300分お試し無料らしい GCP の環境構築手順 インスタンスを作成する（スペックとか適当） ssh鍵の登録。VM落としている状態で、インスタンスを表示して編集、[ssh鍵がn個あります]のところの[表示して編集する]。テキストボックスにssh公開鍵をコピペ。買って認識される 最後に[保存] インスタンスを再度起動すると登録したssh鍵のユーザ名でアカウントができていてsloginできる UDPが開いていないのでmoshでloginできない。そこでダッシュボードメニューの下の方に[VPCネットワーク]というのが隠れていて、そこの[ファイアウォール ルール] [ファイアウォールルールを作成]で適当な名前で[トラフィックの方向]上り、[ターゲット]は全てのインスタンス（どうせ他でも使う）、[source IP]を0.0.0.0/0、[指
MIOpen にはわずかに届きませんでしたが、MIOpen は cuDNN と同様に Winograd などのカーネルをアセンブリで実装していることを考えると、AutoTVM の結果はかなり良いと考えられます。また、R9 Nano と GTX 1070 ti の理論性能はほぼ同等ですが、CUDA 版の結果と比較しても特にVGG については大きな遜色はなく、AMDGPU でも十分高速に推論ができることがわかると思います。Resnet については CUDA 版と比べて少し開きがあるので要調査です。AMD 版が少し遅いことの理由の一つとして、コンパイラの成熟性が挙げられます。NVCC がすでに 10年以上使われているのに対して、LLVM の AMDGPU バックエンドはまだ比較的新しいです。今後のパフォーマンス改善には期待できると思います。 終わりに AutoTVM の成果物として、今のところ
新しくPCを組んだので入れ方をメモ なんで9.0+V7.1かというとjetson TX2と同じにしたかった為 #1.入れたものと入れた先の情報 1)インストールしたもの cuda_9.0.176 CuDNNv7.1 2)インストール環境 OS:Windows10Home GPU：GTX1070 GPUのドライバー：399.07 VS2015：Version 14.0.25431.01 Update 3 開発環境 (1)python3.6.6 (2)tensorflow1.10.0 (3)keras2.2.2 #2.ソフトの入手 1)VS2015 ローカルにあったのを使用（） 2)CUDA9.0 ダウンロード 本体とパッチ４つを落とす 3)CuDNNの入手 ダウンロード 詳細略() #3.インストール 1)VS2015 入れるときはカスタムにしてC++とPythonのオプションを入る 2)C
こんにちは、すすむです。 半導体エンジニアをやりながら機械学習について学んでます。 Intel RealSense D435を手に入れたのでまずは環境整備しました。 #やること librealsense2をCuda, PCL, OpenCV, Python紐づけでVisual Studio 2017で ビルドしました。いくつか複雑な手順があったので備忘録です。 ##環境 CPU: Intel(R) Core(TM) i7-8700 GPU: NVIDIA GTX 1070Ti Windows 10 Home CUDA 9.2 Visual Studio Community 2017 (version 15.8.1) Visual C++ SDK : VC15 (version 14.15) CMake 3.12.0 Python 3.6.6 Point Cloud Library 1.8.
前回の記事では、Winograd アルゴリズムの概要、TVM によるアルゴリズムの定義、ナイーブな GPU 実装、までを説明しました。今回は、ナイーブなスケジュールから出発して、ステップバイステップでスケジュールを改善していきます。最終的には、 TVM 本家の Direct Convolution よりも 2 倍近く速くなります。また、TVM には AMDGPU 向けのバックエンドもあるので、AMDGPU 用のカーネルを生成することもできます。NVIDIA GPU 向けに高速化したスケジュールが、 AMDGPU でも高速に動作することを最後に示します。 高速化 1. 入力変換、出力逆変換の改善 まずは、入力タイルの変換 $V$ の計算スケジュールを改善します。$V$ は、サイズ (4, 4, 全タイル数, チャネル数) で、入力タイル $d$ に変換行列 $B^T$ を左右からかけた変換
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く