Deep Learning

技術記事

FPGA向けのリアルタイムAIモデルのアルゴリズムをどのように考えるべきか

はじめに当方はリアルタイムコンピューティングをやることを主軸に計算機アーキテクチャやアルゴリズムを考える事をメインに活動しおります。とりわけFPGAを用いたアプローチは有効で、FPGAを使った Real-Time OS であったり、オプティ...
技術記事

リアルタイムビジョンとは何なのか

ここ数年、若い学生さんとかやり取りする機会を頂いておりますが、特にAI方面の興味からFPGAに挑戦しようとする方々で、カメラとか計算機アーキテクチャとかハードウェア方面から少し遠い方々に、いろいろと私がやっていることが正しく伝わってなかった...
技術記事

リアルタイムRNNの考察

はじめに少し前に早稲田の学生さんとやり取りしていて、お絵描きしたのですが、埋まる前にこちらにも貼り付けて保全しておきたいと思います。以前下記の記事で書いた話の延長です。リアルで連続的な情報を使うという事従来CNNでは、ResNet にせよ ...
技術記事

BinaryBrainのやり残している研究

はじめに私が BinaryBrain を開発してからかなり経ってしまいましたが、当時適当に棚上げにしたままにしている技術課題は多数ありまして、原理的なところでまだまだ研究余地は沢山残っています。下記などでも少し書きましたが、純粋にネットワー...
技術記事

リアルタイムなAI認識(動画の連続性の活用)

はじめに最近、早稲田の学生さん向けに研究の種になりそうなアイデアを説明する機会も多くなってきました。折角なのでこちらにも少し同じことを備忘録として残していければと思います。以前、下記のようなことを書いてプチバズったことがあるのですが、同じよ...
技術記事

FPGAにおけるAIを考察する

FPGAの能力ここでは私がよく使っている AMD の Kria KV260 ボードを例に取り上げて具体的な話をしてみようと思います。リソース名個数容量演算DSP1,248Multiply and AddLUT117,12064 bit(LU...
Deep Learning

Deep Learning の開発フロー

当方FPGAで遊ぶために少し齧っているレベルで、この分野はの専門でも何でもないのですが、自分用の整理も含めて少しいつもより上流の視点で簡単な資料にしてみましたので置いておきます。(将来の勉強会などでプレゼン書く時の素材用という意味も含めて)...
LUT-Network

LUT-Networkの蒸留とMobileNet風構成とセマンティックセグメンテーション

はじめに従来のパーセプトロンモデルを使った学習ではなく、回路そのものを微分してFPGAを直接学習してしまおうという当サイトオリジナルのディープラーニングLUT-Networkですが、ここのところ深いネットを学習させるために蒸留(Knowle...
LUT-Network

LUT-Networkの蒸留(Distillation)について

今日は、Networkの蒸留(Distillation)について考察してみたいと思います。LUT-Networkに限らないのですが、その課題に学習時のGPUのメモリの不足と、学習時間の問題があります。例えばMobileNetという軽量なネッ...
LUT-Network

FPGAでのDNN(Deep Neural Network)の整理(LUT-Netまとめ)

はじめに現在DNN(Deep Neural Network)の実装において、FPGAの活用はしばし議論の対象になっています。もちろんDNN分野全体からするとニッチな部類に入るとは考えますが、FPGAベンダーはここに非常に力を入れており、作成...
スポンサーリンク