Deep Learning

技術記事

BinaryBrainのやり残している研究

はじめに私が BinaryBrain を開発してからかなり経ってしまいましたが、当時適当に棚上げにしたままにしている技術課題は多数ありまして、原理的なところでまだまだ研究余地は沢山残っています。BinaryBrain を応用した研究について...
技術記事

リアルタイムなAI認識(動画の連続性の活用)

はじめに最近、早稲田の学生さん向けに研究の種になりそうなアイデアを説明する機会も多くなってきました。折角なのでこちらにも少し同じことを備忘録として残していければと思います。以前、下記のようなことを書いてプチバズったことがあるのですが、同じよ...
技術記事

FPGAにおけるAIを考察する

FPGAの能力ここでは私がよく使っている AMD の Kria KV260 ボードを例に取り上げて具体的な話をしてみようと思います。リソース名個数容量演算DSP1,248Multiply and AddLUT117,12064 bit(LU...
Deep Learning

Deep Learning の開発フロー

当方FPGAで遊ぶために少し齧っているレベルで、この分野はの専門でも何でもないのですが、自分用の整理も含めて少しいつもより上流の視点で簡単な資料にしてみましたので置いておきます。(将来の勉強会などでプレゼン書く時の素材用という意味も含めて)...
LUT-Network

LUT-Networkの蒸留とMobileNet風構成とセマンティックセグメンテーション

はじめに従来のパーセプトロンモデルを使った学習ではなく、回路そのものを微分してFPGAを直接学習してしまおうという当サイトオリジナルのディープラーニングLUT-Networkですが、ここのところ深いネットを学習させるために蒸留(Knowle...
LUT-Network

LUT-Networkの蒸留(Distillation)について

今日は、Networkの蒸留(Distillation)について考察してみたいと思います。LUT-Networkに限らないのですが、その課題に学習時のGPUのメモリの不足と、学習時間の問題があります。例えばMobileNetという軽量なネッ...
LUT-Network

FPGAでのDNN(Deep Neural Network)の整理(LUT-Netまとめ)

はじめに現在DNN(Deep Neural Network)の実装において、FPGAの活用はしばし議論の対象になっています。もちろんDNN分野全体からするとニッチな部類に入るとは考えますが、FPGAベンダーはここに非常に力を入れており、作成...
LUT-Network

LUT-NetのFPGAリソースについて

久しく作業が止まっていましたが、今日はLUT-Netと従来のネットワークとのFPGA化したときのリソース規模の違いを俯瞰しておきたいと思います。あらかじめ断っておきますが、ここで行う比較は認識率が異なるので公平な比較ではありません。通常のN...
Deep Learning

MNIST認識のリアルタイム動作環境更新

先日MNIST環境強化したのですがTwitterに書き込んでそのままだったので今更ながら更新しておきます。今回は Data Augmentation により、若干のスケール/回転/併進/ネガポジ耐性を付与 数字部分かを判定する2クラス分類器...
LUT-Network

LUT-NetworkでAutoEncoder

AutoEncoderが動いたしばらく開発に打ち込んでいたり、いろいろと行事もあって、ブログの更新が出来ていませんでした。その隙にLUT-Networkの開発の方は順調に進みまして、いくつかの成果が得られています。Twitterの方には報告...