Deep Learning

LUT-Network

少し見えてきたLUT-Netの可能性

前書き このところバイナリネットワーク(ディープラーニングの一種)にかかりきりですが、ようやく少し希望が見えてくると同時に、私の中でも自分がやろうとしていることがどういう位置づけにあるのか整理できて来ました。結論を先に書くと、「XNOR-N...
LUT-Network

LUT-Netの力技での学習部分について

ここまでまだ十分に実験が進んでいないにもかかわらず期待と憶測だけで記事を進めてきました。 狸の皮算用になるかもしれませんが、まあサンデープログラマが趣味でやってることなので大目に見てください。 プロの研究者の方々は、成果が出るまでしっかり実...
LUT-Network

LUT型のネットワーク考察のその後(途中経過)

このところひたすらLUT型の演算ネットワークにはまっています。ちょっとした思いつきからスタートした事ですが、やる程に面白みと期待が増して行きつつ、やることはどんどん増えている印象です。まず今回のアイデアであるLUT型のネットワークノードを整...
LUT-Network

続・FPGAのLUTで作るバイナリニューラルネットのアーキテクチャ考察

備忘録程度にその後の解析を少し追記しておきます。 まず、現状の範囲だと認識率は95%程度で頭打ち感が出てきたので、少し解析モードに入っています。 なお、パラメータを変えて流すのを繰り返しつつ、都度、気まぐれにいろいろなログコードを埋めて観測...
LUT-Network

FPGAのLUTで作るバイナリニューラルネットのアーキテクチャ考察

前回の続きの考察です。  まず、今やっているアプローチは既存FPGAでの実装都合観点からのアプローチであって、自由にLSIが設計できる状態でのトランジスタ効率を語っているわけではない点は最初に断っておきます。 まじめにFPGAでDNN(ディ...
LUT-Network

FPGAアーキテクチャ上でのバイナリDNNについての考察

ご承知の通り、世の中ではDL(Deep Learning)の一定の成功の元に、DNN(Deep Neural Network)が大流行です。 最近ではやや(ビジネス的な)限界点も見え初めて少し落ち着き気味(最初が盛り上がりすぎなだけ?)では...
Deep Learning

Deep Learning と演算器の考察

Windows機にCaffeをインストールしてみました。使いこなそうとすると、Linux + CUDA なのだと思いますが、普段Linux必要なときはVirtualBoxで済ませている向きとしては、その為にもう一台PCを用意するとかはハード...