LUT-Network パーセプトロンに代わる素子の可能性について
新しい学習モデルの可能性前回までFPGA回路の為に、FPGA内のバイナリLUT(ルックアップテーブル)の値を学習させることをターゲットにやってきました。今日は、今日はその試行錯誤の副産物として、バイナリとかFPGAとかから離れた、普通のCP...
Deep Learning
LUT-Network 
LUT-Network LUT-Networkの最新資料更新
FPGAXでお話のお時間を頂いて資料を作ってからある程度開発が進展してきました。Twitter上中心に、多くの方からご支援いただけたことをまことに感謝しております。特に marsee101さんには、FPGAの部屋にてBinaryBrainの...
LUT-Network 祝！ LUT-NetworkのLUTモデルの逆伝播学習動作
前回メモで書いた内容がどうやら動作したようなので、速報レベルで記事を書いておきます。上記はMNISTデータをFP32にて、入力値がそれぞれバイナリの1になる確率として計算した後に、実際にバイナリモデルにテーブルコピーを行って動作確認したもの...
LUT-Network LUT-Networkの為の学習方法アイデアメモ
先日、LUT-Networkでの回帰をやってみましたが、もともと観測すると1か0に確定するだけで、その確率を扱っているだけなので、多値が扱えないなんて事はまったく無いと思っています。 で、今日急にお風呂の中でLUT-Networkの学習を効...
LUT-Network バイナリLUT-Networkで回帰問題をやってみる
バイナリネットワークをやっていると課題の一つに「普通にやると回帰問題が解けない」というのがあるかと思います。バイナリネットはバイナリを入れてバイナリを出力しますので、そのままでは多値的なものが扱えません。例えば二乗誤差が最小になるようにフィ...
LUT-Network fpgax発表資料(2019/02/02) LUT-Network
今回、下記の勉強会で発表する機会を頂きました。fpgax #11 ＋ TFUG ハード部：DNN専用ハードについて語る会 内容はともかくとして、折角資料を作りましたので、Webでも公開したいと思います。 なお、実際の Slide Shar...
LUT-Network LUT-Network CNN実機動作
概要 Zybo Z7-20 にて、LUT-Network で構成したCNNが1000fpsの高速度カメラ入力にてリアルタイムで動き始めたので、結果を纏めておきます。 システムの構成とか、カメラやOLEDの高速駆動とかは過去記事をご参照くださ...
LUT-Network LUT-Networkの実機への組み込み
ひとまず実際にFPGAに組み込んで動き始めたので一旦ブログにも記載しておきます。 なおLUT-Network学習用の環境(BinaryBrain)はgithubにて公開しながら日々開発中です。 以前やったRaspberry PI用カメラ(...
LUT-Network 新しい Binary Deep Neural Network としての LUT(Look-up table) Network
はじめに 引き続き新しいバイナリネットとしてのLUT-Network が着実に進歩してきたので、途中経過をブログにまとめて行きたいと思います。 FPGAをターゲットに、リソース効率と速度重視の学習が出来る Binary Deep Neur...
LUT-Network 先が見え始めた LUT-Network について再整理（中間報告）
（この記事はまだ推敲予定です） ここ数ヶ月こればっかりやっている気がしますが、ようやく畳込みの学習が動くようになり、先が見え始めてきました。 目標は、1) 「既存の積和型演算によるDNNのFPGAでの高効率でのマッピング」2) 「LUT型演...