2016-05

計算機科学

アルゴリズムの計算オーダーと並列度の話

各種アルゴリズムの計算量はしばし重要な問題である。またリアルタイムシステムや並列系の計算機(FPGAも含む)を考える場合、ワーストケースの検討も重要である。例えばIn-placeアルゴリズムの中で最速に属するクイックソートのアルゴリズムは平...
計算機科学

ALUがNANDゲート1個のCPUは可能か?

ふと表題のようなお馬鹿なことを考えてみた。ロードストア命令や分岐命令は普通にあり、レジスタも例えば32bit汎用レジスタが16本とか普通にあるが、なぜか算術演算だけはNANDしかないというプロセッサだ。算術命令は任意のレジスタの任意のビット...
技術記事

ZyboでSobelフィルタ

GWに書くだけ書いて試していなかったSobelフィルタを動かして見ました。目的は、N x M のブロックフィルタを準備することで、ものすごく前に買ったイメージセンサの現像処理(デモザイク)を書く前置きだったりします。なので、OpenCV の...
FPGA

作成した浮動小数点演算ライブラリの整理

作成した浮動小数点演算ライブラリを整理してみました。XILINXのIP使えば済む話ではあるのですが、 ・低精度でいいけど高速な逆数計算が欲しかった(本命) ・非正規化数とか例外とか不要なのでコンパクトにしたい ・IPコア使うと verita...
FPGA

ZYBOで射影変換をやってみた

浮動小数点除算器がある程度デバッグできたので、除算が無いと出来ない応用ということで、HDMI入力を射影変換してVGAで表示する実験をやってみました。 結局ノリで、浮動小数点加算器/乗算器なども書いてしまいましたが、そこそこ楽しかった&よい勉...
技術記事

射影変換の逆

低精度浮動小数点除算器に目処が立ってきたので、射影変換でもやってみようかと思いきや、もともとCGに余り慣れてないこともあって、射影変換の逆変換をする行列の作り方がわからず Maxima 使って解いてみたので備忘録程度に張っておきます。sol...