小規模画像拡大DNNにおけるFP6量子化の評価: 条件探索と残差型・直接生成型の比較
FP6量子化の思考実験を小さな画像拡大DNNで検証した。量子化条件の探索、撮影系列を分けた174枚の比較、未使用12枚での評価から分かったことを書く。
COLLECTION
機械学習
→
FP6から考えるLLM量子化: 限られたbitをどこに配るか
FP6の隣り合う値の間隔をきっかけに、LLM量子化で限られたbitをどう配るか思考実験した。そこからJPEGの精度配分やZopfliの探索へ話が広がった。
アナログ回路で機械学習を試みるための回路を考える
物理回路を作る前に、マイコンとDAC、オペアンプを使った回路構成を数式とシミュレータで確かめます。
アナログ回路で機械学習はできるのか
アナログ回路で機械学習ができたら面白そうなので、まずは理屈を考えてみます。