USBのハードウェア化はHostデバイスが限定されるのでやめることにしました。
つぎはLLMの量子化を調査しています。
どんどん大きくなるパラメータを量子化するとなにか良いことが起こるのかというのが気になるところ…
メモリのサイズが小さくなるというのはわかっているのですがいいことというのはそういう点でなくて…
