これから月曜日はまとめの日にする。
まず、2024/11/04 ～ 2024/11/10 の先週のまとめです。
X の TL で気がついたんだけど、冬コミの当落発表が終わってた。
今回の当落日はまったくのノーマークだった。
10GBASE-T の 10G SFP+ のモジュールを使っているんだけど、モールドがやけどしそうなほど発熱している。
こんなに暑くなるんだね。
コスト的にも光ケーブルのほうが安価なので頃合いを見て 光ケーブルに変えようかな…
NAS も 10G 光にしたいんだけど NAS の SFP+ 拡張カードがないんだよね。
llama.cpp のソースコードを読んでいて、発見したのが sturuct に関数を置いて、それを実行できることだった。
そういうやり方もありなんだ！って、目からウロコ的な発見だったけど、正直言うとそのやり方、ソースコードを追いかけにくい。
struct hoge
{
hoge (...):(...);
void foo()
{
// ToDo
}
void init() // ここが struct 内での関数
{
foo();
}
};
struct hoge bar(); // struct を宣言して
bar.init(); // こんな風に実行するllama.cpp のソースコードを読んでいて、 初見の知識もなく読んでみたら、ggml が多く登場してきて ggml ってパラメータのフォーマットなんじゃなかったの？という状況に陥った。
ソースコード中に出てくる ggml は Tensor Library を指していて、 ggml はフォーマットではなかったのか？というのも特に間違いでもなかった。
今は gguf フォーマットに変わっているのでわざわざ ggml フォーマットを追いかける必要はない。
gguf のフォーマットは次のところにあるので読めばいい。