llama2.cでトレーニング

llama2.cでトレーニングをしてみた。

$ python train.py

そのままの設定の場合、CUDAで実行してしまって、RTX4080のメモリだと足らなくて落ちてしまった。

実行環境だけCPUオンリーにして再実行してみた。

すごく時間がかかっているようだけど進んでいるっぽい。

1日経っても終わらなかったらパラメータを見直して実行し直そう。