llama2.cを試してみた。
$ ./run ELYZA-japanese-Llama-2-7b.bin -i "日本語で答えられますか?"
日本語でえられますか?
初めまして、このシステムを使うのが初めてで不安なのですが、日本語でえられますか?
するのは、外国の友達なのでの言葉で解してくれないとわかりません。
英語が手なので、直接えをいた方が良いです。
この英語は少しずつだけどしています。
achieved tok/s: 0.369454
雑然とした質問になんとな~く、答えてくれてますがこんな感じで動いているってことでいいのかな?