大きめの地震か
接触不良は叩くと治っちゃうことがある
VRChat用に買った2018年のゲーミングPC、グラボ換装してるとはいえ、そろそろ寿命感がある。
RTX3060Ti (VRAM 8G) + システムRAM 40GBでgpt-oss:20b動かしたら4.69 token/secだった。
ちなみにOpenRouterでやると189.6 token/secで出る。
この前のOpenAIの開発者情報流出に巻き込まれたのもちょっとある
他人の顔を伺いながら変化を前提としてLLM使うのに疲れたんだよね
AIが予習してるかと、それを再現できるかは別の問題だったりする
職場でローカルLLM使いつつ、趣味でOpenRouterしばいたり、色々調べはしてる。
けど、結局自分の懸念を払拭したいならローカルしか選択肢なさそうだと、昨日今日思ったところ
