16bitのやつはメモリの帯域幅に相当影響されるので4bitだといい感じかもしれない
DGX Sparkはメモリの帯域幅が弱いので、nvidiaが画期的な何かを発表するまでは弱いはず
カタログスペックに載ってるメモリの帯域幅とかを鑑みると妥当なんよな。ここからどれだけパワワップするのか
DGX Sparkが続々と届いているみたい。llama3 70bが4tpsか
そうだ、サーバにTalosLinuxを入れよう
何もしていないとネガティブな思考が始まってしまう
眠るのは諦めて、日の光を浴びよう
うーん うーん
しにたみがとてもつよい。しぬつもりはないけど
あ、これ身体むりかも
