70Bモデルのloadを試してみたが、
error loading model: llama.cpp: tensor 'layers.0.attention.wk.weight' has wrong shape; expected 8192 x 8192, got 8192 x 1024
となって、いまのところうまくいかず。Mac studioならロードできるのだったら即買いしてでも試してみたいが…
7Bモデルで小児虐待への対策を聞いてみたら、詳細は略すが、10項目立て、約3600字におよぶ懇切丁寧なご回答をいただく。
### Instruction: How we manage child maltreatment?
### Response: Managing child maltreatment requires a multi-faceted approach that involves various stakeholders, including government agencies, healthcare providers, educators, and community leaders. Here are some strategies that can be implemented to prevent and respond to child maltreatment:
(以下略) [end of text]
ただし、キーボードのキーを一文字一文字探しながら打っているようなスピードで、回答終了まで約２時間を要した。
llama_print_timings: total time = 6825726.47 ms
まだまだsingularityへの道のり遠し、という感じだろうかと思った。Mac studioなら失望せずにすむのだったら即買いして試したいが…
