【蒸留モデル】の検索結果
@taka_hvc1 thinking設定を下げても十分賢いので、結果的に従量課金でも同額~ちょっと高い程度で済むかなあという感じはします。
たぶんこの蒸留モデルであるOpus/Sonnet 5が出てくると思うので、ヘビーな実運用はそっち待ちかなあという感じ。
RE: https://ukadon.shillest.net/@gallnuts/116721779040242834
Fableは日本語まともに戻ったので、Opus/Sonnet 5も戻ってくれると期待したい…。たぶんMythos/Fableのトークナイザをぶっこんだ上にthinkingブロックを英語縛りにしたせいで、4系のデータセット+5系のインフラという歪んだ状態になって、ルー語状態になってたんだと思う。
thinkingブロック英語縛りはたぶんこのままだろうけど、ルー語傾向は「日本語まとも」の影響で蒸留モデルもだいぶ改善してくるはず。
硬くて雑味が少なくてトークナイザも変わってるので、これMythos Previewの蒸留モデルだったりするのかねえ。なんか感覚的にデグレした感が強くて、ホンマか?自分の感覚が壊れてないか?としばらく悩んでる…
