文章を作るわけじゃない。Jevは何をするAIなのか
TypeSafe AIの判断モデルJevとは何か。LLMを分類や判断に使う際の課題から、Jevの型付き出力、並列評価、RLCD、確率の校正、confidence、判断を保留する設計まで、図と具体例で仕組みと基礎理論を考える。
COLLECTION
LLM
→
LLM・Embedding model・Jev・古典的なNLPをどう使い分けるか
検索、分類、判断を何でもLLMに任せるべきか。キーワード検索やBM25、Embedding model、判断モデルJev、LLMの役割を、具体例を通して整理する。
FP6から考えるLLM量子化: 限られたbitをどこに配るか
FP6の隣り合う値の間隔をきっかけに、LLM量子化で限られたbitをどう配るか思考実験した。そこからJPEGの精度配分やZopfliの探索へ話が広がった。