Ollama![]() | (ローカルAIエンジン) |
| Phi-3 Small | (モデル) |
| LlamaIndex | (非公開データの読み込み) |
| Ollamaをインストールするのはインストーラーをダブルクリックするだけ。その後、PCのスペックに合わせ、モデルを選んで、$ oolama pull phi3:miniでモデルを入れ込むのも淡々とできる。 |
| この状態で、AIと会話できるようになる。しかし、ローカルAIとして、この時点では、以下のことができない。(1)インターネットに接続させないので、最近のニュースのことを聞いてもわからない。(2)まだ記憶する仕組みを作っていないので、ものを覚えない。ひとつ前の会話のことですら、覚えていない。LlamaIndexをいれなければ。ここからが本番か |