AI

KM_Information System

Abstract#

2025年12月16日、最近のAIの進化は本当にすごい。予言していた人はいっぱいいるけど、本当にここまでくるとは。ここではAIに関する知識を。

Topics#

ローカルにAIを作って、自分だけのAIを作ってみたい。非公開情報とか入れて。#

Ollama(ローカルAIエンジン)
llama3.1:8b(モデル)
llamaIndex(非公開データの読み込み)
Streamlit WEB UIを担当するPythonベースのフレームワーク[1]ちなみに、このSteamlit、たしかにWEB開発が簡単にできるような感じですが、Visual Studio Codeを用いたデバックはやりにくいです[2]。僕はとりあえず諦めました。
Ollamaをインストールするのはインストーラーをダブルクリックするだけ。その後、PCのスペックに合わせ、モデルを選んで、$ oolama pull phi3:miniでモデルを入れ込むのも淡々とできる。
この状態で、AIと会話できるようになる。しかし、ローカルAIとして、この時点では、以下のことができない。(1)インターネットに接続させないので、最近のニュースのことを聞いてもわからない。(2)まだ記憶する仕組みを作っていないので、ものを覚えない。ひとつ前の会話のことですら、覚えていない。LlamaIndexをいれなければ。ここからが本番か

Reference#

  1. [#1]https://streamlit.io/
  2. [#2]@coleyon , 2020年12月05日, vscode で streamlit アプリを統合デバッグする方法, https://qiita.com/coleyon/items/a37ac950661e64a1d3ff