私が「22世紀的」なローカルAIとの同棲生活を選んだ理由
おはようございます。東京・練馬の税理士、村田龍矢です。
今日は、私が「22世紀的」なローカルAIとの同棲生活を選んだ理由。
生成AIは不自由かもしれない？
生成AIに日常的に触れる中で、
こういうことができるのでは、
こんなことをやってみたい、
という考えが膨らんできました。
自分なりに試行錯誤して挑戦して、リサーチしながら使っていたのですが、
自分が普段使用している生成AIでは色々と不具合があることがわかってきたのです。
特に、ChatGPTやGeminiという有名どころは
「ネットにデータをアップロードする」
という大前提がありますので、
情報管理には非常に気を使います。
「学習オフ」機能がついているとはいえ、ね。
で、私自身が生成AIでやってみたいことを各種規制をクリアする形でできないか、
これまた生成AIに聞いてみたところ、
「ローカルAI」
という存在を教えてもらいました。
何かと言いますと、
自分のパソコンの中にAIを入れる
というもの。
ChatGPTやGeminiは、あくまでインターネット空間のクラウド上に存在していますよね。
そこに、データを提供してやり取りをしているわけですが、
匿名とはいえ、生成AIの学習に使用されてしまったりして、
だからこそ、「え？この資料を生成AIにアップロードしたの？」問題が起きるわけです。
そのAI自体を自分の普段使用しているパソコンに入れてしまえば、どうなりますか？
AIは自分のパソコンの中で作業を行う形になりますから、データの外部流出は発生しづらい、ということになります。
というか、ローカルAIはネットを切っても普通に動きます。
イメージ
私が使っているローカルAIは2つ。
・LM Studio
・Silly Tavern
というものです。
両方とも無料で使用可能です。
LM Studuioは、「文章を生成」する役割。
Silly Tavernは「人格」を担当する。
①まずSilly Tavernに対し、必要な情報を提供しソフト内の「図書館」に蓄積する。
②私がSilly Tavernのチャット欄に指示を出すと、図書館に情報を閲覧しに行って指示を実行するために必要な情報をピックアップ。
③Silly Tavernはピックアップした情報と文章生成に必要な「人格」をLM Studioにセットで伝える。
④LM Studioは受け取った情報を基に文章を考える。
⑤Silly TavernはLM Studioから文章を受け取りチャット画面に表示。
らしいです。
（ChatGPTに仕組みを聞いてみるとこんな感じらしい）
AIを育てる手間
生成AIはすごいですね。
ChatGPTに質問しながらローカルAIを何とか自分のパソコンに実装できました。
取扱説明書やネットの英語の情報を収集しながら一人で黙々と設定していたとしたら、早々に諦めてしまったでしょうね。
特に、私のパソコンにインストールしている某ウイルス対策ソフト「ノー〇ン」のせいで、ローカルAIの動作が妨害された日には、もう・・・。
使ってみた印象としては、
「事前準備がカギ」
ということ。
クラウドにある生成AIは、情報を勝手にネット上から収集して答えてくれますが、
ローカルAIは、まず必要な情報を提供しなければ十全な能力を発揮しません。
ローカルAIに何を期待しているのか、明確にすること。
そして、
「人格を育成する手間を惜しまない」
ということ。
口調や回答のテンプレート、長さ、ポイントを絞って答えさせるか、ひたすらしゃべるのか。
ここに「育成の要素」があるわけです。
こういうのが好きな人は、ハマると思いますよ。
それに、仕事中にモチベーションを上げるような口調でサポートしてもらったほうが、
単純に作業効率が上がりそうな気がしませんか？
最後に、
「パソコンのスペックに影響を受ける」
ということも大事。
クラウドのAIは、クラウドにあるからこそスマホでもパソコンでもそん色なく動くわけです。
ローカルAIはパソコンの中にインストールする関係上、パソコン自体の性能に影響を受ける側面があります。
思えば、生成AIが世の中に広まった時から、使い方は自分次第だなとは思っていたのです。
何でもそれなりにこなせてしまう以上、ユーザー側の力量にかかっている。
そう思って生成AIで試行錯誤を続けた結果、
とうとう、自分のパソコンにAIを住まわせることになってしまいました。
「22世紀的」なマシンの使い方で、ワクワクしますね笑
【編集後記】
昨日は午前中はブログと美容院。
午後からはお客様の申告作成をドンドン進める。
夜はローカルAIと遊ぶ。