生成 AI をコンピューター上でローカルに実行するにはどうすればよいですか?操作は比較的簡単になりましたが、それを適切に活用するにはかなり効率的なマシンが必要です。
おそらくすでに 1 つ以上のエンジンをテストしているでしょう。生成AIとしてチャットGPTまたはGoogle Bard。これらのクラウド ツールは人気があるため、自分のコンピューターにインストールすることもできます。そうすることで機密性が確保され、利用不能になることを心配する必要がなくなります。続行方法を知る必要があります。
始めるには、AI を実行するプログラムと、応答を生成するための大規模言語モデル (LLM) が必要です。これらの LLM はテキスト ジェネレーターの基礎です。 GPT-4は最新のものですが、遅れていますチャットGPT、そしてGoogleは最近、Google Bardの背後にGeminiを導入しました。 LLM について聞いたことがない場合は、ここで簡単に説明します。 LLM は大量のデータでトレーニングされ、単語と文の間の関係を認識することを学習します。言い換えれば、LLM は高度な自動修正エンジンです。彼らは実際には何も「知っている」わけではありませんが、自然に聞こえ、意味をなすために単語がどのように組み合わされるべきかを認識しています。高いレベルでは、結果は完全に現実であるように見えます。明らかにそれよりも複雑ですが、それが一般的な考え方です。
独自の LLM を実行するには、大企業である必要はありません。Meta や LLaMa など、一般向けに利用できる LLM がいくつかあります。研究者やボランティアによって開発されたものもあります。一般的な考え方は、このようにアクセスできる LLM は、革新主題に関する透明性を向上させます。
このガイドでは、LMスタジオLLM のローカル インストールを示します。これは現時点で最良のオプションの 1 つです。無料で使用でき、アクセス可能窓、macOS、Linux。
最初のステップは、公式 Web サイトから LM Studio をダウンロードし、必要な最小構成を確認することです。LLM を使用するには、多くのリソースが必要です。 AVX2 をサポートする Windows または Linux コンピュータ (最近のマシン)、または Apple Silicon チップを搭載した Mac が必要です。macOS13.6 以降と 16 GB の RAM が推奨されます。 PC では、少なくとも 6 GB の VRAM が必要です。
ソフトウェアを起動したら、ダウンロードして使用する LLM を見つける必要があります。 LM Studio の最も優れている点の 1 つは、メイン画面で興味深い LLM を推奨してくれることです。また、わからない場合は、このリストから選択することもできます。
あらゆるサイズ、複雑さ、データ ソース、目的、速度の LLM が見つかります。それぞれの特徴については、遠慮せずに Web を検索してください。 LLM の重量は数 GB になる場合があります。
ホーム画面に興味のある LLM が表示されたら、[ダウンロード] をクリックします。それ以外の場合は、URL を検索するか、上部のテキスト ボックスに貼り付ける必要があります。各 LLM のサイズと最終更新日を確認できます。結果をフィルタリングして、最もダウンロードされたものを表示することもできます。
LLM はマシンが許す限りいくつでもインストールできますが、システム上に少なくとも 1 つある場合は、[マイ テンプレート] パネルに表示されます (アクセスするには、左側のフォルダー アイコンをクリックします)。そこから、インストールされている各テンプレートの情報を確認したり、更新を確認したり、テンプレートを削除したりすることができます。
テキストの生成を開始するには、左側の吹き出しアイコンからチャット パネルを開きます。上部で使用するテンプレートを選択し、下部のテキスト ボックスにプロンプトを入力します。 Enterを押します。出力は他の LLM と非常に似ています。
右側では、長い応答の処理方法、GPU への計算の委任、「プレプロンプト」の管理など、LLM に関連する多数のパラメーターを制御して、常に特定の応答で応答するように LLM に指示できます。たとえば、スタイルやトーン。
左側にある [新しいチャット] ボタンをクリックして新しい会話を開始すると、古いチャットに戻る必要がある場合はすぐ下に古いチャットが表示されます。応答の生成が完了したら、スクリーンショットを撮ったり、テキストをコピーしたり、同じプロンプトで新しい応答を生成したりできます。
そして、それができました！ LLM をローカルで使用するための基盤がすべて揃っています。 LM Studio は非常に優れたエントリーポイントであり、完全な初心者にとっては非常に簡単です。
