LLMの運用・切り替えに使える
オープンソース（OSS）214件

LLMの運用・切り替えとは？

LLMの運用・切り替えとは、AIの利用料と品質を管理できていないという状態を仕組みで解消することです。ゼロから作らなくても、同じ用途で世界中に使われているオープンソースがあります。当社はそれを土台に、日本語化と自社向けの変更を加えて導入します。月額のユーザー課金は発生しません。

LLMの運用・切り替えのオープンソース、まずどれを見ればよいですか？

214件すべてを比べる必要はありません。当社が実測した規模（GitHubスター）・日本語ロケールの有無・そのまま触れるデモがあるかの3点で、当てはまりの強い上位から6件を挙げます。名前がその分類の一般名詞のままのものと、1年以上更新が止まっているものは外しています。どれもソフト自体は無料なので、気になったものは自社サーバーに置いて試せます。

この並びは実測値による機械的な順位で、広告や紹介料による順位付けはしていません（2026年10月04日時点）。214件すべての一覧はこのページの下にあります。

LLMの運用・切り替えのオープンソース 比較表（ライセンス・日本語対応・導入キット）

掲載214件のうち、GitHub の公開ファイルに日本語ロケールが実在するのは30件、無いのは177件（2026年10月04日時点）。導入キット（手順書・docker構成・バックアップまで）があるのはPDFMathTranslate。

日本語ロケールは各リポジトリの公開ファイル一覧から日本語の実ファイルを数えた結果、最終更新は GitHub の最終 push 日です。ライセンスは導入前に必ず原文で確認してください。上限12件、並びは規模・日本語・デモ・更新の実測値による機械的な順位です。

LLMの運用・切り替えを自分で入れるなら（導入キット・オンプレミスの製品）

この分類のうち、当社が実際に立てて手順書・設計テンプレート・docker構成・バックアップまでまとめた導入キットと、同じ用途で当社が作った設置手順つきのオンプレミスの製品です。開発を依頼せず自社で立てたい場合の早道です。

有料のクラウドサービスと、オープンソースは何が違いますか？

違いは主に、費用のかかり方・データの置き場所・変更できる範囲の3つです。LLMの運用・切り替えを無料で始めたい場合、この表のどちらが自社に合うかを先に決めると迷わなくなります。

当社は、この表の左側（オープンソースを自社サーバーに置く形）を選んだ会社に対して、日本語化・画面の変更・既存システムとの連携を行っています。右側のほうが向いていると判断した場合は、その旨をお伝えします。

この分類の実測データ

実測データとは、掲載している214件について当社がGitHubの公開情報から数えた内訳のことです。日本語対応は、配布用のビルド成果物を除いた日本語ロケールの実ファイル数で判定しています。

出所: 各リポジトリのGitHub公開情報を当社で集計（2026年10月04日時点）。ライセンスは導入前に必ず個別に確認します。

掲載している214件をすべて見る

この一覧とは、LLMの運用・切り替えという用途に当てはまるオープンソースを、当てはまりの強い順に並べたもののことです。全214件のうち上位150件を掲載しています。名前をクリックすると、その土台で何をどう作るかの説明に移ります。

オープンソースでLLMの運用・切り替えをやるときの注意点は？

注意点とは、ソフトが無料であることと、導入して使い続けられることが別だという話です。当社が実際に構築して踏んだものを挙げます。

どれを選べばよいですか？

選び方とは、機能の多さではなく、ライセンス・日本語対応・自社の業務との距離で絞ることです。一覧の「日本語」欄が「日本語ファイルなし」であれば、日本語化から着手します。当社は初日3時間の無料ヒアリングで現場を見てから、どれを土台にするかを提案します。土台選びだけを相談していただいても構いません。

生成AI・AIエージェントの活用の他のできること

関連するできることとは、同じ業務領域にあり、並べて検討されることが多いテーマのことです。LLMの運用・切り替えと一緒に手を付けると効果が出やすい範囲でもあります。

AIでできること一覧をすべて見る

よくあるご質問