社内文書のAI検索(RAG)とは?
社内文書のAI検索(RAG)とは、社内文書をAIに答えさせたいという状態を、仕組みで解消することです。eGet-Crawler-for-aiは、この用途に使えるオープンソースのひとつです。AIアプリケーション向けに設計されたWebスクレイピングフレームワークです。
- RAGアプリケーションのためのデータ収集
- AIモデルの学習用データパイプラインの構築
- 動的なWebコンテンツからの構造化データ抽出
- ウェブサイト情報のMarkdown形式への変換
- 大規模なスクレイピング業務の監視と管理
eGet-Crawler-for-aiを使うと何が変わるのか
動的なコンテンツの処理やMarkdownへの変換に対応しており、ウェブサイトからクリーンで構造化された情報を抽出できます。非同期処理、ブラウザ管理機能、Prometheusによる監視機能を備えています。特にRAG(検索拡張生成)アプリケーションやAI学習用のデータパイプライン構築に最適です。Pythonで記述されており、高度なクローリング能力を備えています。
すでに世界で使われている完成品を土台にするので、同じものをゼロから作るより短い期間で済みます。当社は、この土台に対して日本語化、画面や項目の変更、権限、帳票、既存システムとの連携を加えて、御社の業務に合う状態にします。
eGet-Crawler-for-aiの日本語対応(実測)
eGet-Crawler-for-aiには日本語のファイルがありません。日本語化から始める必要があります。
| ライセンス | Apache-2.0 |
|---|---|
| 主な言語 | Python |
| GitHubスター | 57 |
| 日本語ロケール | 日本語ファイルなし(0ファイル) |
GitHubの公開ファイル一覧から日本語ロケールの実ファイルを数えた結果です。配布用のビルド成果物は除いています。技術的な詳細はeGet-Crawler-for-aiのOSS情報にまとめています。
進め方は?
進め方とは、現場を見て対象を決め、動くものを見ていただきながら作り、御社の環境へ導入するまでの流れのことです。書類で仕様を固めてから作る進め方はしません。
1日目(無料)
現場に伺い、いまのやり方を見せていただきます。社内文書のAI検索(RAG)のどこから手を付けるかを決めます。
2〜4日目
eGet-Crawler-for-aiを土台に、御社のPCで目の前で開発します。動くものを見ながらその場で直します。
5日目
御社の環境へ導入し、ソースコードと開発ノウハウをお渡しします。以後は自社で改造できます。
その後
追加の作り込みが必要なら、範囲を決めてあらためてお見積もりします。延長を前提にした進め方はしません。
この方法が向かないのは?
向かないのは、基幹システムの全面刷新や、複数部門にまたがる大規模な仕組みのことです。15時間という枠では作り切れません。また、決まった手順を正確に繰り返すだけの処理は、AIを使わないほうが速く確実です。当社ではその部分は普通のプログラムとして作ります。
社内文書のAI検索(RAG)を、まず15時間で試す
名古屋市内なら、1日3時間×5日間の計15時間・税別15万円で試せます。初日3時間のヒアリングと提案は無料です。御社のPCと御社名義のAIエージェントで目の前で開発するので、作り方ごと社内に残ります。成果物とソースコードはお客様のものです。
AI導入お試し実験を見る 動くデモを先に見る(110,000円〜) eGet-Crawler-for-aiについて相談する社内文書のAI検索(RAG)に使える他のオープンソース
同じ用途に使える土台は他にもあります。ライセンス、日本語対応、規模を比べて選べます。
| 名前 | できること | 日本語 | デモ |
|---|---|---|---|
| KnowledgeBase-RAG-LLM-System | StreamlitとLangChainを用いた軽量なRAG学習プロジェクトです。 | 日本語ファイルなし | — |
| vector-graph-rag | ベクトル検索のみでGraph RAGを構成し、複数段階の推論を伴う質問応答を支援する開発ツールです | 日本語ファイルなし | — |
| dify | AIエージェントやRAGパイプラインを構築するための統合開発プラットフォームです。 | 未調査 | — |
| WeKnora | 生の文書を検索可能なRAGや自律型エージェントに変換するLLM知識プラットフォームです。 | 未調査 | — |
| Yuxi | RAGや知識グラフ、マルチエージェント機能を備えたセルフホスト型の知能エージェントプラットフォームです。 | 日本語ファイルなし | — |