50名規模の企業へLLM環境を構築した記録。社内LANの制限がある環境で、チャット・コーディング・API用途のAIを安全に提供するための構成や、リバースプロキシ設定等の工夫を紹介する。
CGNAT環境で「完全自前ホスティング」の社内LLM基盤を作った話
編集メモ: CGNAT環境下であっても、リバースプロキシや適切なネットワーク設計を工夫すれば、社内LLM基盤を安全に自前でホスティングし、閉域網内で効率的なAI活用環境を実現できます。
50名規模の企業へLLM環境を構築した記録。社内LANの制限がある環境で、チャット・コーディング・API用途のAIを安全に提供するための構成や、リバースプロキシ設定等の工夫を紹介する。