国内AIニュース
AIに全ての情報を覚えさせるのではなく、事実はObsidianに管理し、AIは必要な情報を検索して作業する「分担」が重要です。AIに過度な記憶を期待すると情報の矛盾や古いルールが問題になります。Obsidianを外部知識として活用する設計に切り替えることで、AIの安定性と信頼性が向上するという知見を共有します。
現代の複雑なログや多言語テキストに対し、正規表現やgrepには限界があります。本記事では、LLMを活用して意味的にログを検索・抽出する方法を検討します。固定された正規表現パターンを継ぎ足す従来の手法から、LLMの自然言語理解を活用した柔軟なログ解析へとシフトする背景や課題を考察します。
TypeSafe AIのJevがGitHubの先端技術公開により、誰でも検証可能になりました。これまではWaitlist制でしたが、アクセスの障壁が下がりました。Jevは文章を書かず、判断に特化した超高速なモデルであり、エージェント開発やリアルタイム処理に新たな可能性をもたらします。
Godot製潜入ゲームにJevを組み込み、敵の戦術判断を行わせた検証記事。Jev導入により敵の配置やプレイヤー発見場所が動的に変化しました。0.54〜0.79秒で返答を得る通信中でも通常AIが稼働するためゲーム性は維持されます。履歴や意味を踏まえた判断が必要なゲームAIへの応用例です。
Azure OpenAI APIにおける予算上限設定(ハードリミット)の欠如について解説。OpenAIには存在する予算管理機能がAzureにはない現状をふまえ、Azure環境で利用料金の超過を防ぐための代替手段と対応策について記述します。
社内文書RAGの開発において、検索精度以上に課題となる「権限管理」の重要性を説きます。ファイルサーバーのACLが埋め込みベクトルに反映されないことで生じる情報漏洩リスクと、その対策をエンジニア視点で論じます。
TypeSafe AIが発表した新モデル「Jev」の解説。文章生成ではなく、状態に応じた判断(分類や確からしさ)を返す「デシジョンモデル」という概念を、DMNの観点から掘り下げます。
Jevの分類性能を定量的に評価するため、GeminiやLightGBM等と比較する実験を実施。定性的な評判が多いAI分野において、実データに基づいた比較の重要性を説く。
Jevを用いた料理のアレルゲン推定アプリを開発。1日14回の試作を経て、判定層としての有用性を確認。一方で、簡単な表生成で代替可能なケースも存在することが判明した。
LLMアプリの原価計算ミスで赤字を経験した教訓を共有。英単語アプリ「Cortex Dictionary」を例に、課金開始前に確認すべきコスト構造やLLM利用時の注意点をまとめる。
LayaはJevと同様に「選択肢にスコアを付ける」手法を採用したオープンウェイト版モデルです。322M〜421Mパラメータと軽量で、Apple SiliconのMLX環境下で1判断8msという高速動作を実現。学習手法の解説とともに、手元の環境で判定特化型AIを構築する可能性を探ります。
Jevを審査員として組み込んだリアルタイム対戦アプリ「AI-PPON GRAND PRIX」を制作。Jevを「回答の質を判定する型付きモデル」として利用し、回答の妥当性評価や「面白さ」の点数化を実現しました。テキスト生成不要のAIを用いたアプリ開発の実践記録です。
Othello-GPTを題材に、次トークン予測という学習目標がモデル内部にどのような状態表現を形成するかを考察。単純な系列予測から盤面の構造が理解される仕組みを解説。
a64fx上でLLMのデコード速度を極限まで高めるため、HBM2帯域をフル活用したGEMV/GEMMの実装と最適化手法について解説する。