40社以上のプロバイダを統合する「Otari」公開、LLMのアンラーニング研究、NVIDIAのロボットスキル発見フレームワーク

今回の要点

• Mozilla AIが、40以上のLLMプロバイダを1つのエンドポイントで統合するゲートウェイ「Otari」を公開した。仮想キーや予算管理機能を持つ。
• LLMのアンラーニングに関する研究「CoLU」が発表された。モデル全体を再学習するのではなく、層ごとの信頼度に基づいて情報を消去する手法で、保持知識の劣化を防ぐ。
• 拡散言語モデルの推論効率化手法「LED」が提案された。マスクされた拡散モデルの最適化を容易にするLookahead Editingにより、推論精度を改善する。
• NVIDIAがロボット用エージェントのスキル発見フレームワーク「ASPIRE」を公開した。勾配降下ではなくスキル洗練を行う継続学習の新しいパラダイムを提供する。
• OpenAIはChatGPTにおける低リソース言語のコーディング支援能力を改善するための取り組みと、SQLiteやCOBOL移行に関する新評価を発表した。

Mozilla AIがLLMゲートウェイ「Otari」を公開

前提

LLMゲートウェイは、アプリケーションとモデルプロバイダの間に位置し、認証やルーティング、使用量追記などの管理機能を提供するインフラです。複数のプロバイダを統合することで、単一エンドポイントからのアクセスを可能にします。

何が変わったか

Mozilla AIが、OpenAI互換のLLMゲートウェイ「Otari」を公開しました。このゲートウェイは、40以上のプロバイダを統合し、1つのエンドポイントからアクセスできるように設計されています。仮想キーの発行、予算の強制、使用量の追跡機能が含まれています。プロバイダへの呼び出しは「any-llm」を通じて行われます。

なぜ重要か

開発者は、複数のプロバイダに個別に接続する代わりに、1つのゲートウェイを通じてリソースを管理できます。これにより、予算管理や使用量の可視化が一元化され、運用負荷が軽減されます。

根拠のリンク

• mozilla-ai/otari (GitHub)

LLMのアンラーニングと安全性評価に関する最新研究

前提

LLMのアンラーニングは、特定の情報を忘却しつつ他の知識を保持する技術です。従来の手法では、忘却処理が保持知識にも悪影響を与えるトレードオフが存在していました。

CoLU: 信頼度重み付き層別アンラーニング

「CoLU」は、層ごとの信頼度に基づいてアンラーニングを行う手法です。既存の手法（NPO, SimNPO, SatImp）はモデル全体を微調整しますが、CoLUは層ごとの選択的な更新を探ります。これにより、同じ忘却損失下でも層によってトレードオフが異なる問題を解決し、保持知識の劣化を防ぎます。

• CoLU: Confidence-Weighted Layerwise Unlearning for Large Language Models (arXiv)

安全性評価: AIMSデータセット

「AIMS」は、1,724件の困難な安全性プロンプトを含む人手アノテーションデータセットです。各プロンプトには意図の説明と危害ラベルがペアになっています。これにより、安全性分類器がユーザーの意図を明示的なシグナルとしてモデル化できるようになり、様々な学習レジームで安全性分類が改善されます。

• Paved with True Intents: Intent-Aware Training Improves LLM Safety Classification (arXiv)

論理的推論の評価: Competence-Based Evaluation

現在のベンチマークは単一の正確性数値を報告するのみですが、この研究はLLMの論理的推論能力を正確に測定するための「Competence-Based Evaluation」を提案しています。言語的多様性に対する一貫性の欠如など、推論能力の短所をより詳細に把握することを目的としています。

• Competence-Based Evaluation of Logical Reasoning in Large Language Models (arXiv)

拡散言語モデルの推論精度を改善するLookahead Editing手法

前提

拡散言語モデル（dLLMs）は、自己回帰モデルに代わるものとして、並列デコーディングによる非自己回帰的テキスト生成を可能にします。主にマスクされた拡散モデル（MDMs）と均一拡散モデル（UDMs）に分類されます。

LED: Lookahead Editingによる改善

「LED」は、マスクされた拡散モデル（MDMs）の推論効率化と精度向上を目的とした手法です。理論的に、MDMsはマスクベースのトレーニングにより最適化が容易であることが示されています。LEDはLookahead Editingを導入することで、推論時の精度を改善します。

• LED: Improving Masked Diffusion Language Models by Lookahead Editing (arXiv)

NVIDIAがロボット用エージェントスキル発見フレームワークASPIREを公開

前提

ロボティクスにおけるエージェントは、環境との相互作用を通じてスキルを習得する必要があります。従来の継続学習は勾配降下に基づいていますが、ASPIREは異なるアプローチを採用しています。

ASPIRE: スキル発見と洗練

NVIDIAが公開した「ASPIRE」は、ロボティクス向けのアジェンティック/スキル発見フレームワークです。このフレームワークでは、「トレーニング」は勾配降下ではなくスキル洗練を指し、「学習済みモデル」は浮動小数点の重みではなくセンサーモータースキルのリポジトリを指します。「分散トレーニング」は、シャードされたミニバッチではなく、異なるスキルを練習するエージェントのパネルを指します。ASPIRE v1.0では、ルービックキューブの解決やLIBERO-Proタスクの99%の成功率が達成されています。

• NVlabs/ASPIRE (GitHub)

OpenAIが低リソース言語のコーディング支援を改善

前提

ChatGPTなどのLLMは、主要なプログラミング言語だけでなく、低リソース言語のコーディング支援においても進化を続けています。

何が変わったか

OpenAIは、低リソースプログラミング言語におけるChatGPTの能力を改善するための取り組みを発表しました。これには、ソフトウェアエンジニアリング、SQLite、COBOL移行に関する新しい評価が含まれています。

なぜ重要か

既存のシステムやレガシーコードの維持において、COBOLやSQLiteなどの低リソース言語は依然として重要です。これらの言語に対するLLMの支援能力が向上することで、開発者の生産性向上と移行コストの削減が期待できます。

根拠のリンク

• Advancing coding in low‑resource programming languages (OpenAI Blog)

出典

• mozilla-ai/otari (GitHub)
• CoLU: Confidence-Weighted Layerwise Unlearning for Large Language Models (arXiv)
• Paved with True Intents: Intent-Aware Training Improves LLM Safety Classification (arXiv)
• Competence-Based Evaluation of Logical Reasoning in Large Language Models (arXiv)
• LED: Improving Masked Diffusion Language Models by Lookahead Editing (arXiv)
• NVlabs/ASPIRE (GitHub)
• Advancing coding in low‑resource programming languages (OpenAI Blog)