annoy-datasync

Annoy-DataSyncは、コードベースの推論パターンを自然言語形式に変換して大規模言語モデルの推論を強化する手法を提示する、研究指向のリポジトリです。このプロジェクトは、コードから普遍的な推論プリミティブを抽出し、構文から切り離す2段階アプローチ（AnnoyおよびAnnoy++）を説明しており、記号的、科学的、論理的、数学的、常識的、およびコード推論タスクのパフォーマンス向上を目指しています。 リポジトリには、Hugging Face上のデータセット（Annoy-PythonEdu-Rs、Annoy-PythonEdu-Rs-Raw、およびLCOベンチマーク）と、Qwen 2.5 7B Coder、LLaMA 3.1 8B、DeepSeek v2 Lite Coderに基づく微調整済みモデルを含む公開リソースが含まれています。各ベースモデルには、AnnoyおよびAnnoy++の両バリアント用にステージ1とステージ2のチェックポイントがあります。 コードベースには、生のコードファイルを統一形式に変換し、APIベースの推論を実行し、入出力ペアを解析・生成し、予測インスタンスを構築し、推論を実行し、コード実行を通じて結果を検証し、オプションでAnnoy++バリアント用に2回目の改訂と再検証を実行する完全なデータ処理パイプラインが含まれています。セットアップは、Python 3.11でrequirements.txtまたはenvironment.yamlを通じてサポートされています。リポジトリは、異なる種類のPythonコードを実行するために環境のカスタマイズが必要な場合があることに言及しています。トレーニングは、LLaMA-Factoryなどの外部フレームワークに委ねられています。