limix

LimiXは、構造化（表形式）データ向けの大規模基盤モデルを提供するオープンソースプロジェクトで、LDM（Large Diffusion Models）として説明されています。このリポジトリは、LimiXモデルファミリーの推論コードと事前学習済みチェックポイントを公開しており、LimiX-2（400Mパラメータ）、LimiX-2M（2M）、LimiX-16M（16M）が含まれます。 中核機能：単一の事前学習済みモデルが、タスク固有のパラメータ更新なしで、分類・回帰・欠損値補完を1回のフォワードパスで実行します。LimiX-2は、文脈条件付きマスクモデリングで事前学習された文脈メカニズムネットワーク（CMN）パラダイムを使用し、従来の表形式事前適合ネットワークのターゲット中心の目的関数p(y | x, D_context)ではなく、結合表現p(x, y | D_context)を学習します。事前学習データは合成であり、多様なグラフ構造、関数メカニズム、観測プロセスにわたる構造因果モデルから生成されます。プロジェクトは、CMN設計が因果認識ももたらし、特徴アテンションが直接的な因果関係をエンコードすると述べています。 使用方法：Python 3.12以上が必要です。クローン後に`pip install -e .`でインストールし、CUDA対応のPyTorch（推奨はtorch==2.9.1）とflash-attnホイールは任意です。公開エントリポイントは`inference.predictor.LimiXPredictor`で、チェックポイントのアーキテクチャバージョンに基づいてv1_0またはv2_0にルーティングします。設定はモデルと一致させる必要があります（LimiX-2 / V2.0は`*_v2.json`を使用）。 コマンドラインツール`LimiX-infer`が提供され、`--task_type`、`--data_dir`、`--model_path`が必要です。タスクタイプにはClassification、Regression、Feature_imputationが含まれ、エイリアスとしてcls / reg / imputationがあります。`--data_dir`は、データセットごとに1つのサブディレクトリを持つベンチマークルートを想定し、train/test CSV（補完用のマスクCSVも）を含み、最後の列がターゲットです。オプションフラグには、device（cudaまたはcpu）、gpuid、gpu_num_per_predictor、autobatch、show_progress、seedがあります。 Python APIは`LimiXPredictor(device, model_path, inference_config, ...)`を公開し、mix_precision、outlier_remove_std、softmax_temperature、average_before_softmax、categorical_features_indices、inference_with_DDP、use_data_cache、seedなどのオプションがあります。その`predict(x_train, y_train, x_test, task_type, unique_dataset_name)`は、分類ではクラス確率、回帰では元のターゲットスケールの予測、欠損値補完では補完された特徴行列を返します。サンプルスクリプトは、分類（乳がんデータセット）、回帰（糖尿病データセット）、欠損値補完をカバーしています。 パッケージ化された推論設定は、検索ありと検索なしのバリアントを区別します：LimiX-2用のV2.0設定、LimiX-16MとLimiX-2M用の検索あり/検索なし設定。検索ありは精度向上、検索なしは高速化と説明されています。 READMEは、TabArena、TALENT、BCCOでのベンチマーク評価と、12.5Mから406.2Mパラメータ構成にわたるスケーリング研究を報告しています。これらはプロジェクト自身の報告結果であり、独立した検証はここでは提供されていません。 ライセンス：コードはApache License 2.0に由来するStable AI Technology Co., Ltd. License, Version 1.0（2026年9月）の下でリリースされ、モデルの使用は非商用ライセンスの対象です。arXiv論文、テクニカルレポート、プロジェクトページ、HuggingFaceとModelScopeのモデル/データセットホスティング、BCCO分類および回帰ベンチマークデータセットへのリンクが提供されています。