机器学习数据分析【免费下载链接】causalmlUplift modeling and causal inference with machine learning algorithms项目地址https://gitcode.com/gh_mirrors/ca/causalml点击查看免费下载CausalML 是一个基于机器学习算法、聚焦 uplift modeling增量建模与因果推断causal inference的 Python 开源包它提供统一的标准接口帮助数据科学家从实验数据或观测数据中估计条件平均处理效应Conditional Average Treatment Effect, CATE。本文以 docs/about.rst 为骨架结合仓库内源码、测试与文档系统梳理 CausalML 的定位、使命、核心能力、算法全景与参与方式读完后你将清楚它适合解决什么问题、能调用哪些方法以及如何在自己的项目中落地使用。一、CausalML 是什么一次说清它的定位与核心目标1.1 一句话定义CausalML 是一个 Python 包提供一整套基于近期学术研究的机器学习方法用于 uplift modeling 和因果推断。它给出一个标准接口让用户可以从实验数据A/B 实验或观测数据历史行为数据中估计 CATE见 docs/about.rst。1.2 核心数学对象CATECausalML 的本质是估计干预W对结果Y的因果影响且是针对带有可观测特征X的每一个用户个体Y结果变量如转化率、销售额、留存率W干预/处理变量如是否投放广告、是否发放优惠券、采用哪个触达渠道X用户的可观测特征年龄、地域、历史行为等目标量τ(x) E[Y(1) − Y(0) | X x]即在给定特征下干预与不干预两种潜在结果之差。它的关键在于不需要对模型形式做很强的假设如线性、可加性等而是把因果估计交给灵活的非参数机器学习模型从而适应高维、非线性、异质性的真实数据。这种干预对用户个体的效应刻画正是 CATE 区别于简单平均处理效应ATE的核心价值。1.3 典型业务场景从 README.md 可以看到两个代表性落地场景广告投放定向优化Campaign targeting optimization提升广告 ROI 的关键杠杆是把广告投给会因看到广告而产生正向 KPI如参与度、销售额响应的那部分用户。CATE 通过 A/B 实验或历史观测数据在个体层面估计广告曝光对 KPI 的影响从而识别出这批高价值用户。个性化触达Personalized engagement公司与客户交互有多个选项向上销售的多种产品、不同消息渠道等可以用 CATE 估计每个客户 × 每个处理组合的异质性处理效应从而构造最优个性化推荐系统。1.4 快速上手最小代码示例以官方 Quickstart 中最基础的元学习器调用为例完整版见 docs/quickstart.rstfrom causalml.inference.meta import LRSRegressor, XGBTRegressor from causalml.dataset import synthetic_data # 生成合成数据返回 (y, X, treatment, tau, b, e) y, X, treatment, _, _, e synthetic_data(mode1, n1000, p5, sigma1.0) lr LRSRegressor() te, lb, ub lr.estimate_ate(XX, treatmenttreatment, yy) print(Average Treatment Effect (Linear Regression): {:.2f} ({:.2f}, {:.2f}).format(te[0], lb[0], ub[0]))estimate_ate()返回 ATE 的点估计与置信区间lb/ub置信区间的计算基于 docs/methodology.rst 中引用的公式7。所有元学习器都遵循统一的fit/predict/estimate_ate接口约定见 causalml/inference/meta/base.py。二、项目使命与治理一个社区驱动的开源组织2.1 使命宣言CausalML 组织章程CHARTER.md中的使命是CausalML 致力于通过易获取、创新、文档完善的开源工具将因果机器学习民主化为数据科学家、研究人员和组织赋能。其核心是包容性并培育一个充满活力的社区——成员交流想法、分享知识、共同塑造 CausalML 在各领域推动进步的将来。这一使命在 docs/about.rst 中被原样引用是理解项目为什么而建的出发点它不仅是一个算法库更是一个鼓励贡献与协作的开源组织。2.2 治理结构从源码仓库可确认的事实仓库中直接提供了完整的治理文档与 about 页面互为印证社区行为准则CODE_OF_CONDUCT.md贡献指南CONTRIBUTING.md以及文档版 docs/contributing.rst组织章程CHARTER.md治理说明GOVERNANCE.md维护者名单MAINTAINERS.md指导委员会STEERING_COMMITTEE.md安全策略SECURITY.md商标政策TRADEMARKS.md反垄断政策ANTITRUST.md从 CHARTER.md 可以确认治理机制的关键事实指导委员会Steering Committee负责技术监督、项目审批与商标管理成员增减需要不少于 3/4 赞成票决策优先寻求共识无法达成时按简单多数投票长期失联超过三个月的成员可能被投票移除。这些条款说明 CausalML 采用的是结构化、透明的开源治理模式。2.3 开发者贡献流程要点docs/contributing.rst 给出了清晰的参与路径按 docs/installation.rst 的Install from source章节做可编辑安装Cython 扩展会随构建自动编译修改任何.pyx/.pxd文件后需执行pip install -e . --no-deps重新构建扩展提交 PR 前用black格式化这是 CI 强制的格式门槛、为改动补充测试、对用户可见的变更在 docs/changelog.rst 的Unreleased下登记若改动估计器的签名需对照 docs/migration.rst 中正在推进的fit(X, y, treatment, ...)参数顺序迁移约定。三、软件形态安装、依赖与版本3.1 版本与 Python 环境从 pyproject.toml 可确认当前版本号为0.17.0要求Python 3.11。README 中同时注明项目已稳定并进入长期支持incubation阶段但仍可能包含 API 会变化的实验性新代码README.md。3.2 核心与可选依赖核心依赖pyproject.tomlnumpy1.25.2、scipy1.16.0、pandas、scikit-learn1.6.0、statsmodels0.14.5、xgboost、lightgbm、matplotlib、seaborn、shap、graphviz、pydot、forestci、pathos、dill等。可选后端extraspyproject.tomlpip install causalml[tf]TensorFlow 后端DragonNetpip install causalml[torch]PyTorch pyro-pplCEVAEpip install causalml[jax]JAX flaxoptaxDragonNet/CEVAE 的 JAX 实现pip install causalml[polars]启用 Polars 支持仓库有对应测试 tests/test_polars_support.py。3.3 测试与 CI 约定测试套件基于 pytestpyproject.toml覆盖 30 个模块见 tests/ 目录包括元学习器test_meta_learners.py、uplift 树test_uplift_trees.py、因果树test_causal_trees.py、CEVAE/DragonNet、序列化test_serialization.py等依赖网络的基准数据集下载测试通过pytest -m network显式开启常规套件保持离线可运行filterwarnings 将参数位置传递的废弃警告提升为错误以保证新的fit(X, y, treatment, ...)签名约定被严格执行。四、算法全景CausalML 支持的方法矩阵CausalML 支持的算法在 docs/methodology.rst 中被系统列出按族划分如下。完整的能力矩阵结果类型、处理类型、是否支持观测数据、不确定性输出、是否需要额外安装可参见 docs/choosing_an_estimator.rst。4.1 基于树的算法causalml.inference.treeUplift 树 / 随机森林以分裂前后散度增益为准则的树模型包括 KL 散度、欧氏距离ED、卡方Chi三种准则docs/methodology.rstΔΔPdelta-delta-p基于治疗组与对照组响应率之差的差的准则仅适用于二分类树与二分类问题docs/methodology.rstIDDP在 ΔΔP 基础上引入熵加权归一化docs/methodology.rstInteraction Tree (IT)最大化 G 统计量的分裂准则docs/methodology.rstCausal Inference Tree (CIT)基于似然比检验统计量的分裂准则docs/methodology.rstContextual Treatment Selection (CTS)支持多处理组的上下文处理选择准则docs/methodology.rst。对应类为UpliftTreeClassifier、UpliftRandomForestClassifier、CausalTreeRegressor、CausalRandomForestRegressor全部位于 causalml/inference/tree/。其中因果树默认启用诚实估计honestyTrue即结构用一半样本生长、叶节点均值用另一半样本重估以消除分裂搜索带来的选择偏差estimation_sample_size默认 0.5控制留出比例且按处理变量分层docs/methodology.rst。两类树都支持验证式剪枝uplift 树用prune(X, treatment, y)对留出样本剪枝因果树用ccp_alpha成本复杂度剪枝ccp_alphacv时改用cv_folds折交叉验证选择子树docs/methodology.rst。4.2 元学习器causalml.inference.meta元学习器meta-learner是一种用任意机器学习基学习器来估计 CATE 的框架docs/methodology.rst。CausalML 实现了五种学习器思路基学习器使用方式S-Learner单个模型把处理指示变量 W 作为特征一起建模μ(x,w)单模型T-Learner分别对处理组/对照组建模μ₁(x)、μ₀(x)CATE 二者之差两个独立模型X-Learner在 T-Learner 基础上用反事实插补个体效应 D再做加权平均两个阶段、多模型R-Learner用交叉验证的留出预测拟合 m(x)、e(x)最小化 R-loss两阶段、交叉拟合DR-Learner三折交叉拟合双重稳健伪结果 φ拟合 CATE 模型交叉拟合、双重稳健对应类为BaseSRegressor/BaseSClassifier、BaseTRegressor/BaseTClassifier、BaseXRegressor/BaseXClassifier、BaseRRegressor/BaseRClassifier、BaseDRRegressor/BaseDRClassifier可从 causalml/inference/meta/init.py 确认另有预配置变体如XGBTRegressor、LRSRegressor、MLPTRegressor、XGBDRRegressor等。这些类继承自BaseLearner其设计继承了sklearn.base.BaseEstimator因此天然支持get_params/set_params、clone、Pipeline/GridSearchCVcausalml/inference/meta/base.py。注意X-Learner、R-Learner、DR-Learner 均接受倾向得分参数p未传入时内部会自行估计——这使它们特别适合观测数据场景docs/choosing_an_estimator.rst。4.3 工具变量算法causalml.inference.iv2SLS两阶段最小二乘IVRegressor适用于存在未观测混杂、但有工具变量 Z 的情形docs/methodology.rstDRIV 学习器BaseDRIVLearner在 causalml/inference/iv/drivlearner.py把 DR-Learner 与 LATE 的双重稳健得分函数结合三折交叉拟合估计条件 LATEdocs/methodology.rst。工具变量方法对应存在不依从noncompliance的场景随机分配 Z 是实际接受处理的工具估计对象是依从者compliers的效应 LATEdocs/methodology.rst。4.4 神经网络算法CEVAE因果效应变分自编码器面向混杂因子从未被直接观测的情形把 X 视为潜在混杂 Z 的噪声代理变量如用邮编代理社会经济地位通过推断 Z 来恢复处理效应生成模型为Z → (X, W, Y)用 ELBO 联合训练推理网络docs/methodology.rst。实现于 causalml/inference/torch/cevae.py 与 causalml/inference/jax/cevae/Pyro 与 JAX/flax.nnx 双后端DragonNet基于倾向得分充分性的思想共享主干Z(x)上挂三个头——倾向头ê(x)单 sigmoid 单元与两个结果头Q̂(0,x)、Q̂(1,x)倾向头直接接在共享主干上无隐藏层强制主干保留倾向信息并通过**靶向正则化targeted regularization**增加可训练标量 ε 的损失项默认开启targeted_regTrue在最优解处满足 ATE 的估计方程docs/methodology.rst。实现于 causalml/inference/tf/dragonnet.py 与 causalml/inference/jax/dragonnet.py。4.5 处理优化算法causalml.optimize当处理干预有成本时需要做选谁去处理的决策。按用户对被处理的响应人群可分为四类docs/methodology.rstPersuadables可说动者仅在处理时有好结果Sure things确定者无论是否处理都有好结果Lost causes无望者无论是否处理都没有好结果Sleeping dogs沉睡犬仅在不处理时有好结果。对应实现Counterfactual Unit SelectionCounterfactualUnitSelector基于反事实逻辑求解带收益权重的单元选择最优化问题docs/methodology.rst。N.B. 当前实现高度实验性Counterfactual Value EstimatorCounterfactualValueEstimator预测单位在不同处理下的结果按期望价值E[(v − cc_w)Y_w − ic_w]决策其中 v 为有利事件价值、cc_w 为有利事件触发的处理成本、ic_w 为处理本身的固定成本docs/methodology.rstPolicyLearner直接学习处理分配策略。4.6 传统因果推断方法倾向得分匹配NearestNeighborMatch、MatchOptimizercausalml/match.py估计 ATT处理组的平均处理效应IPTW逆概率加权用倾向得分 e 构造人工总体使处理组与非处理组在特征上可比docs/methodology.rstTMLE靶向极大似然估计TMLELearner双重稳健的半参数方法通过靶向ATE 的估计方程在处理分布偏斜或有离群点时通常表现更好docs/methodology.rst。4.7 因果概率Probabilities of Causationcausalml.optimize.pns或get_pns_bounds()函数见 causalml/optimize/pns.py实现 Tian Pearl 关于**必要性PN、充分性PS、必要且充分PNS**三种因果概率的紧界计算利用实验数据 观测数据的联合概率把求界转化为线性规划问题得到各概率的 sharp boundsdocs/methodology.rst。五、CATE 模型评估没有真值怎么选模型由于反事实结果不可观测交叉验证无法直接用于 CATE 模型选择。CausalML 提供两类替代指标docs/methodology.rst效应量级准确性指标DR 伪结果损失构造双重稳健伪结果 φ 作为真 CATE 的代理计算mean((τ̂(X) − φ)²)越低越好在 78 个基准数据集上实证表现占优Plug-in T-Learner 损失用交叉拟合 T-Learner 的留出估计μ̂₁ − μ̂₀作为代理实现简单但结果模型误设时有偏适合作为 DR 损失的补充。排序质量指标 RATEcausalml.metrics.rate_score返回 Rank-Weighted Average Treatment Effect 标量get_toc/plot_toc返回并绘制 TOC 曲线支持weightingautoc默认α(q)1/q适合效应集中于小亚组与weightingqiniα(q)q即 Qini 系数适合效应弥散分布两种加权return_ciTrue通过半样本 bootstrap 给出标准误、置信区间与H₀: RATE0的 p 值。观测数据下建议传入交叉拟合 AIPW 伪结果作为treatment_effect_col避免直接均值差受混杂污染。六、配套能力数据、倾向得分、特征选择与敏感性分析6.1 合成数据生成causalml.datasetQuickstart 提供了单次与多次模拟的完整用法docs/quickstart.rstfrom causalml.dataset import * # 单次模拟返回 y, X, treatment, tau, b, e y, X, treatment, tau, b, e synthetic_data(mode1) y, X, treatment, tau, b, e simulate_nuisance_and_easy_treatment() # 单次模拟预测与可视化 single_sim_preds get_synthetic_preds(simulate_nuisance_and_easy_treatment, n1000) scatter_plot_single_sim(single_sim_preds) distr_plot_single_sim(single_sim_preds, kindkde) # 多次模拟汇总 preds_summary get_synthetic_summary(simulate_nuisance_and_easy_treatment, n1000, k12) scatter_plot_summary(preds_summary, k12) bar_plot_summary(preds_summary, k12)数据集模块还提供标准基准数据加载器LaLonde、IHDP、Twins带 SHA256 校验下载与真值指标PEHE、ATE 误差、策略风险见 causalml/dataset/_benchmarks.py 与 docs/datasets.rst。6.2 倾向得分causalml.propensityfrom causalml.propensity import ElasticNetPropensityModel pm ElasticNetPropensityModel(n_fold5, random_state42) # 注意第二个参数是处理指示变量而非结果倾向得分是 P(W1|X) ps pm.fit_predict(X, treatment)匹配与平衡性检查docs/quickstart.rstfrom causalml.match import NearestNeighborMatch, create_table_one psm NearestNeighborMatch(replaceFalse, ratio1, random_state42) matched psm.match_by_group(datadf, treatment_coltreatment_col, score_colsscore_cols, groupby_colgroupby_col) create_table_one(datamatched, treatment_coltreatment_col, featurescovariates)6.3 特征选择causalml.feature_selectionFilterSelect支持三种基于 uplift 的特征过滤方法docs/quickstart.rstF 检验methodF、似然比检验methodLR、KL 散度methodKL可传n_bins10。先用make_uplift_classification构造带 uplift 结构的数据再filter_f.get_importance(df, X_names, y_name, method, treatment_grouptreatment1)得到特征重要性排序。对应论文为 README.md 中列出的 Feature Selection Methods for Uplift Modeling。6.4 敏感性分析causalml.metrics.sensitivitySensitivity类提供 Placebo Treatment、Random Cause、Subset Data、Random Replace 等稳健性检验方法SensitivitySelectionBias则评估未观测混杂的选择偏差支持confoundalignment对齐混杂函数并可用plot(lls, partial_rsqs, typer.squared, partial_rsqsTrue)绘制 R² 与各特征的偏 R²docs/quickstart.rst。对观测数据场景官方明确建议估计后务必用敏感性分析验证docs/choosing_an_estimator.rst。七、如何选择合适的学习器从数据出发的决策路径docs/choosing_an_estimator.rst 给出了清晰的决策树第一步先问处理是否随机完全随机且依从完美任意估计器可用若已知分配概率直接作为p传入而非估计。二分类转化结果、目标是可读的分段规则 → 首选 uplift 树需要带置信区间的个体 CATE → 首选元学习器随机但有部分不依从随机分配 Z 是实际接受处理的工具变量用 DRIV 学习器BaseDRIVLearner估计依从者效应或用 2SLS线性模型观测数据要求所有混杂变量都被测量、处理组与对照组有重叠overlap见 docs/validation.rst 的 Checking Overlap 一节。优先选择显式建模处理分配的估计器X-Learner、R-Learner、DR-Learner三者都接受倾向得分p缺省时内部估计估计后做敏感性分析观测数据且存在未测混杂有工具变量用 IV 类方法有隐藏混杂的代理变量用 CEVAE两者都没有则任何估计器都无法识别效应。第二步问你需要什么输出只要平均效应 ATE→ TMLE、IPTW、匹配或任意元学习器的estimate_ate()要个体效应 CATE→ 元学习器、因果树/森林、神经网络模型要可读的分段规则→ uplift 树 可视化docs/interpretation.rst 的 Uplift Tree Visualization要在约束下决定谁被处理→ 先估计 CATE再用PolicyLearner或价值优化方法。两条经验法则docs/choosing_an_estimator.rst先简单后复杂T-Learner 线性基学习器是透明基线且绝不要用样本内拟合选择模型——CATE 没有可观测标签必须在留出数据上用验证损失与排序指标比较。八、从快速上手到完整工作流完整 API 快速上手见 docs/quickstart.rst其中还包含元学习器对比LRSRegressor、XGBTRegressor、MLPTRegressor、BaseXRegressor、BaseRRegressor 在同一份合成数据上的 ATE 估计示例含置信区间处理优化CounterfactualValueEstimator结合 T-Learner 预测计算反事实价值并选择最优处理组完整示例见 docs/examples/counterfactual_value_optimization.ipynb可解释性基于 SHAP 的因果特征归因见 causalml/inference/meta/explainer.py 与 docs/examples/feature_interpretations_example.ipynb端到端教程docs/tutorial.rst 训练每个家族的估计器并演示如何判断该相信哪一个docs/examples/ 提供了 30 个可直接运行的示例 notebook覆盖元学习器、uplift 树、CEVAE、DragonNet、IV、敏感性、特征选择、基准对比等主题。官方文档导航docs/index.rst入门getting_started→ 用户指南user_guide→ API 参考causalml→ 贡献contributing→ 版本记录release_notes。九、总结CausalML 的核心价值可以归结为三点一套接口多种方法从传统因果推断匹配、IPTW、2SLS、TMLE到现代机器学习方法元学习器、uplift 树、CEVAE、DragonNet统一在estimate_ate/fit/predict的标准接口之下并附带 CATE 模型评估DR loss、RATE/TOC与模型选择方法论面向真实业务决策CATE 的个体层面估计直接服务于投放定向、个性化触达、成本约束下的处理分配价值优化、策略学习并配套特征选择与敏感性分析保证结论稳健开放社区与工程化治理Apache 2.0 许可、完善的贡献流程与治理文档、多后端可选安装tf/torch/jax/polars、严格测试与持续集成使其既可独立使用也适合作为组织内因果推断平台的基础组件。如果你正在做增量建模、个体处理效应估计或成本约束下的最优干预决策CausalML 提供了从数据生成、倾向得分、估计、评估到解释与验证的完整工具箱——从 docs/about.rst 出发沿着 docs/getting_started.rst 的路径即可快速进入实战。赞分享机器学习数据分析【免费下载链接】causalmlUplift modeling and causal inference with machine learning algorithms项目地址https://gitcode.com/gh_mirrors/ca/causalml点击查看免费下载相关推荐7个Zsh脚本优化技巧让你的开发效率翻倍7个Zsh脚本优化技巧让你的开发效率翻倍 你是否经常在编写shell脚本时感到效率低下每次处理字符串都要调用外部命令路径操作需要反复使用 dirnameCausalML 因果机器学习入门指南从预测走向因果推断的 CATE 建模实践CausalML 因果机器学习入门指南从预测走向因果推断的 CATE 建模实践 导读 本文是 causalml https://link.gitcode.co机器学习数据分析Docling文档智能处理终极指南从PDF到AI就绪数据的完整教程Docling文档智能处理终极指南从PDF到AI就绪数据的完整教程 Docling是一个强大的文档智能处理工具能够将PDF、DOCX、PPTX、HTML等多AI 应用计算机视觉OCR上一篇网易云QQ音乐歌词下载终极指南免费解决本地音乐无歌词困扰下一篇SDRPlusPlus库ABI稳定性版本控制与兼容性保障创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考