News Center

全球数据科学最具权威Kaggle世界竞赛中,凯发网站荣获第一名

发布日期:2020.12.12

近年来深度学习在CV、NLP等非结构化领域展现出超强的统治力,突破最高水平的算法层出不穷。深度学习在结构化和非结构化领域表现出来的巨大反差已成为热门话题,深度学习在结构化领域就一直没有超越配角的地位,自从以XGBoost、LightGBM为代表的高性能集成树模型训练框架的问世。到目前为止,Kaggle结构化数据竞赛中,传统机器学习算法依然是最主要的赢家。

K1.png

神经网络强大的表示学习能力真的在结构化数据上无法展现威力吗?

近日由国内的数据科学平台领导厂商——凯发网站发布的开源项目DeepTables正在打破这个局面。DeepTables(简称DT)经过大量的测试验证,在使用相同数据训练模型的条件下,DT在70%以上的测试数据集上超越XGBoost和LightGBM,DT团队后续会发布详细的测试报告。在3月31日刚刚结束的Kaggle竞赛Categorical Feature Encoding Challenge II 中DT团队获得了第1名的成绩,单模型取得如此突出的成绩实属不易,这在Kaggle比赛动则用数十数百个模型Ensemble的标准动作下,其中DT的一个单模型得到第3名。

K2.png

Public Leaderboard

 K3.png

Private Leaderboard

Kaggle

本届比赛来自全球的参赛队伍超过1100支。Google的Auto Tables也参加了本场比赛但排名在300以外,但这个冠军的含金量依然不低,所以虽然是Playground类竞赛,其中不乏Bojan Tunguz, Sergey Yurgenson, KazAnova 这些Kaggle顶级大神的身影,DeepTables正在为深度学习正名。

实际近年来深度学习在结构化的一些细分领域里已经开始崭露头角,在CTR预测和推荐系统方面,神经网络算法利用其在高维稀疏特征上先进的表示学习能力逐步超越了传统机器学习算法。

  • 从2015年Google公司的Wide&Deep网络开始,到Deep&Cross、PNN、DeepFM、xDeepFM这些模型不断刷新在公开数据集上的纪录。研究人员也在不断尝试将CV、NLP上的技术引入到结构化领域。

  • 2019年北京大学的研究团队提出的AutoInt网络应用了大名鼎鼎的BERT中Multi-head Attention 思想。并且一定程度上解决了深度学习缺乏解释性的问题,有效的提升了结构化数据自动特征生成和提取的效率。

  • 华为诺亚实验室提出的FGCNN在利用卷积神经网络的同时创新性的提出Recombination Layer将局部特征组合进一步重组。有效的避免了CNN过于关注局部特征交互的短板,FGCNN在华为AppStore的推荐系统中大幅提升原有算法的表现。

以上成果确实足以让业界重拾深度学习在结构化数据上的信心,想要应用到实际的建模工作中面临着不小的代价,对于大多数企业和数据科学家来说只是看上去很美,但目前这些成果主要在少数的互联网巨头企业中发挥价值。

1)这些模型大多落在论文层面、代码改造的工作量和难度都不小,部分论文虽然提供了用于验证模型的源码,但想把这些源码应用到实际业务上。

2)结构化和非结构化数据之间最明显的区别是在结构化领域每一个数据集的语义空间和数值的物理含义都有所不同。同一个模型在不同数据集上的表现有时天差地别,常常需要同时评估各种不同模型才能找到最优方案,这也进一步放大了第1点中提到的工程代价。

3)上面提到的大部分模型重点解决的是高维稀疏的类别型特征的学习能力。对于连续型的数值特征关注有限,这个部分恰恰是GBM模型的杀手锏,因此遇到以连续型特征为主的数据集这些模型往往不尽人意。

凯发网站的研发团队基于以上痛点。目前后端计算框架支持Tensorflow2.0以上版本,加上长期服务于金融和保险行业所积累的经验开发并且开源了DeepTables深度学习工具包。

DT极其易用。数据不做任何的预处理和加工也可以完成建模,这是高度依赖手工特征工程的传统机器学习算法难以实现的,DT都能够提供开箱即用的卓越性能,不管是专家型的数据科学家还是没有建模能力的业务分析人员,仅5行代码即可完成任意一个数据集的建模工作。

另外,DT把近年来最优秀的研究成果中的关键网络架构抽取出一组神经网络构件(nets),这些构件可以任意组合出一个新的网络架构,DT有着非常开放的架构设计,可以非常简便的在不同数据集上探索最优的网络组合。

同时、DT支持插件式的扩展方式,用户可以按DT的接口开发自己的构件和内置的构件融合在一起构成一个新的模型。之前需要几周甚至上月的时间完成的工作,在DT的助力下几个小时甚至几分钟就可以完成。

DT项目地址:https://github.com/DataCanvasIO/deeptables

DT官方文档:https://deeptables.readthedocs.io/

DT目前还处于相对早期的阶段。刚刚发布了0.1.9。DT下一个计划是加入神经架构搜索(NAS)引擎。用AI算法实现在不同的数据集上自动搜索最佳的网络架构,逐步向真正智能的AutoDL工具演进。

凯发网站一直以来秉持拥抱开源的态度,受到广大企业客户的青睐,旗下的分布式机器学习平台APS,其开放的技术架构和开源生态完美融合。九章云极受益于开源社区,同时也在持续大力回馈于开源社区。


咨询