基于属性约简和LOGISTIC回归的客户信用度预测研究

来源 :中国经贸 | 被引量 : 0次 | 上传用户:simon746cn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  摘要:目前在通信领域的运营商仍然缺乏一套有效的对客户信用度的评价方法,原因是模型构造科学性不强;评价模型的参数选择不理想;因地区经济差异个别省份研究的模型无法在全国统一推广应用等等问题。为了改进上述不足,基于对某西部通信企业实际业务的商业理解,首先通过专家法选取了以历史信用、消费满意度、消费力、消费意愿、关键人物和忠诚度为业务纬度的27项与用户信用好坏有关的属性,并根据27条属性通过数据抽取、转换和装载(即ETL过程)我们从该企业数据仓库中提取大量真实的实验数据774万条。另外我们利用基于互信息的属性约简对原始的27项属性进行重要性筛选得到用于挖掘的16个属性,大大简化了模型构件过程的复杂度。最后我们以16个属性为输入值,以被定义的用户信用度为输出值,利用数据挖掘中的Logistic回归算法构造了完整的客户信用度预测模型。最终我们采用似然比检验方法验证了Logistic回归的适用性,并采用Wald检验自变量的有效性,对实际数据的预测准确率达到88.13%。在实践应用中,我们利用该模型计算出的用户信用差的概率来做为信用度高低的评分依据,再此基础上开展各种个性话的客户关怀和促销活动。目前该模型已经在西部的某通信运营商的正式生产系统环境中使用。
  关键词:客户信用度;Logistic回归;似然比检验;Wald检验;收益分析
  
  一、 问题背景
  
  1.通信领域信用度的重要性。截止2009年5月,我国移动电话用户数已经接近7亿,移动通信网的规模已达到世界第一.随着3G时代运营商重组工作的完成,激烈的竞争要求企业为了获得最大的利润,就必须牢牢把控中、高价值客户,如何定义中高价值客户(既价值模型)已成为近年来运营商大力研究的重点,而该模型中的一个重要参数既客户信用度评定就成为急待解决的难题。
  信用度的判定不但成为客户价值模型搭建的基础,同时在其他方面的也有很高的应用价值:作为客户价值(客户价值)模型的重要组成部分;缓解欠费风险;刺激消费,提升收入。
  2.通信领域目前评价信用度的方法。目前在通信领域,评定客户信用度的方法中用得最多的有以下几类:
  单值评价法;专家法;线性方程;这些方法虽然都有各自的优势,但也都存在各自的不完善的地方.因此进几年各省运营商开始引入高级的数据挖掘算法来协助模型的搭建,也取得部分进展,但也因为没有考虑的地区因素对用户消费的影响,所以在选取参数时,无法确保全国性的标准统一和推广应用.因此运营商需要根据各省的特点,设计一个数学模型,以便辅助进行客户信用度的研究和应用。
  
  二、 商业理解
  
  通信领域的用户信用度就是表示用户因各种原因而不按时缴纳话费和拖欠话费的可能性的度量。这里我们定义用户停止消费一个月以上且没有缴清欠费的客户为信用度“差”客户,否则为“好”客户。因此我们需要建立一个数学模型,基于客户资料、业务属性、消费情况和交费行为计算出与用户信用好坏的关系,并输出一个信用度数值,预测违约风险, 直接或间接地成为客户可以透支消费的门限,并可以应用计费帐务系统对客户欠费进行管理。
  目前移动运营商企业内部都建立了自己专业级的数据仓库,并通过多年的积累,已经拥有了较完整的用户属性、消费属业务属性和缴费行为等各种详细资料,这些数据已经形成了几百T的信息资源,为通过数据挖掘方法来分析用户的信用度模型提供了可能。
  为进行模型的研究,我们定义了一个客户信用度预测系统S=,其中U是对象集合,这里每个用户被称为一个对象。
  C是条件属性集,通过专家法我们确定了以下27个可能会造成用户信用度低条件属性集:
  2009年1-3月内客户欠费停机次数; 2009年1-3月平均每次停机总时长(小时); 2009年1-3月平均每月停机总天数; 2009年1-3月是否上过黑名单; 2009年1-3月是否曾经被催缴; 2009年3月31日活跃标志; 2009年3月31日欠费标志; 2009年1-3月客户投诉累计次数; 2009年4月用户的话费余额; 2009年1-3月客户当前套餐持续的时间; 2009年1-3月平均数据业务费用占比;2009年1-3月用户平均ARPU;2009年1-3月是否对公托收;2009年1-3月用户欠费经额;2009年1-3月用户ARPU变化趋势;2009年1-3月是否有年龄资料;2009年1-3月是否有收入资料;2009年1-3月是否有学历资料;2009年1-3月用户使用品牌;是否高收入者;是否集团关键人;是否中高端用户;Vip等级;2009年1-3月积分;2009年1-3月呼叫联客服次数;2009年1-3月集团内主被叫次数;2009年1-3月网内主被叫号码数;2009年1-3月是否集团成员;2009年1-3月在网时长。
  分别对以上的属性进行编号:A1;A2;A3;A4;A5;A6;A7;B1;B2;B3;B4;C1;C2;C3;D1;E1;E2;E3;E4;E5;E6;E7;E8;F1;F2;F3;F4;F5;F6
  客戶信用度预测系统中的D为结果属性集(既分类属性 ),这里我们仅包含了一个属性,其值域为1或则为0。根据低用户信用度的定义:
  1.截止2009年1—3月期间,用户状态在用或停机时间小于1天的用户。
  2.排除免话费用户。
  3.以拍照号码为基础, 在2009年4月1日发生欠费停机,且一个月仍然按时缴费的用户号码。
  根据以上条件,当满足以上关系的用户该属性的值为“1”,否则为“0”。
  预测系统中的V代表属性值集合:
  预测系统中的f为结果属性集 , 它指定U中每个对象(即每个用户)的属性制.
  
  三、数据预处理和属性简约
  
  在进行商业过程处理后,我们将从企业数据仓库中直接抽取相关数据,我们从某西部通信运营商获得有效用户数据共774万条.在进行数据挖掘前,为了提升挖掘的效率,我们需要进行数据的预处理,包括数据质量的验证,以及属性简约.
  1.数据质量检验。数据质量问题主要是数据缺失和数据噪音,通过稽核,为提升预测模型的质量,条件属性C集中的元素{A4,45,E1,E2,E3,E5,E6}共七个属性被直接取消,新的条件属性集为C-1,而新的客户信用度预测系统为S1=.
  2.属性简约。通过对海量的数据进行复杂的数据分析和挖掘将需要很长的时间,从而导致模型比较复杂,效果也不明显,属性简约可以帮助减少条件属性集C-1中属性的数量,但仍然可以保持原数据的完整性.这里我们通过,该算法是通过不断的向预测系统中增加条件属性C-1中的元素后,对预测系统分类能力(既预测结果属性D中元素d的值的能力)的变化来评价该属性的重要度.
  开始假设 ,然后逐步将C-1中各元素分别引入,最后我们计算C-1中各元素的重要度指标。
  在C-1中属性{C2,C3,F1,F2,F3,F4}重要度比较小,因此可以考虑在挖掘以前直接剔除.最后得到用于最终挖掘模型的条件属性集为C-2,而新的预测系统为S1=.(注:C-2=C-1{C2,C3,F1,F2,F3,F4})
  完成数据整理和属性简约后,得到输入字段16个.
  
  四、模型的构建
  
  在数据挖掘的概念中,客户信用预测系统S1=中条件属性集C-2的元素又被称为自变量,而D中的元素又被称为因变量(其信用度标识属性 是一个二分类变量,当d=1时,说明用户信用度差,d=0时,说明用户信用度好).我们将通过合理的算法来构造一个模型,以该模型来描述自变量对因变量对应关系.
  该模型将被直接应用于运营商的经营分析系统中,由计算机自动为用户计算信用等级,因此模型需要具备较好的可解释性,同时又能较好的拟合自变量和因变量之间的对应函数,由于两者的关系属于非线性,因此我们选择了数据挖掘中的LOFISTIC回归算法[3]来构件预测系统S1=的模型:
  影响用户信用属性 取值的14个自变量分别为C-2={A1,A2,A3,A6,A7,B1,B2,B3,B4,C1,D1,E4,E7,E8,F5,F6}。令自变量作用用户信用度为差的条件概率为 ,则logistic回归模型可表示为:
  
  其中 为常数项,其表示当各种自变量取值为0时,d=1与d=0的概率之比的自然对数值.为偏回归系数。其中 表示在其它自变量固定的条件下,第j个自变量每改变一个单位时logit的改变量。
  这里进行logit变换: 为P的logit变换,通过logit变换之后,就可将 的资料转换为 的资料.
  预测模型的构建就是利用最大似然估计来测算偏回归系数 .我们将抽取的770万条左右的实验数据分成三部分,其中一部分作为训练数据,一部分作为模型验证数据,最后一部分为测试数据.
  通过运算,我们得到最后的模型:
   中的系数值如下(表3):
  表 1 模型系数值
  
  根据模型后,我们对每个用户进行信用度情况进行评分:通过模型计算每个用户信用度差的概率P,根据该概率的大小从高到低对用户进行排名,并将用户分为信用度差、信用度较差,信用度较好,信用好、高信度群体。
  
  五、模型的效果检验
  
  1.模型拟合效果检验。通过实验数据进行模型訓练,用户信用属性 等于1占比为1%,为0占70.2%,记录中有效数据为100%,没有丢失数据。因此可以认为本次实验数据有效。
  另外我们采用了 指标来评价模型的拟合优度。当自变量与因变量完全无关时,类R2值趋近于0;而当回归模型能够全部准确预测时,类R2趋近于1。通过计算, 的类R2值(表5)为0.67,说明信用评价模型的拟合优度较理想。
  通过(表6),以检验Logistic回归模型是否适用,模型的显著性水平低于0.05,因此表明Logistic回归模型是适用的,符合“比例性”的要求。
  2.自变量显著性检验。要检验所选的自变量引入模型后是否对模型的预测结果有显著贡献,判断某个自变量是否应该包含在Logistic回归模型中,需要通过Wald统计量来检验.一般情况下,Wald值越大或显著性概率越小,则自变量在回归方程中的重要性越大、贡献较大,应该将其纳人模型,反之则应该去除。
  Wald的统计量为u,计算方法如下:
  式中: 表示第i个自变量的回归系数样本值,表示自变量的回归系数标准差.对自变量进行Wald检验的结果如表2所列,表2分别给出了各自变量的Wald统计值和对应的显著性概率,将其用于回归系数的显著性检验。
  在95%置信度水平下,除常数项 以外,只有自变量B3和F5的系数 和 的显著性概率均大于0.05,其作用在统计上不显著,对预测因变量的贡献不大,可以考虑不作为自变量进入模型.其他的14个变量的的显著性概率均小于0.05,在统计上显著。这说明建模前我们基于互信息的属性约简算法对于简化属性的作用是有效的。
  3.模型收益效果。我们利用CLIMENTINE软件来检验了模型的收益效果。图1展示了使用模型和不使用模型的时候的效益.可以看到与理想的收益线相比,模型预测效果较接近理想状况.在实际应用中,我们将取信用度差的概率值排名前20%的用户来进行模型预测效果是不使用模型时的2.5倍,这将大大减少企业在的客户维护成本.
  4.模型的实际效果检验。最后我们将企业数据仓库中获得的700万条真实数据代入模型,计算预测值和真实值对比,计算结果如表5所示.总体而言,总体预测准确率达到88.13%,错误率为11.87%.因此我们认为该模型预测效果检验有效。
  5.模型实际运用效果检验。该模型目前已被某西部通信运营商投入商业试运行,运用范围包括:
  (1)根据客户信用度来设置客户可欠费的额度,以提高客户通信服务满意度,同时刺激用户消费,提升企业收入。
  (2)将信用模型引入客户价值模型,为根据客户价值的精确化营销提供有利的依据。
  
  六、总结
  
  通过上述研究,本文形成以下主要结论:
  1.通过基于互信息的属性约简算法进行属性简约,在实际应用中可以大大简化模型构件过程的复杂度,该简约算法在实际应用中可实施性强,通过Wald检验,显示了该方法对于属性简约效果明显.
  2.通过对模型进行拟合效果的检验,发现采用累积Logistic回归方法是适用的.
  3.通过采用Wald统计量对不同自变量进行显著性检验和筛选,发现最后选出的14个自变量能够很好地预测低信用度的用户.
  4.通过模型收益效果检验,模型的实际效果将极大的减少企业的客户关系运营成本.
  5.最后通过对模型的实际效果检验,对实测数据的预测准确性达到88.13%.
  6.将Logistic回归算法引入到客户价值预测,可以根据模型预测的概率结果的大小作为用户信用度级别的依据。该方法因为可解释性强,因此在实际的应用中便于系统实现,该方法可在电信运营商的客户信用评估中具备较好的推广价值.
  总体而言,本文所提出的客户信用度评价模型能够较为准确地反映某公司,但模型的预测结果仍存在一定的差异性,主要原因在于:客户信用低还存在很多的偶然因素,例如,客户丢卡,客户临时出差等特殊情况可能造成预测数据偏差,另外算法在进行非线性性拟合的时候还需要进一步改进,因此在将来有必要深入分析上述因素对客户信用的影响,进一步完善评价模型。
  
  参考文献:
  [1]伊蒙著 王志海等译:数据仓库(第三版)[M]. 机械工业出版社,2003.
  [2]王宏著:基于粗糙集数据挖掘技术的客户价值分析[M].经济科学出版社,2006-9-1.
  [3]王济川 锅志刚:Logistic 回归模型---方法与应用[M]。高等教育出版社,2001-09-01.
  [4]王济川 郭志刚:Logistic回归模型方法与应用[M].北京高等教育出版社,2001.
  [5]谢邦昌:数据挖掘Clementine应用实务[M].机械工业出版社,2008-04.
其他文献
翻译:陈伟    中国的网络游戏笼络了巨大的人气。大约有3000万人通过自家的电脑或者在网吧,体验游戏和对话的乐趣成为时尚的娱乐方式。  网络游戏的运行方式是这样的:在运营新闻平台上购买游戏点卡,将点卡上的卡号输入画面就可以游戏了。立命馆大学政策科学系助理教授中村彰宪对中国游戏行业了解深入,他指出,玩家每月要花费30—50元人民币在网游上,花费100、200元的也不在少数。根据游戏的不同,所花费的
期刊
东盟国家是中国的友好邻邦。今年是中国一东盟友好年,也是中国一东盟建立对话关系15周年。15年来,中国与东盟国家的双边关系不断加深,经贸合作硕果累累。目前,东盟已经成为中国第四大贸易伙伴,中国与东盟之间的贸易额年均增长率达20%,这一增长率超过了同期中国和东盟各自的对外贸易增长率。根据最新统计,2006年1~8月份,中国一东盟贸易额达到1,009.3亿美元,同比增长23.1%。同时,自2004年以来
期刊
摘要:2003年春天SARS事件的突然爆发突显出我国政府应急危机处理方面存在着缺失,到甲型H1N1流感的传入则让我们看到了政府危机管理机制建设的功效。建立一套成熟的应急危机处理机制对解除危机、善后处理具有重要的意义。笔者运用调查问卷对民众进行访谈,从民众需求的视角以心理调节、信息透明和政府公信力等角度来论证我国应急危机处理机制的完善。  关键词:SARS;甲型H1N1;应急危机处理    从200
期刊
翻译:曹谦    随着世界经济良好势头,中国出口迅猛增长,贸易顺差8月份达到188亿美元,连续第4个月刷新历史纪录。  这一顺差再次加剧美国和欧洲对中国减少货币流通的控制,进一步放宽人民币汇率的波动。让市场决定人民币的价值有可能加快人民币的升值,从而使得中国的出口势头下降而进口商品在价格上更具竞争力。美国新一任财政部长亨利·保尔森已经计划下周访问北京,这也将是他上任以来第一次访问北京。曾经担任高盛
期刊
英国《每日电讯》作者:多米尼克.怀特 翻译:曹谦  世界电子元件巨头Premier Farnell公司正在试图更大规模的开展自身在中国的业务,目标是借助中国奇迹般的经济增长在三年时间里使自己在中国的产品销量提高5倍。今年四月上任的Premier Farnell首席执行关哈里特格林说:“根据我们的综合分析,中国电器和电子元件市场约有10亿英镑的市场份额已经成熟并适合投资。我们的产品涉及领域广泛,比如
期刊
《纽约时报》大卫.巴博萨&迈克·巴巴罗 翻译:曹谦  沃尔玛——美国最大的零售商,正在向中国最大的外资连锁超市迈进。沃尔玛在中国寻求发展的步伐很快,随着政策上的放开、中国国力的强盛和人民的逐渐富裕,特别是中国“中产阶级”的增长,使得沃尔玛的发展前景看好,同时,随着越来越多的外资零售巨头意识到这一点。沃尔玛也对自己将要面临的竞争做好了准备,预计在今年年底结束对“好又多”的并购,当然某些环节还需要中国
期刊
英国《经济学人》 翻译:孙斌  国际油价因为经济增速减缓和需求的减少已经进入了下降周期。最近,石油市场走势似乎正在证实着这一判断:9月20日,纽约原油期货10月合约价格以60.61美元/桶——半年来的新低做收,盘中一度跌破60美元/桶。  其实,油价同其他商品价格一样,无论怎样炒作,最终必然回归由供求关系决定。从长期来看,石油消费国的支付能力、经济周期的转变、美元汇率的调整以及大国内部的政治利益结
期刊
韩国《朝鲜日报》 翻译:欧阳晓璇  现在,韩国POSCO公司中国区总代表金东震到中国出差时,再也不需在机场出入境审查台的外国人专用窗口大排长队了。他可以在国内窗口办理各项手续,也不用每年一次频繁更新他的护照。以上便利条件的获得皆源于他的“中国绿卡”——2005年11月时,他被同行戏选为“驻华韩国企业人一号”,并拿到了北京市颁发的永久居留证。  金东震与中国结缘已有十九年。1987年,他在任POSC
期刊
法国《解放报》 翻译:李漫  在中国湖南省长沙市的一个区,数以万计的红色小册子堆满了当地“公民道德银行”的主任吴女士的办公桌。“道德银行”以做好人好事的时间为存储对象,将每个“储户”的“道德时间”记录下来,当“储户”遇到困难需要别人帮助时,还可从“道德银行”中取出金钱或“时间”,得到其他“储户”的帮助。吴女士是她所在的区党委的副书记。每天她都热情高涨地填写她所在区的居民的小册子。在用户的“道德存款
期刊
日本《朝日新闻》 翻译:陈伟  被称为世界工厂的中国、印度以及亚洲正在发生蜕变。  所谓“世界工厂”,一般指一个国家的制造业有一大批企业和众多产品在世界市场上占有主要地位。能够被誉“世界工厂”的国家,应该在重要产业有一批企业群在生产能力、新产品开发能力、技术创新能力、经营管理水平等方面成为世界的排头兵,其一系列产品在世界市场上占有主要份额,甚至处于相对垄断的地位。历史上,英国曾被称为“世界工厂”。
期刊