在现实的学习、工作中,许多人都写过论文吧,通过论文写作可以培养我们独立思考和创新的能力。你知道论文怎样写才规范吗?下面是的小编为您带来的数据挖掘论文(优秀7篇),希望可以启发、帮助到大家。
随着会计现代化的发展,会计越来越多的运用计算机技术的拓展。
一、数据挖掘
数据挖掘是从数据当中发现趋势和模式的过程,它融合了现代统计学、知识信息系统、机器学习、决策理论和数据库管理等多学科的知识。它能有效地从大量的、不完全的、模糊的实际应用数据中,提取隐含在其中的潜在有用的信息和知识,揭示出大量数据中复杂的和隐藏的关系,为决策提供有用的参考。数据挖掘是从数据当中发现趋势和模式的过程,它融合了现代统计学、知识信息系统、机器学习、决策理论和数据库管理等多学科的知识。它能有效地从大量的、不完全的、模糊的实际应用数据中,提取隐含在其中的潜存有用的信息和知识,揭示出大量数据中复杂的和隐藏的关系,为决策提供有用的参考。
二、数据挖掘的现代最新方法介绍
常用的数据挖掘方法主要有决策树(Decision Tree)、遗传算法(Genetic Algorithms)、关联分析(Association Analysis).聚类分析(C~smr Analysis)、序列模式分析(Sequential Pattern)以及神经网络(Neural Networks)等。
三、数据挖掘的实际应用
由于数据挖掘市场还处于起步的阶段,但是发展很快。在国外有一些著名的大公司对数据挖掘系统进行了开发。
1.Intelligent Miner这是IBM公司的数据挖掘产品,它提供了很多数据挖掘算法,包括关联、分类、回归、预测模型、偏离检测、序列模式分析和聚类。有2个特点:一是它的数据挖掘算法的可伸缩性;二是它与IBM/DB/2关系数据库系统紧密地结合在一起。
2.EineSet是由SGI公司开发的,它也提供了多种数据挖掘方法,包括关联分析和分类以及高级统计和可视化工具。特色是它具有的强大的图形工具,包括规则可视化工具、树可视化工具、地图可视化工具和多维数据分散可视化工具,它们用于实现数据和数据挖掘结果的可视化。
3.Clementine是由ISL公司开发的,它为终端用户和开发者提供提供了一个集成的数据挖掘开发环境。
4.DBMiner是由DBMiner Technology公司开发的,它提供多种数据挖掘算法,包括发现驱动的OLAP分析、关联、分类和聚类。特色是它的基于数据立方体的联机分析挖掘,它包含多种有效的频繁模式挖掘功能和集成的可视化分类方法
四、数据挖掘与管理会计
1.提供有力的决策支持
面对日益激烈的竞争环境,企业管理者对决策信息的需求也越来越高。管理会计作为企业决策支持系统的重要组成部分,提供更多、更有效的有用信息责无旁贷。因此,从海量数据中挖掘和寻求知识和信息,为决策提供有力支持成为管理会计师使用数据挖掘的强大动力。例如,数据挖掘可以帮助企业加强成本管理,改进产品和服务质量,提高货品销量比率,设计更好的货品运输与分销策略,减少商业成本。
2.赢得战略竞争优势的有力武器
实践证明数据挖掘不仅能明显改善企业内部流程,而且能够从战略的高度对企业的竞争环境、市场、顾客和供应商进行分析,以获得有价值的商业情报,保持和提高企业持续竞争优势。如,对顾客价值分析能够将为企业创造80%价值的20%的顾客区分出来,对其提供更优质的服务,以保持这部分顾客。
3.预防和控制财务风险
利用数据挖掘技术可以建立企业财务风险预警模型。企业财务风险的发生并非一蹴而就,而是一个积累的、渐进的过程,通过建立财务风险预警模型,可以随时监控企业财务状况,防范财务危机的发生。另外,也可以利用数据挖掘技术,对企业筹资和投资过程中的行为进行监控,防止恶意的商业欺诈行为,维护企业利益。尤其是在金融企业,通过数据挖掘,可以解决银行业面临的如信用卡的恶意透支及可疑的信用卡交易等欺诈行为。根据SEC的报告,美国银行、美国第一银行、联邦住房贷款抵押公司等数家银行已采用了数据挖掘技术。
五、数据挖掘在管理会计中的应用
1.作业成本和价值链分析
作业成本法以其对成本的精确计算和对资源的充分利用引起了人们的极大兴趣,但其复杂的操作使得很多管理者望而却步。利用数据挖掘中的回归分析、分类分析等方法能帮助管理会计师确定成本动因,更加准确计算成本。同时,也可以通过分析作业与价值之间的关系,确定增值作业和非增值作业,持续改进和优化企业价值链。在Thomas G,John J和Il-woon Kim的调查中,数据挖掘被用在作业成本管理中仅占3%。
2.预测分析
管理会计师在很多情况下需要对未来进行预测,而预测是建立在大量的历史数据和适当的模型基础上的。数据挖掘自动在大型数据库中寻找预测性信息,利用趋势分析、时间序列分析等方法,建立对如销售、成本、资金等的预测模型,科学准确的预测企业各项指标,作为决策的依据。例如对市场调查数据的分析可以帮助预测销售;根据历史资料建立销售预测模型等。
3.投资决策分析
投资决策分析本身就是一个非常复杂的过程,往往要借助一些工具和模型。数据挖掘技术提供了有效的工具。从公司的财务报告、宏观的经济环境以及行业基本状况等大量的数据资料中挖掘出与决策相关的实质性的信息,保证投资决策的正确性和有效性。如利用时间序列分析模型预测股票价格进行投资;用联机分析处理技术分析公司的信用等级,以预防投资风险等。
4.产品和市场预测与分析
品种优化是选择适当的产品组合以实现最大的利益的过程,这些利益可以是短期利润,也可以是长期市场占有率,还可以是构建长期客户群及其综合体。为了达到这些目标,管理会计师不仅仅需要价格和成本数据有时还需要知道替代品的情况,以及在某一市场段位上它们与原产品竞争的状况。另外企业也需要了解一个产品是如何刺激另一些产品的销量的等等。例如,非盈利性产品本身是没有利润可言的,但是,如果它带来了可观的客户流量,并刺激了高利润产品的销售,那么,这种产品就非常有利可图,就应该包括在产品清单中。这些信息可根据实际数据,通过关联分析等技术来得到。
5.财务风险预测与评估
管理会计师可以利用数据挖掘工具来评价企业的财务风险,建立企业财务危机预警模型,进行破产预测。破产预测或称财务危机预警模型能够帮助管理者及时了解企业的财务风险,提前采取风险防范措施,避免破产。另外,破产预测模型还能帮助分析破产原因,对企业管理者意义重大。,数据挖掘技术包括多维判别式分析、逻辑回归分析、遗传算法、神经网络以及决策树等方法在管理会计中得到了广泛的应用。
六、结论
数据挖掘是个崭新的领域,对于数字和信息的处理是非常科学和方便的,也是非常高效率和合理分析的非常好的工具,对于会计管理领域的应用在国际上只是刚刚开始,相信随着会计的国际化的接轨和计算机科学的进步,在我国的会计领域中的数据挖掘理论会得到不断的提升,在管理会计实际应用中的数据挖掘也越来越多样化和普及化。
1.软件工程数据的挖掘测试技术
1.1代码编写
通过对软件数据进行分类整理,在进行缺陷软件的排除工作以后,根据软件开发过程中的各种信息进行全新的代码编写。基于代码编写人员的编写经验,在一般情况,对结构功能与任务类似的模块进行重新编写,这些重新编写的模块应遵循特定的编写规则,这样才能保证代码编写的合理有效性。
1.2错误重现
代码编写完成以后开发者会将这些代码进行版本的确认,然后将正确有效的代码实际应用到适当版本的软件中去。而对于存在缺陷的代码,开发者需要针对代码产生缺陷的原因进行分析,通过不但调整代码内的输入数据,直到代码内的数据与程序报告中的描述接近为止。存在缺陷的代码往往会以缺陷报告的形式对开发者予以说明,由于缺陷报告的模糊性,常常会误导开发者,进而造成程序设计混乱。
1.3理解行为
软件开发者在设计软件的过程中需要明确自己设计软件中每一个代码的内容,同时还需要理解其他开发者编写的代码,这样才能有效地完善软件开发者的编写技术。同时,软件开发者在进行代码编写的过程中,需要对程序行为进行准确的理解,以此保证软件内文档和注释的准确性。
1.4设计推究
开发者在准备对软件进行完善设计的过程中,首先需要彻底了解软件的总体设计,对软件内部复杂的系统机构进行详细研究与分析,充分把握软件细节,这有这样才能真正实现软件设计的合理性与准确性。
2.软件工程数据挖掘测试的有效措施
2.1进行软件工程理念和方法上的创新
应通过实施需求分析,将数据挖据逐渐演变成形式化、规范化的需求工程,在软件开发理念上,加强对数据挖掘的重视,对软件工程的架构进行演化性设计与创新,利用新技术,在软件开发的过程中添加敏捷变成与间件技术,由此,提高软件编写水平。
2.2利用人工智能
随着我国科学技术的不断发展与创新,机器学习已经逐渐被我国各个领域所广泛应用,在进行软件工程数据挖掘技术创新的过程中,可以将机器学习及数据挖掘技术实际应用于软件工程中,以此为我国软件研发提供更多的便捷。人工智能作为我国先进生产力的重要表现,在实际应用于软件工程数据的挖掘工作时,应该利用机器较强的学习能力与运算能力,将数据统计及数据运算通过一些较为成熟的方法进行解决。在软件工程数据挖掘的工作中,合理化的将人工智能实际应用于数据挖掘,以此为数据挖掘提供更多的开发测试技术。
2.3针对数据挖掘结果进行评价
通过分析我国传统的软件工程数据挖掘测试工作,在很多情况下,传统的数据挖掘测试技术无法做到对发掘数据的全面评价与实际应用研究,这一问题致使相应的软件数据在被发掘出来以后无法得到有效地利用,进而导致我国软件开发工作受到严重的抑制影响。针对这一问题,数据开发者应该利用挖掘缺陷检验报告,针对缺陷检验的结果,制定相应的挖掘结构报告。同时,需要结合软件用户的体验评价,对挖掘出的数据进行系统化的整理与分析,建立一整套严谨、客观的服务体系,运用CodeCity软件,让用户在的体验过后可以对软件进行评价。考虑到软件的服务对象是人,因此,在软件开发的过程中要将心理学与管理学应用于数据挖掘,建立数据挖掘系统和数据挖掘评价系统。
3.结束语
综上所述,由于软件工程数据挖掘测试技术广阔的应用前景,我国相关部门已经加大了对软件技术的投资与开发力度,当下,国内已经实现了软件工程的数据挖掘、人工智能、模式识别等多种领域上的发展。
计算机技术的不断发展,信息技术不断加强,在社会新的发展趋势下,以往的传统管理模式落后于现代化发展的管理水平。为了创新档案管理的模式,提高档案管理的质量,在现代档案信息管理系统中引入数据挖掘技术。
1、信息挖掘技术
1.1数据挖掘技术概述
数据挖掘技术是一种基于统计学、人工智能等等技术基础上,能够自动分析原有数据,从而做出归纳整理,并对其潜在的模式进行挖掘的决策支持过程,简单来说就是从一系列复杂的数据中提取人们需要的潜在性信息。
1.2数据挖掘技术的方法
二十世纪末,计算机挖掘技术产生。其一般用到的方法有:
(1)孤立点分析。孤立点分析法主要用于对于特殊信息的挖掘。
(2)聚类分析。聚类分析方法是在指定的对象中,对其价值联系进行搜索。
(3)分类分析。分类分析就是找出具有一定特点的数据,对需要解读的数据进行识别。
(4)关联性分析。关联性分析方法是对指定数据中出现频繁的数据进行挖掘。
(5)序列分析。与关联性分析法一样,由数据之间内在的联系得出潜在的关联。
1.3计算机挖掘技术的形式分析
计算机挖掘技术在使用过程中,收集到的数据不同,数据收集的方法也就不同。在对数据挖掘技术进行形式分析的时候,主要用到:分类形式、粗糙集形式、相关规则形式。
2、计算机数据挖掘技术在档案信息管理
系统中的应用计算机挖掘技术,能够将隐藏的信息挖掘出来并进行总结和利用,运用到档案管理中来,在充分发挥挖掘技术作用的同时,极大的提高了档案数据的利用价值。数据挖掘技术在档案管理系统中,一般用到的方法为:
2.1收集法
该方法在对数据库中的数据进行分析的基础上,建立对已知数据详细描述的概念模型。然后将每个测试的样本与此模型进行比较,若有一个模型在测试中被认可,就可以以此模型对管理的对象分类。例如,档案管理员就某事向客户进行问卷调查并将答案输入到数据库中。在该数据库中,对客户的回答进行具体属性描述,当有新的回答内容输入的时候,系统会自动对该客户需求分类,在减轻管理员工作压力的同时,提高了档案管理的效率。
2.2保留法
该方法是防止老客户档案丢失并将客户留住的过程。对于任何一个企业来说,发展一个新的客户的成本要远远高于留住一个来客户的成本。在客户保留的过程中,对客户档案流失原因的分析至关重要,因此,采用挖掘技术对其进行分析是必要的。
2.3分类法
通过计算机挖掘技术对档案进行分类,按照不同的性质进行系统的划分,将所有相似或相通的档案进行整理,在人们需要的时候,能够快速的被提取出来,提高了检索的效率和分类的专业性。
3、档案管理引入计算机挖掘技术的必要性
计算机挖掘技术的应用,对档案管理方式的不断完善有着极其重要的意义,其重要性主要体现在:
3.1对档案的保护更全面
一部分具有历史意义的档案,随着保存的时间不断增加,其年代感加强,意义和价值增大。相应的,利用的频率会随着利用的价值增加,也更容易被损坏从而导致档案信息寿命折损,此外,管理不当造成泄密,使档案失去了原本的利用价值,这种存在于档案管理和利用之间的矛盾,使得档案管理面临着巨大的难题。挖掘技术的运用,缓解了这种矛盾,在档案管理工作中具有重要的意义。
3.2提升档案管理的质量
在档案信息管理系统中引入计算机挖掘技术,使得档案信息管理打破了传统的模式,通过挖掘技术,对管理的模式有了极大的创新,工作人员以往繁重的工作压力得到释放,时间和精力更加丰富,在对档案管理的细节方面也就更加注意,同时也加快了对档案的数据信息进行处理的速度,提升档案管理的整体质量。
4、结语
综上所述,计算机数据挖掘技术涉及的内容很广,对挖掘技术的运用,使得各行各业的发展水平得到了很大的提高,推动社会经济的发展,带动社会发展模式的创新。在档案管理中使用计算机挖掘技术,使得档案信息保存的方法及安全性有了很大的提高。同时,也需要档案信息管理人员在进行档案信息管理的时候,能合理利用计算机信息挖掘技术,在提高工作效率的同时,促进管理模式的不断创新,以适应时代发展的要求。
[1]刘莹。基于数据挖掘的商品销售预测分析[J].科技通报。20xx(07)
[2]姜晓娟,郭一娜。基于改进聚类的电信客户流失预测分析[J].太原理工大学学报。20xx(04)
[3]李欣海。随机森林模型在分类与回归分析中的应用[J].应用昆虫学报。20xx(04)
[4]朱志勇,徐长梅,刘志兵,胡晨刚。基于贝叶斯网络的客户流失分析研究[J].计算机工程与科学。20xx(03)
[5]翟健宏,李伟,葛瑞海,杨茹。基于聚类与贝叶斯分类器的网络节点分组算法及评价模型[J].电信科学。20xx(02)
[6]王曼,施念,花琳琳,杨永利。成组删除法和多重填补法对随机缺失的二分类变量资料处理效果的比较[J].郑州大学学报(医学版).20xx(05)
[7]黄杰晟,曹永锋。挖掘类改进决策树[J].现代计算机(专业版).20xx(01)
[8]李净,张范,张智江。数据挖掘技术与电信客户分析[J].信息通信技术。20xx(05)
[9]武晓岩,李康。基因表达数据判别分析的随机森林方法[J].中国卫生统计。20xx(06)
[10]张璐。论信息与企业竞争力[J].现代情报。20xx(01)
[11]杨毅超。基于Web数据挖掘的作物商务平台分析与研究[D].湖南农业大学20xx
[12]徐进华。基于灰色系统理论的数据挖掘及其模型研究[D].北京交通大学20xx
[13]俞驰。基于网络数据挖掘的客户获取系统研究[D].西安电子科技大学20xx
[14]冯军。数据挖掘在自动外呼系统中的应用[D].北京邮电大学20xx
[15]于宝华。基于数据挖掘的高考数据分析[D].天津大学20xx
[16]王仁彦。数据挖掘与网站运营管理[D].华东师范大学20xx
[17]彭智军。数据挖掘的若干新方法及其在我国证券市场中应用[D].重庆大学20xx
[18]涂继亮。基于数据挖掘的智能客户关系管理系统研究[D].哈尔滨理工大学20xx
[19]贾治国。数据挖掘在高考填报志愿上的应用[D].内蒙古大学20xx
[20]马飞。基于数据挖掘的航运市场预测系统设计及研究[D].大连海事大学20xx
[21]周霞。基于云计算的太阳风大数据挖掘分类算法的研究[D].成都理工大学20xx
[22]阮伟玲。面向生鲜农产品溯源的基层数据库建设[D].成都理工大学20xx
[23]明慧。复合材料加工工艺数据库构建及数据集成[D].大连理工大学20xx
[24]陈鹏程。齿轮数控加工工艺数据库开发与数据挖掘研究[D].合肥工业大学20xx
[25]岳雪。基于海量数据挖掘关联测度工具的设计[D].西安财经学院20xx
[26]丁翔飞。基于组合变量与重叠区域的SVM-RFE方法研究[D].大连理工大学20xx
[27]刘士佳。基于MapReduce框架的频繁项集挖掘算法研究[D].哈尔滨理工大学20xx
[28]张晓东。全序模块模式下范式分解问题研究[D].哈尔滨理工大学20xx
[29]尚丹丹。基于虚拟机的Hadoop分布式聚类挖掘方法研究与应用[D].哈尔滨理工大学20xx
[30]王化楠。一种新的混合遗传的基因聚类方法[D].大连理工大学20xx
[31]杨毅超。基于Web数据挖掘的作物商务平台分析与研究[D].湖南农业大学20xx
[32]徐进华。基于灰色系统理论的数据挖掘及其模型研究[D].北京交通大学20xx
[33]俞驰。基于网络数据挖掘的客户获取系统研究[D].西安电子科技大学20xx
[34]冯军。数据挖掘在自动外呼系统中的应用[D].北京邮电大学20xx
[35]于宝华。基于数据挖掘的高考数据分析[D].天津大学20xx
[36]王仁彦。数据挖掘与网站运营管理[D].华东师范大学20xx
[37]彭智军。数据挖掘的若干新方法及其在我国证券市场中应用[D].重庆大学20xx
[38]涂继亮。基于数据挖掘的智能客户关系管理系统研究[D].哈尔滨理工大学20xx
[39]贾治国。数据挖掘在高考填报志愿上的应用[D].内蒙古大学20xx
[ 40]马飞。基于数据挖掘的航运市场预测系统设计及研究[D].大连海事大学20xx
摘要:主要通过对数据挖掘技术的探讨,对职教多年累积的教学数据运用分类、决策树、关联规则等技术进行分析,从分析的结果中发现有价值的数据模式,科学合理地实现教学评估,让教学管理者能够从中发现教学活动中存在的主要问题以便及时改进,进而辅助管理者决策做好教学管理。
关键词:教学评估;数据挖掘;教学评估体系;层次分析法
1概述
近年来国家对中等职业教育的发展高度重视,在政策扶持与职教工作者的努力下,职业教育获得了蓬勃的发展。如何提高教学质量、培养合格的高技术人才成为职教工作者研究的课题。各种调查研究结果表明:加强师资队伍的建设,强化教师教学评估对教学质量的提高尤为重要。
所谓教学评估,就是运用系统科学的方法对教学活动或教育行为的价值、效果作出科学的判断过程。教学评估方式要灵活多样,要多途径、多方位、多形式的发挥评估的导学作用,以鼓励评估为主,充分发挥评估的激励功能,促进教学的健康发展。
在中等职业学校多年的教育教学工作中积累了大量的教务管理数据、教师档案数据等,怎样从庞杂大量的数据中挖掘出有效提高教学质量的关键因素是个难题。数据挖掘技术却可以从人工智能的角度很好地解决这一课题。通过数据挖掘技术,得到隐藏在教学数据背后的有用信息,在一定程度上为教学部门提供决策支持信息促使更好地开展教学工作,提高教学质量和教学管理水平,使之能在功能上更加清晰地认识教师教与学生学的关系及促进教育教学改革。
2数据挖掘技术
2.1数据挖掘的含义
数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。数据挖掘应该更正确地命名为“从数据中挖掘知识”。即数据挖掘是对巨大的数据集进行寻找和分析的计算机辅助处理过程,在这一过程中显现先前未曾发现的模式,然后从这些数据中发掘某些内涵信息,包括描述过去和预测未来趋势的信息。人工智能领域习惯称知识发现,而数据库领域习惯将其称为数据挖掘。
2.2数据挖掘的基本过程
数据挖掘过程包括对问题的理解和提出、数据收集、数据处理、数据变换、数据挖掘、模式评估、知识表示等过程,以上的过程不是一次完成的,其中某些步骤或者全过程可能要反复进行。对问题的理解和提出在开始数据挖掘之前,最基础的工作就是理解数据和实际的业务问题,在这个基础之上提出问题,对目标作出明确的定义。
2.3数据挖掘常用的算法
2.3.1分类分析方法:是通过分析训练集中的数据,为每个类别做出准确的描述或建立分析模型或挖掘出分类规则,以便以后利用这个分类规则对其它数据库中的记录进行分类的方法。2.3.2决策树算法:是一种常用于分类、预测模型的算法,它通过将大量数据有目的的分类,从而找到一些有价值的、潜在的信息。它的主要优点是描述简单,分类速度快,特别适合大规模的数据处理。2.3.3聚类算法:聚类分析处理的数据对象的类是未知的。聚类分析就是将对象集合分组为由类似的对象组成的多个簇的过程。在同一个簇内的对象之间具有较高的相似度,而不同簇内的对象差别较大。2.3.4关联规则算法:侧重于确定数据中不同领域之间的关系,即寻找给定数据集中的有趣联系。提取描述数据库中数据项之间所存在的潜在关系的规则,找出满足给定支持度和置信度阈值的多个域之间的依赖关系。
在以上各种算法的研究中,比较有影响的是关联规则算法。
3教学评估体系
评价指标体系是教学评估的基础和依据,对评估起着导向作用,因此制定一个科学全面的评价指标体系就成为改革、完善评价的首要目标。评价指标应以指导教学实践为目的,通过评价使教师明确教学过程中应该肯定的和需要改进的地方;以及给出设计评价指标的导向问题。
3.1教学评估体系的构建方法
层次分析法(简称AHP法)是美国运筹学家T·L·Saaty教授在20世纪70年代初期提出的一种简便、灵活而又实用的多准则决策的系统分析方法,其原理是把一个复杂问题分解、转化为定量分析的方法。它需要建立关于系统属性的各因素多级递阶结构,然后对每一层次上的因素逐一进行比较,得到判断矩阵,通过计算判断矩阵的特征值和特征向量,得到其关于上一层因素的相对权重,并可自上而下地用上一层次因素的相对权重加权求和,求出各层次因素关于系统整体属性(总目标层)的综合重要度。
3.2构建教学评估指标体系的作用
3.2.1构建的教学评估指标,作为挖掘库选择教学信息属性的依据。
3.2.2通过AHP方法,能筛选出用来评价教学质量的相关重要属性,从而入选为挖掘库字段,这样就减去了挖掘库中对于挖掘目标来说影响较小的属性,进而大大减少了挖掘的工作量,提高挖掘效率。3.2.3通过构建教学评估指标,减少了挖掘对象的字段,从而避免因挖掘字段过多,导致建立的决策树过大,出现过度拟合挖掘对象,进而造成挖掘规则不具有很好的评价效果的现象。3.2.4提高教学质量评估实施工作的效率。
4数据挖掘在教学评估中的应用
4.1学习效果评价学习评价是教育工作者的重要职责之一。评价学生的学习情况,既对学生起到信息反馈和激发学习动机的作用,又是检查课程计划、教学程序以至教学目的的手段,也是考查学生个别差异、便于因材施教的途径。评价要遵循“评价内容要全面、评价方式要多元化、评价次数要多次化,注重自评与互评的有机结合”的原则。利用数据挖掘工具,对教师业务档案数据库、行为记录数据库、奖励处罚数据库等进行分析处理,可以即时得到教师教学的评价结果,对教学过程出现的问题进行及时指正。
另外,这种系统还能够克服教师主观评价的不公正、不客观的弱点,减轻教师的工作量。
4.2课堂教学评价
课堂教学评价不仅对教学起着调节、控制、指导和推动作用,而且有很强的导向性,是学校教学管理的重要组成部分,是评价教学工作成绩的主要手段。实现对任课教师及教学组织工作效果做出评价,但是更重要的目的是总结优秀的教学经验,为教学质量的稳定提高制定科学的规范。学校每学期都要搞课堂教学评价调查,积累了大量的数据。利用数据挖掘技术,从教学评价数据中进行数据挖掘,将关联规则应用于教师教学评估系统中,探讨教学效果的好坏与老师的年龄、职称、学历之间的联系;确定教师的教学内容的范围和深度是否合适,选择的教学媒体是否适合所选的教学内容和教学对象;讲解的时间是否恰到好处;教学策略是否得当等。从而可以及时地将挖掘出的规则信息反馈给教师。管理部门据此能合理配置班级的上课教师,使学生能够较好地保持良好的学习态度,从而为教学部门提供了决策支持信息,促使教学工作更好地开展。
结束语
数据挖掘作为一种工具,其技术日趋成熟,在许多领域取得了广泛的应用。在教育领域里,随着数据的不断累积,把数据挖掘技术应用到教学评价系统中,让领导者能够从中发现教师教学活动中的主要问题,以便及时改进,进而辅助领导决策做好学校管理,提高学校管理能力和水平,同时通过建立有效的教学激励机制来达到提高教学质量的目的。这一研究对发展中的职业教育教学管理提出了很好的建议,为教学管理工作的计算机辅助决策增添了新的内容。将数据挖掘技术应用于中职教学评估,设计开发一套行之有效的课堂教学评价系统,是下一步要做的工作,必将有力推动职业教育的快速发展。
1数据挖掘技术和过程
1.1数据挖掘技术概述
发现的是用户感兴趣的知识;发现的知识应当能够被接受、理解和运用。也就是发现全部相对的知识,是具有特定前提与条件,面向既定领域的,同时还容易被用户接受。数据挖掘属于一种新型的商业信息处理技术,其特点为抽取、转化、分析商业数据库中的大规模业务数据,从中获得有价值的商业数据。简单来说,其实数据挖掘是一种对数据进行深入分析的方法。因此,可以描述数据挖掘为:根据企业设定的工作目标,探索与分析企业大量数据,充分揭示隐藏的、未知的规律性,并且将其转变为科学的方法。数据挖掘发现的最常见知识包括:
1.1.1广义知识体现相同事物共同性质的知识,是指类别特点的概括描述知识。按照数据的微观特点对其表征的、具有普遍性的、极高概念层次的知识积极发现,是对数据的高度精炼与抽象。发现广义知识的方法与技术有很多,例如数据立方体和归约等。
1.1.2关联知识体现一个事件与其他事件之间形成的关联知识。假如两项或者更多项之间形成关联,则其中一项的属性数值就能够借助其他属性数值实行预测。
1.1.3分类知识体现相同事物共同特点的属性知识与不同事物之间差异特点知识。
1.2数据挖掘过程
1.2.1明确业务对象对业务问题清楚定义,了解数据挖掘的第一步是数据挖掘目的。挖掘结果是无法预测的,但是研究的问题是可预见的,仅为了数据挖掘而数据挖掘一般会体现出盲目性,通常也不会获得成功。基于用户特征的电子商务数据挖掘研究刘芬(惠州商贸旅游高级职业技术学校,广东惠州516025)摘要:随着互联网的出现,全球范围内电子商务正在迅速普及与发展,在这样的环境下,电子商务数据挖掘技术应运而生。电子商务数据挖掘技术是近几年来数据挖掘领域中的研究热点,基于用户特征的电子商务数据挖掘技术研究将会解决大量现实问题,为企业确定目标市场、完善决策、获得最大竞争优势,其应用前景广阔,促使电子商务企业更具有竞争力。主要分析了电子商务内容、数据挖掘技术和过程、用户细分理论,以及基于用户特征的电子商务数据挖掘。
1.2.2数据准备第一选择数据:是按照用户的挖掘目标,对全部业务内外部数据信息积极搜索,从数据源中获取和挖掘有关数据。第二预处理数据:加工选取的数据,具体对数据的完整性和一致性积极检查,并且处理数据中的噪音,找出计算机丢失的数据,清除重复记录,转化数据类型等。假如数据仓库是数据挖掘的对象,则在产生数据库过程中已经形成了数据预处理。
1.2.3变换数据转换数据为一个分析模型。这一分析模型是相对于挖掘算法构建的。构建一个与挖掘算法适合的分析模型是数据挖掘获得成功的重点。可以利用投影数据库的相关操作对数据维度有效降低,进一步减少数据挖掘过程中数据量,提升挖掘算法效率。
1.2.4挖掘数据挖掘获得的经济转化的数据。除了对选择科学挖掘算法积极完善之外,其余全部工作都自行完成。整体挖掘过程都是相互的,也就是用户对某些挖掘参数能够积极控制。
1.2.5评价挖掘结果这个过程划分为两个步骤:表达结果和评价结果。第一表达结果:用户能够理解数据挖掘得到的模式,可以通过可视化数据促使用户对挖掘结果积极理解。第二评价结果:用户与机器对数据挖掘获得的模式有效评价,对冗余或者无关的模式及时删除。假如用户不满意挖掘模式,可以重新挑选数据和挖掘算法对挖掘过程科学执行,直到获得用户满意为止。
2用户细分理论
用户细分是指按照不同用户的属性划分用户集合。目前学术界和企业界一般接受的是基于用户价值的细分理论,其不仅包含了用户为企业贡献历史利润,还包含未来利润,也就是在未来用户为企业可能带来的利润总和。基于用户价值的细分理论选择客户当前价值与客户潜在价值两个因素评价用户。用户当前价值是指截止到目前用户对企业贡献的总体价值;用户潜在价值是指未来用户可能为企业创造的价值总和。每个因素还能够划分为两个高低档次,进一步产生一个二维的矩阵,把用户划分为4组,价值用户、次价值用户、潜在价值用户、低价值用户。企业在推广过程中根据不同用户应当形成对应的方法,投入不同的资源。很明显对于企业来说价值用户最重要,被认为是企业的玉质用户;其次是次价值用户,被认为是金质用户,虽然数量有限,却为企业创造了绝大部分的利润;其他则是低价值用户,对企业来说价值最小,成为铅质用户,另外一类则是潜在价值用户。虽然这两类用户拥有较多的数量,但是为企业创造的价值有限,甚至很小。需要我们注意的是潜在价值用户利用再造用户关系,将来极有可能变成价值用户。从长期分析,潜在价值用户可以是企业的隐形财富,是企业获得利润的基础。将采用数据挖掘方法对这4类用户特点有效挖掘。
3电子商务数据挖掘分析
3.1设计问卷
研究的关键是电子商务用户特征的数据挖掘,具体包含了价值用户特征、次价值用户特征、潜在价值用户特征,对电子商务用户的认知度、用户的需求度分析。问卷内容包括3部分:其一是为被调查者介绍电子商务的概念与背景;其二是具体调查被调查对象的个人信息,包含了性别、年龄、学历、感情情况、职业、工作、生活地点、收入、上网购物经历;其三是问卷主要部分,是对用户对电子商务的了解、需求、使用情况的指标设计。
3.2调查方式
本次调查的问卷主体是电脑上网的人群,采用随机抽象的方式进行网上访问。一方面采用大众聊天工具,利用电子邮件和留言的方式发放问卷,另一方面在大众论坛上邀请其填写问卷。
3.3数据挖掘和结果
(1)选择数据挖掘的算法利用Clementine数据挖掘软件,采用C5.O算法挖掘预处理之后数据。
(2)用户数据分析
1)电子商务用户认知度分析按照调查问卷的问题“您知道电子商务吗?”得到对电子商务用户认知情况的统计,十分了解20.4%,了解30.1%,听过但不了解具体使用方法40.3%,从未听过8.9%。很多人仅听过电子商务,但是并不清楚具体的功能与应用方法,甚至有一小部分人没有听过电子商务。对调查问卷问题“您听过电子商务的渠道是什么?”,大部分用户是利用网了解电子商务的,占40.2%;仅有76人是利用纸质报刊杂志上知道电子商务的并且对其进行应用;这也表明相较于网络宣传纸质媒体推广电子商务的方法缺乏有效性。
2)电子商务用户需求用户希求具体是指使用产品服务人员对应用产品或服务形成的需求或者期望。按照问题“假如你曾经使用电子商务,你觉得其用途怎样,假如没有使用过,你觉得其对自己有用吗?”得到了认为需要和十分需要的数据,觉得电子商务有用的用户为40.7%,不清楚是否对自己有用的用户为56.7%,认为不需要的仅有2.4%。
3)电子商务用户应用意愿应用意愿是指消费者对某一产品服务进行应用或者购买的一种心理欲望。按照问题“假如可以满足你所关心的因素,未来你会继续应用电子商务吗?”获得的数据可知,在满足各种因素时,将来一年之内会应用电子商务的用户为78.2%,一定不会应用电子商务的用户为1.4%。表明用户形成了较为强烈的应用电子商务欲望,电子商务发展前景很好。基于用户特征的电子商务数据研究,电子商务企业通过这一结果能够更好地实行营销和推广,对潜在用户积极定位,提高用户体验,积极挖掘用户价值。分析为企业准确营销和推广企业提供了一个有效的借鉴。
4结语
互联网中数据是最宝贵的资源之一,大量数据中包含了很大的潜在价值,对这些数据深入挖掘对互联网商务、企业推广、传播信息发挥了巨大的作用。近些年来,数据挖掘技术获得了信息产业的极大重视,具体原因是出现了大量的数据,能够广泛应用,并且需要转化数据成为有价值的信息知识。通过基于用户特征的电子商务数据挖掘研究,促使电子商务获得巨大发展机会,发现潜在用户,促使电子商务企业精准营销。
随着互联网技术的快速发展,学术研究环境较以前更加开放,对传统的科技出版业提出了开放性、互动性和快速性的要求; 因此,以信息技术为基础的现代数字化出版方式对传统的科技出版业产生着深刻的影响。为了顺应这一趋势,不少科技期刊都进行了数字化建设,构建了符合自身情况、基于互联网B /S 结构的稿件处理系统。
以中华医学会杂志社为代表的部分科技期刊出版集团均开发使用了发行系统、广告登记系统、在线销售系统以及站。这些系统虽然积累了大量的原始用户业务数据; 但从工作系统来看,由于数据本身只属于编辑部的业务数据,因此一旦相关业务工作进行完毕,将很少再对这些数据进行分析使用。
随着目前人工智能和机器学习技术的发展,研究人员发现利用最新的数据挖掘方法可以对原始用户业务数据进行有效分析和学习,找出其中数据背后隐含的内在规律。这些有价值的规律和宝贵的经验将对后续科技期刊经营等工作提供巨大的帮助。
姚伟欣等指出,从STM 期刊出版平台的技术发展来看,利用数据存取、数据管理、关联数据分析、海量数据分析等数据挖掘技术将为科技期刊的出版和发行提供有力的帮助。通过使用数据挖掘( data mining) 等各种数据处理技术,人们可以很方便地从大量不完全且含有噪声或相对模糊的实际数据中,提取隐藏在其中有价值的信息,从而对后续科技期刊出版工作起到重要的知识发现和决策支持的作用。
1 数据挖掘在科技期刊中应用的现状
传统的数据库对数据的处理功能包括增、删、改、查等。这些技术均无法发现数据内在的关联和规则,更无法根据现有数据对未来发展的趋势进行预测。现有数据挖掘的任务可以分为对数据模型进行分类或预测、数据总结、数据聚类、关联规则发现、序列模式发现、依赖关系发现、异常或例外点检测以及趋势发现等,但目前国内科技期刊行业利用数据挖掘方法进行大规模数据处理仍处在起步阶段。张品纯等对中国科协所属的科技期刊出版单位的现状进行分析后发现,中国科协科技期刊出版单位多为单刊独立经营,单位的规模较小、实力较弱,多数出版单位不具备市场主体地位。这样就导致国内大部分科技期刊既没有能力进行数据挖掘,也没有相应的数据资源准备。以数据挖掘技术应用于期刊网站为例,为了进行深入的数据分析,期刊经营人员需要找到稿件与读者之间、读者群体之间隐藏的内在联系。目前,数据挖掘的基本步骤为: 1) 明确数据挖掘的对象与目标;2) 确定数据源; 3) 建立数据模型; 4) 建立数据仓库; 5)数据挖掘分析; 6) 对象与目标的数据应用和反馈。
2 期刊数据的资源整合
编辑部从稿件系统、发行系统、广告系统、站等各个系统中将相关数据进行清洗、转换和整理,然后加载到数据仓库中。进一步,根据业务应用的范围和紧密度,建立相关数据集市。期刊数据资源的整合过程从数据体系上可分为数据采集层、数据存储处理层和数据展现层。
要获得能够适合企业内部多部门均可使用、挖掘和分析的数据,可以从业务的关联性分析数据的准确性、一致性、有效性和数据的内在关联性。
3 期刊数据的信息挖掘
信息挖掘为了从不同种类和形式的业务进行抽取、变换、集成数据,最后将其存储到数据仓库,并要对数据的质量进行维护和管理。数据挖掘可以有效地识别读者的阅读行为,发现读者的阅读模式和趋势,对网站改进服务质量、取得更好的用户黏稠度和满意度、提高科技期刊经营能力有着重要的意义。作为一个分析推荐系统,我们将所分析的统计结果存储于服务器中,在用户或决策者需要查询时,只需输入要找寻的用户信息,系统将从数据库中抽取其个人信息,并处理返回到上网时间分布、兴趣点所在、适配业务及他对于哪些业务是有价值客户,甚至包括他在什么时段对哪类信息更感兴趣等。只有这些信息才是我们的使用对象所看重和需要的。
网站结构挖掘是挖掘网站中潜在的链接结构模式。通过分析一个网页的链接、链接数量以及链接对象,建立网站自身的链接结构模式。在此过程中,如果发现某一页面被较多链接所指向,则说明该页面信息是有价值的,值得期刊工作人员做更深层次的挖掘。网站结构挖掘在具体应用时采用的结构和技术各不相同; 但主要过程均包括预处理、模式发现和模式分析3 部分。为了反映读者兴趣取向,就需要对数据库中的数据按用户进行抽样分析,得到兴趣点的统计结果,而个人的兴趣分析也可基于此思路进行。下面以《中华医学杂志》为例做一介绍。
预处理预处理是网站结构挖掘最关键的一个环节,其处理得到的数据质量直接关系到使用数据挖掘和模式分析方法进行分析的结果。预处理步骤包括数据清洗、用户识别、会话识别、路径补充和事件识别。以《中华医学杂志》网站www. nmjc. net. com 的日志分析为例。首先给出一条已有的Log,其内容为“20xx-03-04 12: 13: 47 W3SVC80003692 172. 22. 4. 3GET /index. asp-80-123. 185. 247. 49Mozilla /5. 0 +( Windows + NT + 6. 1; + WOW64 ) + AppleWebKit /537. 36 + ( KHTML,+ like + Gecko) + Chrome /28. 0.1500. 95 + Safari /537. 36 + SE + 2. X + MetaSr + 1. 0200 0 0”。从Log 的内容,工作人员可以得到相关信息,如用户IP、用户访问页面事件、用户访问的页面、用户请求的方法、返回HTTP 状态以及用户浏览的上一页面等内容。
由于服务器同时部署了多个编辑部网站,这就要求工作人员必须对得到的访问www. nmjc. net. com 日志,去除由爬虫软件产生的记录。这些记录一般都会在日志结尾包含“Spider”的字样。同时,还需要去除不是由GET 请求产生的日志以及请求资源不是页面类型的日志。最后,工作人员还需要去除访问错误的请求,可以根据日志中请求的状态进行判断。一般认为,请求状态在( 200, 300) 范围内是访问正确的日志,其他如403、400 和500 等都是访问错误的日志。用户识别可以根据用户的IP 地址和用户的系统信息来完成。只有在IP 地址和系统信息都完全一致的情况下,才识别为一个用户。会话识别是利用面向时间的探索法,根据超时技术来识别一个用户的多次会话。如果用户在一段时间内没有任何操作,则认为会话结束。用户在规定时间后重新访问,则被认为不属于此次会话,而是下次会话的开始。
利用WebLogExplore 分析日志、用户和网页信息在获得了有效的日志数据后,工作人员可以利用一些有效数据挖掘算法进行模式发现。目前,主要的数据挖掘方法有统计分析、关联规则、分类、聚类以及序列模式等技术。本文主要讨论利用Apriori 算法来发现科技期刊日志数据中的关联规则。本质上数据挖掘不是用来验证某个假定的模式的正确性,而是在数据库中自己寻找模型,本质是一个归纳的过程。支持度( Support) 的公式定义为: Support ( A≥B) = P( A ∪B) 。支持度可以用于度量事件A 与B 同时出现的概率。如果事件A 与B 同时出现的概率较小,说明事件A 与B 的关系不大; 如果事件A 与B 同时出现非常频繁,则说明事件A 与B 总是相关的。置信度( Confidence) 的公式定义为: Confidence( A≥B) = P( A | B) 。置信度揭示了事件A 出现时,事件B 是否也会出现或有多大概率出现。如果置信度为100%,则事件A 必然会导致事件B 出现。置信度太低,说明事件A 的出现与事件B 是否出现关系不大。
对所有的科技期刊日志数据进行预处理后,利用WebLogExplore 软件可得到日志汇总表。表中存储了所有用户访问网站页面的详细信息,工作人员可将其导入数据库中。以查看到所选择用户访问期刊页面的详细信息。
同样,在WebLogExplore 软件中选择感兴趣的页面,可以查看所有用户访问该页面的统计信息,如该页面的访问用户数量等。工作人员可以对用户访问排名较高的页面进行进一步的模式分析。
步骤1: 将图2 日志信息汇总表中的数据导入数据库中,建立日志总表。
步骤2: 在数据库中建立一个新表命名为tj。
步骤3: 通过查询程序得到日志总表中每一个用户访问的页面,同时做distinct 处理。
步骤4: 将查询得到的用户访问页面记录进行判断。如果用户访问过排名前20 位的某个页面,则在数据库中写入true,否则写入false。依次循环判断写入数据库中。
步骤5: 统计每个访问排名靠前页面的支持度,设置一维项目集的最小阀值( 10%) 。
步骤6: 统计大于一维阀值的页面,写入数组,并对数组内部页面进行两两组合,统计每个组合2 个页面值均为true 时的二维项目集的支持度。
步骤7: 设置二维项目集支持度的阀值,依次统计三维项目集支持度和置信度( A≥B) ,即当A 页面为true 时,统计B 页面为true 的数量,除以A 为true 的数量。设置相应的置信度阀值,找到访问排名靠前页面之间较强的关联规则。
4 数据挖掘技术应用的意义
1) 对频繁访问的用户,可以使用用户识别技术分析此用户的历史访问记录,得到他经常访问的页面。当该用户再次登录系统时,可以对其进行个性化提示或推荐。这样,既方便用户使用,也可将系统做得更加友好。很多OA 期刊网站,不具备历史浏览记录的功能; 但浏览记录对用户来讲其实十分重要,隐含了用户对文章的筛选过程,所以对用户经常访问的页面需要进行优化展示,不能仅仅提供链接地址,需要将文章题名、作者、关键词等信息以列表的方式予以显示。
2) 由数据挖掘技术而产生的频繁项目集的分析,可以对网站的结构进行改进。支持度很高的页面,说明该页面的用户访问量大。为了方便用户以及吸引更多的读者,可以将这些页面放置在更容易被访问的位置,科技期刊的网站内容一般以年、卷、期的形式展示。用户如果想查看某一篇影响因子很高的文章,也必须通过年卷期的方式来查看,非常不方便而且页面友好性不高。通过数据挖掘的分析,编辑部可以把经常被访问或者高影响因子的文章放在首页展示。
3) 对由数据挖掘技术产生的频繁项目集的分析,可以发现用户的关注热点。若某些页面或项目被用户频繁访问,则可以用这些数据对用户进行分析。一般来说科技期刊的读者,每个人的专业和研究方向都是不同的,编辑部可以通过数据挖掘技术来判断读者的研究方向和感兴趣的热点,对每一个用户进行有针对性的内容推送和消息发送。
4) 网站管理者可以根据在不同时间内频繁项目集的变化情况对科技期刊网站进行有针对性的调整,比如加入更多关于该热点的主题资源。目前大多数科技期刊网站首页的内容,均为编辑部工作人员后台添加、置顶、高亮来吸引用户的; 通过数据挖掘技术,完全可以摈弃这种展示方式。编辑部网站的用户访问哪些页面频繁,系统便会自动将这些页面的文章推向首页,不需要编辑部的人工干预,整个网站实现自动化运行。
5 后记
本文重点讨论了数据挖掘技术与科技期刊网站页面之间的关系。其实我们还可以从很多方面进行数据挖掘,比如可以对网站的用户和内容进行数据挖掘,通过分析可以为后期的期刊经营做好铺垫。
有一点很重要,没有一种数据挖掘的分析方法可以应付所有的需求。对于某一种问题,数据本身的特性会影响你的选择,需要用到许多不同的数据挖掘方法以及技术从数据中找到最佳的模型。
在目前深化文化体制改革,推动社会主义文化大发展、大繁荣的政治形势下,利用数据挖掘技术从中进行提取、分析和应用,能有效地帮助企业了解客户、改进系统、制订合理的市场策略、提高企业的销售水平和利润。通过利用数据挖掘技术准确定位优质客户,向客户提供更精确、更有价值的个性化服务。这将成为未来科技期刊经营十分重要的突破点和增长点。