无论是在学校还是在社会中,大家肯定对论文都不陌生吧,论文可以推广经验,交流认识。还是对论文一筹莫展吗?三人行,必有我师也。择其善者而从之,其不善者而改之。下面是漂亮的小编为大伙儿整编的大数据时代数据挖掘技术教学研究论文【优秀9篇】。
摘要:中医临床理论多是由著名医家的经验升华形成的,反映了临床上不同学术派系以及不同学科的优势特征,但这其中不免掺杂了个人主观经验,因此本文就中医临床理论研究中医病案为基础,对应用病案数据挖掘结果来总结和重建中医临床理论的方式进行了探讨,认为该方法可为完善中医临床理论提供客观的数据支持,使中医临床理论的来源更具有科学性。
关键词:病案;数据挖掘;中医临床理论;转化医学;临床
科研一体化中医临床理论决定着中医临床学科的发展水平,是中医临床发展的动力。从古至今,中医名医名家辈出,他们的临床经验和学术思想不断提炼升华,逐步形成了传统的中医临床理论。新中国成立以来,中医不断汲取最新的科技成果,进行了大量临床实践,而中医临床理论发展缓慢,己经成为制约当代中医学术发展的瓶颈,对如何开拓中医临床理论的研究,可谓见仁见智,但各种新的临床理论常常裹挟着“各家学说”。在当今大数据和信息技术发达的背景下,运用数据挖掘技术对中医病案进行大数据分析,客观揭示当前中医临床理论的本来面目,尽可能减少个人见解的偏倚,对于推动中医临床理论发展具有重要的现实意义,本文就基于病案数据挖掘的中医临床理论重建进行探讨如下。
1传统中医临床理论的构建框架
1.1中医古典文献是传统中医临床理论的基础
众所周知,中医之所以能够屹立千年不倒,很大一部分原因是因为其有独特的理论体系,而在这其中,中医古典文献做出的贡献应该是第一位的。因为这些古典文献的记载和流传,为后世的医家提供了参考和借鉴,使得我们从前人的思维上不断创新,与临床进行有机结合,不断研究出新的适合于当前时代的临床理论。例如,中医学无论在理论研究还是在临床治疗方面的丰富,许多根本性的理论都是源自于《内经》。该书创立了藏象、经络、诊法等各方面的理论[1],勾画了中医理论的雏形,构建了中医理论体系的基本框架。到后期东汉时期张仲景的《伤寒论》则是创造了以六经辨证和脏腑辨证为主的局面,其所倡导的“观其脉证,知犯何逆,随证治之”使得辨证论治登上新的高度。到了金元时期,就是百家争鸣的时代,这期间以金元四大家为主的学派开始萌生,留下了许多可供后世医家参考的古典文献并创建了不同的临床理论,而明清时期以叶天士和吴鞠通为首确立的卫气营血和三焦辨证,使温病学的辨证理论逐步趋于完善,至今仍是指导临床治疗温热病的理论依据。总之,传统中医临床理论的构建和完善,离不开前人的摸索与贡献,也得益于著名医学家创建的传统中医理论,使得我们现在的中医体系不断的饱满和充实。
1.2当代著名中医的临床经验不断提升为中医临床理论
传统中医的临床理论,在很大程度上展示着著名医家的临床经验。在中医理论与实践发展的相互促进过程中,当代医家通过读书、临证、心悟将实践经验不断总结并升华为理论,又在实践中不断完善既有的理论,成为中医理论发展的重要途径和模式,而当代中医理论的发展则需要将传统理论与现代实践相互融合起来。例如上世纪60年代时,面对中医基础理论中新的思想相对匮乏的这一局面,邓铁涛结合其治疗的临床经验,首次提出了“五脏相关学说”。尽管当时的理论准备并不完善,但是这一理论的提出,在很大程度上完善并且取代了“五行学说”中某些模糊性和不确定性,并且随着时代的发展,逐渐验证了邓老的这一经验的正确性,也成为指导中医临床理论的一大重要体系[2]。又如,脑出血这一现代疾病在古代名为中风,多数是“从风而治”,认为肝脏与中风的关系最为密切。随着时代的推进,自20世纪80年代以来,许多学者根据微观辨证和中医理论“离经之血便是瘀”,提出急性出血中风属中医血证,瘀血阻滞是急性期脑出血的最基本病机,是治疗的关键所在[3]。故现代中医临床治疗上多以活血化瘀法治疗脑出血、脑梗塞这一系列疾病。若是仔细研读传统中医临床理论后,我们不难得出其构成和完善离不开当代著名医家的临床经验,它是在历经岁月的洗礼下不断塑造成型的。
1.3传统中医临床理论不断将现代医学相关内容中医化
传统中医临床理论不断吸收现代医学的理论,将其相关内容不断中医化,将病人的各种证型通过五脏辨证、阴阳五行辨证以及八纲辨证划分得越来越细化,以提供病人在中医临床上治疗的理论依据。中医吸取了现代医学理论后正在不断壮大其内容,现代医学相关内容中医化在许多难治疾病的辨证治疗中都起到了良好的指导作用[4]。如艾滋病是古代传统中医辨证论治的空白,通过对艾滋病中医病因病机、证候规律、治法方药的系统研究,提出了“艾毒伤元”“脾为枢机”“气虚为本”的病因病机学说,确立了艾滋病“培元解毒”“益气健脾”的治疗原则,为中医药防治艾滋病奠定了理论基础,为进一步提高艾滋病的中医药临床诊疗效果提供理论依据[5]。
2当前中医临床理论发展存在的不足
2.1中医主流理论不突出且与时俱进力度不够
不可否认的是,当代的中医临床理论发展也是存在诸多不足的,中医理论的完善和发展是中华五千年来集体智慧的结晶,个别医家提出的临床理论可能各有千秋,其所立的角度和思维也不尽相同。例如,同是治疗输卵管阻塞这一疾病时,朱南孙教授认为多是由于湿蕴冲任所致,其用自拟的清热利湿方来进行治疗;而李广文教授则认为这一疾病多是由于瘀血阻络为主,治疗上以活血祛瘀为法,拟通任种子汤进行治疗[6]。又如对于“和解法”这一治疗方法的理解,当代名医蒲辅周老先生认为“寒热并用,补泻合剂,表里双解,苦辛分消,调和气血,皆谓和解”。而方和谦教授则认为“在治法上扶正祛邪,表里兼顾,此法就为和解法”。不同的医家在面对不同的疾病,甚至是不同的理法方药时,所持的看法常常是“各家学说”,这就导致了当前中医临床理论发展比较混乱,不能全面地体现中国五千年来发展过程中的中医主流理论。目前中医基础理论还存在一个缺陷就是它的与时俱进力度还不够,很多古代经典方药的主治病症,在当今时代已经不再多见了。比如蛔虫导致的蛔厥这一致病因素在现代已经不再常见,对应的乌梅丸的主要适应病症也不再是蛔厥;在针对没有明显临床表现的疾病如乙肝时,按传统中医往往体现出“无证可治”的状态;传统的诊断与现代检查相结合的力度也不够,中医临床基础理论在某些程度上忽略了其与生化、B超、X光、CT等现代检查结果的结合,并没有用中医理论对其做一合理的陈述;且现在临床上很多中药的药理作用、性味归经的研究作用还不够深入、细致,其作用不能在微观上得以解释。这些都导致了临床上很多情况没有从中医理论来认识中医,不是“以中解中”,而是“以西解中”,形成了临床抛弃中医理论的状态[7]。由于中医学是一门实践性很强的学科,它是在哲学辨证的思想指导下,与临床经验不断结合,这与西医知识体系相比较,难免存在一定的滞后性,这都会使得中医临床理论发展相对的落后。
2.2部分中医理论带有权威专家的“个人学说”偏见
传统中医强调个人经验和学说,以中医内科学为例,第八版中的脑系疾病在第九版中已经删除,其涉及到的各种脑系疾病大多数归属于心系疾病与肝系疾病。根据其版本的不同,我们可以明显看出其凸显的中心内容及其思想不同,其多是体现编著者的理论思想,在一定程度上并没有客观地揭示疾病的本质,治疗理论也不够完善,一部分内容与最新研究得出的论文理论不符,这使得当代中医临床理论在某些程度上,带有权威专家的“个人学说”色彩。由于现代西方先进的科技文化流入,使得中医在一定程度上备受质疑,而正是因为人们对于中医理论的一些偏见,才使得中医长期让人诟病。
3新的时代背景下中医临床理论发展方向
3.1临床理论应具有真实性与系统性
中医临床理论的发展方形应当是建立在客观并且真实的临床实践基础上,从一次次临床实践中得出。由于历史时代的原因以及假设推理、模式建设的广泛使用,当代中医临床理论中理论与假说并存的现象较为普遍,如中医的五运六气学说对现代疫病预测和人体各经络脏腑在时间上对于人体治病效果的不同等,就需要我们在扎实的文献与临床实践基础上,对医案进行认真总结,利用科学的方法深入挖掘,开展中医理论的去伪存真研究,以促进中医理论的科学与健康发展。另外,传统的中医临床治疗上所用的理法方药,多是根据个人经验所进行的。随着科技的不断发展与时代的不断进步,当代的中医临床理论应该在成功的中医医案上进行系统的总结,不断挖掘和研究其微观的结构,并随着年月的更迭不断更新,不断完善,使其具有科学性和理论依据。同时,对近年来兴起的传染性非典型肺炎、艾滋病、禽流感等古人所没有经历过的疾病的诊治,中医就其病因病机的认识以及探究相应的诊疗方法,无疑也是一种理论上的创新[8]。通过对其进行深一层次的研究和发现,归纳出合适的治则治法,找到针对这一疾病的理法方药,使其更具有系统性,使得临床上中医治病可以循序渐进,注重整体,也是当代临床理论的一大发展方向。
3.2临床理论具有信息化的特点并可持续拓展
随着时代的进步,当代的中医临床理论可以通过网络等方式进行共享,在大数据的这一时代背景下,随着病案的不断报道与积累,可以将各类成功的中医医案进行统计和挖掘,其结果也会不断进行更新和发展。不同的医家对于某一疾病的认识角度可能不同,其表现在病位、病性、病势和证候的判断标准也不一样,因此方药规律也不一样。而通过统计某一中医或西医疾病的较大样本病例,并对其进行数据挖掘,可以得出整个中医群体对于这一疾病诊治的证候分布、治则治法、处方用药等的规律,甚至可以根据统计的结果探索出新的方药,分析他们的共同点和所在差异。将中医临床理论具有信息化的这一特点不断地拓展下去,通过计算机等客观科学的手段进行分析,与主观的名老中医传承模式相比,更具客观性,更容易被临床医生接受,对各种疾病的中医临床用药也更具有指导价值。
4基于病案数据挖掘的中医临床理论重建
4.1病案研究是中医理论发展的重要基础
在当今大数据的时代背景下,中医固有的传统整体论科学特征有了越来越多的可供改变的空间。这种变化既为其按照自身特有的规律发展特点带来了机遇,也给未来中医理论的发展提出了挑战。同时,学习医案研究也是中医学相关大学生们应该学习的一项内容。阅读医案是必要的训练,也是中医入门的方法之一。医案的故事性引人入胜,在自然而然中接受中医思维方法和传统文化知识,同时医案中所呈现的名医风范,医德对学生起到潜移默化的影响,并培养对专业的热爱[9]。病案客观、真实地直接记录疾病诊断和治疗过程,医案研究作为中医理论发展过程中至关重要的一环,是中医理论发展的重要基础,以研究病案为基础,对于中医理论的形成和临床上中医积累经验,都起到了一定的辅助提升作用。
4.2数据挖掘方法是中医理论发展的现代技术手段
利用多种数据挖掘技术对中医病案中的有关信息行进行归纳、整理,是近年来传承中医临床经验的重要方法之一[10]。通过对同一种疾病的病案进行数据挖掘以分析医者的思路和探索其用药的。方法,对中医临床病案进行规范化的整理,能够深入总结其临床经验,挖掘隐藏在大量病案背后的诊治规律,甚至探索出新的方药配伍,为中医理论的发展提供一定的科学依据的同时,使得中医理论的发展越来越现代化,不仅仅只是停留在以前的靠读书和个人经验的结合,也为广大的中医在日后的临床治疗上提供了新的思路和方向。
4.3临床实践推动理论发展,赋予转化医学新的内涵
目前,我们通过并按数据挖掘来总结一些中医对于治疗同一种疾病所采取的诊断和用药,可以获得新的思路,并且为完善我们现有的中医理论基础可以提供可靠的理论支持。采用数据挖掘技术对中医学术思想和临证经验进行研究,可以全面解析其中的规律,分析中医个体化诊疗信息特征,提炼出临证经验中蕴藏的新理论、新力法,可以实现经验的有效总结与传承[11]。与此同时,要求我们用发展的眼光将现代的科技手段整合加入到传统的中医学理论中去,推陈出新,通过临床实践与基础理论的不断结合,不断完善,推动祖国医学现代化,谱写有关于中医学在转化医学上新的篇章。
[1]刘向哲。中医理论创新与发展的基础和机遇[J].中医学报,,25(5):884-885.
[2]邱仕君,吴玉生。在基础理论与临床医学之间———对邓铁涛教授五脏相关学说的理论思考[J].湖北民族学院学报(医学版),,22(2):36-39.
[3]顾宁,周仲英。通下法治疗急性脑出血研究进展[J].中国中医急诊,,9(5):227.
[4]靳士英。邓铁涛教授学术成就管[J].现代医院,(9):1-6.
[5]许前磊,徐立然,郭会军,等。艾滋病发病与防治中医理论的初步构建[J].中医杂志,,56(11):909-911.
[6]张少聪,周伟生。名老中医验方治疗输卵管阻塞性不孕症概况[J].中华中医药学刊,2010(3):489-491.
[7]孟静岩,应森林。试论中医基础理论指导临床研究的思考与途径[J].上海中医药大学学报,(3):3-5.
[8]邢玉瑞。新形势下中医理论发展的思考[J].中医杂志,,57(18):1540-1542.
[9]卢峰,聂达荣,彭美玉,等。中医内科学应用名老中医病案教学法的探索[J].中国中医药现代远程教育,(18):80-82.
[10]郭军。基于数据挖掘分析前名老中医病案整理的思路与方法[J].中医药信息,,28(2):49-50.
[11]吴嘉瑞,唐仕欢,郭位先,等。基于数据挖掘的名老中医经验传承研究述评[J].中国中药杂志,2014,39(4):614-617.
摘要:文章首先对数据挖掘技术及其具体功能进行简要分析,在此基础上对科研管理中数据挖掘技术的应用进行论述。期望通过本文的研究能够对科研管理水平的进一步提升有所帮助。
关键词:科研管理;数据挖掘;技术应用
1数据挖掘技术及其具体功能分析
所谓的数据挖掘具体是指通过相关的算法在大量的数据当中对隐藏的、有利用价值的信息进行搜索的过程。数据挖掘是一门综合性较强的科学技术,其中涉及诸多领域的知识,如人工智能、机器学习、数据库、数理统计等等。数据挖掘技术具有如下几个方面的功能:1.1关联规则分析。这是数据挖掘技术较为重要的功能之一,可从给定的数据集当中,找到出现比较频繁的项集,该项集具体是指行形如X->Y,在数据库当中,X和Y所代表的均为属性取值。在关联规则下,只要数据满足X条件,就一定满足Y条件,数据挖掘技术的这个功能在商业金融等领域中的应用较为广泛。1.2回归模式分析回归模式主要是通过对连续数值的预测,来达到挖掘数据的目的。例如,已知企业某个人的教育背景、工作年限等条件,可对其年薪的范围进行判定,整个分析过程是利用回归模型予以实现的。在该功能中,已知的条件越多,可进行挖掘的信息就越多。1.3聚类分析聚类具体是指将相似程度较高的数据归为同一个类别,通过聚类分析能够从数据集中找出类似的数据,并组成不同的组。在聚类分析的过程中,需要使用聚类算法,借助该算法对数据进行检测后,可以判断其隐藏的属性,并将数据库分为若干个相似的组。
2科研管理中数据挖掘技术的应用
科研是科学研究的简称,具体是指为认识客观事物在内在本质及其运动规律,而借助某些技术手段和设备,开展调查研究、实验等活动,并为发明和创造新产品提供理论依据。科研管理是对科研项目全过程的管理,如课题管理、经费管理、成果管理等等。由于科学研究中涉及的内容较多,从而给科研管理工作增添了一定的难度。为进一步提升科研管理水平,可在不同的管理环节中,对数据挖掘技术进行应用。下面就此展开详细论述。
2.1在立项及可行性评估中的应用
科研管理工作的开展需要以相关的科研课题作为依托,当课题选定之后,需要对其可行性及合理性进行全面系统地评估,由此使得科研课题的立项及评估成为科研管理的主要工作内容。现阶段,国内的科研课题立项采用的是申请审批制,具体的流程是:由科研机构的相关人员负责提出申请,然后再由科技主管部门从申请中进行筛选,经过业内专家的评审论证之后,择优选取科研项目的承接单位。在进行科研课题立项的过程中,涉及诸多方面的内容,具体包括申请单位、课题的研究领域、经费安排、主管单位以及评审专家等。通过调查发现,由于国家宏观调控政策的缺失,导致科研立项中存在低水平、重复性研究的情况,从而造成大量的研究经费浪费,所取得的研究成果也不显著。科研管理部门虽然建立了相对完善的数据库系统,并且系统也涵盖与项目申请、审评等方面有关的基本操作流程,如上传项目申报文件、将文件发给相关的评审专家、对评审结果进行自动统计等。从本质的角度上讲,数据库管理系统所完成的这些工作流程,就是将传统管理工作转变为信息化。故此,应当对已有的数据进行深入挖掘,从而找出其中更具利用价值的信息,据此对科研立项进行指导,这样不但能够使有限的科技资源得到最大限度地利用,而且还能使科研经费的使用效益获得全面提升。在科研立项阶段,可对数据挖掘技术进行合理运用,借此来对课题申请中涉及的各种因素进行挖掘,找出其中潜在的规则,为指标体系的构建和遴选方法的选择提供可靠依据,最大限度地降低不合理因素对课题立项带来的影响,对确需资助的科研项目进行准确选择,并给予相应的资助。在科研立项环节中,对数据挖掘技术进行应用时,可以借助改进后的Apriori算法进行数据挖掘,从中找出关联规则,在对该规则进行分析的基础上,对立项的合理性进行评价。
2.2在项目管理中的应用
项目管理是科研管理的关键环节,为提高项目管理的效率和水平,可对数据挖掘技术进行合理运用。在信息时代到来的今天,计算机技术、网络技术的普及程度越来越高,国内很多科研机构都纷纷构建起了相关的管理信息系统,其中涵盖了诸多的信息,如课题、科研人员、研究条件等等,而在这些信息当中,隐藏着诸多具有特定意义的规则,为找出这些规则,需要借助数据挖掘技术,对信息进行深入分析,进而获取对科研项目有帮助的信息。由于大部分科研管理部门建立的科研管理信息系统时间较早,从而使得系统本身的功能比较单一,如信息删减、修改、查询、统计等等,虽然这些功能可以满足对科研课题进展、经费使用等方面的管理,但其面向的均为数据库管理人员,处理的也都是常规事务。而从科研课题的管理者与决策者的角度上看,管理信息系统这些功能显然是有所不足的,因为他们需要对历史进行分析和提炼,从中获取相应的数据,为决策和管理工作的开展提供支撑。对此,可应用数据挖掘技术的OLAP,即数据库联机分析处理,由此能够帮助管理者从不同的方面对数据进行观察,进而深入了解数据并获取所需的信息。利用OLAP可以发现多种于科研课题有关信息之间的内在联系,这样管理者便能及时发现其中存在的相关问题,并针对问题采取有效的方法和措施加以应对。运用数据挖掘技术能够对科研项目的相关数据进行分析,找出其中存在的矛盾,从而使管理工作的开展更具针对性。
3结论
综上所述,科研管理是一项较为复杂且系统的工作,其中涵盖的信息相对较多。为此,可将数据挖掘技术在科研管理中进行合理应用,对相关信息进行深入分析,从中挖掘出有利用价值的信息,为科研管理工作的开展提供可靠的依据,由此除了能够确保科研项目顺利进行之外,还能提高科研管理水平。
参考文献:
[1]刘占波,王立伟,王晓丽.大数据环境下基于数据挖掘技术的高校科研管理系统的设计[J].电子测试,20xx(1):21-22.
[2]史子静.高校科研管理系统中计算机数据挖掘技术的运用研究[J].科技资讯,20xx(6):65-66.
[3]丁磊.数据挖掘技术在高校教师科研管理中的应用研究[D].大连海事大学,20xx.
数据挖掘技术在金融业、医疗保健业、市场业、零售业和制造业等很多领域都得到了很好的应用。针对交通安全领域中交通事故数据利用率低的现状,可以通过数据挖掘对相关交通事故数据进行统计分析,从而发现其中的关联,这对提升交通安全水平具有非常重要的意义。
1数据挖掘技术概述
数据挖掘(DataMining)即对大量数据进行有效的分类统计,从而整理出有规律的、有价值的、潜在的未知信息。一般来讲,这些数据存在极大的随机性和不完全性,其包括各行各业各个方面的数据。数据挖掘是一个结合了数据库、人工智能、机器学习的学科,涉及统计数据和技术理论等领域。
2数据挖掘关联分析研究
关联分析作为数据挖掘中的重要组成部分,其主要作用就是通过数据之间的相互关联从而发现数据集中某种未知的联系。关联分析最初是在20世纪90年代初被提出来的,一直备受关注。已被广泛应用于各行各业,包括医疗体检、电子商务、商业金融等各个领域。关联规则的挖掘一般可分成两个步骤[1]:
(1)找出频繁项集,不小于最小支持度的项集;
(2)生成强关联规则,不小于最小置信度的关联规则。相对于生成强关联规则,找出频繁项集这一步比较麻烦。由R.Agrawal等人在1994年提出的Apriori算法是生成频繁项集的经典算法[2]。Apriori算法使用了Level-wise搜索的迭代方法,即用k-项集探索(k+1)-项集。Apriori算法在整体上可分为两个部分。
(1)发现频集。这个部分是最重要的,开销相继产生了各种各样的频集算法,专门用于发现频集,以降低其复杂度、提高发现频集的效率。
(2)利用所获得的频繁项集各种算法主要致力产生强关联规则。当然频集构成的联规则未必是强关联规则,还要检验构成的关联规则的支持度和支持度是否超过它们的阈值。Apriori算法找出频繁项集分为两步:连接和剪枝。
(1)连接。集合Lk-1为频繁k-1项集的集合,它通过与自身连接就可以生成候选k项集的集合,记作Ck。
(2)剪枝。频繁k项集的集合Lk是Ck的子集。剪枝首先利用Apriori算法的性质(频繁项集的所有非空子集都是频繁的,如果不满足这个条件,就从候选集合Ck中删除)对Ck进行压缩;然后,通过扫描所有的事务,确定压缩后Ck中的每个候选的支持度;最后与设定的最小支持度进行比较,如果支持度不小于最小支持度,则认为该候选项是频繁的。目前,在互联网技术及科学技术的快速发展下,人工智能、机器识别等技术兴起,关联分析也被越来越多应用其中,并在不断发展中提出了大量的改进算法。
3数据挖掘关联分析在道路交通事故原因分析当中的应用
近年来,我国越来越多的学者将数据挖掘关联分析应用于道路交通事故的研究中,主要是分析道路、车辆、行人以及环境等因素与交通事故之间的某种联系。Pande和Abdel-Aty[3]通过关联分析研究了美国佛罗里达州20xx年非交叉口发生的道路交通事故,重点分析了各个不同的影响因素与交通事故之间的内在联系,通过研究得出如下结论,道路照明条件不足是引发道路交通事故的主要因素,除此之外,还发现天气恶劣的环境下道路弯道的直线段也极易发生交通事故。Graves[4]利用数据挖掘技术中的关联规则对欧洲道路交通事故进行了分析,主要研究了交通事故与道路设施状况之间的关联,通过研究发现了易导致交通事故发生的各个道路设施状况因素,此研究为欧洲路面建设及投资提供了强大的决策支持。我国学者董立岩在研究道路交通事故数据的文献中,将粗糙集与关联分析进行了融合,提出了基于偏好信息的决策规则简约算法并将其应用其中,通过分析发现了道路交通事故的未知规律。王艳玲通过关联分析中的因子关联树模型重点分析了影响道路交通事故最重要的因子,发现在道路交通事故常见的诱因人、车、路及环境中对事故影响最大的因子是环境。许卉莹等利用关联分析、聚类分析以及决策树分析三种数据挖掘技术对道路交通事故数据进行分析,最终得出了科学的道路交通事故预防和交通安全管理决策依据。尚威等在研究中,对大量的道路交通数据进行了有效整合,并在此基础上按照交通事故相关因素的不同特点整理出与事故发生有关的字段数据,形成新的事故数据记录表,然后再根据多维关联规则对记录的相关数据进行分析,从而发现了事故诱导因素记录字段值和事故结果字段值组成的道路交通事故频繁字段的组合。张听等在充分掌握聚类数据挖掘理论与方法的基础上,提出了多目标聚类分析框架和一个启发式的聚类算法k-WANMI,并将其用在道路交通事故的聚类研究中对不同权重的属性进行了多目标分析。同样,许宏科也利用该方法对公路隧道交通流数据进行了聚类分析,其在研究中不仅明确了隧道交通流的峰值规律,而且还根据这种规律制订了隧道监控设备的不同控制方案,对提高隧道交通安全的水平做了极大的贡献。徐磊和方源敏在研究中,提出了由简化信息熵构造的改进C4.5决策树算法,并将其应用在交通事故数据的研究中,对交通数据进行了正确分类,发现了一些隐藏的规则和知识,为交通管理提供了依据。刘军、艾力斯木吐拉、马晓松运用多维关联规则分析交通事故记录,从而找到导致交通事故发生次数多的主要原因,并且指导相关部门作出相应的决策。杨希刚运用关联规则为现实中的交通事故的预防提供依据。吉林大学的吴昊等人,基于关联规则的理论基础,定义了公路交通事故属性模型,并结合改进后的Apriori算法,分析了交通事故历史数据信息,为有关单位和用户寻找道路黑点(即事故多发点)提供了技术支援和决策帮助。
4结语
通过数据挖掘中的关联分析方法虽然能够对道路交通事故的相关因素进行清晰的分析,但是目前在这一方面的研究仍有不足之处。因为关联分析在道路交通事故的研究中往往只能片面发现某一种或几种因素影响交通事故的规律,很难将所有影响因素结合起来进行全面系统的分析。然而道路交通事故的发生通常都是由相应因素导致,而后事故当事人意识到危险源的存在并采取措施,直到事故发生的连续过程,整体来看体现了时序性。也就是说,道路交通事故是受到一系列按照时间先后顺序排列的影响因素组合共同作用而发生的,从整体的角度出发研究事故发生机理更加科学。
参考文献
[1]杨秀萍。大数据下关联规则算法的改进及应用[J]。计算机与现代化,20xx(12):23-26.
[2]王云,苏勇。关联规则挖掘在道路交通事故分析中的应用[J]。科学技术与工程,20xx(7):1824-1827.
[3]徐磊,方源敏。基于决策树C4.5改进算法的交通数据挖掘[J]。微处理机,20xx,31(6):57-59.
[4]杨希刚。数据挖掘在交通事故中的应用[[J]。软件导刊,20xx,7(26):18-20.
1数据挖掘技术和过程
1.1数据挖掘技术概述
发现的是用户感兴趣的知识;发现的知识应当能够被接受、理解和运用。也就是发现全部相对的知识,是具有特定前提与条件,面向既定领域的,同时还容易被用户接受。数据挖掘属于一种新型的商业信息处理技术,其特点为抽取、转化、分析商业数据库中的大规模业务数据,从中获得有价值的商业数据。简单来说,其实数据挖掘是一种对数据进行深入分析的方法。因此,可以描述数据挖掘为:根据企业设定的工作目标,探索与分析企业大量数据,充分揭示隐藏的、未知的规律性,并且将其转变为科学的方法。数据挖掘发现的最常见知识包括:
1.1.1广义知识体现相同事物共同性质的知识,是指类别特点的概括描述知识。按照数据的微观特点对其表征的、具有普遍性的、极高概念层次的知识积极发现,是对数据的高度精炼与抽象。发现广义知识的方法与技术有很多,例如数据立方体和归约等。
1.1.2关联知识体现一个事件与其他事件之间形成的关联知识。假如两项或者更多项之间形成关联,则其中一项的属性数值就能够借助其他属性数值实行预测。
1.1.3分类知识体现相同事物共同特点的属性知识与不同事物之间差异特点知识。
1.2数据挖掘过程
1.2.1明确业务对象对业务问题清楚定义,了解数据挖掘的第一步是数据挖掘目的。挖掘结果是无法预测的,但是研究的问题是可预见的,仅为了数据挖掘而数据挖掘一般会体现出盲目性,通常也不会获得成功。基于用户特征的电子商务数据挖掘研究刘芬(惠州商贸旅游高级职业技术学校,广东惠州516025)摘要:随着互联网的出现,全球范围内电子商务正在迅速普及与发展,在这样的环境下,电子商务数据挖掘技术应运而生。电子商务数据挖掘技术是近几年来数据挖掘领域中的研究热点,基于用户特征的电子商务数据挖掘技术研究将会解决大量现实问题,为企业确定目标市场、完善决策、获得最大竞争优势,其应用前景广阔,促使电子商务企业更具有竞争力。主要分析了电子商务内容、数据挖掘技术和过程、用户细分理论,以及基于用户特征的电子商务数据挖掘。
1.2.2数据准备第一选择数据:是按照用户的挖掘目标,对全部业务内外部数据信息积极搜索,从数据源中获取和挖掘有关数据。第二预处理数据:加工选取的数据,具体对数据的完整性和一致性积极检查,并且处理数据中的噪音,找出计算机丢失的数据,清除重复记录,转化数据类型等。假如数据仓库是数据挖掘的对象,则在产生数据库过程中已经形成了数据预处理。
1.2.3变换数据转换数据为一个分析模型。这一分析模型是相对于挖掘算法构建的。构建一个与挖掘算法适合的分析模型是数据挖掘获得成功的重点。可以利用投影数据库的相关操作对数据维度有效降低,进一步减少数据挖掘过程中数据量,提升挖掘算法效率。
1.2.4挖掘数据挖掘获得的经济转化的数据。除了对选择科学挖掘算法积极完善之外,其余全部工作都自行完成。整体挖掘过程都是相互的,也就是用户对某些挖掘参数能够积极控制。
1.2.5评价挖掘结果这个过程划分为两个步骤:表达结果和评价结果。第一表达结果:用户能够理解数据挖掘得到的模式,可以通过可视化数据促使用户对挖掘结果积极理解。第二评价结果:用户与机器对数据挖掘获得的模式有效评价,对冗余或者无关的模式及时删除。假如用户不满意挖掘模式,可以重新挑选数据和挖掘算法对挖掘过程科学执行,直到获得用户满意为止。
2用户细分理论
用户细分是指按照不同用户的属性划分用户集合。目前学术界和企业界一般接受的是基于用户价值的细分理论,其不仅包含了用户为企业贡献历史利润,还包含未来利润,也就是在未来用户为企业可能带来的利润总和。基于用户价值的细分理论选择客户当前价值与客户潜在价值两个因素评价用户。用户当前价值是指截止到目前用户对企业贡献的总体价值;用户潜在价值是指未来用户可能为企业创造的价值总和。每个因素还能够划分为两个高低档次,进一步产生一个二维的矩阵,把用户划分为4组,价值用户、次价值用户、潜在价值用户、低价值用户。企业在推广过程中根据不同用户应当形成对应的方法,投入不同的资源。很明显对于企业来说价值用户最重要,被认为是企业的玉质用户;其次是次价值用户,被认为是金质用户,虽然数量有限,却为企业创造了绝大部分的利润;其他则是低价值用户,对企业来说价值最小,成为铅质用户,另外一类则是潜在价值用户。虽然这两类用户拥有较多的数量,但是为企业创造的价值有限,甚至很小。需要我们注意的是潜在价值用户利用再造用户关系,将来极有可能变成价值用户。从长期分析,潜在价值用户可以是企业的隐形财富,是企业获得利润的基础。将采用数据挖掘方法对这4类用户特点有效挖掘。
3电子商务数据挖掘分析
3.1设计问卷
研究的关键是电子商务用户特征的数据挖掘,具体包含了价值用户特征、次价值用户特征、潜在价值用户特征,对电子商务用户的认知度、用户的需求度分析。问卷内容包括3部分:其一是为被调查者介绍电子商务的概念与背景;其二是具体调查被调查对象的个人信息,包含了性别、年龄、学历、感情情况、职业、工作、生活地点、收入、上网购物经历;其三是问卷主要部分,是对用户对电子商务的了解、需求、使用情况的指标设计。
3.2调查方式
本次调查的问卷主体是电脑上网的人群,采用随机抽象的方式进行网上访问。一方面采用大众聊天工具,利用电子邮件和留言的方式发放问卷,另一方面在大众论坛上邀请其填写问卷。
3.3数据挖掘和结果
(1)选择数据挖掘的算法利用Clementine数据挖掘软件,采用C5.O算法挖掘预处理之后数据。
(2)用户数据分析
1)电子商务用户认知度分析按照调查问卷的问题“您知道电子商务吗?”得到对电子商务用户认知情况的统计,十分了解20.4%,了解30.1%,听过但不了解具体使用方法40.3%,从未听过8.9%。很多人仅听过电子商务,但是并不清楚具体的功能与应用方法,甚至有一小部分人没有听过电子商务。对调查问卷问题“您听过电子商务的渠道是什么?”,大部分用户是利用网了解电子商务的,占40.2%;仅有76人是利用纸质报刊杂志上知道电子商务的并且对其进行应用;这也表明相较于网络宣传纸质媒体推广电子商务的方法缺乏有效性。
2)电子商务用户需求用户希求具体是指使用产品服务人员对应用产品或服务形成的需求或者期望。按照问题“假如你曾经使用电子商务,你觉得其用途怎样,假如没有使用过,你觉得其对自己有用吗?”得到了认为需要和十分需要的数据,觉得电子商务有用的用户为40.7%,不清楚是否对自己有用的用户为56.7%,认为不需要的仅有2.4%。
3)电子商务用户应用意愿应用意愿是指消费者对某一产品服务进行应用或者购买的一种心理欲望。按照问题“假如可以满足你所关心的因素,未来你会继续应用电子商务吗?”获得的数据可知,在满足各种因素时,将来一年之内会应用电子商务的用户为78.2%,一定不会应用电子商务的用户为1.4%。表明用户形成了较为强烈的应用电子商务欲望,电子商务发展前景很好。基于用户特征的电子商务数据研究,电子商务企业通过这一结果能够更好地实行营销和推广,对潜在用户积极定位,提高用户体验,积极挖掘用户价值。分析为企业准确营销和推广企业提供了一个有效的借鉴。
4结语
互联网中数据是最宝贵的资源之一,大量数据中包含了很大的潜在价值,对这些数据深入挖掘对互联网商务、企业推广、传播信息发挥了巨大的作用。近些年来,数据挖掘技术获得了信息产业的极大重视,具体原因是出现了大量的数据,能够广泛应用,并且需要转化数据成为有价值的信息知识。通过基于用户特征的电子商务数据挖掘研究,促使电子商务获得巨大发展机会,发现潜在用户,促使电子商务企业精准营销。
云计算下物联网的数据挖掘
摘要:随着我国信息技术产业日渐成熟,物联网这一新一代信息技术关键技术日渐受到学界重视,基于此,本文就物联网与云计算、物联网数据挖掘需要解决的关键性问题展开分析,并对基于云计算的物联网数据挖掘、实验验证进行了详细论述,期望由此能够为相关业内人士带来必须启发。
关键词:云计算平台;物联网;数据挖掘;Hodoop
随着提出的“数字地球”概念影响力不断扩大,物联网技术与我国民众生活之间的距离日渐拉近,越来越多的物联网应用也开始进入人们视野,各界对物联网的要求也在不断提升,而为了解决物联网领域正面临的数据挖掘难题,正是本文就云计算平台下物联网数据挖掘展开具体研究的原因所在。
1物联网与云计算
1.1物联网
物联网作为学界公认的下一代网络发展方向之一,其本身由无所不在的小型传感器设备组成,无论是与我们日常生命联系紧密的计算机与智能手机,还是大型网络的服务器、超级计算机群,均属于物联网的重要组成部分,这也是很多学者将物联网称作新科技革命的原因。在S.Haller等业界权威学者的展望中,其认为物联网技术在未来将实现物理对象无缝集成到信息网络之中并成为参与者,而这些“智能对象”在保护安全与保密的前提下,则能够在网络中找到任何问题的解决方法。对于物联网来说,其具备着全面感知、可靠传递、智能处理三方面特点,而结合现有技术获得基本信息、结合传感器网络和其他通信网络实现物体信息可靠传递、在云计算与模糊识别等技术支持下处理海量异构数据则属于物联网三方面特点的具体表现,由此可见电子元器件、数据处理中心、传输通道三方面能够视作典型物联网应用的组成。
1.2云计算
云计算本质上属于一种基于互联网的新计算方式,其能够结合互联网异构、自治服务较好满足用户的计算需要,云计算中的“云”也能够被视作对IT底层基础设施的一种抽象概念。本文研究应用的Hodoop属于典型的云计算基础开发平台,其本质上属于一个分布式系统基础的架构,Hodoop在云计算领域的地位能够说近似于IT产业的Linux系统。Hodoop的核心为分布式文件系统HDFS和MapReduce,前者具备高容错性、高伸缩性等优点,这些就使得Hodoop的布置能够较为简单且低成本的构成分布式文件系统,而后者则具备保证分析和处理的高效性潜力,由此Hodoop即可简单进行数据的整合。总之,Hodoop这一云计算基础开发平台能够透过简单组织计算机资源实现分布式计算云平台搭建,并以此实现云计算相关功用。
1.3物联网数据挖掘需要解决的关键性问题
简单了解物联网与云计算后,物联网数据挖掘需要解决的关键性问题也应引起人们关注,那里的关键性问题主要由以下几方面构成:
1.3.1传统模式难以应用中央模式
属于较为传统的数据挖掘模式,但是物联网数据不同存储地点的特性则使得该模式的效用无从发挥。
1.3.2对中央节点硬件要求较高
物联网本身具备着数据规模、传感器节点庞大的特点,而为了同时满足其实时处理需求,高性能的中央节点硬件要求务必得到满足。
1.3.3节点资源有限
在有限的节点资源影响下,分布式节点务必负责原始数据的预处理与传递。
1.3.4外在因素影响
由于数据安全性、数据保密、法律约束等因素的影响,物联网不能够将所有数据统一存放在相同数据仓库,这同样对物联网数据挖掘提出了较高挑战。总的来说,现有技术与方式并不能较好满足物联网数据挖掘需要,这也是本文研究开展的原因所在。
2基于云计算的物联网数据挖掘
结合Hodoop云计算基础开发平台进行基础平台搭建,选取用物联网数据集为例,构成了物联网感知层、传输层、数据层、数据挖掘服务层四部分模块组成的平台,各模块的实现思路与功能如下所示。
2.1物联网感知层
物联网感知层主要负责物联网数据的采集,这一采集需要得到目标区域布置的采集节点支持,那里的采集节点主要由摄像头、传感器、其他仪器仪表组成,而由此构成的物联网感知层无线传感器网络,便能够将各采集点采集到的网络数据汇集至节点,数据由此进行汇总储存则能够在传输层的支持下最终传递至云平台的数据中心。
2.2传输层传输层
本质上属于具备较高可靠性与高速性、较优无缝性特点的数据传输网络,而基于Hodoop云计算基础开发平台构建的物联网挖掘系统则结合传感器网络、有线网络、无线网络实现了数据传输网络的构建,这就使得物联网感知层所搜集的信息能够更快、更好的传递到云计算数据中心,由此实现的更高质量互通互联,则保证了系统中监测设备的网络化高速数据传输得以实现。
2.3数据层
物联网数据具备着异构性、海量性等特点,这就使得基于Hodoop云计算基础开发平台的物联网数据挖掘系统对于物联网数据的存储与处理存在着较高要求,而在本文研究所构建的物联网数据挖掘系统数据层中,该数据层主要由数据源转换模块与分布式存储模块两部分组成,其中前者主要负责物联网异构数据的转换,而后者则主要负责分布式存储物联网所产生的海量数据,由此本文研究的物联网挖掘系统的性能和可行性便得到了较好证实。值得注意的是,分布式存储模块需要结合Hodoop云计算基础开发平台中的HDFS文件系统实现。物联网中的不同对象往往会透过不同的数据类型进行表示,这就使得异构性势必属于物联网的根本性特征,一些相同对象使用不同数据表示便较为直观说明了这一点,而这就使得物联网对数据源转换器有着较高需求。在本文构建的物联网数据挖掘系统中,数据源转换器在其中发挥着保护数据存储完整、保证数据挖掘科学顺利等功能,数据包解码、数据的分布式存储也需要得到该转化器的直接支持,这也是物联网数据挖掘系统中各NameNode节点文件类型为PML的原因。PML能够透过一种通用的方式进行物体描述,而作为基于XML建立的语言,PML在与XML相同核心思想的影响下,其便能够在物品的详细信息带给、物品信息交换等
领域发挥不俗的功能。例如,在本文研究所构建的物联网数据挖掘系统中,PML便在节点数据采集、传输、存储过程中发挥着建模功能,相关建模信息所收录的物体属性信息、位置信息、环境信息、历史元素等资料,便能够保证物品信息实现较高质量的表达,这对于物联网数据挖掘也将带来较为用心影响。
2.4数据挖掘服务层
数据挖掘服务层能够细分为数据准备模块、数据挖掘引擎模块、用户模块三部分,三部分模块的具体功用如下所示:
2.4.1数据准备模块
主要负责物联网搜集数据的清理、变换、数据规约。
2.4.2数据挖掘引擎模块
主要透过数据挖掘算法集、模式评估等功能为物联网数据挖掘系统带给服务,特征、区分、关联、聚类、局外者、趋势和演化分析、偏差分析、类似性分析等能够视作该模块功能的具体组成,这些功能的实现得益于数据挖掘引擎模块中的算法集,Hodoop云计算基础开发平台支持下实现的算法并行化处理则是该模块功能实现的基础。
2.4.3用户模块
实现对数据挖掘知识的可视化表示。用户模块是本文研究物联网数据挖掘平台面向使用人员的部分,因此在设计中笔者注重了系统操作的友好性,简单的数据挖掘任务开展、简单获得能够被理解知识均属于设计的优势所在。值得注意的是,为了保证本文研究的物联网数据挖掘系统具备较高的可移植性,设计人员在设计之初便为数据挖掘服务层底层模块设计了开放接口,由此该物联网数据挖掘系统的应用丰富性就能够得到较好保障,表1对本文研究的物联网数据挖掘系统组成进行了直观展示。
3实验验证
3.1物联网数据挖掘系统工作流程
基于Hodoop云计算基础开发平台的物联网数据挖掘系统工作流程能够概括为:“用户→主控节点→主控节点允许用户请求→主控节点调用数据挖掘算法→调用数据挖掘算法成功→准备物联网数据→分布式数据挖掘→将结果传递给用户”,而结合这一流程本文将围绕以下几部分开展具体的物联网数据挖掘系统工作流程描述,具体描述如下:
3.1.1用户请求
在用户请求物联网数据挖掘系统进行数据挖掘后,系统的主控节点将决定该任务是否能够进行,而在确定能够进行后系统将首先向用户传递能够进行的信息,并随后开始具体的数据挖掘。
3.1.2数据挖掘过程
在确定物联网数据挖掘系统能够进行数据挖掘后,系统的主控节点将有针对性的选取数据挖掘算法满足用户需要,并结合MapReduce思想与Master/Slave结构进行数据挖掘任务的划分。
3.1.3具体节点任务
在数据挖掘任务的划分下,需要完成具体工作的节点将被分配任务,由此物联网数据挖掘系统的具体数据处理便由此开展,同时JobTracker负责的调度和执行则将最后将数据挖掘结果传递给用户。
3.2实验验证
为了能够直观决定基于Hodoop云计算基础开发平台物联网数据挖掘系统可行性和性能水平,明晰MapReduce数据挖掘算法在系统中发挥的作用,本文选取了结合Apriori算法开展实验验证的方法,实验验证的环境、过程、结果如下所示。
3.2.1实验环境
实验选取了4G内存、500G硬盘、Windows7系统的计算机作为实验基础,并在该计算机中透过虚拟机安装部署了多个分布式节点,其中共3个虚拟机中的一个为NameNodeLinux系统,其余两个则为DateNodeLinux系统。为了保证实验质量与效率,笔者还在该计算机中安装了专门用于Linux系统的Eclipse7.5集成开发环境,在Windows系统中安装了SSHSecureShellClient、各个虚拟机操作系统中安装了SSH服务,由此即可保证本文研究的基于Hodoop云计算基础开发平台物联网数据挖掘系统的顺利使用。
3.2.2实验过程完成
实验环境的搭建后,本文选取了一组用于关联规则算法的实验数据,并将该数据透过C++代码编写的程序透过关键字搜索方式转换成立标准类型大小为1G的PML文件,在HDFS命令下该文件被放入Hadoop平台进行分布式存储,而在运行Java语言编写的Apriori算法后,即可得到物联网数据挖掘系统的运行结果,透过查看系统使用中是否找到了实验数据集中的所有频繁项集便能够直观决定其性能。值得注意的是,为了提升实验的有效性,本文选取了不同大小的文件开展实验,由此实现比较物联网数据挖掘系统运行时间更深入了解其性能。
3.2.3实验结果
表2对基于物联网数据挖掘系统的实验结果进行了直观展示,结合该表不难发现,文件大小的提升直接导致物联网数据挖掘系统运行时间的增长,这种增长存在典型的线性趋势,而由于应用Apriori算法的物联网数据挖掘系统实现了频繁项集的发现,本文研究的基于Hodoop云计算基础开发平台物联网数据挖掘系统的扩展性便得到了较为直观展现,其所具备的物联网海量数据挖掘潜力也得到了较好证实。
4结论
综上所述,云计算平台能够较好服务于物联网的数据挖掘。而在此基础上,本文研究所提出了完善性与科学性较高的基于Hodoop云计算基础开发平台物联网数据挖掘系统,便直观证明了全文的实践价值。因此,在相关领域的理论研究与实践探索中,本文资料便能够发挥必须参考作用。
参考文献
[1]汤勇峰。基于云计算平台的物联网数据挖掘研究[J].电脑知识与技术,,1307:218-219.
[2]陈俊丽。基于云计算平台的物联网数据挖掘研究[J].中国新通信,,1821:74-75.
[3]武桂云。基于hadoop平台的分布式数据挖掘系统研究与设计[D].天津大学,.
[4]林昕。基于云计算的大数据挖掘平台构建研究[J].山东工业技术,(17):104.
1.软件工程数据的挖掘测试技术
1.1代码编写
通过对软件数据进行分类整理,在进行缺陷软件的排除工作以后,根据软件开发过程中的各种信息进行全新的代码编写。基于代码编写人员的编写经验,在一般情况,对结构功能与任务类似的模块进行重新编写,这些重新编写的模块应遵循特定的编写规则,这样才能保证代码编写的合理有效性。
1.2错误重现
代码编写完成以后开发者会将这些代码进行版本的确认,然后将正确有效的代码实际应用到适当版本的软件中去。而对于存在缺陷的代码,开发者需要针对代码产生缺陷的原因进行分析,通过不但调整代码内的输入数据,直到代码内的数据与程序报告中的描述接近为止。存在缺陷的代码往往会以缺陷报告的形式对开发者予以说明,由于缺陷报告的模糊性,常常会误导开发者,进而造成程序设计混乱。
1.3理解行为
软件开发者在设计软件的过程中需要明确自己设计软件中每一个代码的内容,同时还需要理解其他开发者编写的代码,这样才能有效地完善软件开发者的编写技术。同时,软件开发者在进行代码编写的过程中,需要对程序行为进行准确的理解,以此保证软件内文档和注释的准确性。
1.4设计推究
开发者在准备对软件进行完善设计的过程中,首先需要彻底了解软件的总体设计,对软件内部复杂的系统机构进行详细研究与分析,充分把握软件细节,这有这样才能真正实现软件设计的合理性与准确性。
2.软件工程数据挖掘测试的有效措施
2.1进行软件工程理念和方法上的创新
应通过实施需求分析,将数据挖据逐渐演变成形式化、规范化的需求工程,在软件开发理念上,加强对数据挖掘的重视,对软件工程的架构进行演化性设计与创新,利用新技术,在软件开发的过程中添加敏捷变成与间件技术,由此,提高软件编写水平。
2.2利用人工智能
随着我国科学技术的不断发展与创新,机器学习已经逐渐被我国各个领域所广泛应用,在进行软件工程数据挖掘技术创新的过程中,可以将机器学习及数据挖掘技术实际应用于软件工程中,以此为我国软件研发提供更多的便捷。人工智能作为我国先进生产力的重要表现,在实际应用于软件工程数据的挖掘工作时,应该利用机器较强的学习能力与运算能力,将数据统计及数据运算通过一些较为成熟的方法进行解决。在软件工程数据挖掘的工作中,合理化的将人工智能实际应用于数据挖掘,以此为数据挖掘提供更多的开发测试技术。
2.3针对数据挖掘结果进行评价
通过分析我国传统的软件工程数据挖掘测试工作,在很多情况下,传统的数据挖掘测试技术无法做到对发掘数据的全面评价与实际应用研究,这一问题致使相应的软件数据在被发掘出来以后无法得到有效地利用,进而导致我国软件开发工作受到严重的抑制影响。针对这一问题,数据开发者应该利用挖掘缺陷检验报告,针对缺陷检验的结果,制定相应的挖掘结构报告。同时,需要结合软件用户的体验评价,对挖掘出的数据进行系统化的整理与分析,建立一整套严谨、客观的服务体系,运用CodeCity软件,让用户在的体验过后可以对软件进行评价。考虑到软件的服务对象是人,因此,在软件开发的过程中要将心理学与管理学应用于数据挖掘,建立数据挖掘系统和数据挖掘评价系统。
3.结束语
综上所述,由于软件工程数据挖掘测试技术广阔的应用前景,我国相关部门已经加大了对软件技术的投资与开发力度,当下,国内已经实现了软件工程的数据挖掘、人工智能、模式识别等多种领域上的发展。
题目:档案信息管理系统中的计算机数据挖掘技术探讨
摘要:伴随着计算机技术的不断进步和发展, 数据挖掘技术成为数据处理工作中的重点技术, 能借助相关算法搜索相关信息, 在节省人力资本的同时, 提高数据检索的实际效率, 基于此, 被广泛应用在数据密集型行业中。笔者简要分析了计算机数据挖掘技术, 并集中阐释了档案信息管理系统计算机数据仓库的建立和技术实现过程, 以供参考。
关键词:档案信息管理系统; 计算机; 数据挖掘技术; 1 数据挖掘技术概述
数据挖掘技术就是指在大量随机数据中提取隐含信息, 并且将其整合后应用在知识处理体系的技术过程。若是从技术层面判定数据挖掘技术, 则需要将其划分在商业数据处理技术中, 整合商业数据提取和转化机制, 并且建构更加系统化的分析模型和处理机制, 从根本上优化商业决策。借助数据挖掘技术能建构完整的数据仓库, 满足集成性、时变性以及非易失性等需求, 整和数据处理和冗余参数, 确保技术框架结构的完整性。
目前, 数据挖掘技术常用的工具, 如SAS企业的Enterprise Miner、IBM企业的Intellient Miner以及SPSS企业的Clementine等应用都十分广泛。企业在实际工作过程中, 往往会利用数据源和数据预处理工具进行数据定型和更新管理, 并且应用聚类分析模块、决策树分析模块以及关联分析算法等, 借助数据挖掘技术对相关数据进行处理。
2 档案信息管理系统计算机数据仓库的建立
2.1 客户需求单元
为了充分发挥档案信息管理系统的优势, 要结合客户的实际需求建立完整的处理框架体系。在数据库体系建立中, 要适应迭代式处理特征, 并且从用户需求出发整合数据模型, 保证其建立过程能按照整体规划有序进行, 且能按照目标和分析框架参数完成操作。首先, 要确立基础性的数据仓库对象, 由于是档案信息管理, 因此, 要集中划分档案数据分析的主题, 并且有效录入档案信息, 确保满足档案的数据分析需求。其次, 要对日常工作中的用户数据进行集中的挖掘处理, 从根本上提高数据仓库分析的完整性。
(1) 确定数据仓库的基础性用户, 其中, 主要包括档案工作人员和使用人员, 结合不同人员的工作需求建立相应的数据仓库。
(2) 档案工作要利用数据分析和档案用户特征分析进行分类描述。
(3) 确定档案的基础性分类主题, 一般而言, 要将文书档案归档情况、卷数等基础性信息作为分类依据。
2.2 数据库设计单元
在设计过程中, 要针对不同维度建立相应的参数体系和组成结构, 并且有效整合组成事实表的主键项目, 建立框架结构。
第一, 建立事实表。事实表是数据模型的核心单元, 主要是记录相关业务和统计数据的表, 能整合数据仓库中的信息单元, 并且提升多维空间处理效果, 确保数据储存过程切实有效。 (1) 档案管理中文书档案目录卷数事实表:事实表主键, 字段类型Int, 字段为Id;文书归档年份, 字段类型Int, 字段为Gdyear_key;文书归档类型, 字段类型Int, 字段为Ajtm_key;文书归档单位, 字段类型Int, 字段为Gddw_key;文书档案生成年份, 字段类型Int, 字段为Ajscsj_key, 以及文书档案包括的文件数目。 (2) 档案管理中文书档案卷数事实表:事实表主键, 字段类型Int, 字段为Id;文书归档利用日期, 字段类型Int, 字段为Date_key;文书归档利用单位, 字段类型Int, 字段为Dw_key;文书归档利用类别, 字段类型Int, 字段为Dalb_key;文书归档利用年份, 字段类型Int, 字段为Dayear_key等[1]。
第二, 建立维度表, 在实际数据仓库建立和运维工作中, 提高数据管理效果和水平, 确保建立循环和反馈的系统框架体系, 并且处理增长过程和完善过程, 有效实现数据库模型设计以及相关维护操作。首先, 要对模式的基础性维度进行分析并且制作相应的表, 主要包括档案年度维表、利用方式维表等。其次, 要建构数据库星型模型体系。最后, 要集中判定数据库工具, 保证数据库平台在客户管理工作方面具备一定的优势, 集中制订商务智能解决方案, 保证集成环境的稳定性和数据仓库建模的效果, 真正提高数据抽取以及转换工作的实际水平。需要注意的是, 在全面整合和分析处理数据的过程中, 要分离文书档案中的数据, 相关操作如下:
from dag gd temp//删除临时表中的数据
Ch count=dag 1.importfile (dbo.u wswj) //将文书目录中数据导出到数据窗口
Dag 1.() //将数据窗口中的数据保存到临时表
相关技术人员要对数据进行有效处理, 以保证相关数据合并操作、连接操作以及条件性拆分操作等都能按照数据预处理管理要求合理化进行, 从根本上维护数据处理效果。
2.3 多维数据模型建立单元
在档案多维数据模型建立的过程中, 相关技术人员要判定联机分析处理项目和数据挖掘方案, 整合信息系统中的数据源、数据视图、维度参数以及属性参数等, 保证具体单元能发挥其实际作用, 并且真正发挥档案维表的稳定性、安全性优势。
第一, 档案事实表中的数据稳定, 事实表是加载和处理档案数据的基本模块, 按照档案目录数据表和档案利用情况表分析和判定其类别和归档时间, 从而提高数据独立分析水平。一方面, 能追加有效的数据, 保证数据仓库信息的基本质量, 也能追加时间判定标准, 能在实际操作中减少扫描整个表浪费的时间, 从根本上提高实际效率。另一方面, 能删除数据, 实现数据更新, 检索相关关键词即可。并且也能同时修改数据, 维护档案撤出和档案追加的动态化处理效果。
第二, 档案维表的安全性。在维表管理工作中, 档案参数和数据的安全稳定性十分关键, 由于其不会随着时间的推移出现变化, 因此, 要对其进行合理的处理和协调。维表本身的存储空间较小, 尽管结构发生变化的概率不大, 但仍会对代表的对象产生影响, 这就会使得数据出现动态的变化。对于这种改变, 需要借助新维生成的方式进行处理, 从而保证不同维表能有效连接, 整合正确数据的同时, 也能对事实表外键进行分析[2]。
3 档案信息管理系统计算机数据仓库的实现
3.1 描述需求
随着互联网技术和数据库技术不断进步, 要提高档案数字化水平以及完善信息化整合机制, 加快数据库管控体系的更新, 确保设备存储以及网络环境一体化水平能满足需求, 尤其是在档案资源重组和预测项目中, 只有从根本上落实数据挖掘体系, 才能为后续信息档案管理项目升级奠定坚实基础。另外, 在数据表和文书等基础性数据结构模型建立的基础上, 要按照规律制定具有个性化的主动性服务机制。
3.2 关联计算
在实际档案分析工作开展过程中, 关联算法描述十分关键, 能对某些行为特征进行统筹整合, 从而制定分析决策。在进行关联规则强度分析时, 要结合支持度和置信度等系统化数据进行综合衡量。例如, 档案数据库中有A和B两个基础项集合, 支持度为P (A∪B) , 则直接表述了A和B在同一时间出现的基础性概率。若是两者出现的概率并不大, 则证明两者之间的关联度较低。若是两者出现的概率较大, 则说明两者的关联度较高。另外, 在分析置信度时, 利用Confidence (A→B) = (A|B) , 也能有效判定两者之间的关系。在出现置信度A的情况下, B的出现概率则是整体参数关系的关键, 若是置信度的数值达到100%, 则直接证明A和B能同一时间出现。
3.3 神经网络算法
除了要对档案的实际内容进行数据分析和数据库建构, 也要对其利用情况进行判定, 目前较为常见的利用率分析算法就是神经网络算法, 其借助数据分类系统判定和分析数据对象。值得注意的是, 在分类技术结构中, 要结合训练数据集判定分类模型数据挖掘结构。神经网络算法类似于人脑系统的运行结构, 能建立完整的信息处理单元, 并且能够整合非线性交换结构, 确保能凭借历史数据对计算模型和分类体系展开深度分析[3]。
3.4 实现多元化应用
在档案管理工作中应用计算机数据挖掘技术, 能对档案分类管理予以分析, 保证信息需求分类总结工作的完整程度。尤其是档案使用者在对档案具体特征进行差异化分析的过程中, 能结合不同的元素对具体问题展开深度调研。一方面, 计算机数据挖掘技术借助决策树算法处理规则化的档案分析机制。在差异化训练体系中, 要对数据集合中的数据进行系统化分析以及处理, 确保构建要求能适应数据挖掘的基本结构[4]。例如, 档案管理人员借助数据挖掘技术能整合档案使用人员长期浏览与关注的信息, 并且能集中收集和汇总间隔时间、信息查询停留时间等, 从而建构完整的数据分析机制, 有效向其推送或者是提供便捷化查询服务, 保证档案管理数字化水平的提高。另一方面, 在档案收集管理工作中应用数据挖掘技术, 主要是对数据信息进行分析, 结合基本结果建立概念模型, 保证模型以及测试样本之间的比较参数符合标准, 从而真正建立更加系统化的分类框架体系。
4 结语
总而言之, 在档案管理工作中应用数据挖掘技术, 能在准确判定用户需求的同时, 维护数据处理效果, 并且减少档案数字化的成本, 为后续工作的进一步优化奠定坚实基础。并且, 数据库的建立, 也能节省经费和设备维护成本, 真正实现数字化全面发展的目标, 促进档案信息管理工作的长效进步。
参考文献
[1]曾雪峰。计算机数据挖掘技术开发及其在档案信息管理中的运用研究[J].科技创新与应用, 20xx (9) :285.
[2]王晓燕。数据挖掘技术在档案信息管理中的应用[J].兰台世界, 20xx (23) :25-26.
[3]韩吉义。基于数据挖掘技术的高校图书馆档案信息管理平台的构筑[J].山西档案, 20xx (6) :61-63.
[4]哈立原。基于数据挖掘技术的高校图书馆档案信息管理平台构建[J].山西档案, 20xx (5) :105-107.
数据挖掘论文四: 题目:机器学习算法在数据挖掘中的`应用
摘要:随着科学技术的快速发展, 各种新鲜的事物和理念得到了广泛的应用。其中机器学习算法就是一则典型案例——作为一种新型的算法, 其广泛应用于各行各业之中。本篇论文旨在探讨机器学习算法在数据挖掘中的具体应用, 我们利用庞大的移动终端数据网络, 加强了基于GSM网络的户外终端定位, 从而提出了3个阶段的定位算法, 有效提高了定位的精准度和速度。
关键词:学习算法; GSM网络; 定位; 数据;
移动终端定位技术由来已久, 其主要是利用各种科学技术手段定位移动物体的精准位置以及高度。目前, 移动终端定位技术主要应用于军事定位、紧急救援、网络优化、地图导航等多个现代化的领域, 由于移动终端定位技术可以提供精准的位置服务信息, 所以其在市场上还是有较大的需求的, 这也为移动终端定位技术的优化和发展, 提供了推动力。随着通信网络普及, 移动终端定位技术的发展也得到了一些帮助, 使得其定位的精准度和速度都得到了全面的优化和提升。同时, 传统的定位方法结合先进的算法来进行精准定位, 目前依旧还是有较大的进步空间。在工作中我选取机器学习算法结合数据挖掘技术对传统定位技术加以改进, 取得了不错的效果, 但也遇到了许多问题, 例如:使用机器学习算法来进行精准定位暂时无法满足更大的区域要求, 还有想要利用较低的设备成本, 实现得到更多的精准定位的要求比较困难。所以本文对机器学习算法进行了深入的研究, 希望能够帮助其更快速的定位、更精准的定位, 满足市场的需要。
1 数据挖掘概述
数据挖掘又名数据探勘、信息挖掘。它是数据库知识筛选中非常重要的一步。数据挖掘其实指的就是在大量的数据中通过算法找到有用信息的行为。一般情况下, 数据挖掘都会和计算机科学紧密联系在一起, 通过统计集合、在线剖析、检索筛选、机器学习、参数识别等多种方法来实现最初的目标。统计算法和机器学习算法是数据挖掘算法里面应用得比较广泛的两类。统计算法依赖于概率分析, 然后进行相关性判断, 由此来执行运算。
而机器学习算法主要依靠人工智能科技, 通过大量的样本收集、学习和训练, 可以自动匹配运算所需的相关参数及模式。它综合了数学、物理学、自动化和计算机科学等多种学习理论, 虽然能够应用的领域和目标各不相同, 但是这些算法都可以被独立使用运算, 当然也可以相互帮助, 综合应用, 可以说是一种可以“因时而变”、“因事而变”的算法。在机器学习算法的领域, 人工神经网络是比较重要和常见的一种。因为它的优秀的数据处理和演练、学习的能力较强。
而且对于问题数据还可以进行精准的识别与处理分析, 所以应用的频次更多。人工神经网络依赖于多种多样的建模模型来进行工作, 由此来满足不同的数据需求。综合来看, 人工神经网络的建模, 它的精准度比较高, 综合表述能力优秀, 而且在应用的过程中, 不需要依赖专家的辅助力量, 虽然仍有缺陷, 比如在训练数据的时候耗时较多, 知识的理解能力还没有达到智能化的标准, 但是, 相对于其他方式而言, 人工神经网络的优势依旧是比较突出的。
2 以机器学习算法为基础的GSM网络定位
2.1 定位问题的建模
建模的过程主要是以支持向量机定位方式作为基础, 把定位的位置栅格化, 面积较小的栅格位置就是独立的一种类别, 在定位的位置内, 我们收集数目庞大的终端测量数据, 然后利用计算机对测量报告进行分析处理, 测量栅格的距离度量和精准度, 然后对移动终端栅格进行预估判断, 最终利用机器学习进行分析求解。
2.2 采集数据和预处理
本次研究, 我们采用的模型对象是我国某一个周边长达10千米的二线城市。在该城市区域内, 我们测量了四个不同时间段内的数据, 为了保证机器学习算法定位的精准性和有效性, 我们把其中的三批数据作为训练数据, 最后一组数据作为定位数据, 然后把定位数据周边十米内的前三组训练数据的相关信息进行清除。一旦确定某一待定位数据, 就要在不同的时间内进行测量, 按照测量出的数据信息的经纬度和平均值, 再进行换算, 最终, 得到真实的数据量, 提升定位的速度以及有效程度。
2.3 以基站的经纬度为基础的初步定位
用机器学习算法来进行移动终端定位, 其复杂性也是比较大的, 一旦区域面积增加, 那么模型和分类也相应增加, 而且更加复杂, 所以, 利用机器学习算法来进行移动终端定位的过程, 会随着定位区域面积的增大, 而耗费更多的时间。利用基站的经纬度作为基础来进行早期的定位, 则需要以下几个步骤:要将边长为十千米的正方形分割成一千米的小栅格, 如果想要定位数据集内的相关信息, 就要选择对边长是一千米的小栅格进行计算, 而如果是想要获得边长一千米的大栅格, 就要对边长是一千米的栅格精心计算。
2.4 以向量机为基础的二次定位
在完成初步定位工作后, 要确定一个边长为两千米的正方形, 由于第一级支持向量机定位的区域是四百米, 定位输出的是以一百米栅格作为中心点的经纬度数据信息, 相对于一级向量机的定位而言, 二级向量机在定位计算的时候难度是较低的, 更加简便。后期的预算主要依赖决策函数计算和样本向量机计算。随着栅格的变小, 定位的精准度将越来越高, 而由于增加分类的问题数量是上升的, 所以, 定位的复杂度也是相对增加的。
2.5 以K-近邻法为基础的三次定位
第一步要做的就是选定需要定位的区域面积, 在二次输出之后, 确定其经纬度, 然后依赖经纬度来确定边长面积, 这些都是进行区域定位的基础性工作, 紧接着就是定位模型的训练。以K-近邻法为基础的三次定位需要的是综合训练信息数据, 对于这些信息数据, 要以大小为选择依据进行筛选和合并, 这样就能够减少计算的重复性。当然了, 选择的区域面积越大, 其定位的速度和精准性也就越低。
3 结语
近年来, 随着我国科学技术的不断发展和进步, 数据挖掘技术愈加重要。根据上面的研究, 我们证明了, 在数据挖掘的过程中, 应用机器学习算法具有举足轻重的作用。作为一门多领域互相交叉的知识学科, 它能够帮助我们提升定位的精准度以及定位速度, 可以被广泛的应用于各行各业。所以, 对于机器学习算法, 相关人员要加以重视, 不断的进行改良以及改善, 切实的发挥其有利的方面, 将其广泛应用于智能定位的各个领域, 帮助我们解决关于户外移动终端的定位的问题。
参考文献
[1]陈小燕, CHENXiaoyan.机器学习算法在数据挖掘中的应用[J].现代电子技术, 20xx, v.38;No.451 (20) :11-14.
[2]李运。机器学习算法在数据挖掘中的应用[D].北京邮电大学, 20xx.
[3]莫雪峰。机器学习算法在数据挖掘中的应用[J].科教文汇, 20xx (07) :175-178.
数据挖掘论文五: 题目:软件工程数据挖掘研究进展
摘要:数据挖掘是指在大数据中开发出有价值信息数据的过程。计算机技术的不断进步, 通过人工的方式进行软件的开发与维护难度较大。而数据挖掘能够有效的提升软件开发的效率, 并能够在大量的数据中获得有效的数据。文章主要探究软件工程中数据挖掘技术的任务和存在的问题, 并重点论述软件开发过程中出现的问题和相关的解决措施。
关键词:软件工程; 数据挖掘; 解决措施;
在软件开发过程中, 为了能够获得更加准确的数据资源, 软件的研发人员就需要搜集和整理数据。但是在大数据时代, 人工获取数据信息的难度极大。当前, 软件工程中运用最多的就是数据挖掘技术。软件挖掘技术是传统数据挖掘技术在软件工程方向的其中一部分。但是它具有自身的特征, 体现在以下三个方面:
(1) 在软件工程中, 对有效数据的挖掘和处理;
(2) 挖掘数据算法的选择问题;
(3) 软件的开发者该如何选择数据。
1 在软件工程中数据挖掘的主要任务
在数据挖掘技术中, 软件工程数据挖掘是其中之一, 其挖掘的过程与传统数据的挖掘无异。通常包括三个阶段:第一阶段, 数据的预处理;第二阶段, 数据的挖掘;第三阶段, 对结果的评估。第一阶段的主要任务有对数据的分类、对异常数据的检测以及整理和提取复杂信息等。虽然软件工程的数据挖掘和传统的数据挖掘存在相似性, 但是也存在一定的差异, 其主要体现在以下三个方面:
1.1 软件工程的数据更加复杂
软件工程数据主要包括两种, 一种是软件报告, 另外一种是软件的版本信息。当然还包括一些软件代码和注释在内的非结构化数据信息。这两种软件工程数据的算法是不同的, 但是两者之间又有一定的联系, 这也是软件工程数据挖掘复杂性的重要原因。
1.2 数据分析结果的表现更加特殊
传统的数据挖掘结果可以通过很多种结果展示出来, 最常见的有报表和文字的方式。但是对于软件工程的数据挖掘来讲, 它最主要的职能是给软件的研发人员提供更加精准的案例, 软件漏洞的实际定位以及设计构造方面的信息, 同时也包括数据挖掘的统计结果。所以这就要求软件工程的数据挖掘需要更加先进的结果提交方式和途径。
1.3 对数据挖掘结果难以达成一致的评价
我国传统的数据挖掘已经初步形成统一的评价标准, 而且评价体系相对成熟。但是软件工程的数据挖掘过程中, 研发人员需要更多复杂而又具体的数据信息, 所以数据的表示方法也相对多样化, 数据之间难以进行对比, 所以也就难以达成一致的评价标准和结果。不难看出, 软件工程数据挖掘的关键在于对挖掘数据的预处理和对数据结果的表示方法。
2 软件工程研发阶段出现的问题和解决措施
软件在研发阶段主要的任务是对软件运行程序的编写。以下是软件在编码和结果的提交过程中出现的问题和相应的解决措施。
2.1 对软件代码的编写过程
该过程需要软件的研发人员能够对自己需要编写的代码结构与功能有充分的了解和认识。并能够依据自身掌握的信息, 在数据库中搜集到可以使用的数据信息。通常情况下, 编程需要的数据信息可以分为三个方面:
(1) 软件的研发人员能够在已经存在的代码中搜集可以重新使用的代码;
(2) 软件的研发人员可以搜寻可以重用的静态规则, 比如继承关系等。
(3) 软件的开发人员搜寻可以重用的动态规则。
包括软件的接口调用顺序等。在寻找以上信息的过程中, 通常是利用软件的帮助文档、寻求外界帮助和搜集代码的方式实现, 但是以上方式在搜集信息过程中往往会遇到较多的问题, 比如:帮助文档的准确性较低, 同时不够完整, 可利用的重用信息不多等。
2.2 对软件代码的重用
在对软件代码重用过程中, 最关键的问题是软件的研发人员必须掌握需要的类或方法, 并能够通过与之有联系的代码实现代码的重用。但是这种方式哦足迹信息将会耗费工作人员大量的精力。而通过关键词在代码库中搜集可重用的软件代码, 同时按照代码的相关度对搜集到的代码进行排序, 该过程使用的原理就是可重用的代码必然模式基本类似, 最终所展现出来的搜索结果是以上下文结构的方式展现的。比如:类与类之间的联系。其实现的具体流程如下:
(1) 软件的开发人员创建同时具备例程和上下文架构的代码库;
(2) 软件的研发人员能够向代码库提供类的相关信息, 然后对反馈的结果进行评估, 创建新型的代码库。
(3) 未来的研发人员在搜集过程中能够按照评估结果的高低排序, 便于查询, 极大地缩减工作人员的任务量, 提升其工作效率。
2.3 对动态规则的重用
软件工程领域内对动态规则重用的研究已经相对成熟, 通过在编译器内安装特定插件的方式检验代码是否为动态规则最适用的, 并能够将不适合的规则反馈给软件的研发人员。其操作流程为:
(1) 软件的研发人员能够规定动态规则的顺序, 主要表现在:使用某一函数是不能够调用其他的函数。
(2) 实现对相关数据的保存, 可以通过队列等简单的数据结构完成。在利用编译拓展中检测其中的顺序。
(3) 能够将错误的信息反馈给软件的研发人员。
3 结束语
在软件工程的数据挖掘过程中, 数据挖掘的概念才逐步被定义, 但是所需要挖掘的数据是已经存在的。数据挖掘技术在软件工程中的运用能够降低研发人员的工作量, 同时软件工程与数据挖掘的结合是计算机技术必然的发展方向。从数据挖掘的过程来讲, 在其整个实施过程和周期中都包括软件工程。而对数据挖掘的技术手段来讲, 它在软件工程中的运用更加普遍。在对数据挖掘技术的研究过程中可以发现, 该技术虽然已经获得一定的效果, 但是还有更多未被挖掘的空间, 还需要进一步的研究和发现。
参考文献
[1]王艺蓉。试析面向软件工程数据挖掘的开发测试技术[J].电子技术与软件工程, 20xx (18) :64.
[2]吴彦博。软件工程中数据挖掘技术的运用探索[J].数字通信世界, 20xx (09) :187.
[3]周雨辰。数据挖掘技术在软件工程中的应用研究[J].电脑迷, 20xx (08) :27-28.
[4]刘桂林。分析软件工程中数据挖掘技术的应用方式[J].中国新通信, 20xx, 19 (13) :119.
随着会计现代化的发展,会计越来越多的运用计算机技术的拓展。
一、数据挖掘
数据挖掘是从数据当中发现趋势和模式的过程,它融合了现代统计学、知识信息系统、机器学习、决策理论和数据库管理等多学科的知识。它能有效地从大量的、不完全的、模糊的实际应用数据中,提取隐含在其中的潜在有用的信息和知识,揭示出大量数据中复杂的和隐藏的关系,为决策提供有用的参考。数据挖掘是从数据当中发现趋势和模式的过程,它融合了现代统计学、知识信息系统、机器学习、决策理论和数据库管理等多学科的知识。它能有效地从大量的、不完全的、模糊的实际应用数据中,提取隐含在其中的潜存有用的信息和知识,揭示出大量数据中复杂的和隐藏的关系,为决策提供有用的参考。
二、数据挖掘的现代最新方法介绍
常用的数据挖掘方法主要有决策树(Decision Tree)、遗传算法(Genetic Algorithms)、关联分析(Association Analysis).聚类分析(C~smr Analysis)、序列模式分析(Sequential Pattern)以及神经网络(Neural Networks)等。
三、数据挖掘的实际应用
由于数据挖掘市场还处于起步的阶段,但是发展很快。在国外有一些著名的大公司对数据挖掘系统进行了开发。
1.Intelligent Miner这是IBM公司的数据挖掘产品,它提供了很多数据挖掘算法,包括关联、分类、回归、预测模型、偏离检测、序列模式分析和聚类。有2个特点:一是它的数据挖掘算法的可伸缩性;二是它与IBM/DB/2关系数据库系统紧密地结合在一起。
2.EineSet是由SGI公司开发的,它也提供了多种数据挖掘方法,包括关联分析和分类以及高级统计和可视化工具。特色是它具有的强大的图形工具,包括规则可视化工具、树可视化工具、地图可视化工具和多维数据分散可视化工具,它们用于实现数据和数据挖掘结果的可视化。
3.Clementine是由ISL公司开发的,它为终端用户和开发者提供提供了一个集成的数据挖掘开发环境。
4.DBMiner是由DBMiner Technology公司开发的,它提供多种数据挖掘算法,包括发现驱动的OLAP分析、关联、分类和聚类。特色是它的基于数据立方体的联机分析挖掘,它包含多种有效的频繁模式挖掘功能和集成的可视化分类方法
四、数据挖掘与管理会计
1.提供有力的决策支持
面对日益激烈的竞争环境,企业管理者对决策信息的需求也越来越高。管理会计作为企业决策支持系统的重要组成部分,提供更多、更有效的有用信息责无旁贷。因此,从海量数据中挖掘和寻求知识和信息,为决策提供有力支持成为管理会计师使用数据挖掘的强大动力。例如,数据挖掘可以帮助企业加强成本管理,改进产品和服务质量,提高货品销量比率,设计更好的货品运输与分销策略,减少商业成本。
2.赢得战略竞争优势的有力武器
实践证明数据挖掘不仅能明显改善企业内部流程,而且能够从战略的高度对企业的竞争环境、市场、顾客和供应商进行分析,以获得有价值的商业情报,保持和提高企业持续竞争优势。如,对顾客价值分析能够将为企业创造80%价值的20%的顾客区分出来,对其提供更优质的服务,以保持这部分顾客。
3.预防和控制财务风险
利用数据挖掘技术可以建立企业财务风险预警模型。企业财务风险的发生并非一蹴而就,而是一个积累的、渐进的过程,通过建立财务风险预警模型,可以随时监控企业财务状况,防范财务危机的发生。另外,也可以利用数据挖掘技术,对企业筹资和投资过程中的行为进行监控,防止恶意的商业欺诈行为,维护企业利益。尤其是在金融企业,通过数据挖掘,可以解决银行业面临的如信用卡的恶意透支及可疑的信用卡交易等欺诈行为。根据SEC的报告,美国银行、美国第一银行、联邦住房贷款抵押公司等数家银行已采用了数据挖掘技术。
五、数据挖掘在管理会计中的应用
1.作业成本和价值链分析
作业成本法以其对成本的精确计算和对资源的充分利用引起了人们的极大兴趣,但其复杂的操作使得很多管理者望而却步。利用数据挖掘中的回归分析、分类分析等方法能帮助管理会计师确定成本动因,更加准确计算成本。同时,也可以通过分析作业与价值之间的关系,确定增值作业和非增值作业,持续改进和优化企业价值链。在Thomas G,John J和Il-woon Kim的调查中,数据挖掘被用在作业成本管理中仅占3%。
2.预测分析
管理会计师在很多情况下需要对未来进行预测,而预测是建立在大量的历史数据和适当的模型基础上的。数据挖掘自动在大型数据库中寻找预测性信息,利用趋势分析、时间序列分析等方法,建立对如销售、成本、资金等的预测模型,科学准确的预测企业各项指标,作为决策的依据。例如对市场调查数据的分析可以帮助预测销售;根据历史资料建立销售预测模型等。
3.投资决策分析
投资决策分析本身就是一个非常复杂的过程,往往要借助一些工具和模型。数据挖掘技术提供了有效的工具。从公司的财务报告、宏观的经济环境以及行业基本状况等大量的数据资料中挖掘出与决策相关的实质性的信息,保证投资决策的正确性和有效性。如利用时间序列分析模型预测股票价格进行投资;用联机分析处理技术分析公司的信用等级,以预防投资风险等。
4.产品和市场预测与分析
品种优化是选择适当的产品组合以实现最大的利益的过程,这些利益可以是短期利润,也可以是长期市场占有率,还可以是构建长期客户群及其综合体。为了达到这些目标,管理会计师不仅仅需要价格和成本数据有时还需要知道替代品的情况,以及在某一市场段位上它们与原产品竞争的状况。另外企业也需要了解一个产品是如何刺激另一些产品的销量的等等。例如,非盈利性产品本身是没有利润可言的,但是,如果它带来了可观的客户流量,并刺激了高利润产品的销售,那么,这种产品就非常有利可图,就应该包括在产品清单中。这些信息可根据实际数据,通过关联分析等技术来得到。
5.财务风险预测与评估
管理会计师可以利用数据挖掘工具来评价企业的财务风险,建立企业财务危机预警模型,进行破产预测。破产预测或称财务危机预警模型能够帮助管理者及时了解企业的财务风险,提前采取风险防范措施,避免破产。另外,破产预测模型还能帮助分析破产原因,对企业管理者意义重大。,数据挖掘技术包括多维判别式分析、逻辑回归分析、遗传算法、神经网络以及决策树等方法在管理会计中得到了广泛的应用。
六、结论
数据挖掘是个崭新的领域,对于数字和信息的处理是非常科学和方便的,也是非常高效率和合理分析的非常好的工具,对于会计管理领域的应用在国际上只是刚刚开始,相信随着会计的国际化的接轨和计算机科学的进步,在我国的会计领域中的数据挖掘理论会得到不断的提升,在管理会计实际应用中的数据挖掘也越来越多样化和普及化。
摘要:数据挖掘就是对潜在的数据及数据关联进行探索和发现。随着信息技术的不断发展,这一技术在电子商务领域逐渐得到普遍应用。基于此,本文就数据挖掘在电子商务中的应用进行研究,首先就数据挖掘中的路径分析技术、关联分析技术、聚类分析技术和分类分析技术进行简要介绍,然后分析数据挖掘在电子商务中的实际应用,从而提高数据挖掘技术的应用水平,增强电子商务的发展实力。
关键词:数据挖掘;电子商务;潜在客户
一、数据挖掘在电子商务中的技术应用
就现阶段电子商务对数据挖掘技术的应用现状来看,主要应用到的技术包括以下几方面内容,分别是路径分析技术、关联分析技术、聚类分析技术和分类分析技术。就路径分析技术来看,主要对客户互联网访问路径的频繁性进行分析,通过大数据采集和处理,了解客户对各种网络页面的喜好程度和特点,从而对自身的设计进行针对性的改进,为客户提供更加人性化的服务;就关联分析技术来看,主要指的是对隐藏数据之间的关联进行分析,并且通过分析掌握其相互关联的规律,并根据这一规律对网络站点的结构进行相应的改进,使电子商务中存在相关性的商品能够一起被搜索出来,既为客户提供便利,同时提高交叉销售的几率;聚类分析技术指的是根据数据的信息,按照一定的原则对数据进行分类。就分类分析技术而言,主要通过分析数据掌握分类规则,然后按照这一规则对数据进行分类。
二、数据挖掘在电子商务中的实际应用
1.对潜在客户进行挖掘在电子商务中应用数据挖掘技术能够对潜在客户进行挖掘。例如商家可以对网站的日志记录进行分析,探究该记录中存在的规律,从而按照这一规律对网站的访问客户进行相应分类。在分类过程中,商家应该对客户属性和相关关系进行确定,对新客户与老客户之间存在重叠的属性进行识别,从而实现对访问网站新用户快速分类,在分类完毕后,商家可以通过分析新客户的属性特点,从而对新客户进行潜在性判断,如果判断新客户可以被作为商家的潜在客户,就可以为该客户提供个性化的页面服务,从而将新客户发展成为老客户。2.对驻留时间进行延长对于电子商务而言,商家必须提高客户在商品页面的驻留时间,并且使客户的购买兴趣和欲望得到激发。电子商务与传统商务最大的不同在于销售商具有虚拟性的特点,因此客户在购物选择时,对销售商的印象是没有差异的。销售商在不断提升自身服务水平的同时,应该对客户的浏览行为和特点进行分析,从而对客户的兴趣和需求进行进一步的了解,以此为依据调整自身的商品页面,用符合客户需求的广告和商品文案吸引客户的'驻留时间,从而提高交易的几率。3.对网络站点进行优化电子商务主要依托于网站,因此网站优化也是提高电子商务发展水平的有效措施。利用数据挖掘技术对网络站点进行优化主要由两方面构成,一方面是对存在相关性的网页进行链接设计。例如对用户浏览页面的几率和特点进行分析,然后找出存在相关性的页面,增加网页链接这一功能,使客户的搜索更加便捷;另一方面是对客户的期望位置进行探索,例如对用户频率较高的访问位置进行分析,从而将频率较高的位置设置为客户的期望位置,并且在实际位置与期望位置间建立链接。另外,可以对用户的网页浏览习惯和信息喜好进行分析,强化用户在网页中的自助服务,例如将网页信息参照超市模式进行摆放,根据相关性分类,使用户能够通过自主浏览选择到心仪的产品,从而提高交易的几率。4.对营销手段进行改进在电子商务的实际运营过程中,很多客户都会在购买一种物品时同时选择具有相关性的其他物品,因此销售商应该对销售方式进行改进,利用数据挖掘技术实现交叉销售,从而提高营销水平。在应用交叉销售这一手段时,主要应该利用数据挖掘技术,对客户的喜好进行分析,从而提供具有针对性的商品。
参考文献:
[1]姜宁,牛永洁。Web数据挖掘在电子商务中的应用——以淘宝网为例[J].计算机时代,20xx(7):49-52.
[2]王红玉。数据挖掘在电子商务中的应用[J].电脑编程技巧与维护,20xx(3):49-51.