Openrefine

　　Openrefine是一个免费开源数据清洗工具，帮助用户转换数据集，优化数据的质量，以便于在真实场景中使用。你的数据是杂乱无章的。错误会散步到你的大数据集中，无论你有多么细心，错误总是存在。数据量越大，错误越多。正确且清晰地认识以上的现状，于是有了数据质量的说法。
　　
　　数据剖析Data Profiling：也叫做数据考古(Data Archeology)，是数据集(Data Set)内部为达一致性、单值性和逻辑性而进行的数值质量的统计分析及评估。数据剖析是Olson于2003年提出的概念，使用分析技术来发现正确的、结构化的、有内容、有质量的数据。换句话说，它是评估你的数据和信息的当前状态以及包含了多少错误的方法。
　　
　　数据清洗Data Cleaning：是尝试通过移除空的数据行或重复的数据行、过滤数据行、聚集或转换数据值、分开多值单元等，以半自动化的方式修复错误数据的过程。数据清洗是一个反复的过程，不可能在几天内完成，只有不断的发现问题，解决问题。对于是否过滤，是否修正一般要求客户确认。
　　
　　IDTs：Interactive Data Transformation tools，交互数据转换工具，它可以对大数据进行快速、廉价的操作，使用单个的集成接口。
　　
　　OpenRefine就是这样的IDT工具，可以观察和操纵数据的工具。它类似于传统Excel的表格处理软件，但是工作方式更像是数据库，以列和字段的方式工作，而不是以单元格的方式工作。这意味着OpenRefine不仅适合对新的行数据进行编码，而且功能还极为强大。