`

HBase custom Filter

阅读更多

 

hbase自带的filter已经很多了,按照RK,CF,CQ过滤的都有

我最常用的PrefixFilter,按照rk前缀

RowFilter,按照rk比较

ColumnPrefixFilter,按照cq前缀

QualifierFilter,按照cq比较

 

hbase还有一堆WritableByteArrayComparable,可以满足各种比较

比如RegexStringComparator可以使用正则

 

但是在实际业务中,因为需求对数据要求是多样,对维度的,且数据是冗余,残缺,不可靠,不能枚举的。

所以自定义的Filter还是有用的,而且选择正确的方法继承,查询效率也可以很高

 

自定义filter继承的接口Filter,或是FilterBase

以下是重写的方法:

filterRowKey根据RK决定行是否被过滤,ex Profix

filterKeyValue根据KV决定行或列(ReturnCode)是否被过滤,

ex ColumnProfix ColumnCompare

filterRow(keyvalues)根据制定列值决定行是否过滤,

ex DependentColumnFilter

filterRow在之前Filter结束后,进行过滤,ex PageFilter

reset当一行读完,为了读下一行,清空当前行数据

filterAllRemainning当返回true,停止scan

 

为了提高自定义filter的执行效率,需要知道过滤器的执行流程图

 

 

注意:

在编写完custom filter后,需要添加jar到hbase lib下

并且每个custom filter必须有默认的构造函数

 

 

 

 

 

 

  • 大小: 36.6 KB
1
0
分享到:
评论

相关推荐

    hbase shell常用命令汇总

    总结常用的hbase shell操作命令。

    HbaseTemplate 操作hbase

    java 利用 sping-data-hadoop HbaseTemplate 操作hbase find get execute 等方法 可以直接运行

    pinpoint的hbase初始化脚本hbase-create.hbase

    搭建pinpoint需要的hbase初始化脚本hbase-create.hbase

    HBase数据库设计.doc

    1. HBase有哪些基本的特征? 1 HBase特征: 1 2. HBase相对于关系数据库能解决的问题是什么? 2 HBase与关系数据的区别? 2 HBase与RDBMS的区别? 2 3. HBase的数据模式是怎么样的?即有哪些元素?如何存储?等 3 1...

    hbase-custom-replication-endpoint-example:hbase-custom-replication-endpoint-example

    HBase 自定义复制端点示例 概述 HBase 0.98.9 添加了创建自定义复制端点的功能。 这是一个关于如何创建和使用...java -cp $(hbase classpath):target/hbase-custom-replication-endpoint-example-1.0-SNAPSHOT.jar ...

    HBase(hbase-2.4.9-bin.tar.gz)

    HBase(hbase-2.4.9-bin.tar.gz)是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的Google论文“Bigtable:一个结构化数据的分布式存储系统”。就像Bigtable利用了Google文件系统(File System...

    HBase轻量级中间件simplehbase.zip

     hbase query封装:封装了hbase的filter,可以使用sql-like的方式操作hbase。  动态query封装:类似于myibatis,可以使用xml配置动态语句查询hbase。    insert,update支持: 建立在hbase的checkAndPut之上。  ...

    HBase学习利器:HBase实战

    HBase开发实战,HBase学习利器:HBase实战

    Hbase资源整理集合

    HBase 官方文档.pdf HBase的操作和编程.pdf HBase Cpressr优化与实验 郭磊涛.pdf null【HBase】Data Migratin frm Gri t Clu Cmputing - Natural Sienes .pdf 分布式数据库HBase快照的设计与实现.pdf 【HBase】...

    hbase orm simplehbase v1.0

    hbase query封装:封装了hbase的filter,可以使用sql-like的方式操作hbase。 动态query封装:类似于myibatis,可以使用xml配置动态语句查询hbase。 insert,update支持: 建立在hbase的checkAndPut之上。 hbase多版本...

    hbase-sdk是基于hbase-client和hbase-thrift的原生API封装的一款轻量级的HBase ORM框架

    hbase-sdk是基于hbase-client和hbase-thrift的原生API封装的一款轻量级的HBase ORM框架。 针对HBase各版本API(1.x~2.x)间的差异,在其上剥离出了一层统一的抽象。并提供了以类SQL的方式来读写HBase表中的数据。对...

    HBase开启审计日志

    HBase开启审计日志

    hbase资料api

    HBASE

    java大数据作业_3HBase

    1. 请用java集合的代码描述HBase的表结构 2. 请简述HBase中数据写入最后导致Region分裂的全过程 3. 如果设计一个笔记的表,表中要求有笔记的属性和笔记的内容,怎么做 4. HBase部署时如何指定多个zookeeper 5. HBase...

    hbase-2.3.5单机一键部署工具

    注意:zookeeper3.4.13和hbase2.3.5都是采用docker-compose方式部署 原文链接:https://blog.csdn.net/m0_37814112/article/details/120915194 说明:使用外部zookeeper3.4.13之hbase2.3.5一键部署工具,支持部署、...

    HBase3.0参考指南

    HBase3.0参考指南 This is the official reference guide for the HBase version it ships with. Herein you will find either the definitive documentation on an HBase topic as of its standing when the ...

    hbase 资源合集 hbase 企业应用开发实战 权威指南 hbase 实战 hbase 应用架构

    hbase 资源合集 hbase 企业应用开发实战 权威指南 hbase 实战 hbase 应用架构

    Hbase基本用法简介

    Hbase shell 、Hbase api、Hbase 配置

    Hbase与zookeeper文档

    HBase即Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在普通的PC Server上搭建起大规模结构化存储集群。 HBase是Google Bigtable的开源实现,类似Google Bigtable利用...

    实验三:熟悉常用的HBase操作

    A.3实验三:熟悉常用的HBase操作 本实验对应第5章的内容。 A.3.1 实验目的 (1)理解HBase在Hadoop体系结构中的角色。(2)熟练使用HBase操作常用的 Shell命令。(3)熟悉HBase操作常用的 Java API。 A.3.2 实验平台 (1...

Global site tag (gtag.js) - Google Analytics