ElasticSearch Lookup插件支持从现有的ElasticSearch集群读取指定index中的数据,并作为维表进行与主表进行关联。目前维表支持全量维表和异步维表。
Elasticsearch 7.x
类型 | 名称 |
---|---|
SQL | elasticsearch7-x |
- hosts
- 描述:Elasticsearch集群的连接地址。eg: ["localhost:9200"]
- 必选:是
- 参数类型:List
- 默认值:无
- index
- 描述:指定访问Elasticsearch集群的index名称
- 必选:是
- 参数类型:String
- 默认值:无
- username
- 描述:开启basic认证之后的用户名
- 必须:否
- 参数类型:String
- 默认值:无
- password
- 描述:开启basic认证之后的密码
- 必须:否
- 参数类型:String
- 默认值:无
- lookup.cache-type
- 描述:维表类型。eg: all 或者 lru
- 必须:否
- 参数类型:String
- 默认值:LRU
- lookup.cache-period
- 描述:全量维表周期时间
- 必须:否
- 参数类型:Long
- 默认值:3600 * 1000L
- lookup.cache.max-rows
- 描述:维表缓存的最大条数
- 必须:否
- 参数类型:Long
- 默认值:1000L
- lookup.cache.ttl
- 描述:缓存生命周期
- 必须:否
- 参数类型:Long
- 默认值:60 * 1000L
- lookup.error-limit
- 描述:维表数据不合规条数
- 必须:否
- 参数类型:Long
- 默认值:Long.MAX_VALUE
- lookup.fetch-size
- 描述:抓取维表数据的条数
- 必须:否
- 参数类型:Integer
- 默认值:1000L
- lookup.parallelism
- 描述:维表并行度
- 必须:否
- 参数类型:Integer
- 默认值:1
支持 | BOOLEAN |
---|---|
INTEGER | |
DECIMAL | |
TIMESTAMP | |
DOUBLE | |
FLOAT | |
DATE | |
VARCHAR |
见项目内FlinkX:Local:Test模块中的demo文件夹。