Skip to content

Latest commit

 

History

History
89 lines (78 loc) · 2.02 KB

es7-lookup.md

File metadata and controls

89 lines (78 loc) · 2.02 KB

一、介绍

ElasticSearch Lookup插件支持从现有的ElasticSearch集群读取指定index中的数据,并作为维表进行与主表进行关联。目前维表支持全量维表和异步维表。

二、支持版本

Elasticsearch 7.x

三、插件名称

类型 名称
SQL elasticsearch7-x


四、参数说明

1、SQL

  • hosts
    • 描述:Elasticsearch集群的连接地址。eg: ["localhost:9200"]
    • 必选:是
    • 参数类型:List
    • 默认值:无
  • index
    • 描述:指定访问Elasticsearch集群的index名称
    • 必选:是
    • 参数类型:String
    • 默认值:无
  • username
    • 描述:开启basic认证之后的用户名
    • 必须:否
    • 参数类型:String
    • 默认值:无
  • password
    • 描述:开启basic认证之后的密码
    • 必须:否
    • 参数类型:String
    • 默认值:无
  • lookup.cache-type
    • 描述:维表类型。eg: all 或者 lru
    • 必须:否
    • 参数类型:String
    • 默认值:LRU
  • lookup.cache-period
    • 描述:全量维表周期时间
    • 必须:否
    • 参数类型:Long
    • 默认值:3600 * 1000L
  • lookup.cache.max-rows
    • 描述:维表缓存的最大条数
    • 必须:否
    • 参数类型:Long
    • 默认值:1000L
  • lookup.cache.ttl
    • 描述:缓存生命周期
    • 必须:否
    • 参数类型:Long
    • 默认值:60 * 1000L
  • lookup.error-limit
    • 描述:维表数据不合规条数
    • 必须:否
    • 参数类型:Long
    • 默认值:Long.MAX_VALUE
  • lookup.fetch-size
    • 描述:抓取维表数据的条数
    • 必须:否
    • 参数类型:Integer
    • 默认值:1000L
  • lookup.parallelism
    • 描述:维表并行度
    • 必须:否
    • 参数类型:Integer
    • 默认值:1

五、数据类型

​支持 BOOLEAN
INTEGER
DECIMAL
TIMESTAMP
DOUBLE
FLOAT
DATE
VARCHAR

六、脚本示例

见项目内FlinkX:Local:Test模块中的demo文件夹。