首页 > 快讯 >

prometheus 服务发现原理

2023-03-24 07:06:34 来源:腾讯云

服务发现

概述

如上图,Prometheus核心功能包括服务发现、数据采集和数据存储。服务发现模块专门负责发现需要监控的目标采集点(target)信息,数据采集模块从服务发现模块订阅该信息,获取到target信息后,其中就包含协议(scheme)、主机地址:端口(instance)、请求路径(metrics_path)、请求参数(params)等;然后数据采集模块就可以基于这些信息构建出一个完整的Http Request请求,定时通过pull http协议不断的去目标采集点(target)拉取监控样本数据(sample);最后,将采集到监控样本数据交由TSDB模块进行数据存储。

为什么需要服务发现模块?

类似于微服务通过引入注册中心组件解决众多微服务间错综复杂的依赖调用。无论是服务主动停止,意外挂掉,还是因为流量增加对服务实现进行扩容,这些服务数据或状态上的动态变化,通过注册中心屏蔽服务状态变更造成的影响,简化了调用方处理逻辑。

同理,Prometheus最开始设计是一个面向云原生应用程序的,云原生、容器场景下按需的资源使用方式对于监控系统而言就意味着没有了一个固定的监控目标,所有的监控对象(基础设施、应用、服务)都在动态的变化。Prometheus解决方案就是引入一个中间的代理人,这个代理人掌握着当前所有监控目标的访问信息,Prometheus只需要向这个代理人询问有哪些监控目标即可,这种模式被称为服务发现(service discovery)。


(资料图片仅供参考)

目前,Prometheus支持的服务发现协议是非常丰富的,最新版本(2.41)已支持接近三十种服务发现协议:

服务发现配置解析

1、Prometheus服务启动加载prometheus.yml配置文件会被解析Config结构体:

Config结构体是配置类的最顶层结构,内部包含6个字段分别对应prometheus配置的6大组成部分。

2、其中数据采集配置部分ScrapeConfigs对应的是一个*ScrapeConfig类型切片,一个ScrapeConfig对应的是scrape_configs配置下的一个job抓取任务,服务发现协议配置对应其中ServiceDiscoveryConfigs字段:

3、discovery.Configs对应的是Config切片:

type Configs []Config

所以,一个job抓取任务下可以配置多个服务发现协议,如:

- job_name: "prometheus"  metrics_path: /metrics  static_configs:    - targets: ["124.222.45.207:9090"]  file_sd_configs:    - files:      - targets/t1.json      - targets/t2.json      refresh_interval: 5m

4、Config是一个接口:

Config是一个接口的定义,每种服务发现协议都会存在一个对应Config接口的实现(见下图)。该接口主要定义两个方法:

1、Name() string:定义服务发现协议类型,如eureka、kubernetes等等;2、NewDiscoverer(DiscovererOptions) (Discoverer, error):返回一个Discoverer类型变量,该类型也是一个接口,其只定义了一个方法Run方法,即Discoverer是对应的服务发现协议具体运行逻辑封装,通过Run方法提供统一的运行入口。
服务发现核心原理

说明:

Prometheus服务发现核心逻辑的入口主要关注Manager结构体的ApplyConfig方法:基于服务发现的配置使其生效;

ApplyConfig方法包括四个主要步骤:

type provider struct { name   string d      Discoverer subs   []string config interface{}}

❝一个job下一个服务发现协议对应一个Discoverer。❞

provider还有额外三个字段:

1、nameprovider名称,格式:fmt.Sprintf("%s/%d", typ, len(m.providers))

2、subsstring切片,存放job名称,因为可能不同job下存在一致的服务发现配置,就只会生成一个provider,然后subs存放job列表;

3、config:服务发现配置

启动Discoverer接口Run方法,让服务发现逻辑运行;协程中运行updater方法;Discoverer接口Run方法主要基于具体服务发现协议发现target,然后通过通道传递给updater处理逻辑,将其解析处理放入到Manager结构体中targets字段中,并向triggerSend通道发送信号,表示当前targets发生变更;Manager结构体sender方法每5秒监听triggerSend通道信号,并将Manager结构体中targets字段处理后放入到syncCh通道中;数据采集模块(scrape)监听syncCh通道,就可以获取到服务发现生成的targets信息,然后reloadtarget纳入监控开始抓取监控指标。启动provider:遍历Manager结构体中providers切片,启动每个provider,该步骤主要是启动两个协程:❝Manager结构体sender方法是在Prometheus启动时discoveryManagerScrape.Run()方法中启动。❞取消服务发现:配置变更也会调用ApplyConfig方法,这时就要把基于之前配置运行的服务发现服务取消,然后基于当前配置重新生成;清空:主要清空discoverCanceltargetsproviders几个容器元素,因为要基于当前配置重新生成;注册providerprovider是对Discoverer的封装,不同服务发现协议都会实现Config接口,其中NewDiscoverer方法就是创建Discoverer

「Prometheus服务发现核心就是三个协程之间协作:」

「协程1:」负责运行Discoverer接口Run方法,基于协议发现采集点;「协程2:」负责将协程1发现的采集点信息更新到Manager结构体中targets字段的map中;「协程3:」负责将Manager结构体中targets字段的数据通过通道发送给scrape模块;

scrape模块获取到采集点如何进行数据采集后续scrape模块分析。

监控指标

Prometheus服务发现通用指标主要有如下5个,都定义在discovery/manager.go中:

prometheus_sd_discovered_targetsprometheus_sd_failed_configsprometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

「1、采集点数量指标」

服务发现主要基于协议发现采集目标,prometheus_sd_discovered_targets指标反馈各个job发现的采集目标数:

prometheus_sd_discovered_targets:gauge类型,当前发现的目标数config:job名称name:取值scrape和notify,区分指标抓取服务发现还是告警通知服务发现示例:prometheus_sd_discovered_targets{config="auth_es1", name="scrape"}  12

❝这里基于协议发现的目标数,还未进入采集模块,并不能区分是在线还是离线。❞

「2、服务发现协议异常错误指标」

服务发现会给每个发现配置项生成一个provider,并为每个provider使用协程运行,如果基于配置项生成provider错误就可以通过prometheus_sd_failed_configs指标反馈:

prometheus_sd_failed_configs:gauge类型,当前无法加载的服务发现配置数配置数:一个job可能存在多个服务发现协议配置,对应配置项则是多个示例:prometheus_sd_failed_configs{name="scrape"}  10prometheus_sd_failed_configs{name="notify"} 5

一个job可能对应多个服务发现配置项,如下:这个job下配置了static_configsfile_sd_configs两个服务发现协议配置,则对应两个服务发现配置项,注册两个provider,每个provider在独立协程中运行:

scrape_configs:  # The job name is added as a label `job=` to any timeseries scraped from this config.  - job_name: "test"    static_configs:    - targets: ["localhost:9090"]    file_sd_configs:    - refresh_interval: 5m      files:      - targets/manual.*.json

「3、协程交互指标」

服务发现主要涉及3类协程:

Discoverer协程(多个):封装provider,基于协议发现采集点,这里可能会存在多个,一个provider对应一个Discoverer协程updater协程(1个):Discoverer协程发现采集点,通过channel通道通知到updater协程updater协程将采集点更新到Manager结构体targets字段中,然后向Manager结构体triggerSend通道写入数据,告诉sender协程targets有更新;sender协程(1个):sender协程每5秒检测triggerSend通道数据,检测到更新则将Manager结构体targets数据处理封装写入到Manager结构体syncCh通道中,scrape模块监测该通道,即完成将服务发现模块scrape模块交互。

这其中涉及三个指标:

prometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total
上一篇:

雷克萨斯属于日产还是丰田_一起来看看吧 速看

下一篇:

最后一页

x
推荐阅读

prometheus 服务发现原理

雷克萨斯属于日产还是丰田_一起来看看吧 速看

再续“樱花之约”,湖北迈向高质量开放“新沿海”

天天快播:2023个人社保医保缴费又上涨了?2023年居民医保为什么涨价

世界上最硬的金属是什么_今日快看

焦点热议:中国平安:决议注销7000.68万股A股股份

焦点快报!奥特迅:奥特迅电力大厦建筑面积约为4.27万平方米,已有部分用于出租

甘肃省招生办公室电话号_甘肃省招生办公室电话_重点聚焦

中农联合新设检测科技子公司,含生物农药技术研发业务

李宁,减脂期的“肌肉型企业” 世界动态

天天关注:几月份去乡村旅游合适_哪个月份去乡村旅游合适

400电话怎么续费_资讯

世界微动态丨河南81家医院“组团砍价” 两类医用耗材品规平均降幅达53.6%

视讯!看展览|“上海相册”精选海报展在上海报业大厦6楼开幕

天天热文:北京丰台广济中西医结合医院电话_北京丰台广济中西医结合医院

国药(SHTDF.US)3月22日收盘报2.92美元/股 全球速看

公共卫生阴霾下英镑喜获市场青睐!3月预算案若助力下降楔形完成,有望开启新一轮反弹

立秋是哪天,2022立秋具体时间

富国银行:给予PNC集团(PNC.US)和美国合众银行(USB.US)“增持”评级,并加入银行股投资组合 要闻

山城区统计局志愿服务联合会

中期票据优点不包括_中期票据特点

天天微头条丨杜月笙演的电影

全球实时:信达证券给予舍得酒业买入评级,利润超预期收官,多品牌协同发展

黑龙江省哈尔滨市发布沙尘暴黄色预警

焦点速讯:教育系统着力提升教师数字素养——迎接数字化 掌握新技能

文明上网助力未成年人健康成长-环球微资讯

快讯:南华生物涨停 报于12.23元_世界热资讯

厦门万翔网上商城_万翔网上商城-全球看热讯

西域刀郎个人资料_西域刀郎

蔚来驱动科技工资_蔚来驱动科技_新资讯

派林生物:控股股东拟38.44亿元向胜帮英豪转让20.99%公司股份,公司实控人将变更为陕西国资委

飞来山上千寻塔猜数字_飞来山上千寻塔

iphone8强制关机方法_iphone8强制关机 环球速看

epub格式可以编辑吗_epub格式 焦点关注

当前热门:内蒙古自治区清水河县发布寒潮蓝色预警

身体被掏空吃什么食物_身体被掏空吃什么

访组词_访组词

北京西到北京站多长时间_北京北站在哪里

历时13天,上海小伙花2K爆改出租房,房东:我给你免租1个月

江西都昌:首次采用暗化恒温室催芽助力早稻生产 快播报

胡凯伦的全部表演_胡凯伦

浙江海洋大学东海科学技术学院公办_浙江海洋大学东海科学技术学院怎么样

产品规格是什么意思_产品规格是什么

海南周刊丨闲话广彩瓷器_世界观天下

全球讯息:119只中华秋沙鸭春游湖南桃源

每日关注!毛绒绒还是毛茸茸的区别_毛绒绒和毛茸茸如何区分

社会工作者职业资格考试内容_社会工作者职业资格

阿里巴巴注册开店流程图_阿里巴巴注册开店流程

华峰测控遭控股股东芯华控股大宗交易减持2%股份_环球时讯

建设中国式新型能源体系 第四届中国能源行业前沿论坛举行