1.prometheus?优化源码源码Ż?Դ??
2.从指标到洞察力的普罗米修斯
3.如何在prometheus产生告警时自动执行某个脚本文件
4.小公司也可以0成本构建统一的告警管理体系
5.通过transmittable-thread-local源码理解线程池线程本地变量传递的原理
6.prometheus各个exporter安装

prometheus?Ż?Դ??

       Prometheus TSDB的Index索引存储格式详解

       Prometheus在数据存储过程中，当Head中的分析时间范围达到一定阈值时，会将数据归档到Block中，优化源码源码以保持高效查询性能。分析这个过程涉及Compact操作，优化源码源码具体实现见tsdb/db.go的分析编程源码书籍大全Compact方法。整个系统结构包括多个文件，优化源码源码如G2KPG4ZND4WA3GZYB和ULID标识的分析Block，其中包含时间范围内的优化源码源码样本数据，chunk和index文件组织了这些数据。分析

       Index文件是优化源码源码关键，它详细记录了Series的分析索引信息。首先，优化源码源码TOC（目录）部分包含文件中Symbol Table、分析Series、优化源码源码Label Indices等的索引位置，固定长度字节，便于快速定位。Symbol Table存储Series中的标签值对，按照升序排序，包含每个标签值的长度、索引以及CRC校验。

       Series部分描述了每个Series对Chunk的引用，包括系列长度、标签对数量、标签值索引引用、chunk位置信息以及元数据，采用差分编码节省空间。Label Indices记录每个标签名下的所有值，同样按照索引存储，asp整站源码便于快速查找。Postings则记录每个标签值对对应的所有系列引用。

       Label Offset Table用于记录标签值在Label Index中的位置，而Postings Offset Table则记录每个键值对对应的Postings索引。这些结构共同构成了Prometheus查询的核心索引，理解它们对于理解查询流程至关重要。

       本文深入剖析了Prometheus的源码和文档，揭示了Index文件的详细结构，接下来将深入讲解查询流程和Block中Chunk的格式。后续内容将更加详细地揭示Prometheus如何利用这些结构实现高效的数据检索。

从指标到洞察力的普罗米修斯

       从指标到洞察力的普罗米修斯详解

       普罗米修斯作为领先的开源监控解决方案，旨在从用户指标和告警需求出发，提供强大的支持。在云原生时代，它尤其适用于解决指标埋点和异常监控问题，如服务稳定性监控和故障预测分析（Unknow-Unknow）等。

       起源于SoundCloud的普罗米修斯，自年开源以来，由Google BorgMon监控系统演变而来，现已成为CNCF的重要项目。它具备强大的多维度指标监控告警能力，通过其架构，我们可以从发现服务、采集数据到分析告警，一目了然。

       架构方面，Prometheus涉及服务发现、数据采集、监控分析等环节，信贷系统源码涉及术语如指标、收集器、监控黄金信号和指标类型（Counter、Gauge、Histogram、Summary）。通过一个简单的入门示例，我们可以了解如何安装、配置和使用Prometheus来监控自身指标。

       安装后，我们可以通过访问Dashboard，监控指标查询，学习PromQL进行数据查询和可视化。完善的Prometheus帮助我们快速定位问题，支持指标驱动开发（MDD），在开发过程中就规划好监控埋点，以便于尽早发现和解决问题。

       然而，尽管功能强大，使用普罗米修斯时还需注意其适用范围和注意事项。想要深入了解，可以通过《中间件源码》公众号进一步交流。

如何在prometheus产生告警时自动执行某个脚本文件

       在使用prometheus进行监控时，为了在产生告警时实现自动化操作，如执行特定脚本文件，可以结合webhook功能实现这一需求。webhook提供了一种将告警事件转换为可执行操作的机制，本文将详细介绍如何配置webhook，以及如何通过执行脚本文件自动处理告警信息。射击游戏源码

       在prometheus和alertmanager的体系中，告警机制主要通过规则配置文件（rule.yaml）来定义告警条件。当监控到指标值异常时，alertmanager将向指定的webhook发送告警信息。通过配置webhook，我们可以在接收到告警信息的同时，触发自定义脚本执行，实现更精细化的告警处理。

       为了搭建webhook服务，可以访问其官方GitHub仓库（github.com/adnanh/webhook）获取相关文档。对于Ubuntu系列的环境，可以通过apt命令轻松安装webhook服务；其他操作系统环境下，需要通过编译源码的方式安装webhook，并确保服务在端口监听。

       搭建webhook服务后，通过编辑配置文件，配置webhook的访问路径和相关参数。在配置完成后，重启服务以确保配置生效。通过访问mand first，那么就需要设置为 true。着重说明一下，如果开启了 tls，提示报错 starttls failed: x: certificate signed by unknown authority，需要在 email_configs 下配置 insecure_skip_verify: true 来跳过 tls 验证。

       templates： 告警模板目录，可以不编写模板，有默认模板

            Subject: '{ { template "email.default.subject" . }}'

            html: '{ { template "email.default.html" . }}'

       route：报警的分发设置

            group_by：分组

            group_wait: 分组等待时间

            group_interval: 5m 每组时间间隔

            repeat_interval: m 重复间隔

            receiver: 接收方式，请注意！这里的名字要对应下面receivers中的任何一个名字，不然会报错，这里其实就是选择方式，有邮箱，企业微信，wehook，victorops等等

       receivers：接受方式汇总，即告警方式汇总

        例子：

        receivers:

        - name:'default-receiver' 

        email_configs:

        - to:'whiiip@.com'    

          html: '{ { template "alert.html" . }}'    

          headers: { Subject: "[WARN] 报警邮件test"}

       inhibit_rules:   æŠ‘制规则

        当存在与另一组匹配的警报（源）时，抑制规则将禁用与一组匹配的警报（目标）。

        包括源匹配和目标匹配

        alertmanager官方是这样说的

        Inhibition

        Inhibition is a concept of suppressing notifications for certain alerts if certain other alerts are already firing.

        Example:  An alert is firing that informs that an entire cluster is not reachable. Alertmanager can be configured to mute all other alerts concerning this cluster if that particular alert is firing. This prevents notifications for hundreds or thousands of firing alerts that are unrelated to the actual issue.

        Inhibitions are configured through the Alertmanager's configuration file.

        当存在与另一组匹配器匹配的警报（源）时，禁止规则会使与一组匹配器匹配的警报（目标）静音。目标警报和源警报的equal列表中的标签名称都必须具有相同的标签值。

        在语义上，缺少标签和带有空值的标签是同一件事。因此，如果equal源警报和目标警报都缺少列出的所有标签名称，则将应用禁止规则。

        为了防止警报禁止自身，与规则的目标和源端 都 匹配的警报不能被警报（包括其本身）为真来禁止。但是，我们建议选择目标匹配器和源匹配器，以使警报永远不会同时匹配双方。这很容易进行推理，并且不会触发此特殊情况。

        接着是规则rules

       ä¸è§£é‡Šäº†ï¼Œè‡ªå·±ç ”究官方文档

       alertmanager的非容器安装方式是

         wget /prometheus/alertmanager/releases/download/v0..0/alertmanager-0..0.linux-amd.tar.gz

        tar xf alertmanager-0..0.linux-amd.tar.gz

       mv alertmanager-0..0.linux-amd /usr/local/alertmanager

       vim /usr/lib/systemd/system/alertmanager.service

       [Unit]

       Description=alertmanager

        Documentation=/prometheus/alertmanager

        After=network.target

        [Service]

        Type=simple

        User=root

        ExecStart=/usr/local/alertmanager/alertmanager --config.file=/usr/local/alertmanager/alertmanager.yml

        Restart=on-failure

        [Install]

        WantedBy=multi-user.target

        Alertmanager 安装目录下默认有 alertmanager.yml 配置文件，可以创建新的配置文件，在启动时指定即可。

        其余方式和上面一样

        接着是Prometheus，我之前的博客里有写了容器安装和非容器安装的方法，自己去翻阅

        然后是在prometheus.yml里修改相关配置

        首先去掉alertmanager的注释，改成IP加你设置的端口号，默认是

       æŽ¥ç€åœ¨rule_files: 下面写下规则文件的绝对路径，可以是具体文件名，也可以是*，也可以分几级文件，*默认是全部匹配

       æŽ¥ç€æ˜¯è¢«ç›‘控项的设置，这里设置完成可以在Prometheus网页里的targets里看得到

        请注意，这里设置的参数名字要和rule规则中设置的参数名字一模一样，否则你的prometheus服务会无法启动，然后报错

        如果不在特定的job下设置scrape_interval（优先级高于全局）,则默认采用gobal下的scrape_interval

       æœ€åŽæ¨¡æ‹ŸèŠ‚点掉线，手动关闭node-exporter或者Cadvisor

        docker stop node-exporter 或者容器ID

        docker stop cadvisor æˆ–者容器ID

        或者把up{ { job='prometheus'}} == 1 设置成1，反向设置，不用关掉服务，就可以看看告警成不成功

       è¯´æ˜Žä¸€ä¸‹ Prometheus Alert 告警状态有三种状态：Inactive、Pending、Firing。

        Inactive：非活动状态，表示正在监控，但是还未有任何警报触发。

        Pending：表示这个警报必须被触发。由于警报可以被分组、压抑/抑制或静默/静音，所以等待验证，一旦所有的验证都通过，则将转到 Firing 状态。

        Firing：将警报发送到 AlertManager，它将按照配置将警报的发送给所有接收者。一旦警报解除，则将状态转到 Inactive，如此循环。

       æ²¡æœ‰é…ç½®å‘Šè­¦æ¨¡æ¿æ—¶çš„默认告警格式是这样的

       èŠ‚点恢复后邮件告知是这样的

       å†™äº†æ¨¡æ¿åŽæ˜¯è¿™æ ·çš„

       è¿˜è¦é‡æ–°æ˜ å°„模板文件夹路径到alertmanager容器里的相对路径，然后重启alertmanager，当然，如果目录下没有模板文件，则不显示

       å‘Šè­¦æ¨¡æ¿

       åœ¨alertmanager.yml中修改相关设置

        重启alertmanager

        docker restart alertmanager

        最终效果不是很好

Opentelemetry和Prometheus的remote-write-receiver的实验

       实验目标：探索并实践Opentelemetry和Prometheus的集成，利用Prometheus的远程写功能与Opentelemetry的collector相结合，实现指标的主动推送，并通过Prometheus进行可视化管理。

       实验环境：需要准备一个运行的Prometheus实例，以及一个Opentelemetry的collector。具体配置和部署步骤需参照实验环境部分。

       实验过程：首先，配置Prometheus以抓取本地指标，通过修改Prometheus配置文件并启动windows_exporter实现本地指标的随便撸源码生成与输出。接着，配置和启动Opentelemetry的collector，确保其支持与Prometheus的远程写功能。在这一阶段，需要根据源代码（例如：wuqingtao/opentelemetry_demo/otel-collector-config.yaml）进行相应的调整。最后，通过执行指标生成命令（源代码来自：wuqingtao/opentelemetry_demo/app），确保指标能够被正确生成并主动推送至Prometheus。

       可视化面板：在Prometheus中设置抓取目标，通常为运行的Prometheus实例。配置完成后，访问Prometheus控制面板，通过采集器面板查看并管理指标。同时，利用Prometheus的可视化功能，对主动写入的指标进行分析与监控。

       实验结果：借助Prometheus的远程写功能和Opentelemetry的collector，实现了指标的主动推送至Prometheus。这一集成使得实时监控和分析数据成为可能，进一步强化了监控系统的能力，提升了数据处理效率。

基于Prometheus + Grafana搭建IT监控报警最佳实践(2)

       见字如面，大家好，我是小斐。延续前文，本文将深入探讨Prometheus和Grafana的监控体系。

       首先，我们需要打开Prometheus和Grafana进行操作，访问地址分别为：...:/ 和 ...:/。

       以node_exporter数据采集器为例，先确保其已安装于需要监控的主机。若要获取...主机的状态数据，需在该主机安装node_exporter采集器。

       在prometheus.yml中添加需要抓取的目标源信息，具体操作为：在scrape_configs下添加job_name，指定静态目标，添加...:目标。

       配置文件配置完成后，由于是静态的，需要重新加载配置文件，重启Prometheus以生效。

       在targets中查看是否已抓取到目标，根据上图可见，...的主机节点数据已抓取到。在Prometheus中验证数据正确性，点击http://...:/metrics 可查看抓取的所有数据。

       查看数据信息，输入node_memory_MemTotal_bytes查询该主机内存数据是否正确，可以看到G总内存，与我本机内存相符，说明数据正确。

       至此，我们可以确定数据抓取是成功的。

       数据生成大屏数据UI，展示放在Grafana中，打开Grafana：http://...:/，点击数据源：关联Prometheus数据源。

       输入Prometheus的地址：http://...:，下载Grafana的面板，json模版可在Grafana官网模版库中找到。在此，我选择了一个模版，具体链接为：Linux主机详情 | Grafana Labs。

       添加模版：点击import，导入下载下来的json文件。

       或者根据ID来加载。如果对面板数据和展示的风格不适用，可单独编辑变量和数据查询语句，关于Grafana的变量和数据查询语句后续单独开篇说明，在此只采用通用的模版展示数据。

       关于SNMP数据采集，我们可以通过SNMP协议来监控交换机、路由器等网络硬件设备。在一台Linux主机上，我们可以使用snmpwalk命令来访问设备通过SNMP协议暴露的数据。

       简单查看后，我们需要长期监控，这个时候就要借助SNMP Exporter这个工具了。SNMP Exporter是Prometheus开源的一个支持SNMP协议的采集器。

       下载docker image使用如下命令，使用中请切换对应的版本。如果使用二进制文件部署，下载地址如下。

       对于SNMP Exporter的使用来说，配置文件比较重要，配置文件中根据硬件的MIB文件生成了OID的映射关系。以Cisco交换机为例，在官方GitHub上下载最新的snmp.yml文件。

       关于采集的监控项是在walk字段下，如果要新增监控项，写在walk项下。我新增了交换机的CPU和内存信息。

       在Linux系统中使用Docker来运行SNMP Exporter可以使用如下脚本。

       在Linux系统部署二进制文件，使用系统的Systemd来控制服务启停，系统服务文件可以这么写。该脚本源自官方提供的脚本，相比于官方脚本增加了SNMP Exporter运行端口的指定。

       运行好以后，我们可以访问http://localhost:来查看启动的SNMP Exporter，页面上会显示Target、Module、Submit、Config这几个选项和按钮。

       在Target中填写交换机的地址，Module里选择对应的模块，然后点击Submit，这样可以查到对应的监控指标，来验证采集是否成功。

       target可以填写需要采集的交换机IP，模块就是snmp.yml文件中命名的模块。

       点击Config会显示当前snmp.yml的配置内容。

       如果上面验证没有问题，那么我们就可以配置Prometheus进行采集了。

       配置好Prometheus以后启动Prometheus服务，就可以查到Cisco交换机的监控信息了。

       接下来就Prometheus配置告警规则，Grafana进行画图了。这些操作和其他组件并无区别，就不再赘述。

       关于手动生成snmp.yml配置文件，当官方配置里没有支持某些设备时，我们需要通过MIB文件来自己生成配置文件。

       以华为交换机为例，在单独的CentOS7.9的一台虚拟机中部署snmp_exporter，在这里我以源码编译部署。

       在此我贴出generator.yml文件的模版：模块中，if_mib是指思科模块提供公共模块，HZHUAWEI是我自定义的模块名，根据walk下的OID和变量下的mib库文件路径生成snmp.yml配置文件，然后根据snmp.yml配置文件采集交换机信息。

       generator.yml文件格式说明：参考官网。

       这次我贴一份比较完整的snmpv3版本的模版：参考网络上，后续我内部的完整模版贴出来，形成最佳实践。

       主要的消耗时间就是想清楚需要采集的交换机监控指标信息，并到官网找到OID，贴到generator.yml文件中，最后执行./generator generate命令遍历OID形成snmp.yml配置文件，启动snmp_exporter时指定新形成的snmp.yml文件路径。

       启动后在浏览器中，打开http://...5:/。

       在此需要说明下，交换机需要开启snmp使能。如内部交换机比较多，可采用python或者ansible批量部署snmp使能，python这块可学习下@弈心 @朱嘉盛老哥的教程，上手快并通俗易懂，ansible后续我会单独出一套针对华为设备的教程，可关注下。

       一般情况下，交换机都是有多台，甚至几百上千台，在如此多的设备需要监控采集数据，需要指定不同模块和不同配置文件进行加载采集的，下面简单介绍下多机器部署采集。

       编辑prometheus.yml文件，snmp_device.yml的内容参照如下格式即可。我在下面的示例中添加了architecture与model等变量，这些变量Prometheus获取目标信息时，会作为目标的标签与目标绑定。

       重启服务器或重加载配置文件即可，后续贴出我的实际配置文件。

       此篇到此结束，下篇重点说明配置文件细节和我目前实践的配置文件讲解。