灵衢可靠性插件 ​

该插件支持带外下电、OOM、panic、带内下电和UB内存故障事件消息接收和上报，依赖xalarmd服务。整体流程为：内核通知链阻塞事件进程并发送消息，消息经过内核设备、用户态插件、xalarmd的转发发送至对应的处理程序，程序处理完毕后将消息反向传播至内核，内核根据返回消息的时间和结果来判断下一步处理操作。

硬件规格要求 ​

• 仅支持aarch64架构。
• 仅支持满足灵衢总线协议的服务器。
• 使用UVB通信时，需要依赖BIOS支持相应功能，否则UVB通信功能无法使用。

使用限制 ​

• 当前仅支持单进程订阅和处理。

• 完整功能依赖内核6.6及以上版本，并且需要包含下面驱动，否则插件无法使用。

  • sentry_reporter
  • sentry_remote_reporter

• 带外下电特性仅针对BMC界面下电场景。

• 事件发送等待期间，禁止卸载sentry_remote_reporter或者sentry_reporter驱动。

• 当事件发生后，针对远端未回复的情况，阻塞通知链实际超时时间可能会超过用户设置的时间，该现象由内核计时器不准引起，为正常现象。

• 本节点的CNA和eid信息、集群其他节点信息需要管控面进行设置，如果未设置相关信息，则系统panic或者带内下电的时候，不会触发劫持操作。

• 当URMA建链成功后，如果链路出现异常，支持重新建链。

• UB通信链路的畅通依赖配置正确。

• 心跳回复之前，panic/带内下电消息无法发送；若心跳检测的两次周期之间，链路断开，则无法自动重新建链，panic/带内下电消息无法发送。

• 如果需要开启panic事件劫持功能，kernel命令行参数需要添加crash_kexec_post_notifiers。

• 如果需要开启OOM事件劫持功能，kernel命令行参数需要添加numa_remote。

关键规格 ​

• 集群内最大支持16个节点。
• 基于URMA通信时，节点eid仅支持配置IPV6格式。
• 针对带外下电/oom/UB内存故障/panic/带内下电流程的劫持功能默认处于关闭状态，需要由管控面执行命令打开相应功能才能生效。
• 针对panic/带内下电流程的劫持操作，系统发送事件消息并阻塞一段时间后继续原流程，相关日志记录在dmesg中（内核日志持久化由kbox服务提供），最终不会阻塞panic/带内下电流程。
• 由于panic/带内下电流程会被劫持，因此系统的panic/带内下电的重启时间比原有时间增加，具体时间为设置好的超时时间，默认为35秒。当节点在超时时间内收到回复消息，则会提前结束阻塞继续原流程。
• 使用UVB通信时，当CNA无效时将超时失败，因BIOS超时时间为4s，4s后BIOS才能进行下一个CNA转发。

安装插件 ​

前置条件 ​

已安装sysSentry框架和xalarmd服务。

安装软件包 ​

yum install -y sentry_msg_monitor

将sentry_msg_monitor加入框架管理 ​

sentryctl reload sentry_msg_monitor

使用灵衢可靠性插件 ​

事件使能和配置 ​

带外下电事件配置 ​

带外下电事件默认是未开启的，开启或者关闭方法如下：

sentryctl set sentry_reporter --power_off=on/off

OOM事件配置 ​

OOM事件默认是未开启的，开启或者关闭方法如下：

sentryctl set sentry_reporter --oom=on/off

UB内存故障上报事件配置 ​

UB内存故障上报事件默认是未开启的，开启或者关闭方法如下：

sentryctl set sentry_reporter --ub_mem_fault=on/off

用户可以配置发生UB内存故障时是否需要向使用故障内存的线程发送SIGBUS信号，默认是开启的。开启或者关闭方法如下：

sentryctl set sentry_reporter --ub_mem_fault_with_kill=on/off

panic事件上报功能配置 ​

panic事件是跨节点的，需要通过URMA或者UVB发送msg到主节点，因此，下面步骤2和步骤3至少需要配置一个。

步骤1 设置eid和cna信息，以及根据需要设置超时时间。

sentryctl set sentry_remote_reporter --eid=eid --cna=cna --panic=on --panic_timeout_ms=xxx

panic事件配置参数说明：

步骤2（可选） 初始化URMA通信组件参数

sentryctl set sentry_urma_comm --server_eid="eid11,eid21,...,eidn1;eid12,eid22,...,eidn2" --client_jetty_id=xxx

URMA通信组件初始化参数说明：

步骤3（可选） 初始化UVB通信组件参数

sentryctl set sentry_uvb_comm --server_cna="cna1；cna2;...;cnan"

UVB通信组件初始化参数说明：

带内下电事件上报功能配置 ​

kernel reboot事件是跨节点的，需要通过URMA或者UVB发送msg到主节点，因此，下面步骤2和步骤3至少需要配置一个。

步骤1 设置eid和cna信息，以及根据需要设置超时时间。

sentryctl set sentry_remote_reporter --eid=eid --cna=cna --kernel_reboot=on --kernel_reboot_timeout_ms=xxx

带内reboot事件配置参数说明：

步骤2（可选） 初始化URMA通信组件参数

sentryctl set sentry_urma_comm --server_eid="eid11,eid21,...,eidn1;eid12,eid22,...,eidn2" --client_jetty_id=xxx

URMA通信组件初始化参数说明：

步骤3（可选） 初始化UVB通信组件参数

sentryctl set sentry_uvb_comm --server_cna="cna1；cna2;...;cnan"

UVB通信组件初始化参数说明：

故障事件上报和回复消息格式 ​

故障事件对应的告警id ​

故障事件上报的消息格式 ​

UB内存故障事件对应的消息字段说明：

故障事件回复消息格式 ​

xalarmd接口 ​

消息接收处理程序依赖xalarmd服务，需要使用到的接口详见 《二次开发指南》