12,486 瀏覽數

ipmi

IPMI(Intelligent Platform Management Interface)
Step 0:簡介
Step 1:檢查你的系統是否有提供 IPMI

Step 2.安裝 ipmi
Step 3.檢查 ipmi 服務是否啟動
Step 4: ipmi所需模組
Step 5: ipmi的使用
Step 6: ipmi的相關聯結

Step 0:簡介
IPMI(Intelligent Platform Management Interface) 是一種可擴展的標準,它定義了如何監控硬體和感測器,控制系統部件以及記錄重大事件,隨著 ipmi技術在伺服器中的應用,利用 ipmi 的眾多優勢就成為伺服器管理特別是集群管理中不可缺少的部分.而利用 ipmitool 可以實現 Linux 系統下對伺服器的 ipmi 管理.

關於 IPMI 我們常會聽到的 I²C ,smbus ,ipmi ,BMC , IPMB , 這幾個名詞.先來看一張圖之後再來一一說明.
ipmi_block01
圖片出自於 Intel 文件 http://www.intel.com.tw/

  • ipmi,BMC

    IPMI (Intelligent Platform Management Interface) 是一種可擴展的標準技術協定, 它定義了如何監控硬體和感測器,控制系統部件以及記錄重大事件, , 隨著 ipmi 技術在伺服器中的應用,利用 ipmi 的眾多優勢就成為伺服器管理特別是集群管理中不可缺少的部分.而 BMC (Baseboard Management Controller) 控制器是 IPMI 的子系統,他主要負責與其他周邊控制器之間的模塊之間分配與管理.

    從上圖可以看到訊號可以透過 Serial Port , I²C 或是 IPMB,SMBus (加強版的 I²C) 匯流排 來與 BMC 溝通.

    IPMItool 的官方網站 http://ipmitool.sourceforge.net/

  • I²C / SMbus / IPMB

    不管是 I²C bus (Inter-Integrated Circuit,讀法為 "I-squared-C")還是 SMBus(System Management Bus) , IPMB(Intelligent Platform Management Bus) 他們是一種慢速 serial bus 的協定,主要透過兩條線路的匯流排 (串列資料(SDA)及串列時脈(SCL)) 與電腦上的控制晶片(MC : Micro Controller)做溝通.以上圖得例子來說 MC 就是 BMC 了.
    最早推出的是由飛利浦公司主導的 I²C 主要也是為了連接低速週邊裝置. 而 SMBus 是由 Intel 參考了 I²C 主要是為了系統上較慢速的裝置與電源管理裝置之間的溝通. 透過這套系統可以獲得這些裝置的設備資訊如型號或是狀態等資訊. 通常而言會將SMBus 視為 I²C 的子集,也因此 I²C / smbus 在某個程度上是相容的.目前 Linux 核心同時支援 I²C / smbus,在核心編譯的 Device Drivers 就可以找到   I²C / smbus .
    而 IPMB 是基於 IPMI 所發展出來的管理匯流排 (他也是以 I²C 為基礎所開發出來的).

  • GPIO

    有時會聽過可以透過2支 GPIO (General Purpose I/O) 腳來模擬 I²C ,主要是該裝置沒有 I²C 所以利用本身裝置的 GPIO +透過軟體的方式來模擬成 I²C

  • SPI

    SPI (Serial Peripheral Interface Bus) ,一樣類似 I²C 的設計,不過它不像是 I²C 所做的 2線式設計, SPI 擁有 4線的同步序列資料協定.

  • I2C MUX

    有時候會看到 I2C MUX (Multiplexer : 多工器),會有多個 I2C device 掛載在這裡,但為什麼要這個我不是很清楚.

  • PSMI

    PSMI(Power Supply Management Interface) 則是透過 SMBus 回報電源供應器實際使用負載狀況.

  • PMbus

    PMbus (Power Management Bus) 就如同 SMBus ,只是 PMBus 應用在 Power supply 上面.他也是從 I²C 所衍生出來的.

  • ipmitool,LM_Sensor

    而利用 ipmitool 可以實現 Linux 系統下對伺服器的 ipmi 管理.主要的監控管理方式還是透過 I²C / smbus ,不過不是每台電腦上都有配備 BMC 所以在沒有 BMC 時 Linux 底下還是可以透過另外一種方式 LM_Sensor 來針對 I²C / smbus 裝置來做較簡易的監控. 不過 BMC 是獨立於作業系統以外的一套機制,他不需要開啟作業系統才能做事.只要系統有電源時就可以針對他開始做監管的動作.
    LM Sensors 的官方網站http://www2.lm-sensors.nu/~lm78/index.html

  • Inband,Outband

    IPMI 有分成為 Inband 與 Outband,主要的區分為:
    Inband (In-Band)

    1. Console Redirection
    2. OS 下透過 I2C module 下 ipmi command

    Outband (Out-of-Band)

    1. BMC dedicate LAN
      • Ethernet (Web)
      • IOL (Ipmi over Lan)
      • SOL (Serial over LAN)
    2. IOS (Ipmi over serial(General serial port))

Step 1:檢查你的系統是否有提供 IPMI
我們無法透過 #lspci 來查詢系統是不是有 BMC 的裝置,只能使用 #dmidecode 如果在 type 38 看到 IPMI DEVICE INFORMATION , 就表示系統有 BMC 存在.
除了硬體外還需要軟體的支援,這邊使用的是 RedHat Enterprise 4 系統預設就有安裝 ipmi,請直接到 step 3.如果你的系統沒有安裝可以到他官方網站來安裝 IPMItool.

[root@benjr ~]# rpm -aq | grep -i ipmi
OpenIPMI-libs-1.4.14-1.4E.12
OpenIPMI-tools-1.4.14-1.4E.12
OpenIPMI-devel-1.4.14-1.4E.12
OpenIPMI-1.4.14-1.4E.12

http://ipmitool.sourceforge.net/

Step 2.安裝 ipmi
基本上 ipmitool.sourceforge.net 提供了 .rpm 和 .tar 檔.可以依你的喜歡來安裝.

  • rpm 檔

    [root@benjr ~]# rpm ipmitool-<VER>.<PLATFORM>.rpm
    
  • tar 檔

    [root@benjr ~]# tar xzvf ipmitool-<VER>.tar.gz
    [root@benjr ~]# cd ipmitool-<VER>
    [root@benjr ~]# ./configure -enable-inft-open=static
    [root@benjr ~]# make
    [root@benjr ~]# make install
    
  • 我們還要創建字元設備,使 ipmitool 可以通過驅動程式連結至 ipmi 系統介面

    [root@benjr ~]# cat /proc/devices | grep ipmidev
    254 ipmidev
    [root@benjr ~]# mknod /dev/ipmi0 c 254 0
    

    note:
    Type: "c" 是 character device(unbuffered)
    MAJOR number是根據剛剛查到的254

Step 3.檢查 ipmi 服務是否啟動

[root@benjr ~]# service ipmi status
ipmi_msghandler module loaded.
ipmi_si module loaded.
ipmi_devintf module loaded.
/dev/ipmi0 exists.

這樣子代表有正式啟動,如果沒有請鍵入下面指令.

[root@benjr ~]# service ipmi start
Starting ipmi drivers: [  OK  ]

如果要讓每次開機時都能啟動 ipmi,請鍵入下面指令.

[root@benjr ~]# chkconfig ipmi on

Step 4: ipmi所需模組
這邊我使用的是 RedHat Enterprise 4(kernel 2.6),可以看到和ipmi相關的模組,但如果使用的是 kernel 2.4 所需的模組又不同了.

[root@benjr ~]# lsmod
Module                  Size  Used by
ipmi_devintf           13129  0
ipmi_si                36585  0
ipmi_msghandler        31913  2 ipmi_devintf,ipmi_si

2.6-based kernel 的 ipmitool 需要下面這些模組才能正確運作. 

  • ipmi_msghandler
    Incoming and outgoing message handler for IPMI interfaces.
  • ipmi_si
    An IPMI system interface driver for the message handler. This module supports various IPMI system interfaces such as KCS, BT, SMIC, and even SMBus in 2.6 kernels.
  • ipmi_devintf
    Linux character device interface for the message handler.

2.4-based kernel 的 ipmitool 需要下面這些模組才能正確運作. 

  • ipmi_msghandler
    Incoming and outgoing message handler for IPMI interfaces.
  • ipmi_kcs_drv
    An IPMI Keyboard Controler Style (KCS) interface driver for the message handler.
  • ipmi_devintf
    Linux character device interface for the message handler.

其他選用的模組

  • ipmi_smb
    A driver for accessing BMCs on the SMBus. It uses the I2C kernel driver's SMBus interfaces to send and receive IPMI messages over the SMBus.
  • ipmi_watchdog
    IPMI requires systems to have a very capable watchdog timer.  This driver implements the standard Linux watchdog timer interface on top of the IPMI message handler.
  • ipmi_poweroff
    Some systems support the ability to be turned off via IPMI commands.

Step 5: ipmi的使用
直接使用 ipmitool 來查看有什麼可以作為查詢的,下面是一般 ipmitool 所提供的系統上相關資訊.


[root@benjr ~]# ipmitool
Commands:
        raw           Send a RAW IPMI request and print response
        i2c           Send an I2C Master Write-Read command and print response
        lan           Configure LAN Channels
        chassis       Get chassis status and set power state
        event         Send pre-defined events to MC
        mc            Management Controller status and global enables
        sdr           Print Sensor Data Repository entries and readings
        sensor        Print detailed sensor information
        fru           Print built-in FRU and scan SDR for FRU locators
        sel           Print System Event Log (SEL)
        pef           Configure Platform Event Filtering (PEF)
        sol           Configure IPMIv2.0 Serial-over-LAN
        isol          Configure IPMIv1.5 Serial-over-LAN
        user          Configure Management Controller users
        channel       Configure Management Controller channels
        session       Print session information
        sunoem        OEM Commands for Sun servers
        exec          Run list of commands from file
        set           Set runtime variable for shell and exec

我們可以使用 #ipmitool -l open sdr 直接看整個所有的 sensor 的資訊.sdr(Sensor Data Repository) 或是指令 #ipmitool sdr elist

[root@benjr ~]# ipmitool -I open sdr
SYS FAN 1        | 4850 RPM          | ok
SYS FAN 2        | 5000 RPM          | ok
SYS FAN 3        | 4500 RPM          | ok
SYS FAN 4        | 4350 RPM          | ok
SYS FAN 5        | 5150 RPM          | ok
SYS FAN 6        | 4750 RPM          | ok
STBY 5V          | 5.05 Volts        | ok
PS 1.8V          | 1.81 Volts        | ok
PS 1.2V          | 1.21 Volts        | ok
PS 5V            | 5.02 Volts        | ok
PS 12V           | 12.01 Volts       | ok
PS 3.3V          | 3.33 Volts        | ok
SCSI CARD TEMP   | 48 degrees C      | ok
CPU 1 TEMP       | 49 degrees C      | ok
CPU 2 TEMP       | disabled          | ns
PWR CONN TEMP    | 34 degrees C      | ok
MEM TEMP         | 42 degrees C      | ok
NB TEMP          | 50 degrees C      | ok
DIS SYS FAN 1    | 0 unspecified     | nc
DIS SYS FAN 2    | 0 unspecified     | nc
DIS SYS FAN 3    | 0 unspecified     | nc
DIS SYS FAN 4    | 0 unspecified     | nc
DIS SYS FAN 5    | 0 unspecified     | nc
DIS SYS FAN 6    | 0 unspecified     | nc
CPU 1 STATUS     | 0 unspecified     | ok
CPU 2 STATUS     | disabled          | ns
THERMAL TRIP     | 0 unspecified     | nc
ACPI PW STATE    | 0 unspecified     | ok
WATCHDOG2        | 0 unspecified     | ok
AC POWER ON      | 0 unspecified     | ok
PS 1 STATUS      | 0 unspecified     | cr
PS 2 STATUS      | 0 unspecified     | nc
PS REDUNDANCY    | 0 unspecified     | cr
UID BUTTON       | 0 unspecified     | nc
PEF ACTION       | 0 unspecified     | ok

這些都是比較粗略的資訊,如果你想要知道比較詳細的資料,可以用 #ipmitool sensor get 的指令來查詢更詳細的 sensor 資訊.

[root@benjr ~]# ipmitool sensor get "CPU 1 TEMP"
Locating sensor record…
Sensor ID              : CPU 1 TEMP (0×22)
 Entity ID             : 3.0
 Sensor Type (Analog)  : Temperature
 Sensor Reading        : 49 (+/- 0) degrees C
 Status                : ok
 Lower Non-Recoverable : na
 Lower Critical        : na
 Lower Non-Critical    : na
 Upper Non-Critical    : 80.000
 Upper Critical        : 90.000
 Upper Non-Recoverable : 100.000
 Assertion Events      :
 Assertions Enabled    : lnc- lcr- lnr- unc+ ucr+ unr+

這裡查詢了 "CPU 1 TEMP" 詳細資料,至於還有什麼可以查詢可以參考 #ipmitool -I open sdr 內的初略資料的參數來查出哪些 sensor 可供查詢.

PMBus 的資料也可以透過 ipmitool power 來查詢.

[root@benjr ~]# ipmitool power
chassis power Commands: status, on, off, cycle, reset, diag, soft

Step 6: ipmi的相關聯結

參考文件 ipmi-second-gen-interface-spec-v2-rev1-1.pdf

28 個網友的想法 “ipmi

  1. 自動參照通知: PMbus – Power Management Bus – Benjr.tw

  2. 自動參照通知: PSMI – Power Supply Management Interface | Benjr.tw

  3. 自動參照通知: Linux command – i2c-dev | Benjr.tw

  4. 自動參照通知: Temperature sensor with integrated SPD | Benjr.tw

  5. 透過IPMI讀取FRU 0x0800以後的資料,ipmitool會回說是非合法空間,想請教是否這是ipmitool的限制(invertory range也只有08 00)?若要讀取0x0800以上的空間要如何去做?

  6. 你好最近在安裝, RHEL 6.1要執行.以下兩個指令.啟動IPMI服務都會出現無IPMI Service的狀況.IPMI 的啟動是不是在RHEL 6.1改了
    之前在RHEL 5都是可以的.請問你有啟動過嗎

    #service ipmi start
    #chkconfig ipmi on

    • IPMI 相關的套件是否已安裝.
      我在 RHEL 6.1 64 bit 下試過是沒有問題的,可能 IPMI 相關的套件沒有全部安裝完成.

      #service ipmi start
      starting ipmi drivers: [ OK]

      #rpm -aq |grep -i ipmi
      freeipmi-0.7.16-3.el6.x86_64
      ipmitool-1.8.11-7.el6.x86_64
      freeipmi-ipmidetectd-0.7.16-3.el6.x86_64
      OpenIPMI-2.0.16-12.el6.x86_64
      OpenIPMI-libs-2.0.16-12.el6.x86_64
      freeipmi-bmc-watchdog-0.7.16-3.el6.x86_64

      • INBand Test
        你好,小弟做了DCMI_Conformance的測試。
        在執行INBand Test時,它顯示以下訊息:

        ABORT: Transport layer returned an error: 0×80000001
        Unable to establish connection to DCMI-Hi driver
        Check following and re-run the Test Suite
        -Verify Management Engine Interface driver
        -Verify DCMI driver

        ipmi的driver小弟經再確認都有確實安裝了,services也檢查過,
        請問還有哪裡需要修正,請指點!謝謝!

        • Dear 匿名使用者:
          可能要先確定大大的板子有沒有支援DCMI,因為這是Intel額外要購買個feature,如果大大購買的廠牌server沒有買DCMI 的License的話,應該也不會有這個feature. 🙂

  7. IPMI side-band and out-of-band
    您好:

    可以請教您IPMI side-band and out-of-band 差別嘛?

    out-of-band and in-band 很好理解,一個是透過遠端管理,一個是本地管理
    可是side-band 就讓我很困惑,他為何不屬於out-of-band呢?
    是因為side-band也是本機的管理機制去管理嘛?!

    我從網路查到,好像out-of-band才提供畫面,side-band頻寬問題,所以只能有文字模式
    不知道是否真為如此?!

    謝謝您

    Chi

    • 這是詢問我同事 Thomas 的答案.

      side-band
      共用的 NIC 但 Mac 不同的網路埠.

      out-of-band
      只要是透過 ipmi 的協定,不管是透過 serial 或是 network 都算是.

      in-band
      本地端管理用的

      • Dear 匿名使用者:
        正常而言,只要是out-of-band 、並且BMC有VGA功能、BMC FW 有支援的話,都可以提供remote KVM的畫面,
        另外,out-of-band又分為 dedicated NIC port 以及shared NIC port。
        Dedicated NIC很好理解…也就是使用BMC專門的NIC port(一般是RJ-45 接頭並且頻寬是10/100M);
        Shared NIC…也就是您提到的side-band依舊是out-of-band,他們會經過共同的NIC port,但如果是BMC (IPMI message)的封包,則會在內部透過NC-SI的interface轉給BMC,而不會經過網卡上的NIC chipset。
        無論是dedicated/shared NIC,只要BMC FW有支援remote KVM,都會提供遠端畫面給user,但還是要注意頻寬問題,因為部份低階server的shared NIC 頻寬不大,可能只有SMBus的頻寬(而非RMII)。
        相關的interface 介紹…或許看看IPMI SPEC (記得是Ch.5 之前)會比較詳細….
        希望有幫到你….. 😀

    • RMCP 是封裝格式
      感謝我同事提供的詳細資料
      RMCP 是 ipmi 在傳送 ipmi 指令或是訊息時所採用的封裝格式,不過 RMCP 用於 ipmi 1.5 ,目前常用的 ipmi 2.0 的封裝稱為 RMCP+ ,兩者最大的差別為加密方式.

  8. 請問IPMI與I2C以及PMBus的關係
    我想請問一下,我想透過主機板接收PMBus的訊息,應該是透過I2C的介面來傳送與接收,
    我應該要怎麼做呢?在BIOS上我是有看到BMC的設定,但我看的不是很懂,
    IPMI是否也是與PMBUS的做法相同?該怎麼做呢?

    • 不好意思 PMBus 已經超出我平常在管理的東西的範圍了,詢問我同事大家都知道有這東西,但目前我們的設備似乎並不具備.
      如果只是要透過 ipmi 管理 Power supplies 可以透過下面的指令.
      # ipmitool power
      chassis power Commands: status, on, off, cycle, reset, diag, soft

    • 透過 ipmitool 就可以讀取和設定 PMBus 的資料,不過使用上有些困難,首先 power supply 和主機板都要支援,我們還要查出 bus id…的資料才能正確設定與讀取到 PMBus 的資料.指令方式如下:
      # ipmitool raw NetFn CMD Bus_ID Slave_Address Read_count PMBus_Command_Code

    • Dear 匿名使用者 :
      “IPMI是否也是與PMBUS的做法相同" ==> IPMI可以視為介於HW & SW之間的infrastructure….而不視為一個實體的interface,它的message是透過IPMB 去實現的唷~ 😀

  9. 我想請問一下IPMI以及I2C的操作方式??
    小弟看了大大提供的網站之後,大概了解到IPMI是屬於一種監視的韌體介面,
    小弟想請問,IPMI的輸入及輸出信號,是要透過主機板的哪個介面(或接頭)呢?
    再爬文的時候,我有看到用LAN以及Serial的方式,LAN的方式應該是指透過
    網路介面,那Serial的方式是透過哪種介面呢?
    我該如何才能從別的電腦上透過IPMI來監控這台電腦的狀況呢?

    • IPMI 的介面可以分為 LAN 以及 Serial Port.

      LAN 又可以分為專門獨立出來的 RJ45 埠給 IPMI 來使用,還有一種是用 sideband 的方式與 Ethernet RJ45 共享一個埠.

      再來就是 serial port 也就是一般所說的 comport,他還可以透過另外一種方式 serial over LAN 來傳送.

      以上是我同事 Thomas 所提供的資料.

      • 請問我要怎麼判斷哪種Connector是IPMI的輸入呢?
        主機板上零零總總的有很多Port我該怎麼判斷哪個connector是給IPMI用的呢?
        而我又該怎麼判斷他腳位的定義呢?

        • Dear 匿名使用者:
          1. “IPMI的輸入及輸出信號,是要透過主機板的哪個介面(或接頭)呢" ==> IPMI在板端走IPMB,只要MLB上有I2C/PMBus/SMBus都可以適用於IPMB,但是電氣特性上,我記得IPMB的規範會比較嚴謹(可以參考Intel官網上的IPMB SPEC);
          2. “那Serial的方式是透過哪種介面呢" ==> 要看MLB設計,如果有提供debug port or RS232等界面,而且BMC FW也有走這些interface的話,理論上是可以支援的,但是現在因為LAN已經普及,所以大多是使用SOL去實現serial(記得板端會有一個chip模擬serial mode);
          3. “請問我要怎麼判斷哪種Connector是IPMI的輸入呢"、"而我又該怎麼判斷他腳位的定義呢"==>這…可能得麻煩您直接問layout 板子的HW RD跟寫BMC FW的RD了………. ^_^

  10. 請問IPMI是什麼呢??
    你好,拜讀了您的文章之後,對於IPMI還是懵懵懂懂的,不甚了解IPMI到底是什麼?
    感覺上IPMI是一種介面,但是在系統出問題的時候仍然可以使用的介面,這感覺又向
    是韌體,另外可以透過IPMI這個介面得知這台電腦的訊息,請問是透過哪種方式呢?
    I2C?可是我在主機板上卻又看到一個IPMB的接頭,這倒底又是什麼呢?跟IPMI有關嗎?
    煩請幫忙解答,感恩

發表迴響