MySQL 發生同步延遲時Seconds_Behind_Master還為0的原因

2021-06-21 13:01:48

問題描述

使用者在主庫上執行了一個 alter 操作，持續約一小時。操作完成之後，從庫發現存在同步延遲，但是監控圖表中的 Seconds_Behind_Master 指標顯示為 0，且 binlog 的延遲距離在不斷上升。

原理簡析

既然是分析延遲時間，那麼自然先從延遲的計算方式開始入手。為了方便起見，此處參照官方版本 5.7.31 的原始碼進行閱讀。找到計算延遲時間的程式碼：

./sql/rpl_slave.cc

bool show_slave_status_send_data(THD *thd, Master_info *mi,
                                 char* io_gtid_set_buffer,
                                 char* sql_gtid_set_buffer)
......
if ((mi->get_master_log_pos() == mi->rli->get_group_master_log_pos()) &&
        (!strcmp(mi->get_master_log_name(), mi->rli->get_group_master_log_name())))
    {
      if (mi->slave_running == MYSQL_SLAVE_RUN_CONNECT)
        protocol->store(0LL);
      else
        protocol->store_null();
    }
    else
    {
      long time_diff= ((long)(time(0) - mi->rli->last_master_timestamp)
                       - mi->clock_diff_with_master);

      protocol->store((longlong)(mi->rli->last_master_timestamp ?
                                   max(0L, time_diff) : 0));
    }
......

從 time_diff 的計算方式來看，可以發現這個延遲基本上就是一個時間差值，然後再算上主從之間的時間差。不過 if 挺多的，所以借用原始碼檔案中的註釋：

  /*
     The pseudo code to compute Seconds_Behind_Master:
     if (SQL thread is running)
     {
       if (SQL thread processed all the available relay log)
       {
         if (IO thread is running)
            print 0;
         else
            print NULL;
       }
        else
          compute Seconds_Behind_Master;
      }
      else
       print NULL;
  */

可以知道，Seconds_Behind_Master的計算分為兩個部分：

SQL 執行緒正常，且回放完所有的 relaylog 時，如果 IO 執行緒正常，那麼直接置 0。
SQL 執行緒正常，且回放完所有的 relaylog 時，如果 IO 執行緒不正常，那麼直接置 NULL。
SQL 執行緒正常，且沒有回放完所有的 relaylog 時，計算延遲時間。

那麼在最後計算延遲時間的時候，看看那幾個變數代表的意義：

time(0)：當前的時間戳，timestamp 格式的。
last_master_timestamp：這個 event 在主庫上執行的時刻，timestamp 格式。
clock_diff_with_master：slave 和 master 的時間差，在 IO 執行緒啟動時獲取的。

由此可見，延遲計算的時候，實際上是以 slave 原生的時間來減掉回放的這個 event 在 master 執行的時刻，再補償兩者之間的時間差，最後得到的一個數值。從邏輯上看是沒什麼問題的，由於 time(0) 和 clock_diff_with_master 在大多數時候是沒有什麼出問題的機會的，所以這次的問題，應該是出在 last_master_timestamp 上了。

PS：雖說大部分時候沒問題，但是 time(0) 取的是本地時間，因此 slave 的本地時間有問題的話，這個最終的值也會出錯，不過不在本案例的問題討論範圍之內了。

那麼找一下執行 event 的時候，計算last_master_timestamp的邏輯，結合註釋可以發現普通複製和並行複製用了不同的計算方式，第一個是普通的複製，計算時間點在執行 event 之前：

./sql/rpl_slave.cc

......
  if (ev)
  {
    enum enum_slave_apply_event_and_update_pos_retval exec_res;

    ptr_ev= &ev;
    /*
      Even if we don't execute this event, we keep the master timestamp,
      so that seconds behind master shows correct delta (there are events
      that are not replayed, so we keep falling behind).

      If it is an artificial event, or a relay log event (IO thread generated
      event) or ev->when is set to 0, or a FD from master, or a heartbeat
      event with server_id '0' then  we don't update the last_master_timestamp.

      In case of parallel execution last_master_timestamp is only updated when
      a job is taken out of GAQ. Thus when last_master_timestamp is 0 (which
      indicates that GAQ is empty, all slave workers are waiting for events from
      the Coordinator), we need to initialize it with a timestamp from the first
      event to be executed in parallel.
    */
    if ((!rli->is_parallel_exec() || rli->last_master_timestamp == 0) &&
         !(ev->is_artificial_event() || ev->is_relay_log_event() ||
          (ev->common_header->when.tv_sec == 0) ||
          ev->get_type_code() == binary_log::FORMAT_DESCRIPTION_EVENT ||
          ev->server_id == 0))
    {
      rli->last_master_timestamp= ev->common_header->when.tv_sec +
                                  (time_t) ev->exec_time;
      DBUG_ASSERT(rli->last_master_timestamp >= 0);
    }
......

last_master_timestamp的值是取了 event 的開始時間並加上執行時間，在 5.7 中有不少 event 是沒有執行時間這個數值的，8.0 給很多 event 新增了這個數值，因此也算是升級 8.0 之後帶來的好處。

而並行複製的計算方式，參考如下這一段程式碼：

./sql/rpl_slave.cc

......
  /*
    We need to ensure that this is never called at this point when
    cnt is zero. This value means that the checkpoint information
    will be completely reset.
  */

  /*
    Update the rli->last_master_timestamp for reporting correct Seconds_behind_master.

    If GAQ is empty, set it to zero.
    Else, update it with the timestamp of the first job of the Slave_job_queue
    which was assigned in the Log_event::get_slave_worker() function.
  */
  ts= rli->gaq->empty()
    ? 0
    : reinterpret_cast<Slave_job_group*>(rli->gaq->head_queue())->ts;
  rli->reset_notified_checkpoint(cnt, ts, need_data_lock, true);
  /* end-of "Coordinator::"commit_positions" */

......

在 Coordinator 的 commit_positions 這個邏輯中，如果 gaq 佇列為空，那麼last_master_timestamp直接置 0，否則會選擇 gaq 佇列的第一個 job 的時間戳。需要補充一點的是，這個計算並不是實時的，而是間歇性的，在計算邏輯前面，有如下的邏輯：

  /*
    Currently, the checkpoint routine is being called by the SQL Thread.
    For that reason, this function is called call from appropriate points
    in the SQL Thread's execution path and the elapsed time is calculated
    here to check if it is time to execute it.
  */
  set_timespec_nsec(&curr_clock, 0);
  ulonglong diff= diff_timespec(&curr_clock, &rli->last_clock);
  if (!force && diff < period)
  {
    /*
      We do not need to execute the checkpoint now because
      the time elapsed is not enough.
    */
    DBUG_RETURN(FALSE);
  }

即在這個 period 的時間間隔之內，會直接 return，並不會更新這個last_master_timestamp，所以有時候也會發現並行複製會時不時出現 Seconds_Behind_Master 在數值上從 0 到 1 的變化。

而 gaq 佇列的操作，估計是類似於入棧退棧的操作，所以留在 gaq 的總是沒有執行完的事務，因此時間計算從一般場景的角度來看是沒問題。

問題分析

原理簡析中簡要闡述了整個計算的邏輯，那麼回到這個問題本身，騰訊雲資料庫 MySQL 預設是開啟了並行複製的，因此會存在 gaq 佇列，而 alter 操作耗時非常的長，不論 alter 操作是否會被放在一組並行事務中執行（大概率，DDL 永遠是一個單獨的事務組），最終都會出現 gaq 佇列持續為空，那麼就會把last_master_timestamp置 0，而參考 Seconds_Behind_Master 的計算邏輯，最終的 time_diff 也會被置 0，因此 alter 操作結束前的延遲時間一直會是 0。而當 alter 操作執行完之後，gaq 佇列會填充新的 event 和事務，所以會出現延遲之前一直是 0，但是突然跳到非常高的現象。

拓展一下

對比普通複製和並行複製計算方式上的差異，可以知道以下幾個特點：

開啟並行複製之後，延遲時間會經常性的在 0 和 1 之間跳變。
alter 操作，單個大事務等在並行複製的場景下容易導致延遲時間不準，而普通的複製方式不會。
由於主從時間差是在 IO 執行緒啟動時就計算好的，所以期間 slave 的時間出現偏差之後，延遲時間也會出現偏差。

總結一下

嚴謹的延遲判斷，還是依靠 GTID 的差距和 binlog 的 position 差距會比較好，從 8.0 的 event 執行時間變化來看，至少 Oracle 官方還是在認真幹活的，希望這些小毛病能儘快的修復吧。

以上就是MySQL 發生同步延遲時Seconds_Behind_Master還為0的原因的詳細內容，更多關於MySQL 同步延遲Seconds_Behind_Master為0的資料請關注it145.com其它相關文章！