1. 程式人生 > >MySQL資料庫三種日誌分析

MySQL資料庫三種日誌分析

目錄

1 MySQL工具mysqlbinlog

mysqlbinlog工具的作用是解析mysql的二進位制binlog日誌內容,把二進位制日誌解析成可以在MySQL資料庫裡執行的SQL語句。

[[email protected] ~]# ls -l /data/3306/mysql-bin.00000*
-rw-rw---- 1 mysql mysql   1520 May 30 17:00 /data/3306/mysql-bin.000001
-rw-rw---- 1 mysql mysql    126 May 30 17:00 /data/3306/mysql-bin.000002
-rw-rw---- 1 mysql mysql    126
May 31 09:34 /data/3306/mysql-bin.000003
-rw-rw---- 1 mysql mysql 126 May 31 09:38 /data/3306/mysql-bin.000004 -rw-rw---- 1 mysql mysql 564055 Jun 3 17:49 /data/3306/mysql-bin.000005 -rw-rw---- 1 mysql mysql 5316 Jun 5 19:06 /data/3306/mysql-bin.000006 -rw-rw---- 1 mysql mysql 3536 Jun 5 21:51 /data/3306/mysql-bin.000007 [[email protected]
~]# grep "log-bin" /data/3306/my.cnf log-bin = /data/3306/mysql-bin

必須要開啟log-bin功能才能生成上述檔案

1.1 mysql的binlog日誌作用

mysql的binlog日誌作用是用來記錄mysql內部增刪改等對mysql資料庫有更新的內容的記錄(對資料庫的改動),對資料庫查詢的語句如showselect開頭的語句,不會被binlog日誌記錄。
binlog的主要作用是,用於資料庫的主從複製以及資料庫的增量恢復

1.2 mysqlbinlog工具解析日誌

預設情況下,bin-log日誌是二進位制格式的,不能使用cat、vi等文字工具來檢視

[[email protected] ~]# file /data/3306/mysql-bin.000001
/data/3306/mysql-bin.000001: MySQL replication log

# 解析
# 建立一個RSQ資料庫
mysql> create database RSQ;
Query OK, 1 row affected (0.00 sec)

mysqlbinlog /data/3306/mysql-bin.000007
......
# at 3536
#180606  3:43:38 server id 1  end_log_pos 3617  Query   thread_id=104   exec_time=0     error_code=0
SET TIMESTAMP=1528227818/*!*/;
SET @@session.foreign_key_checks=1, @@session.unique_checks=1/*!*/;
SET @@session.sql_mode=0/*!*/;
/*!\C latin1 *//*!*/;
SET @@session.character_set_client=8,@@session.collation_connection=8,@@session.collation_server=33/*!*/;
create database RSQ
/*!*/;
DELIMITER ;
# End of log file
ROLLBACK /* added by mysqlbinlog */;
/*!50003 SET [email protected]_COMPLETION_TYPE*/;

mysqlbinlog工具分庫匯出binlog,如果使用-d引數,那更新資料時,必須有use databases,才能分出指定庫的binlog
按照位置擷取:精確

mysqlbinlog mysqlbin.000020 --start-position=365 --stop-position=456 -r pos.sql
# 指定開始位置,不指定結束位置,那麼會自動到結尾
mysqlbinlog mysqlbin.000020 --start-position=365 -r pos.sql
# 制定結束位置,不指定開始位置,那麼會自動匹配前邊所有
mysqlbinlog mysqlbin.000020 --stop-position=456 -r pos.sql

按照時間擷取:模糊、不準確

mysqlbinlog mysqlbin.000020 --start-datetime='2018-06-05 17:14:15' --stop-datetime=2018-06-05 17:15:15'' -r time.sql
# 指定開始時間,不指定結束時間,那麼會自動匹配到最新
mysqlbinlog mysqlbin.000020 --start-datetime='2018-06-05 17:14:15' -r time.sql
# 指定結束時間,不指定開始時間,那麼會自動匹配到最老的時間
mysqlbinlog mysqlbin.000020 --stop-datetime=2018-06-05 17:15:15'' -r time.sql

1.3 mysqlbinlog命令

1、把binlog解析為sql語句(包含位置和時間點)
2、-d引數根據指定庫拆分binlog(拆分單表binlog可通過SQL關鍵字過濾)
3、通過位置引數擷取部分binlog:–start-position=365 –stop-position=456,精確定位取部分內容。
4、通過時間引數擷取部分binlog:–start-datetime=’2018-06-05 17:14:15’ –stop-datetime=2018-06-05 17:15:15”,模糊取部分內容,會丟資料。
5、-r 檔名,相當於重定向 “>檔名”
6、解析ROW級別的binlog日誌方法
mysqlbinlog –base64-output=decode-rows -v mysql-bin.00016
mysqlbinlog –base64-output=decode-rows –verbose mysql-bin.00004

2 MySQL資料庫服務常用日誌

2.1 錯誤日誌

MySQL的錯誤日誌(error log)記錄MySQL服務程序mysqld在啟動/關閉或執行過程中遇到的錯誤資訊;
開啟此日誌功能需要在配置檔案新增或者mysql中新增

# 配置檔案中新增
[mysqld_safe]
log-error=/data/3306/mysql_oldboy3306.err

# mysq中新增
mysqld_safe --default-file=/data/3306/my.cnf --log-error=/data/3306/mysql_oldboy.err &

2.2 錯誤日誌排查思路

1、先把日誌檔案備份並清空啟動一下mysql服務,然後再檢視日誌檔案報有什麼錯誤
2、然後把mysql的3306目錄下面所有檔案都加上屬主並且遞迴-R
3、然後檢視一下有沒有這個mysql ID
4、重新啟動mysql服務
5、此時再檢視一下服務有沒有啟動起來

2.3 慢查詢日誌

慢查詢日誌(show query log)記錄執行時間超出指定值(long_query_time)的SQL語句;

慢查詢日誌(show query log)調整:

vim /data/3306/my.cnf

long_query_time = 1
log-slow-queries = /data/3306/slow.log
log_queries_not_using_indexes
慢查詢的設定,對於資料庫SQL的優化很重要
egrep "query" /data/3306/my.cnf|tail -3

2.4 二進位制日誌

二進位制日誌(binary log):記錄資料被修改的相關資訊;
二進位制日誌(binary log)調整:

mysql> show variables like '%log_bin%';
+---------------------------------+-------+
| Variable_name                   | Value |
+---------------------------------+-------+
| log_bin                         | ON    |     # 記錄binlog開關
| log_bin_trust_function_creators | OFF   |
| sql_log_bin                     | ON    |     # 臨時不記錄binlog開關(增量恢復)
+---------------------------------+-------+

3 MySQL binlog的幾種模式

3.1 Row Level

日誌中會記錄成每一行資料被修改的形式,然後在slave端再對相同的資料進行修改。
優點:在rowlevel模式下,bin-log中可以不記錄執行的sql語句的上下文相關的資訊,僅僅只需要記錄那一條記錄被修改了,修改成什麼樣了。所以row level的日誌內容會非常清楚的記錄下每一行資料修改的細節,非常容易理解。而且不會出現某些特定情況下的儲存過程或function,以及trigger的呼叫和觸發無法被正確複製的問題。
**缺點:**row level下,所有的執行的語句當記錄到日誌中的時候,都將以每行記錄的修改來記錄,這樣可能會產生大量的日誌內容,比如有這樣一條update語句: update product set owner_member_id = 'b' where owner_member_id='a',執行之後,日誌中記錄的不是這條update語句所對應事件(MySQL以事件的形式來記錄bin-log日誌),而是這條語句所更新的每一條記錄的變化情況,這樣就記錄成很多條記錄被更新的很多個事件。自然,bin-log日誌量就會很大。尤其是當執行alter table之類的語句的時候,產生的日誌量是驚人的。

3.2 Statement Level(預設)

每一條被修改資料的sql都會記錄到master的bin-log中。slave在複製的時候sql程序會解析成和原來的master端執行的相同的sql來再次執行。
優點: statement level下的優點首先就是解決了row level下的缺點,不需要記錄每一行資料的變化,減少bin-log日誌量節約IO,提高效能。因為他只需要記錄在Master上所執行的語句細節,以及執行語句時候的上下文的資訊。
缺點:由於他是記錄的執行語句,所以,為了讓這些語句在salve端也能正確執行,那麼他還必須記錄每條語句在執行的時候的一些相關資訊,也就是上下文資訊,以保證所有語句在slave端被執行的時候能夠得到和在master端執行時候相同的結果。

3.3 Mixed(推薦)

實際上就是前兩種模式的結合。在Mixed模式下,MySQL會根據執行的每一條具體的sql語句來區分對待記錄的日誌形式,也就是在Statement和Row之間選擇一種。新版本中的Statement level還是和以前一樣,僅僅記錄執行的語句。而新版本的MySQL中對row level模式也做了優化,並不是所有的修改都會以row level來記錄,像遇到的表結構變更的時候就會以statement模式來記錄,如果sql語句確實就是update或者delete等修改資料的語句,那麼還是會記錄所有行的變更。

3.4 MySQL生產環境binlog模式選擇

  • 1、互朕網公司,使用MysQL的功能相対少(儲存過程、觸發器、函式)。選擇預設的語句模式,StatementLevel (預設)
  • 2、公司如果用到使用MysQL的特殊功能(儲存過程、觸發器、函式)。則選擇Mixed模式
  • 3、公司如果用到使用MySQL的特殊功能(儲存過程、觸發器、函式) ,又希望資料最大化一致,此吋最好Row level模式。
log-bin=mysql-bin
#binlog_format = "STATEMENT"
#binlog_format = "ROW"
binlog_format = "MIXED"

# 檢視預設binlog模式:
mysql> show variables like "%binlog_format%";
+---------------+-----------+
| Variable_name | Value     |
+---------------+-----------+
| binlog_format | STATEMENT |
+---------------+-----------+
1 row in set (0.00 sec)

# 臨時生效
mysql> set global binlog_format= 'ROW';
Query OK, 0 rows affected (0.00 sec)
mysql> show global variables like "%binlog_format%";
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW   |
+---------------+-------+
1 row in set (0.00 sec)

# 在配置檔案修改binlog模式為MIXED,永久生效
vim /data/3306/my.cnf
[mysqld]
binlog_format = "MIXED"

/data/3306/mysql stop
/data/3306/mysql start

mysql -uroot -p123456 -S /data/3306/mysql.sock
mysql> show variables like "%binlog_format%";
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | MIXED |
+---------------+-------+
1 row in set (0.00 sec)

相關推薦

MySQL資料庫日誌分析

目錄 1 MySQL工具mysqlbinlog mysqlbinlog工具的作用是解析mysql的二進位制binlog日誌內容,把二進位制日誌解析成可以在MySQL資料庫裡執行的SQL語句。 [[email protected] ~]#

Mysql Binlog格式介紹及分析【轉】

delete -s 字符 ID color fine alt lte pan 一.Mysql Binlog格式介紹 Mysql binlog日誌有三種格式,分別為Statement,MiXED,以及ROW! 1.Statement:每一條會修改數據的sql

phpunit 生成日誌文件的配置方法

complete spa php style highlight bin 方法 cnblogs nco #目錄結構 windows bin目錄下 ├── phpunit.phar ├── phpunit.cmd ├──

Apache Prefork、Worker和EventMPM分析

更多 可用 make ret 負載 install 插入 mic per 三種MPM介紹   Apache 2

logback、log4j、log4j2日誌框架效能檢測——為什麼用log4j2。

注意:此部落格為轉載 https://blog.csdn.net/yjh1271845364/article/details/70888262 作為記錄 日誌已經成為系統開發中不可或缺的一部分. 但是針對logback, log4j和log4j2. 究竟改如何選擇? 到底效能

MySQL資料庫crash的問題分析

 【問題】 生產環境有多臺slave伺服器,不定期的會crash,下面是error log中的堆疊資訊 Thread pointer: 0x7f1e54b26410 Attempting backtrace. You can use the following information to f

php連線mysql方式

1:使用面向過程: // 設定資料庫引數 define('DB_USER','blog'); define('DB_PASSWORD','lmm13637064637'); define('DB_HO

mysql資料庫架構及效能分析

一般架構為主從資料庫伺服器搭配,例如一臺Master(主伺服器)對應著十幾臺或者上百臺Slave(從伺服器),如果沒有高可用的主從複製元件的話,當主伺服器遇到意外情況崩潰時,很難自動進行故障切換,必須由

PHP的學習--連線MySQL方式

先mock一下資料,可以執行一下sql。 /*建立資料庫*/ CREATE DATABASE IF NOT EXISTS `test`; /*選擇資料庫*/ USE `test`; /*建立表*/ CREATE TABLE IF NOT EXISTS `user`

Mysql分頁方法

1、limit m,n分頁語句:select * from dept order by deptno desc limit 3,3;select * from dept order by deptno desc limit m,n;limit 3,3的意思掃描滿足條件的3+3

Pearson,Kendall和Spearman相關分析方法的異同

pearson(皮爾遜), kendall(肯德爾)和spearman(斯伯曼/斯皮爾曼)三種相關分析方法有什麼異同 兩個連續變數間呈線性相關時,使用Pearson積差相關係數,不滿足積差相關分析的適用條件時,使用Spearman秩相關係數來描述. Spearman相關係數

VMWARE虛擬機器不能上網方法分析

bridged(橋接模式)、 NAT(網路地址轉換模式) host-only(主機模式)。 理論理解: 1.bridged(橋接模式) 在這處模式下,虛擬機器等同於網路內的一臺物理主機,可對手動設定IP,子網掩碼,DNS,且IP地址要和主機的IP在同一網段內。這樣,虛擬機器

postgresql 的日誌

最近在模擬主備切換,備機可以成功切換成主機,但是主機未成功切換成備機,翻閱資料後發現是日誌歸檔設定的問題。 情景描述:主從複製,模擬主機當掉,主從切換。從機成功切換為主機,但主機切換為從機後服務無法啟動,檢視日誌後,報如下錯誤: ERROR:  requested WAL

mysql的六日誌 入門

MySQL中有六種日誌檔案,分別是: 重做日誌(redo log)、回滾日誌(undo log)、二進位制日誌(binlog)、錯誤日誌(errorlog)、慢查詢日誌(slow query log)、一般查詢日誌(general log),中繼日誌(relay log)。  

mysql取整函式

一、ROUND()函式用法         ROUND(X) -- 表示將值 X 四捨五入為整數,無小數位     ROUND(X,D) -- 表示將值 X 四捨五入為小數點後 D 位的數值,D為

mysql資料庫()——pymysql模組

pymysql模組:本質就是一個套接字客戶端軟體,使用前需要事先安裝  pip install pymysql  1.基本使用 import pymysql user_name = input('name:').strip() user_psw = input('ps

MySQL binlog模式

原文出自 http://www.abcdocker.com/abcdocker/213 MySQ binlog三種模式及設定方法 1.1 Row Level  行模式 日誌中會記錄每一行資料被修改的形式,然後在slave端再對相同的資料進行修改 優點:在row level模

Mysql資料庫搜尋引擎

MySQL資料庫引擎取決於MySQL在安裝的時候是如何被編譯的。要新增一個新的引擎,就必須重新編譯MYSQL。在預設情況下,MYSQL支援三個引擎:ISAM、MYISAM和HEAP。另外兩種型別INNODB和BERKLEY(BDB),也常常可以使用。如果技術高超,還可以使用M

MySQL資料庫主從同步延遲分析及解決方案

一、MySQL的資料庫主從複製原理 1.主庫對所有DDL和DML產生的日誌寫進binlog; 2.主庫生成一個 log dump 執行緒,用來給從庫I/O執行緒讀取binlog; 3.從庫的I/O 

HttpCient的Timeout分析

1、ConnectionRequestTimeoutHttpClient 使用連線池來管理連線,這個時間是從連線池獲取連線的超時時間,可以聯想下資料庫的連線池。2、ConnectTimeout連線建立時間,三次握手完成的時間。3、SocketTimeout資料傳輸過程中資料包