1. 程式人生 > >Linux學習總結(七十五)非關系型數據庫之memcached

Linux學習總結(七十五)非關系型數據庫之memcached

數據 規則 服務器 檢索 分布 關聯 保存數據 導出 虛擬主機

一 非關系型數據庫

非關系型數據庫就是NoSQL,關系型數據庫代表MySQL
對於關系型數據庫來說,是需要把數據存儲到庫、表、行、字段裏,查詢的時候根據條件一行一行地去匹配,當量非常大的時候就很耗費時間和資源,尤其是數據是需要從磁盤裏去檢索
NoSQL數據庫存儲原理非常簡單(典型的數據類型為k-v),不存在繁雜的關系鏈,比如mysql查詢的時候,需要找到對應的庫、表(通常是多個表)以及字段。
NoSQL數據可以存儲在內存裏,查詢速度非常快
NoSQL在性能表現上雖然能優於關系型數據庫,但是它並不能完全替代關系型數據庫
NoSQL因為沒有復雜的數據結構,擴展非常容易,支持分布式
k-v形式的:memcached、redis 適合儲存用戶信息,比如會話、配置文件、參數、購物車等等。這些信息一般都和ID(鍵)掛鉤,這種情景下鍵值數據庫是個很好的選擇。

文檔數據庫:mongodb 將數據以文檔的形式儲存。每個文檔都是一系列數據項的集合。每個數據項都有一個名稱與對應的值,值既可以是簡單的數據類型,如字符串、數字和日期等;也可以是復雜的類型,如有序列表和關聯對象。數據存儲的最小單位是文檔,同一個表中存儲的文檔屬性可以是不同的,數據可以使用XML、JSON或者JSONB等多種形式存儲。
列存儲 Hbase0
圖 Neo4J、Infinite Graph、OrientDB

二 memcached基本原理

Memcached是國外社區網站LiveJournal團隊開發,目的是為了通過緩存數據庫查詢結果,減少數據庫訪問次數,從而提高動態web站點性能。
官方站點 http://www.memcached.org/

數據結構簡單(k-v),數據存放在內存裏
多線程
基於c/s架構,協議簡單
基於libevent的事件處理
自主內存存儲處理(slab allowcation)
數據過期方式:Lazy Expiration 和 LRU
Slab allocation
Slab Allocation的原理
將分配的內存分割成各種尺寸的塊(chunk), 並把尺寸相同的塊分成組(chunk的集合),每個chunk集合被稱為slab。
Memcached的內存分配以Page為單位,Page默認值為1M,可以在啟動時通過-I參數來指定。
Slab是由多個Page組成的,Page按照指定大小切割成多個chunk。
Growth factor
Memcached在啟動時通過-f選項可以指定 Growth Factor因子。該值控制chunk大小的差異。默認值為1.25。
通過memcached-tool命令查看指定Memcached實例的不同slab狀態,可以看到各Item所占大小(chunk大小)差距為1.25
命令: memcached-tool 127.0.0.1:11211 display
Memcached的數據過期方式
Lazy Expiration
Memcached 內部不會監視記錄是否過期,而是在get時查看記錄的時間戳,檢查記錄是否過期。這種技術被稱為lazy(惰性)expiration。因此,Memcached不會在過期監視上耗費CPU時間。
LRU
Memcached會優先使用已超時的記錄的空間,但即使如此,也會發生追加新記錄時空間不足的情況,此時就要使用名為Least Recently Used(LRU)機制來分配空間。顧名思義,這是刪除“最近最少使用”的記錄的機制。因此,當內存空間不足時(無法從slab class獲取到新的空間時),就從最近未被使用的記錄中搜索,並將其空間分配給新的記錄。從緩存的實用角度來看,該模型十分理想。

三 Memcached安裝

yum install -y memcached libmemcached libevent
systemctl start memcached

vim /etc/sysconfig/memcached可以配置參數
比如加上監聽的ip,可以把OPTIONS="" 改為OPTIONS="127.0.0.1"
其中-m指定memcached分配內存
-c指定最大並發數
-u指定運行memcached服務的用戶
查看Memcached運行狀態
memcached-tool 127.0.0.1:11211 stats
在memcached中,運行state命令可以查看memcached服務的狀態信息,其中cmd_get表示總的get次數,get_hits表示get的總命中次數,命中率 = get_hits/cmd_get。
或者echo stats |nc 127.0.0.1 11211 需要安裝nc工具 yum install -y nc
若安裝libmemcached後,可以使用命令
memstat --servers=127.0.0.1:11211 查看memcached服務狀態

四 Memcached數據庫語法

Memcached命令行
telnet 127.0.0.1 11211
set key2 0 30 2
ab
STORED
get key2
VALUE key2 0 2
ab
END
Memcached語法規則
<command name> <key> <flags> <exptime> <bytes>\r\n <data block>\r\n
註:\r\n在windows下是Enter鍵
<command name> 可以是set, add, replace
set表示按照相應的<key>存儲該數據,沒有的時候增加,有的時候覆蓋
add表示按照相應的<key>添加該數據,但是如果該<key>已經存在則會操作失敗
replace表示按照相應的<key>替換數據,但是如果該<key>不存在則操作失敗。
<key> 客戶端需要保存數據的key
<flags> 是一個16位的無符號的整數(以十進制的方式表示)。該標誌將和需要存儲的數據一起存儲,並在客戶端get數據時返回。客戶端可以將此標誌用做特殊用途,此標誌對服務器來說是不透明的。
<exptime> 為過期的時間。若為0表示存儲的數據永遠不過期(但可被服務器算法:LRU 等替換)。如果非0(unix時間或者距離此時的秒數),當過期後,服務器可以保證用戶得不到該數據(以服務器時間為標準)。
<bytes> 需要存儲的字節數,當用戶希望存儲空數據時<bytes>可以為0
<data block>需要存儲的內容,輸入完成後,最後客戶端需要加上\r\n(直接點擊Enter)作為結束標誌。
Memcached數據示例
set key3 1 100 4
abcd
STORED
get key3
VALUE key3 1 4
abcd
END
replace key3 1 200 5
abcdx
STORED
get key3
VALUE key3 1 5
abcdx
END
delete key3
DELETED
get key3
END
Memcached數據導出和導入
導出:
memcached-tool 127.0.0.1:11211 dump > data.txt
cat data.txt
導入:
nc 127.0.0.1 11211 < data.txt
若nc命令不存在,yum install nc
memstat --servers=127.0.0.1:11211 查看下數據存儲情況
註意:導出的數據是帶有一個時間戳的,這個時間戳就是該條數據過期的時間點,如果當前時間已經超過該時間戳,那麽是導入不進去的。當我們set寫入的數據過期時間設為0時,雖然當前表示永不過期,但當數據導出時,會導出一個創建命令時的時間戳,因此當我們導入時,就會過期。要成功導入就需要手動更改該時間戳。

五 PHP連接Memcached

1 先安裝php的memcache擴展
cd /usr/local/src/
wget http://www.apelearn.com/bbs/data/attachment/forum/memcache-2.2.3.tgz
tar zxf memcache-2.2.3.tgz
cd memcache-2.2.3
/usr/local/php-fpm/bin/phpize //生成configure文件
出現can‘t find autoconf , yum install -y autoconf
./configure --with-php-config=/usr/local/php-fpm/bin/php-config
make && make install
安裝完後會有類似這樣的提示:Installing shared extensions: /usr/local/php-fpm/lib/php/extensions/no-debug-non-zts-20131226/
然後修改php.ini添加一行extension="memcache.so“
檢查/usr/local/php/bin/php-fpm -m
2 測試連接
下載測試腳本
curl www.apelearn.com/study_v2/.memcache.txt > 1.php 2>/dev/null
腳本內容如下

<?php
//連接Memcache Memcache
$mem = new Memcache;
$mem->connect("localhost", 11211);
//保存數據
$mem->set(‘key1‘, ‘This is first value‘, 0, 60);
$val = $mem->get(‘key1‘);
echo "Get key1 value: " . $val ."<br>";
//替換數據
$mem->replace(‘key1‘, ‘This is replace value‘, 0, 60);
$val = $mem->get(‘key1‘);
echo "Get key1 value: " . $val . "<br>";
//保存數組數據
$arr = array(‘aaa‘, ‘bbb‘, ‘ccc‘, ‘ddd‘);
$mem->set(‘key2‘, $arr, 0, 60);
$val2 = $mem->get(‘key2‘);
echo "Get key2 value: ";
print_r($val2);
echo "<br>";
//刪除數據
$mem->delete(‘key1‘);
$val = $mem->get(‘key1‘);
echo "Get key1 value: " . $val . "<br>";
//清除所有數據
$mem->flush();
$val2 = $mem->get(‘key2‘);
echo "Get key2 value: ";
print_r($val2);
echo "<br>";
//關閉連接
$mem->close();
?>

執行腳本
/usr/local/php-fpm/bin/php 1.php
或者將1.php放到某個虛擬主機根目錄下面,在瀏覽器訪問,即可看到效果
最終可以看到數據如下:
[0] => aaa
[1] => bbb
[2] => ccc
[3] => ddd

六 Memcached中存儲session

先查看一下session的保存路徑,默認是files,保存在本地磁盤的/tmp下面。

vi /usr/local/php-fpm/etc/php.ini
[Session]
; Handler used to store/retrieve data.
; http://php.net/session.save-handler
session.save_handler = files

接下來我們創建一個可以生成session的php腳本

vi session.php
<?php 
session_start(); 
if (!isset($_SESSION[‘TEST‘])) { 
$_SESSION[‘TEST‘] = time(); 
} 
$_SESSION[‘TEST3‘] = time(); 
print $_SESSION[‘TEST‘]; 
print "<br><br>"; 
print $_SESSION[‘TEST3‘]; 
print "<br><br>"; 
print session_id(); 
?> 

在lnmp 環境中訪curl 訪問該腳本,在/tmp 下查看保存session的文件
接下來我們編輯相關配置文件,將session保存到memcached中
本實例是在lamp/lnmp環境下實現
編輯php.ini添加兩行

session.save_handler = memcache 
session.save_path = "tcp://127.0.0.1:11211"  

或者httpd.conf中對應的虛擬主機中添加

php_value session.save_handler "memcache" 
php_value session.save_path "tcp://127.0.0.1:11211"  

或者php-fpm.conf對應的pool中添加

php_value[session.save_handler] = memcache
php_value[session.save_path] = " tcp://127.0.0.1:11211 "

編輯完配置文件,繼續測試
curl localhost/session.php //可以用自己的任意一個虛擬主機測試,不一定是localhost
類似於1443702394<br><br>1443702394<br><br>i44nunao0g3o7vf2su0hnc5440

telnet 127.0.0.1 11211
get i44nunao0g3o7vf2su0hnc5440 

備註:上面的curl 執行的結果中,前面兩串數字相同,是value信息,最後一串數字為key信息。配置成功後,我們就可以登錄到memcached,get該key字符串查看到存儲的vlaue信息。配置中tcp後面的ip地址根據實際情況更改。

Linux學習總結(七十五)非關系型數據庫之memcached