十年網(wǎng)站開發(fā)經(jīng)驗(yàn) + 多家企業(yè)客戶 + 靠譜的建站團(tuán)隊(duì)
量身定制 + 運(yùn)營維護(hù)+專業(yè)推廣+無憂售后,網(wǎng)站問題一站解決
頁面1.php里面寫具體的執(zhí)行語句
成都創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供防城網(wǎng)站建設(shè)、防城做網(wǎng)站、防城網(wǎng)站設(shè)計(jì)、防城網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)與制作、防城企業(yè)網(wǎng)站模板建站服務(wù),十年防城做網(wǎng)站經(jīng)驗(yàn),不只是建網(wǎng)站,更提供有價(jià)值的思路和整體網(wǎng)絡(luò)服務(wù)。
頁面2.php直接使用curl調(diào)用頁面1.php 并設(shè)置超時(shí)時(shí)間;根據(jù)你自己的需求寫但是你不一定如果超時(shí)時(shí)間內(nèi) 數(shù)據(jù)庫沒執(zhí)行玩 那你可能就獲取不到插入結(jié)果了
訪問2.php應(yīng)該就是你說的異步了
對(duì)于變化頻率非??斓臄?shù)據(jù)來說,如果還選擇傳統(tǒng)的靜態(tài)緩存方式(Memocached、File System等)展示數(shù)據(jù),可能在緩存的存取上會(huì)有很大的開銷,并不能很好的滿足需要,而Redis這樣基于內(nèi)存的NoSQL數(shù)據(jù)庫,就非常適合擔(dān)任實(shí)時(shí)數(shù)據(jù)的容器。
但是往往又有數(shù)據(jù)可靠性的需求,采用MySQL作為數(shù)據(jù)存儲(chǔ),不會(huì)因?yàn)閮?nèi)存問題而引起數(shù)據(jù)丟失,同時(shí)也可以利用關(guān)系數(shù)據(jù)庫的特性實(shí)現(xiàn)很多功能。
所以就會(huì)很自然的想到是否可以采用MySQL作為數(shù)據(jù)存儲(chǔ)引擎,Redis則作為Cache。而這種需求目前還沒有看到有特別成熟的解決方案或工具,因此采用Gearman+PHP+MySQL UDF的組合異步實(shí)現(xiàn)MySQL到Redis的數(shù)據(jù)復(fù)制。
MySQL到Redis數(shù)據(jù)復(fù)制方案
無論MySQL還是Redis,自身都帶有數(shù)據(jù)同步的機(jī)制,比較常用的MySQL的Master/Slave模式,就是由Slave端分析Master的binlog來實(shí)現(xiàn)的,這樣的數(shù)據(jù)復(fù)制其實(shí)還是一個(gè)異步過程,只不過當(dāng)服務(wù)器都在同一內(nèi)網(wǎng)時(shí),異步的延遲幾乎可以忽略。
那么理論上也可以用同樣方式,分析MySQL的binlog文件并將數(shù)據(jù)插入Redis。但是這需要對(duì)binlog文件以及MySQL有非常深入的理解,同時(shí)由于binlog存在Statement/Row/Mixedlevel多種形式,分析binlog實(shí)現(xiàn)同步的工作量是非常大的。
因此這里選擇了一種開發(fā)成本更加低廉的方式,借用已經(jīng)比較成熟的MySQL UDF,將MySQL數(shù)據(jù)首先放入Gearman中,然后通過一個(gè)自己編寫的PHP Gearman Worker,將數(shù)據(jù)同步到Redis。比分析binlog的方式增加了不少流程,但是實(shí)現(xiàn)成本更低,更容易操作。
Gearman的安裝與使用
Gearman是一個(gè)支持分布式的任務(wù)分發(fā)框架。設(shè)計(jì)簡(jiǎn)潔,獲得了非常廣泛的支持。一個(gè)典型的Gearman應(yīng)用包括以下這些部分:
Gearman Job Server:Gearman核心程序,需要編譯安裝并以守護(hù)進(jìn)程形式運(yùn)行在后臺(tái)
Gearman Client:可以理解為任務(wù)的收件員,比如在后臺(tái)執(zhí)行一個(gè)發(fā)送郵件的任務(wù),可以在程序中調(diào)用一個(gè)Gearman Client并傳入郵件的信息,然后就可以將執(zhí)行結(jié)果立即展示給用戶,而任務(wù)本身會(huì)慢慢在后臺(tái)運(yùn)行。
Gearman Worker:任務(wù)的真正執(zhí)行者,一般需要自己編寫具體邏輯并通過守護(hù)進(jìn)程方式運(yùn)行,Gearman Worker接收到Gearman Client傳遞的任務(wù)內(nèi)容后,會(huì)按順序處理。
以前曾經(jīng)介紹過類似的后臺(tái)任務(wù)處理項(xiàng)目Resque。兩者的設(shè)計(jì)其實(shí)非常接近,簡(jiǎn)單可以類比為:
Gearman Job Server:對(duì)應(yīng)Resque的Redis部分
Gearman Client:對(duì)應(yīng)Resque的Queue操作
Gearman Worker:對(duì)應(yīng)Resque的Worker和Job
這里之所以選擇Gearman而不是Resque是因?yàn)镚earman提供了比較好用的MySQL UDF,工作量更小。
安裝Gearman及PHP Gearman擴(kuò)展
以下均以Ubuntu12.04為例。
apt-get install gearman gearman-server libgearman-dev
檢查Gearman的運(yùn)行狀況:
/etc/init.d/gearman-job-server status
* gearmand is running
說明Gearman已經(jīng)安裝成功。
PHP的Gearman擴(kuò)展可以通過pecl直接安裝
pecl install gearman
echo "extension=gearman.so"/etc/php5/conf.d/gearman.ini
service php5-fpm restart
但是實(shí)測(cè)發(fā)現(xiàn)ubuntu默認(rèn)安裝的gearman版本過低,直接運(yùn)行pecl install gearman會(huì)報(bào)錯(cuò)
configure: error: libgearman version 1.1.0or later required
因此Gearman + PHP擴(kuò)展建議通過編譯方式安裝,這里為了簡(jiǎn)單說明,選擇安裝舊版本擴(kuò)展:
pecl install gearman-1.0.3
Gearman + PHP實(shí)例
為了更容易理解后文Gearman的運(yùn)行流程,這里不妨從一個(gè)最簡(jiǎn)單的Gearman實(shí)例來說明,比如要進(jìn)行一個(gè)文件處理的操作,首先編寫一個(gè)Gearman Client并命名為client.php:
?php
$client =newGearmanClient();
$client-addServer();
$client-doBackground('writeLog','Log content');
echo '文件已經(jīng)在后臺(tái)操作';
運(yùn)行這個(gè)文件,相當(dāng)于模擬用戶請(qǐng)求一個(gè)Web頁面后,將處理結(jié)束的信息返回用戶:
php client.php
查看一下Gearman的狀況:
(echo status ; sleep 0.1)| netcat127.0.0.14730
可以看到輸出為
writeLog ? ? ? ?100.
說明已經(jīng)在Gearman中建立了一個(gè)名為writeLog的任務(wù),并且有1個(gè)任務(wù)在隊(duì)列等待中。
而上面的4列分別代表當(dāng)前的Gearman的運(yùn)行狀態(tài):
任務(wù)名稱
在等待隊(duì)列中的任務(wù)
正在運(yùn)行的任務(wù)
正在運(yùn)行的Worker進(jìn)程
可以使用watch進(jìn)行實(shí)時(shí)監(jiān)控:
watch -n 1"(echo status; sleep 0.1) | nc 127.0.0.1 4730"
然后我們需要編寫一個(gè)Gearman Worker命名為worker.php:
?php
$worker =newGearmanWorker();
$worker-addServer();
$worker-addFunction('writeLog','writeLog');while($worker-work());function writeLog($job){
$log = $job-workload();file_put_contents(__DIR__ .'/gearman.log', $log ."\n", FILE_APPEND | LOCK_EX);}
Worker使用一個(gè)while死循環(huán)實(shí)現(xiàn)守護(hù)進(jìn)程,運(yùn)行
php worker.php
可以看到Gearman狀態(tài)變?yōu)椋?/p>
writeLog ? ? ? ?001
同時(shí)查看同目錄下gearman.log,內(nèi)容應(yīng)為從Client傳入的值Log content。
通過MySQL UDF + Trigger同步數(shù)據(jù)到Gearman
MySQL要實(shí)現(xiàn)與外部程序互通的最好方式還是通過MySQL UDF(MySQL user defined functions)來實(shí)現(xiàn)。為了讓MySQL能將數(shù)據(jù)傳入Gearman,這里使用了lib_mysqludf_json和gearman-mysql-udf的組合。
安裝lib_mysqludf_json
使用lib_mysqludf_json的原因是因?yàn)镚earman只接受字符串作為入口參數(shù),可以通過lib_mysqludf_json將MySQL中的數(shù)據(jù)編碼為JSON字符串
apt-get install libmysqlclient-dev
wget
unzip master.zip
cd lib_mysqludf_json-master/
rm lib_mysqludf_json.so
gcc $(mysql_config --cflags)-shared -fPIC -o lib_mysqludf_json.so lib_mysqludf_json.c
可以看到重新編譯生成了 lib_mysqludf_json.so 文件,此時(shí)需要查看MySQL的插件安裝路徑:
mysql -u root -pPASSWORD --execute="show variables like '%plugin%';"+---------------+------------------------+|Variable_name|Value|+---------------+------------------------+| plugin_dir ? ?|/usr/lib/mysql/plugin/|+---------------+------------------------+
然后將 lib_mysqludf_json.so 文件復(fù)制到對(duì)應(yīng)位置:
cp lib_mysqludf_json.so /usr/lib/mysql/plugin/
最后登入MySQL運(yùn)行語句注冊(cè)UDF函數(shù):
CREATE FUNCTION json_object RETURNS STRING SONAME 'lib_mysqludf_json.so';
安裝gearman-mysql-udf
方法幾乎一樣:
apt-get install libgearman-dev
wget
tar -xzf gearman-mysql-udf-0.6.tar.gz
cd gearman-mysql-udf-0.6./configure --with-mysql=/usr/bin/mysql_config
-libdir=/usr/lib/mysql/plugin/
make make install
登入MySQL運(yùn)行語句注冊(cè)UDF函數(shù):
CREATE FUNCTION gman_do_background RETURNS STRING SONAME 'libgearman_mysql_udf.so';
CREATE FUNCTION gman_servers_set RETURNS STRING SONAME 'libgearman_mysql_udf.so';
最后指定Gearman服務(wù)器的信息:
SELECT gman_servers_set('127.0.0.1:4730');
通過MySQL觸發(fā)器實(shí)現(xiàn)數(shù)據(jù)同步
最終同步哪些數(shù)據(jù),同步的條件,還是需要根據(jù)實(shí)際情況決定,比如將數(shù)據(jù)表data的數(shù)據(jù)在每次更新時(shí)同步,那么編寫Trigger如下:
DELIMITER $$
CREATE TRIGGER datatoredis AFTER UPDATE ON data
FOR EACH ROW BEGIN
SET @ret=gman_do_background('syncToRedis', json_object(NEW.id as`id`, NEW.volume as`volume`));END$$
DELIMITER ;
嘗試在數(shù)據(jù)庫中更新一條數(shù)據(jù)查看Gearman是否生效。
Gearman PHP Worker將MySQL數(shù)據(jù)異步復(fù)制到Redis
Redis作為時(shí)下當(dāng)熱的NoSQL緩存解決方案無需過多介紹,其安裝及使用也非常簡(jiǎn)單:
apt-get install redis-server
pecl install redis
echo "extension=redis.so"/etc/php5/conf.d/redis.ini
然后編寫一個(gè)Gearman Worker:redis_worker.php
#!/usr/bin/env php?
$worker =newGearmanWorker();
$worker-addServer();
$worker-addFunction('syncToRedis','syncToRedis');
$redis =newRedis();
$redis-connect('127.0.0.1',6379);while($worker-work());function syncToRedis($job){global $redis;
$workString = $job-workload();
$work = json_decode($workString);if(!isset($work-id)){returnfalse;}
$redis-set($work-id, $workString);}
最后需要將Worker在后臺(tái)運(yùn)行:
nohup php redis_worker.php
通過這種方式將MySQL數(shù)據(jù)復(fù)制到Redis,經(jīng)測(cè)試單Worker基本可以瞬時(shí)完成。
本文闡述了怎么使用DBMS存儲(chǔ)過程。我闡述了使用存儲(chǔ)過程的基本的和高級(jí)特性,比如返回ResultSet。本文假設(shè)你對(duì)DBMS和JDBC已經(jīng)非常熟悉,也假設(shè)你能夠毫無障礙地閱讀其它語言寫成的代碼(即不是Java的語言),但是,并不要求你有任何存儲(chǔ)過程的編程經(jīng)歷。
存儲(chǔ)過程是指保存在數(shù)據(jù)庫并在數(shù)據(jù)庫端執(zhí)行的程序。你可以使用特殊的語法在Java類中調(diào)用存儲(chǔ)過程。在調(diào)用時(shí),存儲(chǔ)過程的名稱及指定的參數(shù)通過JDBC連接發(fā)送給DBMS,執(zhí)行存儲(chǔ)過程并通過連接(如果有)返回結(jié)果。
使用存儲(chǔ)過程擁有和使用基于EJB或CORBA這樣的應(yīng)用服務(wù)器一樣的好處。區(qū)別是存儲(chǔ)過程可以從很多流行的DBMS中免費(fèi)使用,而應(yīng)用服務(wù)器大都非常昂貴。這并不只是許可證費(fèi)用的問題。使用應(yīng)用服務(wù)器所需要花費(fèi)的管理、編寫代碼的費(fèi)用,以及客戶程序所增加的復(fù)雜性,都可以通過DBMS中的存儲(chǔ)過程所整個(gè)地替代。
你可以使用Java,Python,Perl或C編寫存儲(chǔ)過程,但是通常使用你的DBMS所指定的特定語言。Oracle使用PL/SQL,PostgreSQL使用pl/pgsql,DB2使用Procedural SQL。這些語言都非常相似。在它們之間移植存儲(chǔ)過程并不比在Sun的EJB規(guī)范不同實(shí)現(xiàn)版本之間移植Session Bean困難。并且,存儲(chǔ)過程是為嵌入SQL所設(shè)計(jì),這使得它們比Java或C等語言更加友好地方式表達(dá)數(shù)據(jù)庫的機(jī)制。
因?yàn)榇鎯?chǔ)過程運(yùn)行在DBMS自身,這可以幫助減少應(yīng)用程序中的等待時(shí)間。不是在Java代碼中執(zhí)行4個(gè)或5個(gè)SQL語句,而只需要在服務(wù)器端執(zhí)行1個(gè)存儲(chǔ)過程。網(wǎng)絡(luò)上的數(shù)據(jù)往返次數(shù)的減少可以戲劇性地優(yōu)化性能。
使用存儲(chǔ)過程
簡(jiǎn)單的老的JDBC通過CallableStatement類支持存儲(chǔ)過程的調(diào)用。該類實(shí)際上是PreparedStatement的一個(gè)子類。假設(shè)我們有一個(gè)poets數(shù)據(jù)庫。數(shù)據(jù)庫中有一個(gè)設(shè)置詩人逝世年齡的存儲(chǔ)過程。下面是對(duì)老酒鬼Dylan Thomas(old soak Dylan Thomas,不指定是否有關(guān)典故、文化,請(qǐng)批評(píng)指正。譯注)進(jìn)行調(diào)用的詳細(xì)代碼:
try{
int age = 39;
String poetName = "dylan thomas";
CallableStatement proc = connection.prepareCall("{ call set_death_age(?, ?) }");
proc.setString(1, poetName);
proc.setInt(2, age);
cs.execute();
}catch (SQLException e){ // ....}
傳給prepareCall方法的字串是存儲(chǔ)過程調(diào)用的書寫規(guī)范。它指定了存儲(chǔ)過程的名稱,?代表了你需要指定的參數(shù)。
和JDBC集成是存儲(chǔ)過程的一個(gè)很大的便利:為了從應(yīng)用中調(diào)用存儲(chǔ)過程,不需要存根(stub)類或者配置文件,除了你的DBMS的JDBC驅(qū)動(dòng)程序外什么也不需要。
當(dāng)這段代碼執(zhí)行時(shí),數(shù)據(jù)庫的存儲(chǔ)過程就被調(diào)用。我們沒有去獲取結(jié)果,因?yàn)樵摯鎯?chǔ)過程并不返回結(jié)果。執(zhí)行成功或失敗將通過例外得知。失敗可能意味著調(diào)用存儲(chǔ)過程時(shí)的失?。ū热缣峁┑囊粋€(gè)參數(shù)的類型不正確),或者一個(gè)應(yīng)用程序的失?。ū热鐠伋鲆粋€(gè)例外指示在poets數(shù)據(jù)庫中并不存在“Dylan Thomas”)
結(jié)合SQL操作與存儲(chǔ)過程
映射Java對(duì)象到SQL表中的行相當(dāng)簡(jiǎn)單,但是通常需要執(zhí)行幾個(gè)SQL語句;可能是一個(gè)SELECT查找ID,然后一個(gè)INSERT插入指定ID的數(shù)據(jù)。在高度規(guī)格化(符合更高的范式,譯注)的數(shù)據(jù)庫模式中,可能需要多個(gè)表的更新,因此需要更多的語句。Java代碼會(huì)很快地膨脹,每一個(gè)語句的網(wǎng)絡(luò)開銷也迅速增加。
將這些SQL語句轉(zhuǎn)移到一個(gè)存儲(chǔ)過程中將大大簡(jiǎn)化代碼,僅涉及一次網(wǎng)絡(luò)調(diào)用。所有關(guān)聯(lián)的SQL操作都可以在數(shù)據(jù)庫內(nèi)部發(fā)生。并且,存儲(chǔ)過程語言,例如PL/SQL,允許使用SQL語法,這比Java代碼更加自然。下面是我們?cè)缙诘拇鎯?chǔ)過程,使用Oracle的PL/SQL語言編寫:
create procedure set_death_age(poet VARCHAR2, poet_age NUMBER)
poet_id NUMBER;
begin SELECT id INTO poet_id FROM poets WHERE name = poet;
INSERT INTO deaths (mort_id, age) VALUES (poet_id, poet_age);
end set_death_age;
很獨(dú)特?不。我打賭你一定期待看到一個(gè)poets表上的UPDATE。這也暗示了使用存儲(chǔ)過程實(shí)現(xiàn)是多么容易的一件事情。set_death_age幾乎可以肯定是一個(gè)很爛的實(shí)現(xiàn)。我們應(yīng)該在poets表中添加一列來存儲(chǔ)逝世年齡。Java代碼中并不關(guān)心數(shù)據(jù)庫模式是怎么實(shí)現(xiàn)的,因?yàn)樗鼉H調(diào)用存儲(chǔ)過程。我們以后可以改變數(shù)據(jù)庫模式以提高性能,但是我們不必修改我們代碼。
下面是調(diào)用上面存儲(chǔ)過程的Java代碼:
public static void setDeathAge(Poet dyingBard, int age) throws SQLException{
Connection con = null;
CallableStatement proc = null;
try {
con = connectionPool.getConnection();
proc = con.prepareCall("{ call set_death_age(?, ?) }");
proc.setString(1, dyingBard.getName());
proc.setInt(2, age);
proc.execute();
}
finally {
try { proc.close(); }
catch (SQLException e) {}
con.close();
}
利用php的系統(tǒng)調(diào)用,開啟新的進(jìn)程來實(shí)現(xiàn)。
php
提供了fsockopen函數(shù),此函數(shù)的功能為初始化一個(gè)套接字連接到指定主機(jī),默認(rèn)情況下將以阻塞模式開啟套接字連接。當(dāng)然你可以通過stream_set_blocking()將它轉(zhuǎn)換到非阻塞模式。這是關(guān)鍵。所以,思路就是:開啟一個(gè)非阻塞的套接字連接到本機(jī),本機(jī)收到之后作一些耗時(shí)處理。
ajax會(huì)嗎 不要給action加提交鏈接 給form設(shè)一個(gè)點(diǎn)擊事件,用js獲取input的值 用axaj提交并返回