《MYSQL教程使用mysql_udf與curl庫完成http_post通信模塊示例》要點:
本文介紹了MYSQL教程使用mysql_udf與curl庫完成http_post通信模塊示例,希望對您有用。如果有疑問,可以聯系我們。
使用mysql_udf與curl庫完成http_post通信模塊(mysql_udf,multi_curl,http,post)MYSQL教程
這個模塊其目前主要用于xoyo江湖的sns與kingsoft_xoyo自主研發的TCSQL數據庫做數據同步,當有feed插入sns數據庫,使用觸 發器調用該模塊,向tcsql數據庫發送同步數據.也可以使用該模塊與其它使用socket接口的數據庫或程序做轉發與同步.
http_post模塊主要使用mysql_udf接口,與curl庫兩部分技術.
mysql_udf是mysql為c語言提供的一個接口,通過這個接口,用戶可以自定義mysql的函數,通過調用這些mysql函數,調用相應的c語言 模塊來執行特定功能,實現mysql數據與外部應用的交互.curl庫是一個比較常用的應用層網絡協議庫,主要用到的是其中的curl_multi異步通 信api,用來進行網絡傳輸.
首先參考mysql官方提供的udf_example.c文件,建立3個主要的接口函數,分別是初始化函數,執行函數與析構函數.MYSQL教程
在mysql_udf接口中,主函數體中是不允許使用new或malloc動態分配內存,所以如果需要申請內存空間,必須用xxxx_init()函數申 請并將申請的地址賦給initid->ptr指針,然后在主函數體中使用,并在xxxx_deinit析構函數體中釋放.另外對于 mysql_udf接口的調用好像當并發量超過一定程度,如果是使用動態分配內存,會出現double free的錯誤,為了避免這個錯誤,所以在我的程序里使用靜態空間與動態申請空間相結合的方式,這樣如果數據較小,并發量較大,不會出現double free錯誤.對于靜態申請空間,最大約在160000~170000byte左右,我這里使用的160000,當mysql傳送的數據大于這個數的時 候,才動態申請內存.初始化函數體如下:MYSQL教程
????? if(args->arg_count == 2 && args->args[1]!=NULL)
????? {
??????????? int flexibleLength = strlen(args->args[1]);? MYSQL教程
??????? if(flexibleLength > 160000)
??????? {
??????????? int allocLength = 200 + flexibleLength;
??????????? if (!(initid->ptr=(char*) malloc(allocLength) ) )
??????????? {
??????????????????? strcpy(message,"Couldn't allocate memory in http_post_init");
??????????????????? return 1;
??????????? }
??????????? return 0;
??????? }
??????? else
??????? {
??????????? initid->ptr=NULL;
??????? }? MYSQL教程
????? }
?????? return 0;? MYSQL教程
??? }
MYSQL教程
主函數如下:MYSQL教程
??? char sendArray[160000] = "\0";//can not move this into the if
??? if(initid->ptr == NULL)
??? {
??????? //char sendArray[160000] = "\0";//error
??????? sendBuffer=sendArray;
??? }
??? else
??? {
??????? sendBuffer = initid->ptr;
??????? TRY_TIMES=100;
??? }? MYSQL教程
??? strcpy(sendBuffer,args->args[1]);
??? curl = curl_easy_init();
??? multi_handle = curl_multi_init();
??? if(curl && multi_handle)
??? {
??????? /* what URL that receives this POST */
??????? curl_easy_setopt(curl, CURLOPT_URL,args->args[0]);
??????? curl_easy_setopt(curl, CURLOPT_HTTPPOST, 1);
??????? curl_easy_setopt(curl,CURLOPT_POSTFIELDS,sendBuffer);
??????? curl_multi_add_handle(multi_handle, curl);
??????? while(CURLM_CALL_MULTI_PERFORM == curl_multi_perform(multi_handle,\ &still_running));
??????? while(still_running && times< TRY_TIMES)
???????? {
????????????? int rc;????? //select() return code
????????????? int maxfd;
????????????? fd_set fdread;
????????????? fd_set fdwrite;
????????????? fd_set fdexcep;
????????????? FD_ZERO(&fdread);
????????????? FD_ZERO(&fdwrite);
????????????? FD_ZERO(&fdexcep);?? //get file descriptors from the transfers
???????????? curl_multi_fdset(multi_handle, &fdread, &fdwrite, &fdexcep,\ &maxfd);
???????????? rc = select(maxfd+1, &fdread, &fdwrite, &fdexcep, &timeout);
???????????? switch(rc)
??????????? {
??????????????? case -1://select error
????????????????????? break;
??????????????? case 0:
??????????????? default:??????? // timeout
???????????????????? while(CURLM_CALL_MULTI_PERFORM !== curl_multi_perform(multi_handle, &still_running));
???????????????????? break;
???????????? }
??????????????? times++;
???????? }//end while
?????? curl_multi_remove_handle(multi_handle,curl);
?????? curl_multi_cleanup(multi_handle);//always cleanup
?????? curl_easy_cleanup(curl);
?????? if(times>=TRY_TIMES)
?????? {
??????????? return 1;
?????? }
??????? return 0;
? }//end if
? return 1;
}
MYSQL教程
對于easy發送完數據后,會阻塞等待服務器的response,如果沒 有返回,就會一直阻塞,當然可以設置一個timeout,但如果這個時間設小了,easy發送大數據的時候就會中斷,設太大了影響時間效率,另外當接收端 不發送response的時候,easy庫即使發送完了數據,也會阻塞等待,有些時候對于發送端來講不需要等待接收端的respons,當發送完畢就可以 結束了,這個時候easy就不適用.所以最后選擇multi庫.MYSQL教程
如程序所示,首先得初始化,并設置easy句柄為post模式,指定需要post的數據,如下:MYSQL教程
curl = curl_easy_init();MYSQL教程
multi_handle = curl_multi_init();MYSQL教程
curl_easy_setopt(curl, CURLOPT_URL,args->args[0]);MYSQL教程
curl_easy_setopt(curl, CURLOPT_HTTPPOST, 1);MYSQL教程
curl_easy_setopt(curl,CURLOPT_POSTFIELDS,sendBuffer);MYSQL教程
由于要使用multi模式,必須也要初始化一個easy模式,并將這個easy模式的句柄放入所謂的multi函數執行棧:MYSQL教程
curl_multi_add_handle(multi_handle, curl);MYSQL教程
使用curl_multi_perform(multi_handle, &still_running),來進行異步傳輸,但如果該函數返回的不是CURLM_CALL_MULTI_PERFORM,則需要重新執行.直到循環while(CURLM_CALL_MULTI_PERFORM == curl_multi_perform(multi_handle, &still_running));結束.此時如果剛才函數體中的still_running被置為1,表明連接建立,正在發送數據.需要配合select機制來進行數據發送.MYSQL教程
函數 curl_multi_fdset(multi_handle, &fdread, &fdwrite, &fdexcep, &maxfd);會將最大的描述符寫入maxfd,MYSQL教程
然后用select進行等待:rc = select(maxfd+1, &fdread, &fdwrite, &fdexcep, &timeout);MYSQL教程
最后如果select返回值不為-1(error)0(timeout)時候再次進行異步傳輸,即執行curl_multi_perform函數,直到MYSQL教程
still_running為0,程序結束退出.MYSQL教程
這里設置了一個最大執行次數的限制,如果服務器出現了問題,不能發送response,則still_running不會變為0,程序會死循環,MYSQL教程
所以,設置一個最大循環次數TRY_TIMES,防止這種情況發生.但是這個次數設小了,數據可能沒有發送完,就退出了,如設置太大了,程序發送完了,服務器沒有response就會多執行多余循環.所以這個TRY_TIMES需要根據數據的大小和網絡狀況來設置,比正常MYSQL教程
傳輸數據的次數略長.這里我小數據的時候循環設次數25,大數據循環設為100.MYSQL教程
最后是析構函數體:MYSQL教程
編譯執行過程如下:MYSQL教程
將程序保存為http_post.c編譯如下(請根據機器上的mysql路徑進行調整):
MYSQL教程
在網絡助手中可以看到如下結果:MYSQL教程