包含go語言統(tǒng)計耗時的詞條

初學(xué)go語言，請教生成隨機數(shù)為何線程越多速度越慢？

#include stdio.h

創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價比陽高網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式陽高網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們，業(yè)務(wù)覆蓋陽高地區(qū)。費用合理售后完善，十余年實體公司更值得信賴。

#include stdlib.h

#include time.h //用到了time函數(shù)

int main()

{ int i,number;

srand((unsigned) time(NULL)); //用時間做種，每次產(chǎn)生隨機數(shù)不一樣

for (i=0; i50; i++)

{

number = rand() % 101; //產(chǎn)生0-100的隨機數(shù)

printf("%d ", number);

}

return 0;

}

Prometheus的四大指標(biāo)類型

Prometheus有4大指標(biāo)類型（Metrics Type），分別是Counter（計數(shù)器）、Gauge（儀表盤）、Histogram（直方圖）和Summary（摘要）。

這是在Prometheus客戶端（目前主要有Go、Java、Python、Ruby等語言版本）中提供的4種核心指標(biāo)類型，但是Prometheus的服務(wù)端并不區(qū)分指標(biāo)類型，而是簡單地把這些指標(biāo)統(tǒng)一視為無類型的時間序列。

注意：

font color=red上面這句話應(yīng)該這么理解，四個指標(biāo)類型，實際上就是客戶端采集數(shù)據(jù)的四個維度，采集這四個維度的指標(biāo)數(shù)據(jù)，但是最終匯總到服務(wù)端那里，則是對這四個維度無感的，只是簡單的作為時間序列存儲起來。/font

?計數(shù)器表示一種單調(diào)遞增的指標(biāo)，除非發(fā)生重置的情況下下只增不減，其樣本值應(yīng)該是不斷增大的。例如，可以使用Counter類型的指標(biāo)來表示服務(wù)的請求數(shù)、已完成的任務(wù)數(shù)、錯誤發(fā)生的次數(shù)等。

?但是，計數(shù)器計算的總數(shù)對用戶來說大多沒有什么用，大家千萬不要將計數(shù)器類型應(yīng)用于樣本數(shù)據(jù)非單調(diào)遞增的指標(biāo)上，比如當(dāng)前運行的進程數(shù)量、當(dāng)前登錄的用戶數(shù)量等應(yīng)該使用儀表盤類型。

為了能夠更直觀地表示樣本數(shù)據(jù)的變化情況，往往需要計算樣本的增長速率，這時候通常使用PromQL的rate、topk、increase和irate等函數(shù)，如下所示：

如上所示，速率的輸出rate（v range-vector）也應(yīng)該用儀表盤來承接結(jié)果。

在上面的案例中，如果有一個標(biāo)簽是Device，那么在統(tǒng)計每臺機器每秒接受的HTTP請求數(shù)時，可以用如下的例子進行操作。

補充

?這背后與rate()的實現(xiàn)方式有關(guān)，rate()在設(shè)計上假定對應(yīng)的指標(biāo)是一個計數(shù)器，也就是只有font color=redincr（增加）和reset（歸零）/font兩種行為。而執(zhí)行了sum()或其他聚合操作之后，得到的就不再是一個計數(shù)器了。舉個例子，比如sum()的計算對象中有一個歸零了，那整體的和會下降，而不是歸零，這會影響rate()中判斷reset（歸零）的邏輯，從而導(dǎo)致錯誤的結(jié)果。

?increase（v range-vector）函數(shù)傳遞的參數(shù)是一個區(qū)間向量，increase函數(shù)獲取區(qū)間向量中的第一個和最后一個樣本并返回其增長量。下面的例子可以查詢Counter類型指標(biāo)的增長速率，可以獲取http_requests_total在最近5分鐘內(nèi)的平均樣本，其中300代表300秒。

?rate和increase函數(shù)計算的增長速率容易陷入font color=red長尾效應(yīng)中/font。比如在 某一個由于訪問量或者其他問題導(dǎo)致CPU占用100%的情況中，通過計算在時間窗口內(nèi)的平均增長速率是無法反映出該問題的 。

?為什么監(jiān)控和性能測試中，我們更關(guān)注p95/p99位？就是因為長尾效應(yīng)。由于個別請求的響應(yīng)時間需要1秒或者更久，font color=red傳統(tǒng)的響應(yīng)時間的平均值就體現(xiàn)不出響應(yīng)時間中的尖刺了/font，去尖刺也是數(shù)據(jù)采集中一個很重要的工序，這就是所謂的長尾效應(yīng)。p95/p99就是長尾效應(yīng)的分割線，如表示99%的請求在XXX范圍內(nèi)，或者是1%的請求在XXX范圍之外。99%是一個范圍，意思是99%的請求在某一延遲內(nèi)，剩下的1%就在延遲之外了。只是正推與逆推而已，是一種概念的兩種不同描述。

?irate（v range-vector）是PromQL針對長尾效應(yīng)專門提供的靈敏度更高的函數(shù)。irate同樣用于計算區(qū)間向量的增長速率，但是其反映出的是瞬時增長速率。irate函數(shù)是通過區(qū)間向量中最后兩個樣本數(shù)據(jù)來計算區(qū)間向量的增長速率的。這種方式可以避免在時間窗口范圍內(nèi)的“長尾問題”，并且體現(xiàn)出更好的靈敏度。通過irate函數(shù)繪制的圖標(biāo)能夠更好地反映樣本數(shù)據(jù)的瞬時變化狀態(tài)。irate的調(diào)用命令如下所示。

?irate函數(shù)相比于rate函數(shù)提供了更高的靈敏度，不過分析長期趨勢時或者在告警規(guī)則中，irate的這種靈敏度反而容易造成干擾。因此，在長期趨勢分析或者告警中更推薦使用rate函數(shù)。

?儀表盤類型代表一種font color=red樣本數(shù)據(jù)可以任意變化的指標(biāo)，即可增可減/font。它可以理解為狀態(tài)的快照，Gauge通常用于表示溫度或者內(nèi)存使用率這種指標(biāo)數(shù)據(jù)，也可以表示能隨時增加或減少的“總數(shù)”，例如當(dāng)前并發(fā)請求的數(shù)量node_memory_MemFree（主機當(dāng)前空閑的內(nèi)容大小）、node_memory_MemAvailable（可用內(nèi)存大?。┑?。在使用Gauge時，用戶往往希望使用它們font color=red求和、取平均值、最小值、最大值/font等。

?以Prometheus經(jīng)典的Node Exporter的指標(biāo)node_filesystem_size_bytes為例，它可以報告從node_filesystem_size_bytes采集來的文件系統(tǒng)大小，包含device、fstype和mountpoint等標(biāo)簽。如果想要對每一臺機器上的總文件系統(tǒng)大小求和（sum），可以使用如下PromQL語句。

?without可以讓sum指令根據(jù)相同的標(biāo)簽進行求和，但是忽略without涵蓋的標(biāo)簽。如果在實際工作中需要忽略更多標(biāo)簽，可以根據(jù)實際情況在without里傳遞更多指標(biāo)。

補充 ：

node_filesystem_size_bytes指標(biāo)查詢

device, fstype, mountpoint都是他的標(biāo)簽。

sum without(device, fstype, mountpoint)(node_filesystem_size_bytes)查詢

?如果要根據(jù)Node Exporter的指標(biāo)node_filesystem_size_bytes計算每臺機器上最大的文件安裝系統(tǒng)大小，只需要將上述案例中的sum函數(shù)改為max函數(shù)，如下所示。

?除了求和、求最大值等，利用Gauge的函數(shù)求最小值和平均值等原理是類似的。除了基本的操作外，Gauge經(jīng)常結(jié)合PromQL的predict_linear和delta函數(shù)使用。

?predict_linear（v range-vector，t scalar）函數(shù)可以預(yù)測時間序列v在t秒后的值，就是使用線性回歸的方式，預(yù)測樣本數(shù)據(jù)的Gauge變化趨勢。例如，基于2小時的樣本數(shù)據(jù)，預(yù)測未來24小時內(nèi)磁盤是否會滿，如下所示：

PromQL還有一個內(nèi)置函數(shù)delta()，它可以獲取樣本在一段時間內(nèi)的變化情況，也通常作用于Gauge。例如，計算磁盤空間在2小時內(nèi)的差異，如下所示。

Histogram是一個對數(shù)據(jù)分布情況的圖形表示，由一系列高度不等的長條圖（bar）或線段表示，用于展示單個測度得知的分布。

[圖片上傳失敗...(image-3e55f2-1622153155462)]

上邊界、樣本值總和、樣本總數(shù)

例子

這三個查詢一起看

所有樣本值的總和，命名為basename_sum。

prometheus_http_request_duration_seconds_sum{handler="/targets",instance="192.168.16.134:9090",job="prometheus"}0.405075955 表示12 次http請求的總響應(yīng)時間是0.405075955

命名為basename_count，其值和basename_bucket{le="+Inf"}相同（所有）。

prometheus_http_request_duration_seconds_count{handler="/targets",instance="192.168.16.134:9090",job="prometheus"}12 表示總共發(fā)生了12次請求

?sum函數(shù)和count函數(shù)相除，可以得到一些平均值，比如Prometheus一天內(nèi)的平均壓縮時間，可由查詢結(jié)果除以instance標(biāo)簽數(shù)量得到，如下所示。

?除了Prometheus內(nèi)置的壓縮時間，prometheus_local_storage_series_chunks_persisted表示Prometheus中每個時序需要存儲的chunk數(shù)量，也可以用于計算待持久化的數(shù)據(jù)的分位數(shù)。

?Histogram可以用于觀察樣本數(shù)據(jù)的分布情況。Histogram的分位數(shù)計算需要通過histogram_quantile（φfloat，b instant-vector）函數(shù)進行計算，但是histogram_quantile計算所得并非精確值。其中，φ（0φ1）表示需要計算的分位數(shù)（這個值主要是通過prometheus_http_request_duration_seconds_bucket和prometheus_http_request_duration_seconds_sum兩個指標(biāo)得到的，是一個近似值）。

例子如下。

?與Histogram類型類似，摘要用于表示一段時間內(nèi)的數(shù)據(jù)采樣的結(jié)果（通常是請求持續(xù)時間或響應(yīng)大小等），但它直接存儲了分位數(shù)（通過客戶端計算，然后展示出來），而非通過區(qū)間來計算（Histogram的分位數(shù)需要通過histogram_quantile（φfloat，b instant-vector）函數(shù)計算得到）。因此，對于分位數(shù)的計算，Summary在通過PromQL進行查詢時有更好的性能表現(xiàn)，而Histogram則會消耗更多的資源。反之，對于客戶端而言，Histogram消耗的資源更少。在選擇這兩種方式時，用戶應(yīng)該根據(jù)自己的實際場景選擇。

Histogram是在服務(wù)端計算的，Summary是在客戶端計算的。

?安裝并啟動Prometheus后，在訪問 時可以看到Prometheus自帶的一些Summary信息，這些信息和Histogram一樣在注釋中（#HELP和#TYPE）也會顯示，如下所示。

?在上述例子中，可以看到基于Go語言編寫的Prometheus的gc總次數(shù)是1907，耗時0.193642882s，其中中位數(shù)（quantile=0.5）計算的耗時為4.8366e-05s，代表1907次中50%的次數(shù)是小于4.8366e-05s的。

Summary類型的樣本也會提供3種指標(biāo)，假設(shè)指標(biāo)名稱為basename。

Summary和Histogram的異同

Summary的強大之處就是可以利用除法去計算時間的平均值。如果要從Histogram和Summary中計算最近5分鐘內(nèi)的平均請求持續(xù)時間http_request_duration_seconds，可以用如下表達(dá)式進行。

count本質(zhì)上是一個計數(shù)器，sum通常情況下也會像計數(shù)器那樣工作。但是font color=redSummary和Histogram可能觀察到負(fù)值，比如溫度（-20℃），這種情況下會導(dǎo)致觀察的總量下降，無法再使用rate函數(shù)/font。

比如下面的例子就可以計算過去5分鐘內(nèi)每次響應(yīng)中返回的平均字節(jié)數(shù)。

關(guān)于這個例子，我們需要注意幾點。

·因為http_response_size_bytes_count和http_response_size_bytes_sum是計數(shù)器類型，所以必須在計算前先使用rate等函數(shù)。

·因為Prometheus的API會有很多handler，所以可以使用without過濾掉handler的返回值。

·PromQL要先執(zhí)行rate()再執(zhí)行sum()，不能先執(zhí)行sum()再執(zhí)行rate()。

·在統(tǒng)計學(xué)上，尤其是計算平均值時，要先進行sum等求和運算再做除法。對一個平均值再求平均是不正確的，如下所示。

count的例子

案例一：計算所有的實例CPU核心數(shù)。

count by (instance) ( count by (instance,cpu) (node_cpu_seconds_total{mode=

"system"}) )

案例二：計算單個實例192.168.1.1的CPU核心數(shù)。

count by (instance) ( count by (instance,cpu) (node_cpu_seconds_total{mode="system",

instance="192.168.1.1"})

go語言 ioutil.ReadFile 與ioutil.ReadAll差別

?? 當(dāng)讀取91.2 MB文件時，read1耗時43ms，read2耗時99ms。

查看源碼：

讀取文件主要是通過 Read(p []byte) (n int, err error) ：

官方文檔中關(guān)于該接口方法的說明：

結(jié)論：

??ReadFile(filename string)方法之所以速度快的原因就是先計算出file文件的size，在初始化對應(yīng)size大小的buff，傳入ReadRead(p []byte) 來讀取字節(jié)流

go語言有前景嗎？

就目前來看還是很有前景，因為越來越火了，不過他的應(yīng)用領(lǐng)域還是局限在高并發(fā)處理和網(wǎng)站開發(fā)，畢竟是后起之秀所以在其他桌面程序領(lǐng)域沒那么容易普及和超越c++，找工作就不推薦學(xué)go

php和go語言哪個好

前言

最近工作中遇到的一個場景，php項目中需要使用一個第三方的功能，而恰好有一個用Golang寫好的類庫。那么問題就來了，要如何實現(xiàn)不同語言之間的通信呢？下面就來一起看看吧。

常規(guī)的方案

1、 用Golang寫一個http/TCP服務(wù)，php通過http/TCP與Golang通信

2、將Golang經(jīng)過較多封裝，做為php擴展。

3、PHP通過系統(tǒng)命令，調(diào)取Golang的可執(zhí)行文件

存在的問題

1、http請求，網(wǎng)絡(luò)I/O將會消耗大量時間

2、需要封裝大量代碼

3、PHP每調(diào)取一次Golang程序，就需要一次初始化，時間消耗很多

優(yōu)化目標(biāo)

1、Golang程序只初始化一次（因為初始化很耗時）

2、所有請求不需要走網(wǎng)絡(luò)

3、盡量不大量修改代碼

解決方案

1、簡單的Golang封裝，將第三方類庫編譯生成為一個可執(zhí)行文件

2、PHP與Golang通過雙向管道通信

使用雙向管道通信優(yōu)勢

1：只需要對原有Golang類庫進行很少的封裝

2：性能最佳 （IPC通信是進程間通信的最佳途徑）

3：不需要走網(wǎng)絡(luò)請求，節(jié)約大量時間

4：程序只需初始化一次，并一直保持在內(nèi)存中

具體實現(xiàn)步驟

1：類庫中的原始調(diào)取demo

package main

import (

"fmt"

"github.com/yanyiwu/gojieba"

"strings"

)

func main() {

x := gojieba.NewJieba()

defer x.Free()

s := "小明碩士畢業(yè)于中國科學(xué)院計算所，后在日本京都大學(xué)深造"

words := x.CutForSearch(s, true)

fmt.Println(strings.Join(words, "/"))

}

保存文件為main.go，就可以運行

2：調(diào)整后代碼為：

package main

import (

"bufio"

"fmt"

"github.com/yanyiwu/gojieba"

"io"

"os"

"strings"

)

func main() {

x := gojieba.NewJieba(

"/data/tmp/jiebaDict/jieba.dict.utf8",

"/data/tmp/jiebaDict/hmm_model.utf8",

"/data/tmp/jiebaDict/user.dict.utf8"

)

defer x.Free()

inputReader := bufio.NewReader(os.Stdin)

for {

s, err := inputReader.ReadString('\n')

if err != nil err == io.EOF {

break

}

s = strings.TrimSpace(s)

if s != "" {

words := x.CutForSearch(s, true)

fmt.Println(strings.Join(words, " "))

} else {

fmt.Println("get empty \n")

}

}

}

只需要簡單的幾行調(diào)整，即可實現(xiàn)：從標(biāo)準(zhǔn)輸入接收字符串，經(jīng)過分詞再輸出

測試：

# go build test

# ./test

# //等待用戶輸入，輸入”這是一個測試“

# 這是 一個 測試 //程序

3：使用cat與Golang通信做簡單測試

//準(zhǔn)備一個title.txt，每行是一句文本

# cat title.txt | ./test

正常輸出，表示cat已經(jīng)可以和Golang正常交互了

4：PHP與Golang通信

以上所示的cat與Golang通信，使用的是單向管道。即：只能從cat向Golang傳入數(shù)據(jù)，Golang輸出的數(shù)據(jù)并沒有傳回給cat，而是直接輸出到屏幕。但文中的需求是：php與Golang通信。即php要傳數(shù)據(jù)給Golang，同時Golang也必須把執(zhí)行結(jié)果返回給php。因此，需要引入雙向管道。

在PHP中管道的使用：popen("/path/test") ，具體就不展開說了，因為此方法解決不了文中的問題。

雙向管道：

$descriptorspec = array(

0 = array("pipe", "r"),

1 = array("pipe", "w")

);

$handle = proc_open(

'/webroot/go/src/test/test',

$descriptorspec,

$pipes

);

fwrite($pipes['0'], "這是一個測試文本\n");

echo fgets($pipes[1]);

解釋：使用proc_open打開一個進程，調(diào)用Golang程序。同時返回一個雙向管道pipes數(shù)組，php向$pipe['0']中寫數(shù)據(jù)，從$pipe['1']中讀數(shù)據(jù)。

好吧，也許你已經(jīng)發(fā)現(xiàn)，我是標(biāo)題檔，這里重點要講的并不只是PHP與Golang如何通信。而是在介紹一種方法： 通過雙向管道讓任意語言通信。（所有語言都會實現(xiàn)管道相關(guān)內(nèi)容）

測試：

通過對比測試，計算出各個流程占用的時間。下面提到的title.txt文件，包含100萬行文本，每行文本是從b2b平臺取的商品標(biāo)題

1: 整體流程耗時

time cat title.txt | ./test /dev/null

耗時：14.819秒，消耗時間包含：

進程cat讀出文本

通過管道將數(shù)據(jù)傳入Golang

Golang處理數(shù)據(jù)，將結(jié)果返回到屏幕

2：計算分詞函數(shù)耗時。方案：去除分詞函數(shù)的調(diào)取，即：注釋掉Golang源代碼中的調(diào)取分詞那行的代碼

time cat title.txt | ./test /dev/null

耗時：1.817秒時間，消耗時間包含：

進程cat讀出文本

通過管道將數(shù)據(jù)傳入Golang

Golang處理數(shù)據(jù)，將結(jié)果返回到屏幕

分詞耗時 = (第一步耗時) - (以上命令所耗時)

分詞耗時 : 14.819 - 1.817 = 13.002秒

3：測試cat進程與Golang進程之間通信所占時間

time cat title.txt /dev/null

耗時：0.015秒，消耗時間包含：

進程cat讀出文本

通過管道將數(shù)據(jù)傳入Golang

go處理數(shù)據(jù)，將結(jié)果返回到屏幕

管道通信耗時：（第二步耗時） - （第三步耗時）

管道通信耗時： 1.817 - 0.015 = 1.802秒

4：PHP與Golang通信的時間消耗

編寫簡單的php文件：

?php

$descriptorspec = array(

0 = array("pipe", "r"),

1 = array("pipe", "w")

);

$handle = proc_open(

'/webroot/go/src/test/test',

$descriptorspec,

$pipes

);

$fp = fopen("title.txt", "rb");

while (!feof($fp)) {

fwrite($pipes['0'], trim(fgets($fp))."\n");

echo fgets($pipes[1]);

}

fclose($pipes['0']);

fclose($pipes['1']);

proc_close($handle);

流程與上面基本一致，讀出title.txt內(nèi)容，通過雙向管道傳入Golang進程分詞后，再返回給php （比上面的測試多一步：數(shù)據(jù)再通過管道返回）

time php popen.php /dev/null

耗時：24.037秒，消耗時間包含：

進程PHP讀出文本

通過管道將數(shù)據(jù)傳入Golang

Golang處理數(shù)據(jù)

Golang將返回結(jié)果再寫入管道，PHP通過管道接收數(shù)據(jù)

將結(jié)果返回到屏幕

結(jié)論：

1 ：整個分詞過程中的耗時分布

使用cat控制邏輯耗時： 14.819 秒

使用PHP控制邏輯耗時: 24.037 秒（比cat多一次管道通信）

單向管道通信耗時： 1.8 秒

Golang中的分詞函數(shù)耗時： 13.002 秒

2：分詞函數(shù)的性能： 單進程，100萬商品標(biāo)題分詞，耗時13秒

以上時間只包括分詞時間，不包括詞典載入時間。但在本方案中，詞典只載入一次，所以載入詞典時間可以忽略（1秒左右）

3：PHP比cat慢 (這結(jié)論有點多余了，呵呵）

語言層面慢: (24.037 - 1.8 - 14.819) / 14.819 = 50%

單進程對比測試的話，應(yīng)該不會有哪個語言比cat更快。

相關(guān)問題：

1：以上Golang源碼中寫的是一個循環(huán)，也就是會一直從管道中讀數(shù)據(jù)。那么存在一個問題：是不是php進程結(jié)束后，Golang的進程還會一直存在？

管道機制自身可解決此問題。管道提供兩個接口：讀、寫。當(dāng)寫進程結(jié)束或者意外掛掉時，讀進程也會報錯，以上Golang源代碼中的err邏輯就會執(zhí)行，Golang進程結(jié)束。

但如果PHP進程沒有結(jié)束，只是暫時沒有數(shù)據(jù)傳入，此時Golang進程會一直等待。直到php結(jié)束后，Golang進程才會自動結(jié)束。

2：能否多個php進程并行讀寫同一個管道，Golang進程同時為其服務(wù)？

不可以。管道是單向的，如果多個進程同時向管道中寫，那Golang的返回值就會錯亂。

可以多開幾個Golang進程實現(xiàn)，每個php進程對應(yīng)一個Golang進程。

最后，上面都是瞎扯的。如果你了解管道、雙向管道，上面的解釋對你基本沒啥用。但如果你不了解管道，調(diào)試上面的代碼沒問題，但稍有修改就有可能掉坑里。

求用go語言編寫的統(tǒng)計腳本

package main

import (

"fmt"

"os"

)

func main() {

if len(os.Args) 2 {

fmt.Println("Please Input File Name!")

return

}

file, err := os.Open(os.Args[1])

if err != nil {

return

}

buff := make([]byte, 1000)

_, err = file.Read(buff)

if err != nil {

return

}

a, c, d, e, _ := Sum(buff)

fmt.Printf("a c d e \n%d %d %d %d\n", a, c, d, e)

}

func Sum(buff []byte) (a, c, d, e, def int) {

for i := 0; i len(buff); i++ {

switch buff[i] {

case 'a':

a++

case 'c':

c++

case 'd':

d++

case 'e':

e++

default:

def++

}

}

return

}

分享標(biāo)題：包含go語言統(tǒng)計耗時的詞條
新聞來源：http://m.jiaotiyi.com/article/hjsdch.html