隨著備受矚目的冬奧會順利召開，相信大家對美輪美奐的開幕式會贊嘆不已，俗話說外行看熱鬧，內(nèi)行看門道，今天就來談一下開幕式中跟低延遲相關(guān)的一點東西。

先來看一個來自英特爾中國的微博消息：

相信很多觀眾在沒看到這個消息前都會以為那個冰隨人動的特效是事先做好的，只是和現(xiàn)場演員對下時間軸，結(jié)果英特爾這一揭秘不免讓人大吃一驚，這些竟然都是實時的。還有更牛的事在后邊，現(xiàn)場的檢測延遲和管線延遲竟然達(dá)到了驚人的10ms和46ms。

在計算機系中中所說的延遲，一般是指生成和返回響應(yīng)之前的時間延遲。通常有以下幾種來源：

• 網(wǎng)絡(luò) I/O
• 磁盤 I/O
• 運行環(huán)境
• 程序代碼

一般情況下，對于基礎(chǔ)資源產(chǎn)生的延遲是取決于對應(yīng)的設(shè)備或系統(tǒng)的技術(shù)水平，像英特爾展示的冬奧會開幕式的數(shù)據(jù)中心就采用了大量的新技術(shù)來降低這個延遲。而對于多數(shù)人來講，降低應(yīng)用的延遲最可行的還是從優(yōu)化程序代碼來入手。

在軟件領(lǐng)域，有許多類型的延遲。沒有應(yīng)用程序可能是真正實時的即：零延遲（在程序啟動和結(jié)果交付之間經(jīng)過的時間為零）。盡管如此，所有高性能應(yīng)用程序的目標(biāo)都是盡可能接近實時。甚至 Gartner 對零延遲的定義也承認(rèn)延遲實際上永遠(yuǎn)不可能為零，因為計算機需要時間來“思考”。

下面是一個簡單的圖形示例，說明典型高性能應(yīng)用程序的延遲情況。我們通常會發(fā)現(xiàn)應(yīng)用的延遲大多會在一個狹窄的范圍內(nèi)變化，但是偶爾會出現(xiàn)非常高的延遲。對于高性能應(yīng)用程序，按分位數(shù)對延遲進行分組通常會產(chǎn)生類似于以下的圖：

Y 軸表示程序的延遲時間，X 軸是將一段時間內(nèi)的所有分組為分位數(shù)的結(jié)果。藍(lán)線是每個分位數(shù)的延遲，橙線是平均延遲。

如果只看平均延遲，你可能會想“應(yīng)用程序做得很好啊，大部分時間都低于平均值！”這就是問題所在。如果應(yīng)用程序在大多數(shù)情況下具有可接受的延遲，但有時會出現(xiàn)極端延遲，你的業(yè)務(wù)可能會受影響。

如果你的客戶在每次使用產(chǎn)品時都非?？焖俚匦枰a(chǎn)品的結(jié)果，但有時他們會因長時間的等待而陷入困境，他們會轉(zhuǎn)向你的競爭對手，即使競爭對手的平均延遲可能比你的應(yīng)用高。

例如：金融交易、考試報名、線上購物、實時交互等場景都要求具有高性能+低延遲的應(yīng)用。

某國家級考試主管單位在一次考試報名的當(dāng)天，系統(tǒng)發(fā)生故障導(dǎo)致大量的用戶無法登錄。

通過APM工具發(fā)現(xiàn)，當(dāng)時的所有事務(wù)都出現(xiàn)了超時現(xiàn)象：

進一步分析，能夠看到當(dāng)時數(shù)據(jù)庫是最大的瓶頸：

接著根據(jù)提示，一步步確認(rèn)問題的位置，著手解決，包括：優(yōu)化SQL、優(yōu)化代碼等等。一番操作下來，系統(tǒng)表現(xiàn)有了巨大的改變。

1、應(yīng)用平均響應(yīng)時間大幅縮短

2、數(shù)據(jù)庫執(zhí)行時間大幅縮短

3、報名完成時間大幅提前

類似北京、上海這種城市的報名，以往需要近1分鐘時間完成，優(yōu)化后平均4.5秒完成報名。

由此可見，低延遲對于任何應(yīng)用程序在業(yè)務(wù)上取得成功都至關(guān)重要，好在我們可以通過APM工具來做性能的監(jiān)控與分析。基調(diào)聽云多年來致力于提供優(yōu)質(zhì)的APM解決方案，也曾多次獲得權(quán)威機構(gòu)Gartner的認(rèn)可，歡迎聯(lián)系我們了解更多關(guān)于APM的信息。