Effective Java - Use caution when making streams parallel

在Java 8中,你只要用以下寫法,很容易就可以讓你的工作並行化:

list.stream().parallel() ..
list.parallelStream() ..
但這個item要強調的是: 千萬別亂用!! (以下內容我結合Java 8 Lambdas技術手冊做補充)

Good

能獲得較佳效能的結構有ArrayList、HashMap、HashSet、ConcurrentHashMap、arrays、int ranges與long ranges。這是由於它們的結構能夠容易被切割。書中還有提到Prefer SplittableRandom than ThreadLocalRandom,但這部分我沒使用過,無法做深入說明。

Bad

這通常是無法容易被切割的結構,像是LinkedList,我就有遇過同事使用LinkedList做parallel();再來就是使用Stream.iterate與BufferedReader.lines所產生的stream,因為初始長度未知。

另外容易被忽略的就是boxing和un-boxing轉換的效能問題,如果可以要盡量減少auto-boxing的操作,如此link所示。

Good

能獲得較佳效能的terminal operations包含reduce、min、max、count與sum;short-circuiting operations包含anyMatch、allMatch與noneMatch。(short-circuiting operations代表著滿足部分條件就可以停止繼續做下去,中文為短路操作,詳細範例可以參考link)

除此之外,還有一個重點就是操作是否有狀態,有狀態就會有維持狀的成本與限制;無狀態操作包含map、filter與flatMap。

Bad

有狀態操作包含了sorted、distinct與limit。其中limit在effective java中是特別被列為不適用,這是由於預設的並行化流程並無法精準的知道該怎麼正確處理limit的邏輯。

collect也不適合用在parallel的情況中,因為組合集合開銷非常大;我們大都使用parallel在物件的轉換上,此時資料量會是決定你效能的一個因素。

根據Java 8 Doc,預設的parallelism為處理器核心處量。假如這個值設太大,會導致大量的context switch。

  1. 這個item的結論是: 「你要有理由或者測試去證明使用parallel會加快速度,否則代價就是性能災難或是功能直接出問題」。
  2. 以我們的經驗來說,由於parallel()預設使用common的ForkJoinPool,因此建議使用在cpu-bound且不會blocking的工作,否則可能會引起dead-lock的問題。
  3. 資料結構、資料量、boxing/un-boxing、pool size、工作分解與合併都會影響到效能。
  1. Effective Java第三版Item 48。
  2. 有一種用來簡單判斷是否要用parallel stream的NQ Model,可參考link。N為item數量,Q為function的工作量(也可用幾行程式碼來替代),N*Q至少要>=10000時,parallel才有可能會優於sequential;但根據這個演講內容提到,如果Q是i+=1這種操作,會由於CPU處理速度已太快的原因,即使N的數量有一百萬也不見得比較好。
  • Effective Java, 3/e
  • Java 8 Lambdas技術手冊