zhuqi-lucas commented on PR #16711: URL: https://github.com/apache/datafusion/pull/16711#issuecomment-3057355716
> I ran the new clickbench_pushdown benchmark and TLDR is the new pushdown decoder look like they make a measurable difference ๐ > > Thus I think we should proceed trying to get [apache/arrow-rs#7850](https://github.com/apache/arrow-rs/pull/7850) merged. > > My next step will be to analyze some of the queries that seem to have gotten slwer (like Q19) and see if I can reproduce it / find any thing to improve > > ``` > -------------------- > Benchmark clickbench_partitioned.json > -------------------- > โโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ > โ Query โ merge-base โ test_pushdown โ Change โ > โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ > โ QQuery 0 โ 2.37 ms โ 2.42 ms โ no change โ > โ QQuery 1 โ 36.74 ms โ 35.98 ms โ no change โ > โ QQuery 2 โ 80.88 ms โ 81.65 ms โ no change โ > โ QQuery 3 โ 98.74 ms โ 96.46 ms โ no change โ > โ QQuery 4 โ 599.44 ms โ 588.92 ms โ no change โ > โ QQuery 5 โ 875.20 ms โ 860.63 ms โ no change โ > โ QQuery 6 โ 2.36 ms โ 2.40 ms โ no change โ > โ QQuery 7 โ 55.75 ms โ 50.98 ms โ +1.09x faster โ > โ QQuery 8 โ 839.47 ms โ 829.48 ms โ no change โ > โ QQuery 9 โ 1171.43 ms โ 1149.42 ms โ no change โ > โ QQuery 10 โ 281.96 ms โ 276.07 ms โ no change โ > โ QQuery 11 โ 317.52 ms โ 318.86 ms โ no change โ > โ QQuery 12 โ 1084.77 ms โ 923.75 ms โ +1.17x faster โ > โ QQuery 13 โ 1572.79 ms โ 1383.83 ms โ +1.14x faster โ > โ QQuery 14 โ 1126.55 ms โ 975.02 ms โ +1.16x faster โ > โ QQuery 15 โ 766.37 ms โ 761.22 ms โ no change โ > โ QQuery 16 โ 1584.13 ms โ 1564.22 ms โ no change โ > โ QQuery 17 โ 1560.67 ms โ 1581.42 ms โ no change โ > โ QQuery 18 โ 2806.90 ms โ 2905.37 ms โ no change โ > โ QQuery 19 โ 86.80 ms โ 99.67 ms โ 1.15x slower โ > โ QQuery 20 โ 1180.12 ms โ 1157.74 ms โ no change โ > โ QQuery 21 โ 1391.28 ms โ 1314.41 ms โ +1.06x faster โ > โ QQuery 22 โ 2580.68 ms โ 2496.35 ms โ no change โ > โ QQuery 23 โ 974.72 ms โ 924.11 ms โ +1.05x faster โ > โ QQuery 24 โ 245.25 ms โ 192.79 ms โ +1.27x faster โ > โ QQuery 25 โ 595.13 ms โ 349.02 ms โ +1.71x faster โ > โ QQuery 26 โ 418.77 ms โ 287.61 ms โ +1.46x faster โ > โ QQuery 27 โ 2328.28 ms โ FAIL โ incomparable โ > โ QQuery 28 โ 12913.12 ms โ 12728.61 ms โ no change โ > โ QQuery 29 โ 526.61 ms โ 516.02 ms โ no change โ > โ QQuery 30 โ 1226.74 ms โ 1198.28 ms โ no change โ > โ QQuery 31 โ 1214.66 ms โ 1166.91 ms โ no change โ > โ QQuery 32 โ 2353.52 ms โ 2344.64 ms โ no change โ > โ QQuery 33 โ 3181.67 ms โ 3159.55 ms โ no change โ > โ QQuery 34 โ 3237.27 ms โ 3183.64 ms โ no change โ > โ QQuery 35 โ 1209.08 ms โ 1230.69 ms โ no change โ > โ QQuery 36 โ 26.88 ms โ 28.11 ms โ no change โ > โ QQuery 37 โ 26.97 ms โ 28.15 ms โ no change โ > โ QQuery 38 โ 26.77 ms โ 28.11 ms โ 1.05x slower โ > โ QQuery 39 โ 27.37 ms โ 27.82 ms โ no change โ > โ QQuery 40 โ 26.76 ms โ 28.66 ms โ 1.07x slower โ > โ QQuery 41 โ 26.32 ms โ 27.33 ms โ no change โ > โ QQuery 42 โ 26.42 ms โ 27.77 ms โ 1.05x slower โ > โโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ > > โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ > โ Benchmark Summary โ โ > โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ > โ Total Time (merge-base) โ 48386.94ms โ > โ Total Time (test_pushdown) โ 46934.08ms โ > โ Average Time (merge-base) โ 1152.07ms โ > โ Average Time (test_pushdown) โ 1117.48ms โ > โ Queries Faster โ 9 โ > โ Queries Slower โ 4 โ > โ Queries with No Change โ 29 โ > โ Queries with Failure โ 1 โ > โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ > ``` Good news! -- This is an automated message from the Apache Git Service. To respond to the message, please log on to GitHub and use the URL above to go to the specific comment. To unsubscribe, e-mail: github-unsubscr...@datafusion.apache.org For queries about this service, please contact Infrastructure at: us...@infra.apache.org --------------------------------------------------------------------- To unsubscribe, e-mail: github-unsubscr...@datafusion.apache.org For additional commands, e-mail: github-h...@datafusion.apache.org