Here is the work track: 172.100.8.2600:01:40:01:32:d110000020小时1分43秒172.100.8.3300:01:40:01:34:a6200152152020小时1分49秒172.100.8.3700:01:40:01:34:a81001680020小时1分52秒172.100.8.5800:01:40:01:34:f5100840020小时1分53秒172.100.8.7900:01:40:01:2a:2420000020小时1分53秒172.100.8.8100:01:40:01:1c:0c10016884020小时1分53秒172.100.8.8200:01:40:01:37:35100228152020小时1分51秒172.100.8.8300:01:40:01:0d:5420000020小时1分53秒172.100.8.8400:e1:40:00:01:6e20000020小时1分53秒172.100.8.8500:01:40:01:35:22200228228020小时1分49秒172.100.8.8600:e1:40:00:01:70100480312020小时1分53秒172.100.8.8700:01:40:01:34:0f1001680020小时1分52秒172.100.8.10100:01:40:01:34:a5100564320020小时1分52秒172.100.8.10200:01:40:01:33:f020000020小时1分42秒172.100.8.10300:01:40:01:22:58100252168020小时1分53秒172.100.8.10500:01:40:01:1c:cc20000020小时1分53秒172.100.8.11400:01:40:01:35:20200228152020小时1分49秒172.100.8.15600:01:40:01:1c:b420032884020小时1分53秒172.100.8.15700:01:40:01:09:a810000020小时1分53秒172.100.8.15800:01:40:01:1b:7c20016884020小时1分53秒172.100.8.16700:01:40:01:34:0d10025284020小时1分52秒172.100.8.20284:8e:0c:2b:dc:fc30013.86MB320.52MB41小时46分10秒172.100.8.222d0:22:be:53:fe:4b446099KB9.99MB154.34MB43小时17分0秒172.100.9.318:dc:56:7c:14:4d160054.91MB1.93GB414小时13分36秒172.100.9.4000:01:40:01:32:e020000020小时1分44秒172.100.9.4100:01:40:01:38:8e20000020小时1分35秒172.100.9.4200:01:40:01:38:291001680020小时1分52秒172.100.9.4300:01:40:01:34:cc1005040020小时1分44秒172.100.9.4400:01:40:01:36:202005040020小时1分36秒172.100.9.4500:01:40:01:32:7f10000020小时1分42秒172.100.9.4600:01:40:01:32:7e10000020小时1分43秒172.100.9.4700:01:40:01:35:1c20000020小时1分44秒172.100.9.4800:01:40:01:34:f11001KB0020小时1分44秒172.100.9.4900:01:40:01:32:3b20000020小时1分52秒172.100.9.5000:01:40:01:35:122001KB0020小时1分42秒172.100.9.5100:01:40:01:35:8820000020小时1分44秒172.100.9.5200:01:40:01:35:991005040020小时1分40秒172.100.9.5300:e1:40:12:00:73200840020小时1分53秒172.100.9.5400:01:40:01:36:2210010080020小时1分44秒172.100.9.5600:01:40:01:37:7a100304304020小时1分52秒172.100.9.5700:01:40:01:2f:8920000020小时1分49秒172.100.9.5800:01:40:01:32:9b2005040020小时1分44秒172.100.9.5900:01:40:01:36:211005040020小时1分44秒172.100.9.6100:01:40:01:3b:be20000020小时1分43秒172.100.9.6200:01:40:01:30:fe20000020小时1分43秒172.100.9.6300:01:40:01:35:1010000020小时1分44秒172.100.9.6400:01:40:01:32:8210000020小时1分37秒172.100.9.6500:01:40:01:34:cf20000020小时1分44秒172.100.9.6600:01:40:01:36:1e2001KB0020小时1分42秒172.100.9.6700:01:40:01:32:d510000020小时1分44秒172.100.9.6800:01:40:01:32:9720010080020小时1分44秒172.100.9.6900:01:40:01:35:3310000020小时1分42秒172.100.9.7000:01:40:01:35:962001KB0020小时1分44秒172.100.9.7100:01:40:01:32:9910000020小时1分42秒172.100.9.7200:01:40:01:36:2e10000020小时1分44秒172.100.9.7300:01:40:01:35:9b28406720020小时1分44秒172.100.9.7400:01:40:01:34:f010000020小时1分39秒172.100.9.7500:01:40:01:35:0f10000020小时1分43秒172.100.9.7600:01:40:01:33:1410000020小时1分39秒172.100.9.7700:01:40:01:31:5c10000020小时1分43秒172.100.9.7800:01:40:01:35:8910000020小时1分43秒172.100.9.7900:01:40:01:38:8a10025284020小时1分52秒172.100.9.8000:01:40:01:32:7d10000020小时1分44秒172.100.9.8100:01:40:01:32:0210000020小时1分44秒172.100.9.8200:01:40:01:34:ee10010080020小时1分43秒172.100.9.8300:01:40:01:30:2b1005040020小时1分41秒172.100.9.8500:01:40:01:32:6510000020小时1分45秒172.100.9.8600:01:40:01:32:41100760020小时1分52秒172.100.9.8700:01:40:01:36:271001KB0020小时1分45秒172.100.9.8800:01:40:01:32:042005040020小时1分38秒172.100.9.8900:01:40:01:30:f02005040020小时1分44秒172.100.9.9000:01:40:01:35:0220000020小时1分44秒172.100.9.9100:01:40:01:34:a4100572244020小时1分52秒172.100.9.9300:01:40:01:35:1320000020小时1分43秒172.100.9.9400:01:40:01:36:1c2005040020小时1分43秒172.100.9.9500:01:40:01:33:1810000020小时1分32秒172.100.9.9600:01:40:01:35:942005040020小时1分44秒172.100.9.9700:01:40:01:30:f310010080020小时1分44秒172.100.9.9800:01:40:01:31:d81005040020小时1分44秒172.100.9.9900:01:40:01:35:0010000020小时1分44秒172.100.9.10100:01:40:01:34:ed2005040020小时1分44秒172.100.9.10200:01:40:01:34:aa20000020小时1分44秒172.100.9.10300:01:40:01:35:821005040020小时1分42秒172.100.9.10400:01:40:01:36:2d2005040020小时1分41秒172.100.9.10500:01:40:01:35:9320010080020小时1分43秒172.100.9.10600:01:40:01:35:7e1001KB0020小时1分44秒172.100.9.10700:01:40:01:39:c020010080020小时1分44秒172.100.9.10800:01:40:01:35:7f2001KB0020小时1分43秒172.100.9.10900:01:40:01:34:211001KB0020小时1分42秒172.100.9.11000:01:40:01:32:7220000020小时1分43秒172.100.9.11100:01:40:01:31:e530010080020小时1分41秒172.100.9.11200:01:40:01:32:5920000020小时1分44秒172.100.9.11300:01:40:01:36:242005040020小时1分43秒172.100.9.11400:01:40:01:35:8620000020小时1分44秒172.100.9.11500:01:40:01:35:0b30010080020小时1分41秒172.100.9.11600:01:40:01:34:cb20000020小时1分42秒172.100.9.11700:01:40:01:32:d610000020小时1分42秒172.100.9.11800:01:40:01:34:ac2005040020小时1分38秒172.100.9.11900:01:40:01:35:071005040020小时1分44秒172.100.9.12000:01:40:01:33:0e20000020小时1分39秒172.100.9.12100:01:40:01:34:f810000020小时1分44秒172.100.9.12200:01:40:01:35:9820000020小时1分41秒172.100.9.12300:01:40:01:35:1710000020小时1分39秒172.100.9.12400:01:40:01:30:0010000020小时1分44秒172.100.9.12500:01:40:01:35:7628401680020小时1分43秒172.100.9.12600:01:40:01:35:3020000020小时1分45秒172.100.9.12700:01:40:01:32:e220000020小时1分44秒172.100.9.12800:01:40:01:33:1d20000020小时1分44秒172.100.9.12900:01:40:01:32:5b20000020小时1分44秒172.100.9.13000:01:40:01:32:062001KB0020小时1分44秒172.100.9.13100:01:40:01:32:0d10000020小时1分44秒172.100.9.13200:01:40:01:35:842004200020小时1分44秒172.100.9.13300:01:40:01:35:5020010080020小时1分43秒172.100.9.13400:01:40:01:35:951005040020小时1分43秒172.100.9.13500:01:40:01:32:0920000020小时1分44秒172.100.9.13600:01:40:01:32:9f20000020小时1分44秒172.100.9.13700:01:40:01:30:e610000020小时1分38秒172.100.9.13800:01:40:01:32:8610000020小时1分43秒172.100.9.13900:01:40:01:32:7310000020小时1分40秒172.100.9.14000:01:40:01:31:0e20000020小时1分44秒172.100.9.14100:01:40:01:32:702005040020小时1分43秒172.100.9.14200:01:40:01:37:2620010080020小时1分44秒172.100.9.14300:01:40:01:35:2c20000020小时1分22秒172.100.9.14400:01:40:01:32:8110000020小时1分44秒172.100.9.14500:01:40:01:32:0f20010080020小时1分41秒172.100.9.14600:01:40:01:32:7510000020小时1分41秒172.100.9.14700:01:40:01:32:0e1001KB0020小时1分44秒172.100.9.14800:01:40:01:32:0b2004200020小时1分45秒172.100.9.14900:01:40:01:39:1810000020小时1分42秒172.100.9.15000:01:40:01:38:a4100472228020小时1分52秒172.100.10.255fc:e9:98:8d:8c:5e2003.60MB123.48MB443分42秒172.100.11.20c:1d:af:d9:9b:4f3002KB3KB448秒172.100.11.450:f5:20:cb:2c:1940085157143分39秒172.100.11.68c:34:fd:24:d5:ce70052KB206KB415分59秒172.100.11.7f8:df:a8:6b:60:bf200785KB2.17MB41小时19分23秒172.100.11.848:13:f3:41:23:6a1700369KB441KB01小时18分16秒172.100.11.1330:9b:ad:48:00:692900863.67MB467.33MB458分0秒172.100.11.17e0:19:1d:2a:ad:7c2700832KB1.16MB01小时7分54秒172.100.11.1808:fc:88:0a:29:9440017KB34KB435分24秒172.100.11.1998:f1:70:0e:dc:a81000109KB89KB020分45秒172.100.11.21dc:37:14:0a:60:ce0000001分37秒172.100.11.2244:d4:e0:d6:1a:3545601KB1.79MB10.59MB41小时3分23秒172.100.11.2454:72:4f:5d:1b:a920000016秒172.100.11.2518:59:36:69:dc:ec249803.52MB6.41MB055分19秒172.100.11.269c:20:7b:0a:2d:0110037220842分3秒172.100.11.27e4:12:1d:73:1a:89120602864KB4.71MB050分24秒172.100.11.289c:c1:72:4a:39:1c50039126441分30秒172.100.11.29c0:f2:fb:97:29:e70000001分31秒172.100.11.34a8:66:7f:61:c2:3b400735KB1.16MB017分16秒172.100.11.3568:df:dd:8d:c6:dc12026802KB1.26MB045分37秒172.100.11.3798:d6:bb:4f:9b:11200201KB1.10MB420分42秒172.100.11.3934:31:11:93:89:b4276444457KB1.22MB442分19秒172.100.11.4180:be:05:0a:c2:152002.33MB36.89MB435分51秒172.100.11.4224:09:95:ef:ac:d251046870KB77KB024分50秒172.100.11.4554:ae:27:87:ec:38220KB948KB665KB29.3MB437秒172.100.11.4688:63:df:51:ef:cb4001.88MB32.71MB426分24秒172.100.11.4860:92:17:8d:48:8558502093.27MB20.10MB820分12秒172.100.11.495c:0a:5b:b8:9a:7f1100144KB482KB431分51秒172.100.11.50f8:01:13:f1:c3:178009KB6KB03分14秒172.100.11.5530:c7:ae:b5:4b:90140261.41MB34.66MB424分15秒172.100.11.56b8:b4:2e:a9:f3:391568331.93MB37.25MB415分21秒172.100.11.572c:28:2d:76:ca:dd800157KB149KB014分34秒172.100.11.5800:ee:bd:88:0f:0e1200764KB4.39MB013分47秒172.100.11.59e0:19:1d:2c:c2:b76009959410秒172.100.11.61f0:27:65:1e:bd:bd130073KB65KB010分35秒172.100.11.6218:dc:56:7c:36:87112KB1KB75KB41KB09分30秒172.100.11.6300:00:00:00:00:0070001KB03分0秒172.100.11.642c:28:2d:a8:00:259300343KB3.56MB05分13秒172.100.11.6518:59:36:8e:30:a12632261.66MB1.70MB02分45秒172.100.11.87a8:26:d9:1f:d5:8b3009KB10KB07分40秒172.100.11.8914:99:e2:4c:24:25300400KB18.74MB43分12秒172.100.11.9064:9a:be:66:16:cf100114KB622KB414分7秒172.100.11.912c:f0:ee:cb:6f:ac0000002分50秒172.100.11.952c:28:2d:19:b0:6f5001.12MB697KB02小时54分20秒172.100.11.9658:1f:28:49:a0:093002KB1KB010分52秒172.100.11.9928:cc:01:50:47:c3400076449分32秒172.100.11.1020c:30:21:f0:d7:6f0000003分20秒172.100.11.104f0:dc:e2:23:2c:691000363KB11.1MB43分4秒172.100.11.1068c:0e:e3:d0:04:bb1800284KB6.87MB413分52秒172.100.11.10784:db:ac:84:68:4c110053229201分35秒172.100.11.10814:f6:5a:b5:8e:f93006.99MB117.90MB41小时12分11秒172.100.11.1108c:34:fd:36:b1:ed50047KB293KB44分38秒172.100.11.11190:fd:61:3c:b5:0900000031秒172.100.11.113c8:6f:1d:76:51:ec000579KB16.82MB411分49秒172.100.11.114ec:cb:30:c5:11:3550038KB321KB41分49秒172.100.11.116f0:6b:ca:35:2d:818200621KB438KB01小时43分21秒172.100.11.117dc:37:14:6e:09:01300107KB630KB411分17秒172.100.11.12090:8d:6c:b0:07:4f1007KB4KB039分0秒172.100.11.12164:a3:cb:e2:14:7d0000002分0秒172.100.11.122b8:5e:7b:6b:1b:b018026387KB1.21MB01小时41分48秒172.100.11.124f0:f6:1c:4f:d1:7c130099KB3.88MB448秒172.100.11.12698:fa:e3:d0:a8:3340017KB35KB45分0秒172.100.11.12748:74:6e:19:ac:47649201.75MB4.58MB08分43秒172.100.11.128b8:78:2e:b9:9e:d12006.47MB184.43MB41小时16分40秒172.100.11.1306c:5f:1c:5e:7d:e76001KB80104分4秒172.100.11.13118:26:66:af:76:2510030173KB982KB432分36秒172.100.11.13684:38:38:06:d7:16600290KB495KB01小时2分32秒172.100.11.138e0:19:1d:d5:f3:1c213820505KB177KB01小时18分36秒172.100.11.13970:72:3c:70:54:91400871KB6.21MB41小时41分11秒172.100.11.14040:0e:85:73:e3:351658581.24MB6.21MB41小时44分2秒172.100.11.14298:d6:bb:dc:47:5c00032KB68KB46分9秒172.100.11.14300:f7:6f:bc:0a:8020000017秒172.100.11.1445c:f8:a1:e7:eb:cb7002KB68105分2秒172.100.11.14504:48:9a:a7:4c:6d00027216401分11秒172.100.11.14728:ba:b5:72:ac:7f3005KB3KB010分13秒172.100.11.148bc:72:b1:28:6d:6a2001023348035秒172.100.11.15034:0a:ff:9a:d9:a840010KB7KB042分10秒172.100.11.1535c:96:9d:d3:b4:422000002分11秒172.100.11.15424:24:0e:bc:6b:5e80055KB1.14MB45分34秒172.100.11.15538:bc:1a:12:4b:47632642187.43MB1.47MB02小时4分41秒172.100.11.1565c:f8:a1:d2:3a:6222002.33MB35.80MB42小时4分37秒172.100.11.157d0:22:be:98:36:f71500588KB5.19MB41小时29分56秒172.100.11.1594c:7c:5f:1f:44:af20003KB022秒172.100.11.1601c:1a:c0:41:8a:d600090KB699KB47分26秒172.100.11.161c4:6a:b7:bc:5d:be1402019.29MB4.17MB42小时0分39秒172.100.11.16438:aa:3c:e2:63:0a1107050112KB05分47秒172.100.11.16558:55:ca:e4:f7:fe2310429280KB730KB41分19秒172.100.11.166e0:19:1d:42:1d:3990012.53MB411.33MB434分6秒172.100.11.16788:cb:87:4d:60:0310018KB85KB041分42秒172.100.11.1700c:1d:af:f5:29:d83002KB1KB42分2秒172.100.11.17148:6b:2c:95:d5:6220024KB42KB024分3秒172.100.11.17284:85:06:7d:3b:43113532125KB6KB47秒172.100.11.17388:32:9b:aa:28:8d600131KB117KB01小时39分44秒172.100.11.17424:69:a5:93:cf:bb206202KB01分16秒172.100.11.17618:f6:43:e3:a2:3f60013.42MB1.20MB050分54秒172.100.11.17860:fa:cd:30:cc:cc000103KB252KB48分8秒172.100.11.18054:e4:3a:13:37:321005KB4KB42分50秒172.100.11.18288:32:9b:b7:09:d6500118KB471KB057分45秒172.100.11.18454:ea:a8:94:01:52200601KB1003KB416分45秒172.100.11.185a8:8e:24:65:40:2c1007KB17KB41分10秒172.100.11.186b0:e0:3c:5d:61:6a1800467KB2.23MB41小时52分9秒172.100.11.18880:41:4e:ca:cd:8f700591KB1.47MB41小时19分47秒172.100.11.18934:e2:fd:6f:12:160000001分0秒172.100.11.190e0:19:1d:3e:06:28300808KB17.83MB412分37秒172.100.11.1919c:f3:87:32:40:ab1600170KB470KB04分32秒172.100.11.1930c:1d:af:f4:f4:9e11001.83MB14.24MB42小时15分45秒172.100.11.19574:51:ba:bb:49:49150032KB69KB453秒172.100.11.20134:e2:fd:70:b3:33400189KB3.13MB45分18秒172.100.11.203ac:f7:f3:1c:22:431400971KB1.99MB42小时10分12秒172.100.11.20474:51:ba:d7:ff:7e1300127.57MB10.10MB42小时10分16秒172.100.11.20568:df:dd:96:c1:6615001.13MB1.37MB42小时9分44秒172.100.11.20618:dc:56:cc:75:06191550692KB1.20MB045分9秒172.100.11.20800:0c:e7:02:46:583014001.46MB1.78MB01小时21分37秒172.100.11.209d8:b3:77:3e:90:381002609202分48秒172.100.11.21428:e3:1f:b2:2c:8d2620521.99MB1.91MB01小时52分27秒172.100.11.21520:54:76:83:27:f59003.49MB45.49MB446分59秒172.100.11.216c4:05:28:07:77:6b287KB337KB13.36MB386.45MB41小时55分56秒172.100.11.21868:df:dd:eb:ac:de800186KB1.23MB416分1秒172.100.11.22098:fa:e3:cf:a9:4b900134KB136KB429分53秒172.100.11.22120:08:ed:d1:3e:ad2933842218.81MB586.56MB42小时50分20秒172.100.11.22234:23:ba:a9:75:a18005KB1KB02分50秒172.100.11.224bc:4c:c4:9b:f0:562002KB3KB440秒172.100.11.225f0:72:8c:2e:8f:ae2000347KB265KB042分25秒172.100.11.229d0:22:be:95:c8:9916001016KB5.26MB43小时1分43秒172.100.11.23098:ff:d0:0e:c6:5c90018KB5KB02分19秒172.100.11.232d0:2d:b3:90:e0:543539040842.35MB433.94MB03小时37分49秒172.100.11.23368:df:dd:27:36:9781KB79KB2.72MB171.63MB41小时9分24秒172.100.11.23400:08:22:66:77:e38001.31MB12.56MB437分20秒172.100.11.237a0:f4:50:d0:55:b24003KB1KB415分6秒172.100.11.238b8:98:f7:98:c7:c713001.34MB9.80MB41小时12分51秒172.100.11.240ac:f7:f3:87:73:b630023212841分22秒172.100.11.242a4:3d:78:a2:6e:66683044KB1.31MB47.90MB424分59秒172.100.11.243b8:b4:2e:d7:20:78241KB8813.28MB34.26MB42小时49分33秒172.100.11.24600:06:68:c4:10:802900499KB202KB01小时14分5秒172.100.11.24880:be:05:03:82:162002.22MB21.63MB41小时23分35秒172.100.11.25080:71:7a:95:48:a210000364021秒
2015-03-26 23:01 GMT+08:00 Michael Armbrust <mich...@databricks.com>: > I would suggest looking for errors in the logs of your executors. > > On Thu, Mar 26, 2015 at 3:20 AM, 李铖 <lidali...@gmail.com> wrote: > >> Again,when I do larger file Spark-sql query, error occured.Anyone have >> got fix it .Please help me. >> Here is the track. >> >> org.apache.spark.shuffle.MetadataFetchFailedException: Missing an output >> location for shuffle 0 >> at >> org.apache.spark.MapOutputTracker$$anonfun$org$apache$spark$MapOutputTracker$$convertMapStatuses$1.apply(MapOutputTracker.scala:386) >> at >> org.apache.spark.MapOutputTracker$$anonfun$org$apache$spark$MapOutputTracker$$convertMapStatuses$1.apply(MapOutputTracker.scala:383) >> at >> scala.collection.TraversableLike$$anonfun$map$1.apply(TraversableLike.scala:244) >> at >> scala.collection.TraversableLike$$anonfun$map$1.apply(TraversableLike.scala:244) >> at >> scala.collection.IndexedSeqOptimized$class.foreach(IndexedSeqOptimized.scala:33) >> at scala.collection.mutable.ArrayOps$ofRef.foreach(ArrayOps.scala:108) >> at scala.collection.TraversableLike$class.map(TraversableLike.scala:244) >> at scala.collection.mutable.ArrayOps$ofRef.map(ArrayOps.scala:108) >> at >> org.apache.spark.MapOutputTracker$.org$apache$spark$MapOutputTracker$$convertMapStatuses(MapOutputTracker.scala:382) >> at >> org.apache.spark.MapOutputTracker.getServerStatuses(MapOutputTracker.scala:178) >> at >> org.apache.spark.shuffle.hash.BlockStoreShuffleFetcher$.fetch(BlockStoreShuffleFetcher.scala:42) >> at >> org.apache.spark.shuffle.hash.HashShuffleReader.read(HashShuffleReader.scala:40) >> at org.apache.spark.rdd.ShuffledRDD.compute(ShuffledRDD.scala:92) >> at org.apache.spark.rdd.RDD.computeOrReadCheckpoint(RDD.scala:263) >> at org.apache.spark.rdd.RDD.iterator(RDD.scala:230) >> at org.apache.spark.rdd.MappedRDD.compute(MappedRDD.scala:31) >> at org.apache.spark.rdd.RDD.computeOrReadCheckpoint(RDD.scala:263) >> at org.apache.spark.rdd.RDD.iterator(RDD.scala:230) >> at >> org.apache.spark.rdd.MapPartitionsRDD.compute(MapPartitionsRDD.scala:35) >> at org.apache.spark.sql.SchemaRDD.compute(SchemaRDD.scala:120) >> at org.apache.spark.rdd.RDD.computeOrReadCheckpoint(RDD.scala:263) >> at org.apache.spark.rdd.RDD.iterator(RDD.scala:230) >> at org.apache.spark.rdd.MappedRDD.compute(MappedRDD.scala:31) >> at org.apache.spark.rdd.RDD.computeOrReadCheckpoint(RDD.scala:263) >> at org.apache.spark.rdd.RDD.iterator(RDD.scala:230) >> at >> org.apache.spark.rdd.MapPartitionsRDD.compute(MapPartitionsRDD.scala:35) >> at org.apache.spark.rdd.RDD.computeOrReadCheckpoint(RDD.scala:263) >> at org.apache.spark.rdd.RDD.iterator(RDD.scala:230) >> at >> org.apache.spark.api.python.PythonRDD$WriterThread$$anonfun$run$1.apply$mcV$sp(PythonRDD.scala:242) >> at >> org.apache.spark.api.python.PythonRDD$WriterThread$$anonfun$run$1.apply(PythonRDD.scala:204) >> at >> org.apache.spark.api.python.PythonRDD$WriterThread$$anonfun$run$1.apply(PythonRDD.scala:204) >> at org.apache.spark.util.Utils$.logUncaughtExceptions(Utils.scala:1460) >> at >> org.apache.spark.api.python.PythonRDD$WriterThread.run(PythonRDD.scala:203) >> >> ) >> >> >
