บนคลัสเตอร์ MapR 4.0.1, Revolution R mapreduce งานอาจล้มเหลว ด้วยข้อผิดพลาด:
2015-02-13 08:00:37, org.apache.hadoop.mapred.TaskAttemptListenerImpl FATAL [IPC เซิร์ฟเวอร์ตัวจัดการ 2 บน 52243] 657: งาน: attempt_1423734868663_0289_m_000000_0 - จบการทำงาน: java.io.IOException: R VM จบการทำงานกับรหัสจบการทำงาน: 1 ผลผลิต:
เริ่มการทำงานของสคริปต์
[1] เป็นจริง
$fileName
[1] NA
$start
[1] 0
$length
[1] 0
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/library/RevoScaleR/rxLibs/x64/libExaCore.so.2(_Z21CriticalSignalHandleri+0x1e)[0x7fe02d3d423e]
/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.71.x86_64/jre/lib/amd64/server/libjvm.so(+0x7e2628)[0x7fe0282f8628]
/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.71.x86_64/jre/lib/amd64/server/libjvm.so(JVM_handle_linux_signal+0x95)[0x7fe0282fea55]
/lib64/libpthread.so.0[0x30cec0f710]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/library/RevoScaleR/rxLibs/x64/libExaCore.so.2(_ZNK10CxAnalysis19HaveWriteDataSourceEv+0x0)[0x7fe02acbc280]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/library/RevoScaleR/rxLibs/x64/libExaCore.so.2(_ZN10CxAnalysis18GetWriteDataSourceEv+0x9)[0x7fe02acbcb49]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/library/RevoScaleR/rxLibs/x64/libRxLink.so.2(_Z19RxComputeHadoopTaskR11RListObjectR11RxAllocator+0x3b3)[0x7fe02e2a5d23]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/library/RevoScaleR/rxLibs/x64/libRxLink.so.2(_Z10RxUtilBaseP7SEXPREC+0x6db)[0x7fe02e2b2fab]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/library/RevoScaleR/rxLibs/x64/libRxLink.so.2(RxUtil+0x34)[0x7fe02e2b3f14]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/lib/libR.so(+0x9f36b)[0x7fe04083536b]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/lib/libR.so(Rf_eval+0x871)[0x7fe04086be91]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/lib/libR.so(Rf_ReplIteration+0x212)[0x7fe0408946a2]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/lib/libR.so(+0xfea59)[0x7fe040894a59]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/lib/libR.so(run_Rmainloop+0x44)[0x7fe040894f64]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/bin/exec/R(main+0x1b)[0x40084b]
/lib64/libc.so.6(__libc_start_main+0xfd)[0x30ce41ed5d]
/usr/lib64/Revo-7.3/R-3.1.1/lib64/R/bin/exec/R[0x400739]
การแบ่งเซกเมนต์ที่บกพร่อง
ใน com.revolutionanalytics.scaleR.hadoop.Rscript.waitFor(Rscript.java:103)
ใน com.revolutionanalytics.scaleR.hadoop.Rscript.run(Rscript.java:59)
ใน com.revolutionanalytics.scaleR.hadoop.RDelegatingMapper.run(RDelegatingMapper.java:73)
ที่ org.apache.hadoop.mapred.MapTask.runNewMapper (MapTask.java:773)
ที่ org.apache.hadoop.mapred.MapTask.run (MapTask.java:345)
ที่ org.apache.hadoop.mapred.YarnChild$2.run (YarnChild.java:167)
ใน java.security.AccessController.doPrivileged (วิธีดั้งเดิม)
ใน javax.security.auth.Subject.doAs(Subject.java:415)
ใน org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1469)
ที่ org.apache.hadoop.mapred.YarnChild.main (YarnChild.java:162)
บนแพลตฟอร์ม MapR 4.0.1 นี่คือเนื่องจากการกำหนดค่าสภาพแวดล้อมองค์กร R Revolution ใช้ไลบรารีของ libhdfs.so ไม่ถูกต้อง
เมื่อต้องการหลีกเลี่ยงปัญหา ยืนยันขั้นตอนหลังการติดตั้งการตั้งค่าคอนฟิกต่อไปนี้มีการดำเนินการสำหรับ Revolution R 7.3 บนคลัสเตอร์ MapR 4.0.1:
บนโหนดไลบรา "ไคลเอนต์" สร้างไดเรกทอรีระบบแฟ้มดั้งเดิมที่ใช้ร่วมกันสำหรับผู้ใช้แต่ละ:
1. /var/RevoShare/mapr -p mkdir sudo
3. chmod 777 /var/RevoShare/mapr
4. เพิ่ม /usr/lib64/Revo-7.3/scripts/RevoHadoopEnvVars.site ถึง /home/mapr/.bash_profile
บนโหนทุกผู้ปฏิบัติงาน ทำการเปลี่ยนแปลงต่อไปนี้:
# cp scaleR-hadoop-0.1-SNAPSHOT.jar /opt/mapr/hadoop/hadoop-2.4.1/share/hadoop/common/lib/ # ln -s /opt/mapr/hadoop/hadoop-0.20.2/c++/Linux-amd64-64/lib/libhdfs.so /usr/lib64
# mv /opt/mapr/hadoop/hadoop-2.4.1/lib/native/libhdfs.so /opt/mapr/hadoop/hadoop-2.4.1/lib/native/libhdfs.so.save
ติดตั้ง Revolution R สร้างการเชื่อมโยงไป scaleR-hadoop-0.1-SNAPSHOT.jar โดยอัตโนมัติใน $HADOOP_HOME/lib อย่างไรก็ตาม นี่คือไดเรกทอรีไม่ถูกต้อง (จุดบกพร่องได้ถูกรายงาน) และควรถูกเชื่อมโยง หรือ /opt/mapr/hadoop/hadoop-2.4.1/share/hadoop/common/lib/ การคัดลอกแฟ้ม
/Opt/mapr/hadoop/hadoop-0.20.2/c++/Linux-amd64-64/lib/libhdfs.so ใน /usr/lib64 การเชื่อมโยงเพื่อให้แน่ใจว่า จะพบ libhdfs.so ที่เหมาะสม โดย Revolution R. ขั้นตอนสามจำเป็นต้องย้าย libhdfs.so ปัญหาออกไป
