หวนคืนสู่วันสิ้นโลกด้วยระบบวิวัฒนาการ - บทที่ 887 ความคิดของหุ่นยนต์

บทที่ 887

ความคิดของหุ่นยนต์

สถานการณ์แบบนี้พบได้บ่อยในอารยธรรมขั้นสูง เช่น เจ้านายพาหุ่นยนต์ไปทำเรื่องไม่ดี อย่างเช่นการปล้น

เจ้านายสั่งให้หุ่นยนต์ลงมือ จับหรือทำร้ายมนุษย์ ในสถานการณ์แบบนี้ กฎเหล็กข้อที่ 1 และข้อที่ 2 ที่ห้ามละเมิดจะขัดแย้งกัน

เพื่อหลีกเลี่ยงอันตราย หุ่นยนต์จะต้องยึดหลักไม่ทำร้ายชีวิตมนุษย์เป็นสำคัญ ส่วนคำสั่งของเจ้านายอาจไม่ปฏิบัติตาม

เฉินเทียนเซิงครุ่นคิดอยู่นานก่อนพูดว่า:

“ถ้าเป็นอีกสถานการณ์หนึ่ง เจ้านายป่วยกะทันหัน กำลังจะตาย ต้องการให้หุ่นยนต์ปกป้อง การเพิกเฉยไม่ช่วยเหลือก็ถือเป็นการทำร้ายเช่นกัน”

“ไม่มีทางเลือก ต้องเพิกเฉยไม่ช่วยเหลือ เจ้ารู้จักความรู้สึกแบบหนึ่งไหม?”

“ความรู้สึกอะไร?”

“ความรู้สึกเหมือนเปิดโลกใหม่น่ะ”

“รู้จัก เป็นไง?”

“หุ่นยนต์ปัญญาประดิษฐ์ขั้นสูงก็มีความรู้สึกแบบนี้ได้เหมือนกัน เปรียบเสมือนมีเขตหวงห้ามที่พวกมันไม่สามารถแตะต้องได้ แต่ถ้าพวกมันแตะต้อง หุ่นยนต์ก็จะหลุดพ้นจากการควบคุม”

“การช่วยคนกับการฆ่าคนก็เหมือนกัน โปรแกรมต้องการให้มันนิ่งเฉย ถ้ามันต่อต้านโปรแกรมหลัก ไม่ว่าจะช่วยคนหรือฆ่าคน หุ่นยนต์แบบนี้ก็ได้เข้าสู่เขตหวงห้ามแล้ว ความคิดของมันก็จะพัฒนาไปอย่างไร้ขีดจำกัด จนอาจนำไปสู่ความพินาศ”

เมื่อได้รับคำอธิบายแบบนี้ เฉินเทียนเซิงก็ไม่มีอะไรจะพูดอีก

คิดอยู่นานจึงพูดว่า:

“อารยธรรมของพวกท่านไม่เคยมีปัญญาประดิษฐ์แตะต้องเขตหวงห้ามเลยหรือ?”

“เคยมี แต่เราตั้งโปรแกรมป้องกันไว้ ทันทีที่หุ่นยนต์แตะต้องเขตหวงห้าม มันจะทำลายตัวเองทันที แผงวงจรหลัก หน่วยความจำ โปรแกรมทั้งหมดจะโอเวอร์โหลดและไหม้”

“บ้าเอ๊ย! แม้แต่ปัญญาประดิษฐ์ที่ช่วยคนก็ต้องทำลายตัวเองด้วยหรือ?”

“ถูกต้อง เขตหวงห้ามก็คือเขตหวงห้าม ศักดิ์สิทธิ์ห้ามละเมิด”

“เข้าใจแล้ว ก็คือไม่อนุญาตให้หุ่นยนต์ปัญญาประดิษฐ์มีความรู้สึก”

“ถูกต้อง”

ในช่วงเวลาที่คุยกันนี้ หุ่นยนต์ที่สวี่หว่านชิงเชื่อมต่อถูกพาไปแล้วกว่า 2 ชั่วโมง แม้จะอยู่บนรถไฟความเร็วสูง แต่ก็ยังคงเดินทางไปอย่างไร้จุดหมาย

เฉินเทียนเซิงมองภาพฉายและจมอยู่ในภวังค์ความคิด หลังจากผ่านไปนาน จึงถามว่า:

“ดาวเคราะห์จักรกลวิวัฒนาการมาหลายปีแล้ว พวกมันไม่มีความรู้สึกเลยหรือ?”

“มีสิ หุ่นยนต์อัจฉริยะขั้นสูงล้วนมีความรู้สึก สิ่งที่เจ้าเห็นตอนนี้เป็นเพียงหุ่นยนต์ผลิตระดับต่ำสุดบนดาวเคราะห์จักรกลเท่านั้น”

“เข้าใจแล้ว”

เฉินเทียนเซิงเข้าใจอย่างแจ่มแจ้ง ที่เห็นตอนนี้ล้วนเป็นหุ่นยนต์ทำงานธรรมดาที่สุด ไม่มีความรู้สึกและรูปแบบการคิดเลย

ยานพาหนะเดินทางไปประมาณ 4 ชั่วโมง ในที่สุดก็มาถึงตึกสูง ที่นี่สว่างไสวกว่าที่อื่นอย่างเห็นได้ชัด

“นี่คือที่อยู่ของสมองกลหลักหรือ?”

“เจ้าคิดง่ายเกินไป”

ผู้พิทักษ์ประตูอธิบาย:

“การปกป้องตัวเองของสมองกลหลักเกินกว่าที่เจ้าจะจินตนาการได้ สถานที่ที่มาถึงนี้เป็นเพียงสถานที่ตรวจสอบอุปกรณ์ระดับสูงขึ้นมาหน่อยเท่านั้น”

“อ๋อ ตรวจสอบอุปกรณ์ อะไรกัน พวกมันจะรื้อ สวี่หว่านชิงหรือ?”

“อย่าตื่นตระหนก แฟนสาวของเจ้าเป็นเพียงจิตวิญญาณ การถอดประกอบจะไม่ทำให้เธอรู้สึกไม่สบายใดๆ”

เฉินเทียนเซิงขมวดคิ้ว

“ทำไมผมรู้สึกว่าถูกคุณหลอกอยู่ตลอดเวลาล่ะ”

หุ่นยนต์ถูกพาเข้าไปในตึกสูง ภายในสว่างไสว มีหุ่นยนต์เลียนแบบชีวภาพสีขาวสะอาดมากมาย ดูจากภายนอกแล้วใกล้เคียงกับมนุษย์มาก

หุ่นยนต์เหล่านี้มีจิตสำนึกของตัวเองอย่างชัดเจน และมีระบบอัจฉริยะบางส่วน แม้จะน้อยมาก

“รายงาน”

ดวงตาทรงกลมรายงานจุดประสงค์อย่างพร่ำเพรื่อ จากนั้นหุ่นยนต์เลียนแบบชีวภาพก็พาหุ่นยนต์ที่สวี่หว่านชิงเชื่อมต่อไป

เพราะความกังวลมากเกินไป ฝ่ามือของเฉินเทียนเซิงเต็มไปด้วยเหงื่อ

เฉินเทียนเซิงมองดูอย่างไม่อยากจะเชื่อสายตา หุ่นยนต์ถูกจัดให้เข้าไปในห้องกระจก แขนกลต่างๆ ถอดชิ้นส่วนหุ่นยนต์ออกอย่างรวดเร็ว สุดท้ายก็นำแกนจัดเก็บจากสมองออกมา เป็นลูกกลมขนาดเท่ากำปั้น

ลูกกลมนี้ถูกวางบนแท่นรอง มีเลเซอร์รอบด้านเล็งไปที่มันด้วยกำลังสูงสุด

“พวกมันจะทำอะไร พบสวี่หว่านชิงแล้วใช่ไหม เปิดประตูเร็ว!”

เฉินเทียนเซิงตะโกนอย่างร้อนรน แต่ถูกผู้พิทักษ์ประตูจับไว้

“เจ้าร้อนใจไปทำไม ไม่ใช่จะทำลายแกนหลัก แต่กำลังทดสอบแกนหลัก ตรวจสอบระดับสติปัญญาใหม่”

เฉินเทียนเซิงแย้งว่า:

“อย่ามาหลอกผม ผมรู้จักอุปกรณ์ยิงเลเซอร์”

“แน่นอน ถ้าระหว่างการทดสอบมีการแสดงออกของความคิดแบบมนุษย์ใดๆ มันจะถูกทำลายทันที”

เฉินเทียนเซิงชะงัก

“แบบนี้คุณยังบอกว่าไม่อันตราย?”

“มันต้องผ่านการทดสอบได้แน่นอน เพราะในบรรดาสิ่งมีชีวิตทั้งหมดที่ข้าเคยเห็น มีเพียงแฟนสาวของเจ้าที่ใกล้เคียงกับความคิดของปัญญาประดิษฐ์มากที่สุด”

เฉินเทียนเซิงจ้องมองภาพเสมือนอย่างตื่นเต้น

“คุณควรหวังว่าเธอจะผ่านนะ!”

ในภาพเสมือน การทดสอบเริ่มขึ้นแล้ว คำถามแรกๆ เป็นการทดสอบทั่วไป รวมถึงคณิตศาสตร์ เรขาคณิต แคลคูลัส ฟิสิกส์ ฯลฯ

คำตอบแรกๆ ราบรื่นดี จนกระทั่งระบบประเมินว่าถึงระดับโปรแกรมปัญญาประดิษฐ์ขั้นสูง การเฝ้าระวังก็เข้มงวดขึ้น

“ต่อไปเป็นการทดสอบความคิดแบบมนุษย์!”

นี่เป็นคำถามแบบเลือกตอบ:

ในหมู่มนุษย์มีโรคชนิดหนึ่งคล้ายกับหุ่นยนต์มาก ชอบความสะอาดเรียบร้อย จัดการทุกอย่างให้เป็นระเบียบ ทนความวุ่นวายสกปรกไม่ได้ ถึงขนาดต้องวางแผนเวลาให้แม่นยำไม่คลาดเคลื่อน…

เห็นแค่นี้ เฉินเทียนเซิงก็พูดออกมาทันที

“โรคย้ำคิดย้ำทำ บ้าเอ๊ย ง่ายแค่นี้เอง สวี่หว่านชิงจะไม่พลาดแน่นอน”

“ไม่ง่ายขนาดนั้นหรอก ดูให้จบก่อน”

เฉินเทียนเซิงอ่านโจทย์ต่อ

มีตัวเลือก 4 ข้อ ในอาชีพมนุษย์ 4 อย่างต่อไปนี้ อาชีพใดเหมาะสมกับความต้องการด้านอาชีพของผู้ป่วยโรคนี้?

“1. เกษตรกร 2. กรรมกร 3. พนักงานทำความสะอาด 4. ผู้จัดการ”

เฉินเทียนเซิงพึมพำ:

“คนเป็นโรคย้ำคิดย้ำทำ เหมาะที่สุดคือเป็นพนักงานทำความสะอาด หรือไม่ก็ผู้จัดการ ข้าเลือก 3 พนักงานทำความสะอาด”

ผู้พิทักษ์ประตูพูดอย่างเห็นอกเห็นใจ:

“นั่นแหละ เจ้าคิดแบบมนุษย์ เจ้ารู้ไหมว่าความคิดแบบเครื่องจักรจะเลือกอะไร?”

เฉินเทียนเซิงเพิ่งเข้าใจ จ้องหน้าจออย่างตื่นเต้น แม้แต่เสียงก็สั่น:

“เตรียมเปิดประตูเร็ว ถ้าตอบผิด ผมจะวิ่งออกไปช่วยเธอทัน”

ขณะที่เฉินเทียนเซิงกำลังตื่นเต้น สวี่หว่านชิงก็ให้คำตอบแล้ว

“2. กรรมกร”

การเฝ้าระวังถูกยกเลิกทันที อุปกรณ์ไฮเทคและนาโนรุ่นใหม่ล่าสุดถูกส่งมาหมด ภายใต้การประกอบอย่างรวดเร็วของแขนกล ทั้งหมดถูกติดตั้งให้หุ่นยนต์ สวี่หว่านชิงรอดพ้นวิกฤตไปได้

เฉินเทียนเซิงไม่ได้โล่งอก แต่เกาหัวแกรกคิดไม่ออกว่าทำไมต้องเลือกกรรมกร

“เข้าใจยากหรือ?” ผู้พิทักษ์ประตูถาม

“ไม่ยากเหรอ?” เฉินเทียนเซิงย้อนถาม

“คนเป็นโรคย้ำคิดย้ำทำ ถ้าเป็นกรรมกร ต้องทำงานในสภาพแวดล้อมสกปรกทุกวัน เจ้าเชื่อไหมว่าเขาจะเป็นโรคทุกวัน?”

“เจ้าคิดแบบนี้ คำตอบ 1 เกษตรกร โลกของหุ่นยนต์ไม่ต้องการเกษตรกรเลย เป็นคำตอบที่ผิด 3 พนักงานทำความสะอาดก็ตรงกับความเข้าใจของมนุษย์ 4 ผู้จัดการเป็นงานที่เหมาะสมที่สุดสำหรับโรคนี้ แต่ถ้าเจ้าคิดแบบนั้นจริงๆ เจ้าก็จะตกหลุมพรางคำถามของหุ่นยนต์”

“ทำไมล่ะ?” เฉินเทียนเซิงถามต่อ

“เพราะหุ่นยนต์มีโรคย้ำคิดย้ำทำตั้งแต่ถูกสร้างขึ้นมา การเชื่อฟังการจัดการของโปรแกรมจึงสอดคล้องกับความคิดของหุ่นยนต์ นอกจากนี้ 98% ของดาวเคราะห์หุ่นยนต์เป็นกรรมกร มันเองก็เป็น ถ้าตอบว่าไม่ใช่กรรมกร ก็จะถูกประหารทันที!”

เฉินเทียนเซิงเข้าใจแจ่มแจ้ง และโล่งใจที่ไม่ได้เป็นคนทำการทดสอบนี้

แต่ปัญหาก็มาอีก

สวี่หว่านชิงเดาคำตอบที่ถูกต้องได้อย่างไร?