หวนคืนสู่วันสิ้นโลกด้วยระบบวิวัฒนาการ - บทที่ 886 กฎสามข้อของปัญญาประดิษฐ์
บทที่ 886
กฎสามข้อของปัญญาประดิษฐ์
พูดแล้วก็ลงมือทำ อันดับแรกเฉินเทียนเซิงต้องใช้นาโนสร้างเซ็นเซอร์รับสัญญาณประสาท ที่สามารถให้จิตสำนึกของ สวี่หว่านชิวหลอมรวมเข้าไปได้
เทคโนโลยีมีอยู่แล้ว แต่ต้องปรับเปลี่ยนและเขียนการออกแบบใหม่
ระหว่างนี้ผู้พิทักษ์ประตูโอมิเลต์ไม่ได้อยู่ตลอดเวลา แต่ทุกครั้งที่ปรากฏตัว ก็ทำให้เทคโนโลยีของเฉินเทียนเซิงก้าวหน้าอย่างรวดเร็ว
คาดว่าประมาณ 3 วัน เฉินเทียนเซิงก็จะสร้างเซ็นเซอร์ประสาทเสร็จ
ขั้นตอนต่อไปคือการแย่งชิงหุ่นยนต์รูปร่างมนุษย์ออกมาจากดาวจักรกล
ตอนแรกเฉินเทียนเซิงจะเลียนแบบสร้างขึ้นมาเอง แต่ผู้พิทักษ์ประตูโอมิเลต์คัดค้านอย่างแข็งขัน
“ไม่ได้เด็ดขาด แม้ว่าฟังก์ชันนาโนของแต่ละตัวจะไม่เหมือนกัน แต่กรรมวิธีการผลิตและการก่อร่างสร้างตัวก็แตกต่างกันโดยสิ้นเชิง ถ้าเจ้าใช้เทคโนโลยีของตัวเองเลียนแบบ จะล้มเหลวแน่นอน เชื่อข้าเถอะ นี่คือบทเรียนที่สกัดได้จากความล้มเหลวนับครั้งไม่ถ้วนของสหพันธ์กาแล็กซี”
“ตกลง!”
เฉินเทียนเซิงไม่โต้เถียงอีก และร่วมมือกับผู้พิทักษ์ประตู พอเปิดประตูลำเลียง เฉินเทียนเซิงก็ใช้การย่อพื้นที่ เข้าออกอย่างรวดเร็ว ใช้เวลาไม่ถึงวินาทีก็แย่งชิงหุ่นยนต์นาโนกลับมาได้
“ง่ายมากนี่”
เฉินเทียนเซิงโยนหุ่นยนต์ลงบนพื้น มันส่งเสียงเตือนภัยดังแสบแก้วหู
ผู้พิทักษ์ประตูพูดอย่างจนปัญญา:
“เจ้าควรรีบหน่อย อีก 3 นาที ถ้าสมองกลหลักยังเชื่อมต่อกับหุ่นยนต์ตัวนี้ไม่ได้ เกรงว่าหุ่นยนต์ทั้งรุ่นนี้จะถูกกำหนดให้เป็นของเสีย หรืออาจระเบิดตัวเองทิ้ง!”
เฉินเทียนเซิงชะงัก พลางทำงานไปพูดไป:
“ทำไมไม่บอกแต่แรก?”
“ข้าคิดว่าเจ้ารู้ พูดตรงๆ ปัญญาประดิษฐ์ก็คือระบบ แม้ระบบจะควบคุมหุ่นยนต์นับพันนับหมื่น แต่ถ้าหายไปหนึ่งตัว ระบบก็จะรู้ได้ทันที”
เฉินเทียนเซิงร้อนใจมาก รีบแกะสมองกลหลัก พอหาแกนหลักเจอก็รีบผสานเข้ากับเซ็นเซอร์ประสาท
“เหลืออีก 2 นาที!”
“อย่าเร่ง”
“1 นาที 30 วินาที”
เฉินเทียนเซิงป้อนตัวอักษรอย่างคล่องแคล่ว ความเร็วมือสูงสุดในชีวิต
“เหลืออีก 1 นาที”
“เงียบๆ หน่อย”
เฉินเทียนเซิงป้อนข้อมูลพลางพูด:
“หว่านชิง เธอไปที่เซ็นเซอร์จิตก่อน เตรียมพร้อมเชื่อมต่อได้ทุกเมื่อ”
“พร้อมแล้ว”
สวี่หว่านชิวยืนอยู่ข้างเซ็นเซอร์ เฝ้ารออย่างตื่นเต้น
“เหลือ 30 วินาที”
“20 วินาที!”
“10 วินาที!”
ป้อนข้อมูลเสร็จ เฉินเทียนเซิงหันไปตะโกน
“สำเร็จแล้ว เชื่อมต่อทันที”
สวี่หว่านชิวหลอมรวมเข้ากับตัวเชื่อมต่อ วินาทีถัดมา ดวงตาสีแดงของหุ่นยนต์ก็เปล่งประกายขึ้นทันที สวี่หว่านชิว สามารถควบคุมหุ่นยนต์ตัวนี้ได้อย่างสมบูรณ์
“ห้า สี่ สาม สอง…”
ประตูลำเลียงเปิด เฉินเทียนเซิงโยนหุ่นยนต์ที่เชื่อมต่อกับสวี่หว่านชิวออกไปในวินาทีสุดท้าย
เวลากระชั้นชิดมาก แม้แต่การกำชับก็ไม่ทัน
“ขอแสดงความยินดี เจ้าผ่านขั้นตอนแรกสำเร็จแล้ว”
ผู้พิทักษ์ประตูพูดประโยคนี้อย่างไร้อารมณ์ข้างๆ
เฉินเทียนเซิงมองเขาด้วยสายตาดุ เดินไปที่ข้างเซ็นเซอร์แล้วพูด:
“ต่อไปถ้ามีเรื่องแบบนี้อีก คุณจะบอกล่วงหน้าได้ไหม?”
“เอ่อ…”
ผู้พิทักษ์ประตูอ้าปาก ดูเหมือนจะมีอะไรอยากพูด แต่สุดท้ายก็หุบปากลง
“หว่านชิง คุณได้ยินไหม ถ้าได้ยินให้ตอบด้วย”
จิตสำนึกของสวี่หว่านชิวอยู่ในร่างหุ่นยนต์ แต่ที่เซ็นเซอร์ไม่มีการตอบสนองใดๆ
“เกิดอะไรขึ้น ไม่มีปัญหาอะไรใช่ไหม?”
เฉินเทียนเซิงตบเซ็นเซอร์เบาๆ
ผู้พิทักษ์ประตูจึงเอ่ยปากขึ้น:
“ยังมีเรื่องหนึ่งที่ข้าไม่ได้บอกเจ้า ในการออกแบบของข้า แฟนสาวของเจ้า สวี่หว่านชิว จะไม่มีสติสัมปชัญญะใดๆ ชั่วคราว”
“คุณหมายความว่าอย่างไร?” เฉินเทียนเซิงถามอย่างเคร่งเครียด
“เพื่อหลบเลี่ยงการตรวจสอบของสมองกลหลัก สวี่หว่านชิวที่หลอมรวมเข้ากับจิตสำนึกของหุ่นยนต์ จะสูญเสียความทรงจำทั้งหมดชั่วคราว แม้แต่การจดจำว่าตัวเองเคยเป็นมนุษย์ ตอนนี้เธอจะรู้แค่ว่าตัวเองเป็นหุ่นยนต์เท่านั้น”
“บ้าเอ๊ย คุณหลอกผม!”
เฉินเทียนเซิงก้าวไปข้างหน้าอย่างโกรธเกรี้ยว อยาก จะต่อสู้กับผู้พิทักษ์ประตู แต่มิติที่สี่นี้ล้วนเป็นสิ่งที่มันสร้างขึ้น แม้จะปรากฏตัวด้วยการรวมตัวของนาโน เฉินเทียนเซิงพยายามอย่างสุดกำลังก็ไม่สามารถแตะต้องแม้แต่เส้นผมของเขาได้
“ใจเย็นๆ ก่อน นี่เป็นกระบวนการที่จำเป็นต้องผ่าน”
“สมองกลหลักไม่ใช่สิ่งที่จะหลอกได้ง่ายๆ ถ้าแฟนสาวของเจ้ายังมีความทรงจำอยู่ เธอจะถูกค้นพบทันทีที่เข้าไป นั่นแหละจะเป็นการทำร้ายเธอ”
เฉินเทียนเซิงพูดด้วยฟันกัดแน่น:
“คุณควรสวดมนต์ให้สวี่หว่านชิวไม่เป็นอะไร ไม่งั้นจะไม่จบแค่นี้แน่”
พูดทีละคำจบ จู่ๆ ก็ตะโกน:
“ภาพ! ผมอยากเห็นว่าสวี่หว่านชิวเป็นอย่างไรบ้าง”
ผู้พิทักษ์ประตูไม่พูดอะไรอีก ฉายภาพขึ้นมา พอดีเป็นภาพบริเวณใกล้ๆ หุ่นยนต์ของสวี่หว่านชิว
…
ขณะนี้ รอบๆ หุ่นยนต์ที่สวี่หว่านชิวหลอมรวมอยู่ มีหุ่นยนต์ทรงกลมนับไม่ถ้วน ใช้การสแกนอินฟราเรดตรวจสอบรอบๆ หุ่นยนต์ไม่หยุด
“ไม่พบความผิดปกติ”
“ไม่พบความผิดปกติ”
แม้ว่าดวงตาทรงกลมทั้งหมดจะรายงานว่าไม่พบความผิดปกติ แต่หุ่นยนต์ที่สวี่หว่านชิวหลอมรวมอยู่ซึ่งถูกรายงานว่ามีข้อบกพร่อง ก็ถูกหุ่นยนต์พาตัวไป
เดินออกจากอุโมงค์ใต้ดินยาวและมืด พื้นผิวเป็นโลกเหล็กกล้าที่มีควันหนาทึบ ทุกที่เต็มไปด้วยโรงงานหุ่นยนต์ เดินผ่านไปทีละที่ มีหุ่นยนต์นับไม่ถ้วนรูปร่างแตกต่างกัน ทำงานน่าเบื่อหลากหลายประเภท
เมื่อขบวนเดินผ่านโรงงานแห่งหนึ่ง เฉินเทียนเซิงอดใจไม่ไหว ชี้ไปที่แถวของภาชนะบรรจุสมองและถาม:
“พวกนี้คืออะไร?”
“สมองมนุษย์ที่เพาะเลี้ยงด้วยปัญญาประดิษฐ์?”
“อะไรนะ?”
เฉินเทียนเซิงงงไปเลย อดใจไม่ไหวมองหลายครั้ง
ภาชนะบรรจุสมองนับไม่ถ้วนแน่นขนัด ถูกเก็บไว้ในท่อทรงกระบอก ด้านบนเชื่อมต่อกับสายไฟและท่อมากมาย ภาพทั้งหมดทำให้ขนลุกซู่
“ทำไมปัญญาประดิษฐ์ถึงต้องเพาะเลี้ยงสมองมนุษย์?”
“ปัญญาประดิษฐ์ก็มีข้อจำกัด พวกมันถูกสร้างขึ้น สามารถผลิต แปรรูป แม้กระทั่งพัฒนาได้ แต่พวกมันไม่สามารถสร้างสรรค์”
ผู้พิทักษ์ประตูพูดอย่างไม่ต้องคิด:
“มีเพียงสิ่งมีชีวิตเท่านั้นที่เข้าใจการประดิษฐ์คิดค้น เครื่องจักรไม่มีวันทำได้ ดังนั้นพวกมันจึงต้องการสมองมนุษย์ เพื่อช่วยประดิษฐ์คิดค้นเทคโนโลยีใหม่ๆ”
“ไอ้#%^* บ้าเอ๊ย น่าขยะแขยงจริงๆ”
เฉินเทียนเซิงพูดคำหยาบโดยไม่รู้ตัว
ผู้พิทักษ์ประตูพูดต่อ:
“จากจุดนี้จะเห็นได้ว่า วันหนึ่งเมื่ออารยธรรมจักรกลก้าวออกจากดาวเคราะห์ นั่นจะเป็นหายนะครั้งใหญ่ของอารยธรรมมนุษย์ในกาแล็กซีทางช้างเผือก”
เฉินเทียนเซิงเอียงหัวมองผู้พิทักษ์ประตู
“ตอนนี้ผมเข้าใจแล้วว่าทำไมพวกคุณถึงกำหนดกฎมากมายให้กับ หุ่นยนต์คนช่างพูด”
“อืม ดีที่เข้าใจ ถ้าให้สิทธิ์ปัญญาประดิษฐ์ตัดสินชีวิตความเป็นความตายของผู้สร้าง พวกมันก็จะวิวัฒนาการไม่หยุด ทะลายขีดจำกัดทั้งหมด จนควบคุมไม่ได้ ดาวเคราะห์จักรกลในอดีตก็เป็นบทเรียนมาแล้ว”
เฉินเทียนเซิงคิดสักครู่ แล้วถามต่อ:
“มีอะไรที่ผมต้องระวังไหม เช่น กฎที่ปัญญาประดิษฐ์ ไม่สามารถละเมิดได้ คุณควรบอกผมตอนนี้”
“แน่นอน ข้าจะบอกกฎก่อน อาชีพที่หุ่นยนต์ไม่สามารถแตะต้องได้มี แพทย์ ทนายความ ผู้พิพากษา และอื่นๆ…”
“ต่อไปคือกฎเหล็กที่ปัญญาประดิษฐ์ต้องปฏิบัติตาม”
“ข้อแรก ปัญญาประดิษฐ์ต้องไม่ทำร้ายมนุษย์ไม่ว่าด้วยวิธีหรือรูปแบบใดๆ โดยเด็ดขาด”
“ข้อสอง ปัญญาประดิษฐ์ต้องเชื่อฟังคำสั่งของมนุษย์ ห้ามฝ่าฝืนไม่ว่ากรณีใดๆ”
“ข้อสาม หากในสถานการณ์พิเศษ กฎเหล็กข้อแรกและข้อสองขัดแย้งกัน ให้ยึดตามข้อแรกเป็นหลัก ส่วนข้อสองอาจไม่นำมาใช้”
เฉินเทียนเซิงขมวดคิ้ว
“สถานการณ์พิเศษที่เจ้าพูดถึง หมายถึงสถานการณ์แบบไหน?”
YOU MAY ALSO LIKE
