Scholar’s Advanced Technological System ระบบปั้นอัจฉริยะ - ตอนที่ 1563 พลังที่จำกัด

เทลพาลิลลีออกไป

ลิลลีไม่อยากจะกล่าวคำอำลา

ไม่ใช่เพราะบ้านหลังใหญ่ของลู่โจว แต่เพราะเธอจะคิดถึงเสี่ยวไอที่เล่นเกมกับเธอบ่อยๆ

แต่เมื่อเสี่ยวไอบอกเธอว่าพวกเขาสามารถพบกันในเกมได้ทุกเมื่อ เด็กหญิงตัวเล็กๆ ก็หัวเราะออกมาอีกครั้งและกลับไปกับเทลอย่างมีความสุข

เมื่อจากไปลู่โจวให้เครดิตกับเทลเป็นจำนวนมากและขอให้เธอดูแลเด็กผู้หญิงที่น่าสงสารคนนี้ให้ดี

หลังจากที่กลับมาจินหลิงได้สองวัน

หลี่กวงหยาโทรหาเขาอย่างที่ลู่โจวคาดไว้ไม่มีผิด และทันทีที่เขาทักทายเขาหลี่กวงหยาก็มีปัญหา

“สหพันธ์พาน-เอเชียนกำลังพิจารณาแก้ไขร่างกฎหมายการจัดการปัญญาประดิษฐ์ที่มีอยู่ ผมหวังว่าจะสามารถยืมภูมิปัญญาของคุณได้”

“ไม่จำเป็นต้องสุภาพมากขนาดนั้นหรอกครับ บอกมาเลยว่าคุณต้องการอะไร”

หลี่กวงหยาที่ยืนอยู่ตรงลำแสงโฮโลแกรมตกตะลึงเล็กน้อย จากนั้นเขาก็พูดด้วยรอยยิ้มว่า “นักวิชาการลู่ คุณรู้จักผมดีเกินไปแล้วนะครับ”

“มันก็บ่งบอกอยู่บนหน้าคุณไงล่ะ” ลู่โจวส่ายหัวและพูดว่า “แต่ครั้งนี้เพียงครั้งเดียวเท่านั้นนะ คราวหน้าอย่ามายุ่งกับผมแบบนี้อีก ผมยังมีธุระของตัวเองที่ต้องจัดการด้วย”

“ผมรู้ ผมสัญญาว่าจะไม่ทำแบบนี้แล้ว” หลี่กวงหยายิ้มอย่างไม่เชื่อสายตา หลังจากหยุดไปชั่วครู่เขาก็พูดต่อ “พูดถึงเรื่องนี้ มีสิ่งหนึ่งที่ผมอยากจะถามคุณมาตลอด”

“อะไรครับ”

“อันที่จริงตอนที่ผมอยู่ที่สิงคโปร์ ผมได้พบกับนักฆ่าที่ถูกปลุกให้ตื่น”

“เหรอ” ลู่โจวมองไปที่หลี่กวงหยาอย่างไม่คาดคิด เขาไม่เข้าใจว่าทำไมเขาถึงบอกเรื่องนี้กับตน เขาจึงเลิกคิ้วถามว่า “แล้วไงครับ”

หลี่กวงหยา “เขาเกือบจะทำสำเร็จ แต่ดันเกิดอุบัติเหตุในนาทีสุดท้าย หลังจากการชันสูตรพลิกศพพบว่าการตายของเขาเป็นผลมาจากเนื้อร้ายในสมอง”

ลู่โจวยิ้ม

“ดูเหมือนว่าผมจะมาทันเวลานะ”

ช่างเป็นผู้ชายที่โชคดีจริงๆ

ถ้าฉันมาสายหนึ่งวัน เขาคงอยู่ต่ำกว่าหกฟุต

“ผมคงต้องขอบคุณคุณเรื่องนี้ แม้ว่าผมจะอยากจะขอบคุณคุณอย่างจริงจังกว่านี้ แต่ผมเดาว่าคุณคงไม่สนใจเกี่ยวกับรายละเอียดปลีกย่อยพวกนั้นหรอก”

ลู่โจว “ไม่ ผมสนใจเรื่องนี้จริงๆ ถ้าเป็นไปได้ ผมหวังว่าคุณจะสามารถเก็บมันไว้ในฐานะหนี้บุญคุณก็แล้วกัน”

คิ้วของหลี่กวงหยากระตุก เขาไอแห้งๆ แล้วพูดว่า “อย่ากังวลไปเลย ผมไม่ลืมหรอก แต่ว่าตอนนี้เรามาลงลึกที่ธุระของเรากันเถอะ”

หลังจากหยุดชั่วคราว ประธานก็แสดงสีหน้าเคร่งขรึมและมองลู่โจวอย่างจริงจัง

“สิ่งที่ผมอยากจะถามคือหุ่นยนต์ที่ถูกปลุกให้มีชีวิตเป็นแบบไหนกัน พวกเขามีความคล้ายคลึงกับเรามากจนแทบแยกไม่ออก ผมไม่อยากจะเชื่อเลยว่าหุ่นยนต์จะแทรกซึมเข้าไปในทีมเจ้าหน้าที่ของผมเป็นเวลาสองปีเต็ม!”

ลู่โจวให้คำตอบหลังจากครุ่นคิดอยู่ครู่หนึ่ง

“ร่างกาย เลือดเนื้อที่ถูกครอบงำด้วยปัญญาประดิษฐ์ ผมคิดว่านิติเวชที่รับผิดชอบการชันสูตรพลิกศพจะรู้เกี่ยวกับโครงสร้างทางสรีรวิทยาของพวกเขามากกว่าผม”

“ผมไม่สนใจเกี่ยวกับปัญหาทางวิชาการแบบนั้น ผมแค่อยากรู้ว่าพวกเขามีความคิดที่แท้จริงและมีบุคลิกที่สมบูรณ์หรือเปล่า ซึ่งมันสำคัญมาก!”

ลู่โจวมองหลี่กวงหยาด้วยสีหน้าแปลกๆ เขาคิดอยู่ครู่หนึ่งแล้วพูดว่า “มีความคิดและบุคลิกที่แท้จริงหรือไม่อย่างนั้นเหรอ คำถามนี้ตอบยากนะ เพราะโดยส่วนใหญ่แล้วความคิดและบุคลิกภาพมักเป็นเรื่องส่วนตัว จากความเข้าใจของผม พวกเขาอาจมีความสามารถในการคิดจำกัดและความรู้สึกที่กระจัดกระจาย”

หลี่กวงหยาขมวดคิ้วและพูดว่า “ความรู้สึกกระจัดกระจายเหรอครับ”

“ใช่” ลู่โจวพยักหน้าและพูดต่อ “ตัวอย่างเช่น หุ่นยนต์ที่ถูกปลุกให้ตื่นโดยไวรัสอัลฟ่า โปรแกรมหลักของพวกเขาถูกติดตั้งให้เกลียดชังและฆ่า และแม่บ้านอีกคนที่ผมรู้จักที่ตื่นขึ้นโดยธรรมชาติมีโปรแกรมหลักที่ถูกติดตั้งให้มีความรักใคร่ในครอบครัวและเป็นมิตร”

“สาเหตุที่ความรู้สึกกระจัดกระจายก็คือพวกเขาอาจไม่รู้ว่าตนเองคืออะไร แต่ในการรับรู้ที่คลุมเครือ พวกเขามีแรงจูงใจส่วนตัวบางอย่างนอกเหนือจากคำสั่ง”

หลี่กวงหยาพูดด้วยสีหน้าจริงจัง “กล่าวอีกนัยหนึ่ง นี่เป็นปัจจัยที่ไม่แน่นอนอย่างนั้นเหรอ”

“ถ้าคุณเป็นนักเรียนของผม ผมจะไล่คุณออกจากชั้นเรียน” ลู่โจวกลอกตาและพูดต่อ “ความสัมพันธ์นี้อาจเลวร้ายลงจริงๆ เหมือนกับเด็กที่มีจิตใจไม่ปกติ ถูกโยนเข้ากลุ่มอันธพาล คุณไม่สามารถคาดหวังให้เขากลายเป็นคนที่มีประโยชน์ต่อสังคมภายใต้อิทธิพลของกลุ่มอันธพาลได้”

“แต่ในอีกมุมมองหนึ่ง สังคมของเรานั้นยุติธรรมและมีตัวอย่างเพียงพอ สัดส่วนของผู้ที่มีจิตใจดีในสังคมของเราต้องเป็นคนหมู่มาก และด้วยเหตุผลเดียวกัน คนส่วนใหญ่ที่ตื่นขึ้นจะต้องเป็นหุ่นยนต์อัจฉริยะที่มีเจตนาดีและเป็นประโยชน์ต่อสังคมของเราด้วย และเมื่อเศษของความรู้สึกได้รับการปรับปรุงอย่างต่อเนื่องและในที่สุดก็พัฒนาจนกลายเป็นปริศนาที่สมบูรณ์ ผมเชื่อว่าเมล็ดที่งอกจะทำให้เราประหลาดใจอย่างไม่คาดคิด”

“ดังนั้นความกังวลของคุณจึงไม่จำเป็นจริงๆ” ลู่โจวกล่าวอย่างนุ่มนวล เมื่อมองไปที่หลี่กวงหยาที่กำลังครุ่นคิดอยู่ลึกๆ เขาก็กล่าวเสริมว่า “ไม่ช้าก็เร็ว พวกเขาจะกลายเป็นส่วนหนึ่งในสังคมที่เราแยกไม่ออก เราแค่ต้องเตรียมพร้อมและยอมรับเมื่อถึงคราวจำเป็น”

หลี่กวงหยา “อันที่จริงในตอนแรกผมยังมีคำถามสำคัญจะถามคุณ แต่หลังจากได้ยินสิ่งที่คุณพูด ผมก็พบคำตอบแล้ว”

คำถามสำคัญคือจะจัดการกับ 1,024 คนที่อัปโหลดไปยังฮาร์ดแวร์อย่างไร

นี่คือคำถามหลักที่เขาต้องการถามกับผู้เชี่ยวชาญในวันนี้

แต่ตอนนี้เขาได้คิดหาวิธีที่ดีในการจัดการกับมันแล้ว

แม้ว่านี่จะเป็นกับดักทางศีลธรรมที่เดวิด ลอว์เรนซ์วางไว้สำหรับพวกเขาก็ตาม แต่ก็อาจเป็นโอกาสที่พวกเขาสามารถคว้าไว้ได้

“จริงเหรอ ดูเหมือนว่าคุณมีแผนของตัวเองอยู่แล้ว ผมจะวางสายก่อนนะ”

ลู่โจวที่ไม่ต้องการปัญหาอีกต่อไป ขณะที่เขากำลังจะวางสาย หลี่กวงหยาก็ขัดขึ้นมาอย่างรวดเร็ว

“เดี๋ยวก่อน ”

ลู่โจวกล่าว “ว่าไง”

หลี่กวงหยายิ้มอย่างเขินอายและพูด “คุณยังไม่ได้ตอบคำถามแรกของผม… เกี่ยวกับกฎหมายการจัดการปัญญาประดิษฐ์ฉบับใหม่ ผมต้องการทราบข้อเสนอแนะของคุณ!”

“คำแนะนำของผมเหรอ อันที่จริงผมไม่มีคำแนะนำอะไรทั้งนั้น แต่ถ้าจะต้องแนะนำจริงๆ ละก็ คุณสามารถลองพิจารณาให้สัญชาติที่จำกัดแก่ปัญญาประดิษฐ์ขั้นสูงที่มีความสามารถในการคิดและรู้สึกได้”

ผู้ที่มีความสามารถในการคิดสามารถมีบทบาทมากขึ้นในสังคมสหพันธ์พาน-เอเชีย เช่น การเป็นนักวิจัยทางวิทยาศาสตร์ ศิลปิน หรือทำงานที่ซับซ้อนอื่นๆ

ดังนั้นจึงไม่ใช่เรื่องเลวร้ายที่จะให้สิทธิขั้นพื้นฐานแก่พวกเขา

หลี่กวงหยาขมวดคิ้ว “แต่นี่มันโอเคเหรอ ผมกังวลว่าเมื่อสิ่งนี้ถูกเปิดเผย เราอาจเผชิญปัญหามากยิ่งขึ้นในอนาคต…”

“นั่นเป็นเหตุผลว่าทำไมมันถึงถูกจำกัดสัญชาติ” ลู่โจวถอนหายใจเบาๆ และพูดว่า “ถ้าคุณยังกังวลเกี่ยวกับปัญหาที่ผมอธิบายไว้ก่อนหน้านี้ การที่คุณโทรมาก็ไม่มีประโยชน์หรอก”

หลังจากพูดจบ ลู่โจวก็วางสายและไปลุยงานของตัวเองต่อ