Scholar’s Advanced Technological System ระบบปั้นอัจฉริยะ - ตอนที่ 1477 เมฆที่ปกคลุม

“ได้ยินข่าวหรือยัง?”

“ได้ยินอะไรเหรอ?”

“มีเสียงปืนดังที่ชานเมืองเขตไฮเทคจินหลิง มีคนเห็นตำรวจเยอะเลย…เห็นชัดๆ ว่ามันเกี่ยวข้องกับอาชญากรรมหุ่นยนต์บ้าคลั่งที่รายงานไปเมื่อคราวก่อน”

“จริงเหรอ? อย่าปล่อยข่าวลือเลยน่า ฉันได้ยินว่ามีคนกำลังถ่ายหนังที่นั่น… เรื่องนั้นไม่ได้หักล้างข่าวลือหรอกเหรอ?”

“โอ้ จริงเหรอ ฉันเพิ่งฟังมาจากคนอื่น… แต่นายคิดจริงๆ เหรอว่าหุ่นยนต์น่ะปลอดภัย? ครั้งหนึ่งพิพิธภัณฑ์สถาบันจินหลิงเพื่อการศึกษาขั้นสูงทำหุ่นยนต์หายไปตัวหนึ่ง เห็นชัดๆ เลยว่ามันแอบหนีออกไปเอง”

“บางทีมันอาจจะไปฉลองการฟื้นคืนชีพของนักวิชาการลู่หรือเปล่า? ยังไงก็แล้วแต่ กฎสามข้อของหุ่นยนต์นั้นละเมิดไม่ได้ ความแข็งแกร่งทางเทคนิคของฮิปโปแคมปัส กรุ๊ป ก็ค่อนข้างเข้มแข็งด้วย พวกเขาคงจะไม่มีช่องโหว่ที่ผิดกฎหมายในกลุ่มหุ่นยนต์ของพวกเขาหรอก… เอาล่ะ เปลี่ยนเรื่องกันเถอะ”

ที่บริเวณมหาวิทยาลัยจินหลิง ระหว่างที่เดินอยู่บนทางเดินที่มีต้นไม้อยู่ข้างทางเพื่อไปยังห้องเรียนเตรียมความพร้อม ลู่โจวก็อดไม่ได้ที่จะคิ้วกระตุกเมื่อเขาได้ยินการถกเถียงของนักศึกษาที่เดินอยู่ข้างหน้า เขาเร่งฝีเท้าให้เร็วขึ้นโดยไม่รู้ตัว

เขาไม่ต้องการจะฟังคนอื่นพูดถึงตัวเขาเอง เขาอยากจะหนีไปจากตรงนี้โดยเร็ว

อย่างไรก็ตามตอนที่เขาเดินผ่านนักศึกษาสองคน พวกเขากลับตกใจกลัวจนพูดไม่ออก

หลังจากมาถึงห้องเรียน ลู่โจวก็ชำเลืองมองไปยังเหล่านักศึกษาที่กระจัดกระจายกันอยู่ในห้องเรียน เขาสุ่มหาที่นั่งตรงแถวแรก

ประมาณห้าหรือหกนาทีต่อมา ออดห้องเรียนก็ดังขึ้น อาจารย์ซุนเดินเข้ามาจากนอกห้องเรียนอย่างเร่งรีบ

เมื่อเธอเห็นลู่โจวนั่งอยู่ที่แถวแรก หญิงสาวก็เบิกตากว้างทันที เธอตกตะลึงไปราวกับว่าเธอได้เห็นบางสิ่งที่พิเศษ

“ลู่-นักวิชาการลู่ สวัสดีค่ะ!”

“สวัสดีครับ” ลู่โจวยิ้มด้วยท่าทีที่เป็นมิตรระหว่างมองไปที่ซุนหลาน ผู้ซึ่งกำลังประหม่าในการพูดทักทายเขา “อย่าสนใจผมเลยครับ เริ่มสอนเถอะ”

“อ่า โอเคค่ะ โอเค!”

บางทีอาจเป็นเพราะว่าเธอไม่เคยคิดว่าวันหนึ่งเธอจะได้สอนนักวิชาการลู่ ระหว่างที่บรรยายอยู่อาจารย์ซุนรู้สึกประหม่ามาก เธอถึงกับเผลอกัดลิ้นตัวเองโดยไม่ได้ตั้งใจ

ลู่โจวค่อนข้างแปลกใจที่เธอสามารถทำให้ชั้นเรียนทฤษฎีที่น่าเบื่อขนาดนี้น่าสนใจขึ้นมาได้

แน่นอนว่าสิ่งที่ทำให้เขาแปลกใจมากที่สุดก็คือสิ่งต่างๆ ที่เขาได้เรียนในชั้นเรียน

อย่างเช่น เทคโนโลยีหุ่นยนต์ที่ส่งผลต่ออารยธรรมมนุษย์และสังคมทั้งหมดในศตวรรษที่ 22 และพวกปัญหาสังคมต่างๆ ที่เป็นสาเหตุที่ทำให้เกิดเทคโนโลยีนี้เป็นต้น

แม้ว่าลู่โจวเองจะให้ความสนใจกับสิ่งต่างๆ ในระดับเทคนิคมากกว่า แต่การอธิบายเทคโนโลยีนี้จากมุมมองของมนุษย์ก็ช่วยเปิดหูเปิดตาให้เขา

หลังจากหมดคาบ ลู่โจวใช้เวลา 10 วินาทีในการแยกปัญหาต่างๆ ที่เขาได้เรียนรู้ออกมา จากนั้นเขาก็ลุกขึ้นจากที่นั่งและเดินไปที่โพเดียม

“ผมขอถามคำถามได้ไหมครับ”

หญิงสาวที่ยืนอยู่หลังโพเดียมยืนตัวตรงโดยที่ยังตกอยู่ในภวังค์ราวกับว่าเธอได้ก่ออาชญากรรม เธอพูดอย่างประหม่าว่า “เชิญ… เชิญถามได้เลยค่ะ!”

“ไม่ต้องกังวลมากไปหรอกครับ ไม่ใช่คำถามส่วนตัว” ลู่โจวยิ้มให้อาจารย์ซุนที่มีท่าทีประหม่า แล้วเขาก็พูดต่อด้วยน้ำเสียงที่ใจเย็น “ผมสงสัยเกี่ยวกับเรื่องหุ่นยนต์ในบางที่… มีการพูดถึงในชั้นเรียนว่าในประวัติศาสตร์ของสหการพาน-เอเชียน มีการอภิปรายกันว่าหุ่นยนต์นั้นมีบุคลิกภาพโดยสมบูรณ์หรือไม่ ผมอยากจะรู้เหตุผลและผลลัพธ์สุดท้ายของการอภิปราย”

ซุนหลานถามว่า “คุณกำลังพูดถึง ‘มาตรการบริหารจัดการปัญญาประดิษฐ์’ ในปี 2077 หรือเปล่าคะ?”

ลู่โจวพยักหน้า ทำท่าบุ้ยใบ้ให้เธอพูดต่อ

“สาเหตุของการโต้เถียงนั้น… อันที่จริงมันไม่มีอะไรที่ซับซ้อนซ่อนเงื่อน เมื่อนานมาแล้วหลังจากการกำเนิดของมานุษยรูปนิยมระดับสูงและความสามารถในการเรียนรู้ที่เชี่ยวชาญ แวดวงวิชาการก็ได้ถกเถียงกันว่าอัลกอริทึมปัญญาประดิษฐ์ขั้นสูงมีบุคลิกภาพโดยสมบูรณ์หรือไม่ ความคิดเห็นส่วนหนึ่งบอกว่าปัญญาประดิษฐ์ที่ถูกออกแบบมาจากพื้นฐานของทฤษฎีการเรียนรู้ด้วยตัวเองของคอมพิวเตอร์เป็นแค่เพียงการเลียนแบบพฤติกรรมของมนุษย์ และอารมณ์ความรู้สึกที่มันแสดงออกเป็นแค่การแสดงการเลียนแบบ ความคิดเห็นฝั่งตรงข้ามก็คือบางคนคิดว่าปัญญาประดิษฐ์ขั้นสูงมีรูปแบบพื้นฐานของชีวิตอยู่แล้ว และมันควรจะถูกสร้างให้มีสิทธิมนุษยชนหรืออย่างน้อยสิทธิมนุษยชนที่จำกัด”

“เดิมแล้วการโต้เถียงนี้ยังอยู่ภายในแวดวงวิชาการ จนกระทั่งในปี 2076 คดีความได้ขยายความขัดแย้งจากในวงวิชาการไปสู่การโต้เถียงระดับชาติ จำเลยคือสำนักงานกิจการพลเรือน และเหตุผลของโจทก์ในการฟ้องร้องก็คือจำเลยไม่ได้รับอนุญาตให้ทำการจดทะเบียนกับหุ่นยนต์ของเขาให้สมบูรณ์ซึ่งเป็นการฝ่าฝืนเจตนารมณ์แห่งรัฐธรรมนูญ”

“สุดท้ายคดีนี้ก็ยุติลงในรูปแบบของการทำความตกลงนอกศาล จากนั้นจึงมีการออก ‘มาตรการบริหารจัดการปัญญาประดิษฐ์’ ในปีต่อมาและร่างสุดท้ายในปี 2078 ในที่สุดจึงได้มีการกำหนดให้ปัญญาประดิษฐ์ไม่มีสิทธิทางการเมืองและมีสิทธิมนุษยชนที่จำกัด ร่างกฎหมายนี้ยังถูกใช้เพื่อเป็นแหล่งอ้างอิงของประเทศอื่นๆ และได้กลายเป็นพื้นฐานของร่างกฎหมายการบริหารจัดการปัญญาประดิษฐ์ในปัจจุบันด้วย หลายๆ แนวคิดที่คนยุคใหม่คุ้นชิน ซึ่งรวมถึงเอกลักษณ์ของปัญญาประดิษฐ์ ได้ถูกกำหนดขึ้นในเวลานั้น”

“ในส่วนที่ว่าหุ่นยนต์มีชีวิตหรือไม่…” ขณะที่พิจารณาคำถามนี้อยู่สักพัก ซุนหลานก็ครุ่นคิดอยู่ครู่หนึ่ง แล้วเธอก็พูดพร้อมกับยิ้ม “เรื่องนี้พูดยากจริงๆ ค่ะ แม้ว่าเหตุผลจะบอกฉันว่าพวกมันเป็นแค่โปรแกรม แต่บางครั้งฉันก็จะปฏิบัติกับพวกมันเหมือนกับเป็นมนุษย์จริงๆ โดยไม่รู้ตัว”

“ผมเข้าใจ…” ลู่โจวพยักหน้าอย่างครุ่นคิด เขานึกถึงข้อมูลที่เก็บรวบรวมอยู่ในคอมพิวเตอร์โฮโลแกรมและถามต่อว่า “แต่ผมได้ยินว่าดูเหมือนจะมีวิธีที่จะเจลเบรคหุ่นยนต์และดัดแปลงตรรกะที่ซ่อนอยู่ของหุ่นยนต์”

“ตามหลักทฤษฎีแล้วนี่ก็เป็นปัญหา แต่ไม่ใช่ว่าตรรกะที่ซ่อนอยู่ทั้งหมดจะสามารถดัดแปลงได้” ซุนหลานพูดต่อไปว่า “ยกตัวอย่างเช่น พวกมันไม่สามารถทำร้ายมนุษย์ได้ สำหรับตรรกะการออกแบบของซอฟต์แวร์ความจำของหุ่นยนต์ พฤติกรรมแบบนี้ถูกตั้งค่ามาก่อนล่วงหน้าแล้ว”

“แล้วถ้ามันเป็นไวรัสล่ะ?”

“ไวรัสเหรอ?” ซุนหลานมองมาที่ลู่โจวด้วยใบหน้าที่เรียบเฉยและพูดว่า “เรื่องนี้อยู่เหนือขอบเขตความรู้ของฉันค่ะ งานวิจัยเรื่องปัญญาประดิษฐ์ของฉันส่วนมากอยู่ที่ระดับสังคมวิทยา ไวรัสที่สามารถเปลี่ยนตรรกะที่ซ่อนอยู่ของหุ่นยนต์… ฟังดูน่ากลัว มันเหมือนคนสำคัญของคุณได้กลายเป็นคนไม่น่าไว้ใจ”

ลู่โจวพูดว่า “มันดูน่ากลัวจริงๆ”

ซุนหลานพูดว่า “ถ้าคุณสนใจงานวิจัยในด้านนี้ ฉันขอแนะนำให้คุณไปคุยกับศาสตราจารย์จางจงเฉิงจากสถาบันวิศวกรรมสารสนเทศ เขาเป็นผู้เชี่ยวชาญด้านนี้ค่ะ”

“ถ้ามีโอกาส ผมจะติดต่อเขา” ลู่โจวพยักหน้าและพูดพร้อมกับยิ้ม “คำถามผมหมดแล้วครับ ขอบคุณสำหรับคำตอบ”

“ไม่ต้องขอบคุณฉันหรอกค่ะ นี่เป็นงานของฉันอยู่แล้ว” ซุนหลานยิ้มอย่างเขินอาย เธอพยายามจะเอาชนะความตึงเครียดและพูดอย่างอายๆ ว่า “เอ่อ… ฉันขอรบกวนอะไรคุณอย่างหนึ่งได้ไหมคะ?”

ลู่โจวพูด “อะไรเหรอครับ”

“คือว่าฉันขอเลี้ยงมื้อเที่ยงคุณได้ไหมคะ?” ความสนใจเปล่งประกายอยู่ในดวงตาของเธอ ซุนหลานพูดต่อว่า “ฉันมีหลายอย่างที่อยากจะถามคุณเกี่ยวกับยุคสมัยของคุณ… เรื่องนี้เกี่ยวกับงานวิจัยของฉันค่ะ!”

แม้ว่าเขาจะอยากจะช่วยเธอ แต่ลู่โจวก็อดแสดงสีหน้าหมดหนทางไม่ได้

“ขอโทษด้วยครับ ผมเกรงว่าวันนี้จะไม่สะดวก อีกสักพักผมมีประชุม แต่คราวหน้าได้แน่นอนครับ”

ซุนหลานรู้สึกผิดหวังเล็กน้อย แต่เธอยังยิ้มและพูดว่า “ถ้าอย่างนั้นวันอื่นก็ได้ค่ะ”