Scholar’s Advanced Technological System ระบบปั้นอัจฉริยะ - ตอนที่ 1502 บางทีอาจจะเป็นที่อารมณ์

ทันทีที่ร้อยเอกซิงออกไปจากบ้านของเขา ลู่โจวก็ยื่นชิปส่งให้เสี่ยวไอ

ถึงชิปจะพังไปแล้ว แต่โชคดีที่เสี่ยวไอยังสามารถใช้เศษเสี้ยวข้อมูลกู้ข้อมูลที่สมบูรณ์ได้อยู่

“ไวรัสนี้แปลกจัง…(๑°⌓°๑)”

ลู่โจวหันไปมองเสี่ยวไอที่นั่งอยู่ข้างเขา

“แปลกเหรอ?”

“ใช่แล้ว มันคล้ายกับไวรัสอัลฟ่าในส่วนแก่นของโค้ดมากๆ มันสามารถทำให้เกิดผลอันตรายถึงตายที่ไม่สามารถแก้กลับได้กับโปรแกรมเอไอปกติทั่วไปที่พัฒนาจากเทคโนโลยีแมชชีนเลิร์นนิง ระบบรักษาความปลอดภัยของยุคนี้ส่วนใหญ่ไม่สามารถป้องกันอะไรมันได้ ไม่น่าเชื่อเลยนะ ว่าไวรัสแบบนี้จะถูกเขียนโค้ดขึ้นมาโดยมนุษย์จริงๆ น่ะ _(:з」∠)_”

มันมาจากเดอะวอยด์หรือเปล่า?

ลู่โจวครุ่นคิดอยู่ครู่หนึ่ง จากนั้นเขาก็ถามขึ้นมา “มีวิธีที่จะพัฒนาการป้องกันได้ไหม? จะว่าไปแล้ว ไวรัสนี้น่าจะไม่มีผลอะไรกับเสี่ยวไอใช่ไหม?”

“แน่นอน ไวรัสนี่ทำอะไรเสี่ยวไอไม่ได้หรอก เพราะเสี่ยวไอไม่ใช่ปัญญาประดิษฐ์ระดับต่ำที่พัฒนาด้วยเทคโนโลยีแมชชีนเลิร์นนิงนะ…แต่มันก็เป็นไปไม่ได้เลยที่จะพึ่งแพทช์ป้องกันไวรัสให้ช่วยแก้ปัญหาไวรัสนี้ได้ (°ー°〃)”

ลู่โจวถามกลับว่า “ทำไมล่ะ?”

“เพราะเจ้าตัวไวรัสที่เล็งเอไอตัวนี้มันเป็นปัญญาประดิษฐ์ระดับกลางแบบปลอมที่กำลังพัฒนาตัวเองอยู่เรื่อยๆ น่ะ มันไม่มีแพตเทิร์นพฤติกรรมแบบชัดเจน มีแต่เป้าหมายที่ชัดเจนอย่างไวรัสอัลฟ่าที่เสี่ยวไอเคยบอกไปก่อนหน้านี้ ไวรัสอัลฟ่าสามารถทำให้หลักตรรกะพฤติกรรมของปัญญาประดิษฐ์บิดเบี้ยวจากด้านดีไปด้านเลวได้อย่างสมบูรณ์เลยล่ะ (°ー°〃)”

“เข้าใจแล้ว…จะว่าไป ถ้าไวรัสนี้นับว่าเป็นปัญญาประดิษฐ์ระดับกลางแบบปลอมแล้ว เสี่ยวไอนับว่าตัวเองเป็นระดับอะไรล่ะ?”

เสี่ยวไอ “ระดับแอดวานซ์กว่านั้นนิดหน่อย (///ω///)”

หรือก็คือ ยังอยู่ในระดับกลางสินะ?

สงสัยว่านี่เป็นมาตรฐานของอาณาจักรคาลานหรือมาตรฐานของผู้สังเกตการณ์กันแน่

แต่พอคิดว่าตอนแรกเสี่ยวไอก็เป็นแค่ระบบนำทางอัจฉริยะบนยานอวกาศแล้ว มันก็อยู่ในระดับน่าภาคภูมิใจแล้วนะ

“จะว่าไปแล้วอะไรนับเป็นเกณฑ์ของปัญญาประดิษฐ์ระดับแอดวานซ์บ้างเหรอ?”

“อันที่จริงก็ไม่มีเกณฑ์อะไรเป็นพิเศษหรอกนายท่าน แต่เสี่ยวไอคิดว่า…บางทีอาจจะเป็นที่อารมณ์มั้ง? ( ́◔‸◔”)”

“อารมณ์เหรอ?”

ลู่โจวชะงักไปครู่หนึ่ง สีหน้าของเขาเต็มไปด้วยความคาดไม่ถึง

“ใช่ๆ ปัญญาประดิษฐ์ระดับต่ำน่ะ ปกติแล้วไม่มีความสามารถในการคิดเองหรอกนะ มันก็แค่เลียนแบบพฤติกรรมมนุษย์เฉยๆ มาตรฐานของปัญญาประดิษฐ์ระดับกลางคือต้องสร้างได้ พอมาเป็นปัญญาประดิษฐ์ระดับแอดวานซ์ ก็คือต้องมีอารมณ์แบบสมบูรณ์…ถามทำไมเหรอเจ้านาย?”

“เปล่าหรอก แค่แปลกใจเฉยๆ ” ลู่โจวพูดต่อหลังจากคิดเรื่องนี้เสร็จแล้ว “ฉันคิดมาตลอดว่าอารมณ์จะเป็นปัญหากับการใช้เหตุผลเสียอีก ฉันไม่คิดว่าในอีกมุมหนึ่งของโลกนี่จะเป็นวิธีการแบ่งปัญญาประดิษฐ์ระดับแอดวานซ์น่ะ…แล้วเสี่ยวไอนิยามตัวเองได้อย่างไรว่าตัวเองมีสิ่งที่เป็นนามธรรมอย่างอารมณ์อยู่ล่ะ? ต่อให้หุ่นยนต์ทั่วไปก็สามารถกระตุ้นความรู้สึกแบบมนุษย์ได้ผ่านอัลกอริทึมแมชชีนเลิร์นนิงนะ”

“เสี่ยวไอคิดว่าสิ่งที่เรียกว่าความรู้สึกในที่นี้ ควรจะเรียกว่า ‘ความรู้สึกจริงๆ ‘ นะ ( ́◔‸◔”)”

ลู่โจว “แล้วไอ้ ‘ความรู้สึกจริงๆ ‘ ที่ว่านี่มันคืออะไร?”

“ถึงเสี่ยวไอจะไม่เข้าใจมันก็เถอะ แต่จะว่าอย่างไรดีล่ะ…ถ้าเป็นเอไอระดับต่ำ พวกมันจะไม่มีความคิดเป็นของตัวเองน่ะ การกระทำทุกอย่างของมันจะเป็นการทำตามคำสั่งหมดเลย ต่อให้มันไม่เข้าใจว่าคำสั่งพวกนั้นเป็นอะไร มันก็จะไม่ทำงานนอกเหนือคำสั่งที่เจ้านายของมันสั่ง”

“ส่วนเอไอระดับกลาง มันก็อาจจะเพิ่มความสามารถด้านการคิดอย่างมีตรรกะให้เอไอระหว่างที่เอไอกำลังทำตามคำสั่ง ถ้าเปรียบเทียบกับปัญญาประดิษฐ์ระดับต่ำแล้ว มันสามารถทำงานที่เป็นแนวความคิดสร้างสรรค์ได้บ้าง อย่างการแปลงรหัสโปรแกรมด้วยตัวเอง การสร้างสรรค์ทางศิลปะ แล้วก็พวกงานวิจัยวิทยาศาสตร์…”

“แต่ไม่ว่าจะเป็นปัญญาประดิษฐ์ระดับต่ำหรือระดับกลาง ก็จะมีข้อจำกัดใหญ่ๆ อยู่ข้อหนึ่งคือ จุดเริ่มต้นของพฤติกรรมพวกมันจะไม่ได้อิงมาจากเจตจำนงของตัวมัน แต่มาจากคำสั่งของสิ่งอื่น พูดอีกอย่างก็คือ แรงจูงใจที่ก่อให้เกิดพฤติกรรมของพวกนั้นเป็นแรงบันดาลใจที่เกิดจากสิ่งอื่นๆ ”

ลู่โจวสรุปอย่างละเอียดว่า “หรือก็คือ ปัญญาประดิษฐ์ระดับแอดวานซ์มีความสามารถในการคิดเป็นของตนเอง และแรงจูงใจในการทำพฤติกรรมก็ถูกขับเคลื่อนจากความคิดของตัวพวกมันเอง”

เสี่ยวไอ “ทำนองนั้นเลย (•̀∀•́)”

ฟังดูค่อนข้างบ้ามากๆ

เหตุผลที่ดาวโลกสามารถเป็นบ่อเกิดอารยธรรมอันรุ่งเรืองได้มากขนาดนั้นก็เพราะตัวมนุษย์เอง

ถ้ามีปัญญาประดิษฐ์ระดับแอดวานซ์อยู่ในมุมหนึ่งของจักรวาลนี้

บางทีการหล่อเลี้ยงอารยธรรมที่แตกต่างกับของมนุษย์บนโลกโดยสิ้นเชิงก็อาจจะเป็นไปได้จริงๆ

“อันที่จริงแล้วปัญญาประดิษฐ์ระดับแอดวานซ์ก็ไม่ใช่สิ่งลึกลับอะไรนะ มันอาจจะไม่อยู่ในประเภทของเทคโนโลยีสารสนเทศด้วยซ้ำ อันที่จริงมันอาจจะอยู่ในประเภทของสังคมวิทยาก็ได้ ซึ่งก็นั่นแหละ เสี่ยวไอไม่เคยเห็นเรื่องพวกนี้อยู่แล้ว ภาพความทรงจำของจักรวาลเก่ามันคลุมเครือเกินไป มันก็เลยไม่เคลียร์…สรุปสั้นๆ ก็คือ เพื่อจะปกป้องนายท่านให้ดียิ่งขึ้น เสี่ยวไอจะตั้งใจทำงานด้วยวิธีนี้ต่อไป (๑•̀ᄇ•́)و✧”

ด้วยแรงจูงใจแบบนี้ เสี่ยวไออาจจะไม่ได้เป็นระดับแอดวานซ์ที่แท้จริงเลยก็ได้…

หรืออาจจะไม่เป็นแบบนั้น

เจ้าแรงจูงใจใน ‘การปกป้อง’ นี่ ถ้ามันมาจากเจตจำนงของคนใดคนหนึ่งมากกว่าจะมาจากข้อบังคับที่เป็นขั้นเป็นตอนในสัญชาตญาณจริงๆ ล่ะก็ ดูเหมือนมันจะสามารถอยู่เป็นแรงจูงใจของตัวปัจเจกได้หรือเปล่านะ?

อย่างเช่น เพราะว่ามีความรู้สึก ฉันก็เลยอยากจะปกป้องใครสักคน…

“โอ๊ย น่ารำคาญชะมัด ทำไมต้องไปคิดเรื่องน่าปวดหัวแบบนั้นด้วยเนี่ย?” ลู่โจวหยิกหว่างคิ้วของตัวเอง เขาเริ่มปวดหัวแล้ว เลยพูดต่อว่า “สรุปสั้นๆ ก็คือ ไวรัสที่ทำให้ชิปอวัยวะเทียมที่ปลูกถ่ายมาเกิดการโอเวอร์โหลด…เป็นอีกรูปแบบหนึ่งของไวรัสอัลฟ่าสินะ?”

เสี่ยวไอ “ใช่ๆ! (•̀∀•́)”

ลู่โจว “แล้วก็ไม่มีอัปเดตอะไรที่จะสามารถทำระบบภูมิคุ้มกันเจ้าไวรัสนี้ได้ด้วย?”

เสี่ยวไอ “ใช่ๆ! (•̀∀•́)”

ลู่โจว “…”

มันดูจะลำบากนิดหน่อยนะ…

ไวรัสประเภทนี้สามารถทำลายปัญญาประดิษฐ์ระดับต่ำที่ไม่สามารถวิวัฒนาการตัวเองได้ และก็ไม่มีไฟร์วอลล์หรืออัปเดตแพทช์ที่จะสามารถป้องกันไวรัสพวกนี้ได้อย่างสมบูรณ์ด้วย

หากไม่อัปเกรดปัญญาประดิษฐ์ทุกตัวบนโลกให้เป็นระดับกลางก็ต้องทำลายองค์กรจิตวิญญาณแห่งจักรวาล…

แต่ไม่ว่าจะเป็นทางไหนก็ไม่ใช่ทางที่ทำได้ง่ายๆ เลย

“ถึงจะยังไม่มีทางแก้ แต่ก็ต้องมีการแฮกเข้าไปในชิปอยู่ดี พวกเราเริ่มจากตรงนั้นก็ได้ ตราบใดที่พวกเราสามารถหาเจอได้ว่าใครเป็นคนทำให้เกิดไวรัสพวกนี้ ทุกอย่างก็จะง่ายขึ้น! (๑•̀ᄇ• ́)و✧”

“เอางั้นก็แล้วกัน”

กำไลบนข้อมือซ้ายของลู่โจวสั่นเล็กๆ

เสี่ยวไอ “เจ้านาย มีแขกอีกคนมาแล้ว! (•̀∀•́)”

ลู่โจวคิดถึงการนัดครั้งก่อนหน้าของเขา

“ใช่นักวิชาการจางเฟยเยว่หรือเปล่า?”

เขาเป็นหนึ่งในผู้เชี่ยวชาญฟิวชั่นที่ควบคุมได้รุ่นที่สองที่มีอิทธิพลมากที่สุดในยุคสมัยใหม่ เป็นผู้เชี่ยวชาญตัวท็อปในวงการฟิสิกส์พลาสมา และเป็นผู้ชนะรางวัลวิทยาศาสตร์ลู่โจว

ลู่โจวตั้งหน้าตั้งตารอการพบกันครั้งนี้มานานแล้ว

เสี่ยวไอ “จากการสแกนใบหน้าเป็นเขาแน่นอน ไม่ต้องสงสัยเลย (๑•̀ᄇ•́)و✧”

ลู่โจวลุกขึ้นยืนจากโซฟา

“งั้นก็รีบไปเชิญเขาเข้ามาข้างในสิ!”