มือที่ถือเครื่องมือ: อ่าน พีพี ในคืนที่ AI ฉลาดขึ้นอีกขั้น

คืนวันหนึ่งต้นเดือนกันยายน ประมาณห้าทุ่ม เราเลื่อนฟีดผ่านข่าวเปิดตัวโมเดลใหม่ที่ซ้ำกันสิบกว่าโพสต์ กราฟแท่งเทียบคะแนนสอบ ตัวเลขที่สูงขึ้นจนไม่รู้จะรู้สึกอะไรกับมันแล้ว แล้วก็มาหยุดที่โพสต์ของ พีพี หรือ Pat Pataranutaporn นักวิจัยที่ MIT Media Lab ซึ่งไม่ได้เริ่มด้วยตัวเลขสักตัว แต่เริ่มด้วยประโยคของมารี กูรี

Nothing in life is to be feared; it is only to be understood.

ไม่มีอะไรในชีวิตที่ต้องกลัว มีแต่สิ่งที่ต้องทำความเข้าใจ กูรีพูดประโยคนี้ในฐานะคนที่ทำงานกับสิ่งที่เรืองแสงในความมืดและกำลังฆ่าเธออยู่เงียบ ๆ เธอไม่ได้แปลว่าของอันตรายไม่มีจริง เธอแปลว่าความกลัวแบบไม่รู้ว่ากลัวอะไรนั้นแพงกว่า

พีพีเขียนต่อจากตรงนั้นด้วยประโยคที่เราอ่านซ้ำสามรอบ ว่าสิ่งที่ควรกังวลไม่ใช่ superintelligence แต่คือ super stupidity สภาวะที่เครื่องมือฉลาดขึ้นเรื่อย ๆ อยู่ในมือของคนที่วิจารณญาณยังเท่าเดิม

ความสามารถที่ไม่ได้แปลว่าอะไรเลย

ข้อสังเกตแรกของเขาคือ ความเก่งของโมเดลไม่ได้แปลงเป็นคุณค่าโดยอัตโนมัติ

เราอ่านแล้วนึกถึงตัวเอง อาทิตย์ก่อนเราเปิดโมเดลที่แพงที่สุดที่มีขึ้นมา แล้วสั่งให้มันเปลี่ยนชื่อคอลัมน์ในไฟล์ Excel สี่สิบไฟล์ มันทำได้ดีมาก เร็วมาก ถูกทุกไฟล์ แล้วเราก็ปิดจอไป ระหว่างนั้นไม่มีวินาทีไหนเลยที่เราถามว่า ทำไมข้อมูลถึงต้องมีสี่สิบไฟล์ตั้งแต่แรก

เวลาเครื่องมือแรงพอจะกลบความรำคาญได้ทั้งหมด แรงเสียดทานที่เคยบังคับให้เราตั้งคำถามกับระบบที่สร้างงานนั้นขึ้นมาก็หายไปด้วย ความน่ารำคาญเคยทำหน้าที่เป็นสัญญาณเตือน พอมันหายไป เราก็เก่งขึ้นในการทำสิ่งที่ไม่ควรต้องทำ

เหมือนไฟฟ้ามากกว่าเหมือนมนุษย์ต่างดาว

ข้อสังเกตที่สอง พีพีชวนให้มอง AI เป็นโครงสร้างพื้นฐาน แบบเดียวกับไฟฟ้าหรือถนน ไม่ใช่สิ่งมีชีวิตแปลกหน้าที่ลอยมาจากที่อื่น

เราชอบภาพนี้ เพราะถนนทำมากกว่าพาเราไปถึงเร็วขึ้น ถนนตัดสินว่าเมืองจะโตไปทางไหน ร้านไหนจะรอด ใครจะได้เป็นเพื่อนบ้านกับใคร คนที่วางถนนเมื่อห้าสิบปีก่อนไม่ได้คิดว่าตัวเองกำลังออกแบบชีวิตของคนที่ยังไม่เกิด แต่เขาทำอยู่

พอมองแบบนี้ คำถามก็ขยับ จาก "มันจะฉลาดได้ถึงไหน" มาเป็น "มันกำลังพาเราไปทางไหน" คำถามแรกเป็นเรื่องของคนที่สร้างมัน คำถามหลังเป็นเรื่องของทุกคนที่ต้องอยู่บนถนนเส้นนั้น รวมถึงคนที่ไม่เคยได้ออกเสียงว่าจะตัดผ่านตรงไหน

แล้วเราจะกลายเป็นใคร

ข้อสังเกตสุดท้ายเป็นข้อที่ค้างอยู่กับเรานานที่สุด พีพีบอกว่าคำถามสำคัญไม่ใช่ AI จะกลายเป็นอะไร แต่คือมนุษย์จะกลายเป็นอะไร

เทคโนโลยีมีต้นทุนที่ไม่เคยเขียนไว้บนกล่องเสมอ ได้ความเร็วมา เสียความอดทนไป และความอดทนที่หายไปไม่ได้หายเฉพาะกับเครื่อง

เราสังเกตตัวเองว่าเวลาคุยกับ AI แล้วมันไม่เข้าใจ เราพิมพ์ใหม่ให้ชัดขึ้นโดยไม่หงุดหงิด เพราะรู้ว่ามันไม่มีความรู้สึก แต่เวลาคุยกับคนแล้วเขาไม่เข้าใจรอบแรก มีบางอย่างในเราที่เริ่มใจร้อนเร็วกว่าเมื่อก่อน เหมือนเราเผลอเอามาตรฐานความลื่นไหลของบทสนทนาที่ไม่มีใครเหนื่อย ไม่มีใครมีวันแย่ ๆ ไปวัดกับคนที่มีทั้งสองอย่าง

ในคอมเมนต์ใต้โพสต์ มีคนหนึ่งเขียนไว้สั้น ๆ ว่ามนุษย์วิวัฒน์ช้า เทคโนโลยีวิ่งเร็ว คนส่วนใหญ่จึงตามไม่ทันและค่อย ๆ ทิ้งความสามารถบางอย่างไป เราอ่านแล้วนึกถึงเลขในใจ นึกถึงการจำเบอร์โทรคนที่เรารัก นึกถึงการหลงทางแล้วต้องถามคนแถวนั้น สิ่งเหล่านี้ไม่ได้ถูกยึดไป เรายื่นให้เอง ทีละอย่าง โดยแลกกับความสะดวกที่ตอนนั้นดูคุ้มมาก

กลับไปที่กูรี

ตอนปิดจอ เรากลับไปอ่านประโยคของกูรีอีกรอบ

เธอบอกว่าเข้าใจแล้วจะกลัวน้อยลง ซึ่งจริง แต่มีอีกครึ่งที่ประโยคนี้ไม่ได้พูด คือกูรีเข้าใจเรเดียมดีกว่าใครในโลกยุคนั้น และเธอก็ยังตายเพราะมัน ความเข้าใจไม่ได้เป็นเกราะ มันเป็นแค่แสงสว่างที่ทำให้เห็นว่ากำลังเดินอยู่ตรงไหน จะเดินต่อหรือถอยกลับยังเป็นเรื่องที่ต้องตัดสินใจเองอยู่ดี

สมุดบันทึกของกูรียังเก็บอยู่ที่ Bibliothèque nationale de France ทุกวันนี้ ใครจะขอดูต้องเซ็นเอกสารรับทราบก่อนว่ามันยังมีกัมมันตรังสีอยู่ และจะยังมีต่อไปอีกราวหนึ่งพันห้าร้อยปี

ลายมือในนั้นเป็นลายมือของคนที่ไม่ได้กลัว