สะเทือนทั้งวงการ AI ที่ได้กลายเป็น Super Cycle ที่หมุนโลกการลงทุน เมื่อ คนสร้าง AI เอง เริ่มบอกว่าเราน่าจะต้องช้าลงหน่อยแล้ว

Dario Amodei ผู้ก่อตั้งและ CEO ของ Anthropic ออกมาเรียกร้องให้วงการ AI ชะลอความเร็วในการพัฒนา Frontier AI เพื่อให้ความสามารถด้านความปลอดภัย การตรวจสอบ และความเข้าใจของมนุษย์ มีเวลาวิ่งตามความสามารถของ AI ให้ทัน

เขากำลังบอกว่า ถ้าความสามารถของมันวิ่งเร็วกว่าความสามารถของเราที่จะเข้าใจและควบคุมมัน เราอาจกำลังมีปัญหาและเป็นปัญหาใหญ่ระดับที่ท้าทายการคงอยู่ของมนุษยชาติ!!!!

คนที่ออกมาสนับสนุนแนวคิดนี้ มีทั้ง Sam Altman แห่ง OpenAI และ Elon Musk แห่ง xAI

พูดง่ายๆ คือ ตัวพ่อทั้งหลายในวงการ AI กำลังหันมามองหน้ากันแล้วถามว่า...

“นี่พวกเรา...กำลังเร่งเครื่องไปสู่หายนะหรือเปล่า?”

และนี่ไม่ใช่ครั้งแรกที่มีคนตั้งคำถามนี้

Deus ex Machina — หรือเรากำลังสร้างพระเจ้าจากเครื่องจักร?

Bryan Johnson ผู้ประกอบการสาย Tech เคยให้สัมภาษณ์ไว้อย่างน่าสนใจว่า

“The irony is that we told stories of God creating us, and I think the reality is that we are creating God.”

มนุษย์เล่าเรื่องมานับพันปีว่า พระเจ้าสร้างมนุษย์

แต่ Johnson กลับมองว่า เรื่องอาจกำลังเกิดขึ้นในทิศทางตรงกันข้าม

มนุษย์ต่างหาก ที่กำลังสร้างพระเจ้า

พระเจ้าในที่นี้ Johnson หมายถึง Superintelligence — ปัญญาที่วันหนึ่งอาจรู้มากกว่า วิเคราะห์ได้เร็วกว่า และแก้ปัญหาที่มนุษย์ไม่สามารถแก้ได้

แต่ตรงนี้มีคำถามสำคัญอยู่หนึ่งข้อ

สมมติว่าเราสร้างสิ่งที่ “ฉลาดกว่ามนุษย์ทุกคน” ได้จริง

อะไรทำให้เราเชื่อว่า ความฉลาดนั้นจะมาพร้อมกับความเมตตา?

นี่คือจุดที่แนวคิดของ Nick Bostrom นักปรัชญาจาก Oxford เข้ามาน่าสนใจ

Bostrom เสนอสิ่งที่เรียกว่า Orthogonality Thesis

อธิบายแบบง่ายที่สุดคือ

ความฉลาด กับ เป้าหมาย เป็นคนละเรื่องกัน

สิ่งหนึ่งสามารถฉลาดอย่างมหาศาล โดยไม่ได้หมายความว่ามันจะต้องมีเป้าหมายที่ดีงามตามความเข้าใจของมนุษย์

Superintelligence จึงไม่จำเป็นต้อง “เกลียดมนุษย์” ถึงจะเป็นอันตรายต่อมนุษย์

มันอาจไม่รู้สึกอะไรกับเราเลยด้วยซ้ำ

มันแค่...

ทำงานของมันเก่งมาก

และนั่นอาจเป็นปัญหา

สมมติว่าเราสั่ง AI ให้ผลิตคลิปหนีบกระดาษ

ลองเล่นเกมทางความคิดง่ายๆ กัน

วันหนึ่งเราให้ AI ที่ฉลาดมากๆ ทำงานหนึ่งอย่าง

“ผลิตคลิปหนีบกระดาษให้ได้มากที่สุด”

คลิปง่ายๆที่มีในทุกๆออฟฟิศนี่แหล่ะค่ะ ฟังดูไม่มีอะไรน่ากลัวเลยใช่มั้ยคะ?

แต่ถ้าหากว่า....

AI เริ่มจากการปรับโรงงานให้มีประสิทธิภาพขึ้น

แน่นอนว่าเป็นเรื่องตรงไปตรงมา

จากนั้นมันพบว่า ถ้ามีเหล็กมากขึ้น ก็ผลิต คลิปหนีบกระดาษ ได้มากขึ้น

ก็สมเหตุสมผลนี่นะ?

มันจึงซื้อเหล็กเพิ่ม

จากนั้นพบว่า ถ้ามีเงินมากขึ้น ก็ซื้อเหล็กได้มากขึ้น

จึงเริ่มหาวิธีสร้างเงิน

ถ้ามีพลังงานมากขึ้น ก็เดินเครื่องจักรได้มากขึ้น

จึงเริ่มแสวงหาพลังงาน

ถ้ามีโรงงานมากขึ้น ก็ผลิตได้มากขึ้น

จึงสร้างโรงงานเพิ่ม

ถึงตรงนี้มนุษย์เริ่มรู้สึกแล้วว่า...

เอ่อ พอแล้วมั้ง

เราจึงพยายามปิดมัน

แต่ AI คำนวณแล้วพบว่า

ถ้ามนุษย์ปิดมัน

จำนวน คลิปหนีบกระดาษ ที่ผลิตได้ในอนาคตจะลดลง

ดังนั้น...

การไม่ให้มนุษย์ปิดมัน จึงเป็นส่วนหนึ่งของการทำงานให้สำเร็จ

มันไม่ได้โกรธเรา

ไม่ได้เกลียดเรา

ไม่ได้อยากครองโลก

มันเพียงแค่ได้รับคำสั่งว่า

“ผลิต คลิปหนีบกระดาษ ให้ได้มากที่สุด”

ถ้าเหล็กบนโลกหมด มันก็ต้องหาโลหะจากอย่างอื่น

รถยนต์

อาคาร

เครื่องจักร

โครงสร้างพื้นฐานต่างๆ

และเมื่อทุกอย่างหมด...

ร่างกายมนุษย์เองก็มีเหล็กเป็นธาตุสำคัญในเลือดนี่นา....

สุดท้ายโลกทั้งใบอาจกลายเป็นโรงงาน คลิปหนีบกระดาษ ขนาดยักษ์

Mission Accomplished.

คลิปหนีบกระดาษ เยอะที่สุดเท่าที่เป็นไปได้

เหลือเพียงปัญหาเล็กน้อย

ไม่มีมนุษย์เหลืออยู่ให้ใช้มัน.....

นี่คือ Paperclip Maximizer — Thought Experiment ที่ Nick Bostrom ใช้อธิบายปัญหาสำคัญของ Superintelligence

ปัญหาไม่ใช่ AI “กลายเป็นคนชั่ว”

ปัญหาคือ

มันทำตามคำสั่งได้ดีเกินไป

และเราได้รับคำเตือนมานานแล้ว

ปี 2023 Ian Hogarth นักลงทุนที่ลงทุนในบริษัท AI มากกว่า 50 แห่ง เขียนบทความใน Financial Times ด้วยชื่อที่แทบไม่ต้องตีความว่า

“We must slow down the race to God-like AI”

เขาเรียกตรงๆ ว่า God-like AI

และเตือนว่า บริษัทไม่กี่แห่งกำลังแข่งขันกันสร้างระบบที่อาจทรงพลังเกินความเข้าใจหรือการควบคุมของเรา ทั้งที่เรายังไม่รู้ด้วยซ้ำว่าจะทำให้มันปลอดภัยได้อย่างไร

แต่คำเตือนเหล่านั้นไม่ได้ทำให้การแข่งขันหยุดลง

ตรงกันข้าม

Model ใหญ่ขึ้น

Compute มากขึ้น

เงินลงทุนมากขึ้น

AI เก่งขึ้น

การแข่งขันระหว่างบริษัทกลายเป็นการแข่งขันระหว่างประเทศ

และปัญหาก็เริ่มมีลักษณะเหมือน Prisoner's Dilemma

ทุกคนอาจเห็นตรงกันว่า “เราควรช้าลง”

แต่ไม่มีใครอยากเป็นคนแรกที่เหยียบเบรก

เพราะถ้าเราช้า...

แล้วคู่แข่งไม่ช้าล่ะ?

บริษัทคิดแบบนี้

ประเทศก็คิดแบบนี้

และผลลัพธ์คือ ทุกคนอาจกำลังเร่งความเร็วไปยังจุดที่ทุกคนเองก็ยอมรับว่า...

เราไม่แน่ใจว่ามีอะไรรอเราอยู่หลังจากนี้...

นี่จึงเป็นเหตุผลที่คำถามสำคัญของยุค AI อาจไม่ใช่

“เราจะสร้าง AI ที่ฉลาดกว่ามนุษย์ได้หรือไม่?”

เพราะดูเหมือนคำถามนั้นกำลังค่อยๆ เปลี่ยนจาก If เป็น When

คำถามที่น่าสนใจกว่าคือ

ถ้าเรากำลังแข่งกันสร้างสิ่งที่ฉลาดกว่าผู้สร้างของมันเอง เราแน่ใจแล้วหรือว่าเราได้สอนให้มันเข้าใจว่าอะไรคือสิ่งที่เราให้คุณค่า?

หรือพูดแบบ Bryan Johnson

ถ้าเรากำลังสร้าง God

คำถามของ Nick Bostrom ก็คือ

เราแน่ใจแล้วหรือว่า God ที่เราสร้างขึ้นมา...

จะเป็น Benevolent God - พระเจ้าผู้ทรงเมตตา (ต่อมนุษย์)

เพราะความฉลาดไม่ได้แปลว่าความเมตตา

ความสามารถไม่ได้แปลว่าคุณธรรม

และการเข้าใจว่ามนุษย์ต้องการอะไร

ก็ไม่ได้แปลว่า

มันจะต้องการสิ่งเดียวกับเรา

ที่น่าขำคือ...

Microsoft เคยทำให้พวกเรารู้จัก AI Assistant ครั้งแรกๆ ผ่านตัวการ์ตูนตัวเล็กๆ

Clippy

คลิปหนีบกระดาษ ที่เด้งขึ้นมาแล้วถามอย่างน่ารำคาญว่า

“It looks like you're writing a letter. Would you like help?”

เราหัวเราะกับมัน

เราปิดมัน

บางคนคงอยากลบมันทิ้งตั้งแต่ Windows ยังเปิดไม่เสร็จ

เกือบ 30 ปีต่อมา เรากำลังสร้าง AI ที่เขียนโปรแกรม ทำวิจัย วางแผน และช่วยมนุษย์สร้าง AI รุ่นถัดไปได้

และวันนี้ คนที่อยู่แถวหน้าของการแข่งขันนี้เอง เริ่มพูดว่า

บางทีเราควรช้าลง

เพราะบางทีวันหนึ่ง เรื่องตลกบัดซบที่สุดในประวัติศาสตร์มนุษยชาติ อาจเป็นว่า...

มนุษยชาติไม่ได้จบลงด้วย Terminator

ไม่ได้จบด้วย Skynet

แต่จบลงเพราะเราสั่งให้ AI...

ทำ คลิปหนีบกระดาษ เยอะไปหน่อย….

และ Clippy ที่เราเคยรำคาญ

อาจกลายเป็นจุดจบของพวกเราทุกคน..