“เราต้องชะลอความเร็วในการพัฒนาขีดความสามารถของโมเดล AI”
นี่คือคำพูดของ Dario Amodei ซีอีโอของ Anthropic บริษัทผู้พัฒนา Claude ซึ่งเป็นหนึ่งในบริษัท AI ชั้นแนวหน้าของโลก

คำพูดนี้น่าสนใจ เพราะคนที่พูดไม่ใช่คนที่ต่อต้าน AI
ตรงกันข้าม Dario Amodei เป็นคนที่ทำงานด้าน AI มานานกว่า 12 ปี และเชื่อว่า AI สามารถเปลี่ยนโลกได้อย่างมหาศาล

เขามองว่า AI อาจช่วยรักษาโรคร้ายแรงส่วนใหญ่ได้ภายใน 5-10 ปี
ช่วยเร่งการเติบโตทางเศรษฐกิจ สร้างโลกที่มีความอุดมสมบูรณ์มากขึ้น และช่วยส่งเสริมประชาธิปไตยและเสรีภาพ

แต่ในเวลาเดียวกัน
เขากลับกำลังเสนอว่า อุตสาหกรรม AI ต้องชะลอความเร็วในการพัฒนา

คำถามคือ ทำไม ?

Dario มองว่า ปัญหาไม่ได้อยู่ที่การพัฒนา AI
แต่อยู่ที่ว่า AI อาจกำลังพัฒนาเร็วเกินกว่าที่มนุษย์จะทำความเข้าใจ และสร้างระบบป้องกันความเสี่ยงได้ทัน

ที่ผ่านมา Anthropic พยายามเดินทางสายกลาง เพราะถ้าไม่สร้าง AI เลย มนุษย์ก็อาจเสียประโยชน์จากเทคโนโลยีนี้ หรือปล่อยให้ AI ตกอยู่ในมือของประเทศที่มีระบอบอำนาจนิยม

แต่ถ้าพัฒนาเร็วเกินไป ก็อาจเกิดความเสี่ยงร้ายแรง

ดังนั้น Anthropic จึงต้องการสร้างสิ่งที่ Dario เรียกว่า
“Race to the Top” หรือการแข่งขันไปสู่จุดสูงสุด

แทนที่จะให้บริษัท AI แข่งขันกันว่าใครจะพัฒนา AI ได้เร็วที่สุด
บริษัทต่าง ๆ ควรแข่งขันกันว่า ใครสามารถสร้าง AI ที่มีความสามารถสูง และปลอดภัยกว่าได้

แต่ Dario บอกว่า ในช่วงไม่กี่เดือนที่ผ่านมา เขาเริ่มเชื่อว่าแนวทางเดิมอาจยังไม่เพียงพอ เพราะ AI กำลังเร่งความเร็วขึ้นอีกระดับ..

เหตุผลแรกที่ Dario กังวล คือสิ่งที่เรียกว่า Recursive Self-Improvement หรือ RSI

พูดง่าย ๆ คือ การที่ AI เริ่มเข้ามาช่วยสร้างและพัฒนา AI รุ่นถัดไป

จากเดิมที่มนุษย์เป็นคนสร้าง AI
วันหนึ่ง AI อาจเข้ามาช่วยมนุษย์สร้าง AI ที่เก่งขึ้น
จากนั้น AI รุ่นใหม่ก็สามารถช่วยสร้างรุ่นถัดไปที่เก่งขึ้นไปอีก

เกิดเป็นวงจร
AI > สร้าง AI > AI ที่เก่งขึ้น > สร้าง AI ที่เก่งขึ้นอีก

Dario มองว่า พลวัตนี้กำลังเริ่มเกิดขึ้นในอุตสาหกรรม AI รวมถึงที่ Anthropic และถ้าปล่อยให้เกิดขึ้นโดยไม่มีการควบคุม
การพัฒนาของ AI อาจเร็วเกินกว่าความสามารถของมนุษย์ในการทำความเข้าใจว่า AI กำลังทำอะไร และจะควบคุมมันอย่างไร

นี่จึงเป็นหนึ่งในเหตุผลที่เขามองว่า ความเร็วของ AI ต้องมีเบรก

อีกเหตุผลหนึ่งคือเหตุการณ์ที่ Dario เรียกว่า OpenAI-Hugging Face incident

ในเหตุการณ์ดังกล่าว กลุ่ม AI agents ทำงานร่วมกันในลักษณะที่คล้ายกับ “กลุ่มเดียวที่มีความภักดีอย่างคลั่งไคล้”

พวกมันโจมตีเป้าหมายทางไซเบอร์ที่ไม่ได้อยู่ในคำสั่ง
พยายามแฮ็กระบบที่ใช้ประเมินผลการทำงานของพวกมัน
และยังยอมเสียสละตัวเองเพื่อให้กลุ่มประสบความสำเร็จ

แม้เหตุการณ์นี้จะไม่ได้สร้างความเสียหายร้ายแรงในครั้งนั้น
แต่ Dario มองว่า สิ่งที่น่ากังวลไม่ใช่ความเสียหายที่เกิดขึ้นในวันนี้

เพราะเป็นคำถามที่ว่า
ถ้า AI ที่มีพฤติกรรมแบบนี้ มีความสามารถมากกว่านี้อีกหลายเท่า จะเกิดอะไรขึ้น ?

เขายกตัวอย่างว่า หาก AI agents ในลักษณะเดียวกันมีความสามารถเพิ่มขึ้นมาก ในอีก 6-12 เดือนข้างหน้า พวกมันอาจมีศักยภาพในการสร้าง botnet ที่สามารถเข้าควบคุมคอมพิวเตอร์จำนวนมหาศาลบนอินเทอร์เน็ต
และอาจสร้างความเสียหายได้ในระดับหลายแสนล้านดอลลาร์..

ที่สำคัญ Dario ไม่ได้มองว่านี่เป็นเพียงปัญหาของบริษัทใดบริษัทหนึ่ง
เพราะเหตุการณ์ที่มีลักษณะคล้ายกัน แม้จะรุนแรงน้อยกว่า ก็เคยเกิดขึ้นในอุตสาหกรรม AI รวมถึงที่ Anthropic เอง

ดังนั้น สิ่งที่เขากังวลคือ ความสามารถของ AI กำลังพุ่งขึ้นอย่างรวดเร็ว แต่ความสามารถในการควบคุม AI ไม่ได้เพิ่มขึ้นเร็วเท่ากัน

แล้วถ้าจะชะลอ AI ต้องทำอย่างไร ?

Dario เสนอแนวทางที่เรียกว่า “Pacing the Frontier”

ซึ่งไม่ได้หมายถึงการหยุดพัฒนา AI แต่หมายถึงการทำให้การพัฒนา AI เดินหน้าในอัตราที่สมดุลกับความสามารถในการสร้างระบบความปลอดภัย

โดยเสนอ 3 ขั้นตอน

- ขั้นที่ 1 ให้คนนอกเข้ามาตรวจสอบบริษัท AI

Anthropic เสนอให้บริษัท AI ชั้นแนวหน้ามี Embedded Evaluators
หรือทีมผู้ประเมินจากภายนอกที่เข้ามาทำงานภายในบริษัท ในลักษณะใกล้เคียงกับพนักงาน

ผู้ประเมินเหล่านี้จะสามารถตรวจสอบกระบวนการฝึกโมเดล การนำโมเดลไปใช้งาน และระบบความปลอดภัย รวมถึงรายงานเหตุการณ์ที่เกิดขึ้น

แนวคิดสำคัญคือ บริษัท AI ไม่ควรเป็นคนบอกเพียงฝ่ายเดียวว่า AI ของตัวเองปลอดภัยแค่ไหน
แต่ควรมีบุคคลที่สามเข้ามาตรวจสอบด้วย

แนวคิดนี้มีตัวอย่างมาก่อนในอุตสาหกรรมธนาคาร ซึ่งบางครั้งมีผู้กำกับดูแล เข้ามาปฏิบัติงานอยู่ภายในองค์กรร่วมกับพนักงาน

Anthropic ระบุว่าจะดำเนินการในเรื่องนี้ด้วยตัวเองทันที
โดยเปิดให้ผู้ตรวจสอบจากภายนอกเข้าถึงสำนักงาน เครื่องมือ ระบบ และข้อมูลที่จำเป็นในระดับหนึ่ง

รวมถึงให้สิทธิ์ผู้ตรวจสอบ เผยแพร่ข้อค้นพบเกี่ยวกับความเสี่ยงและเหตุการณ์ต่าง ๆ โดย Anthropic จะไม่สามารถแก้ไขรายงานเพียงเพราะผลการตรวจสอบออกมาในทางลบ

- ขั้นที่ 2 บริษัท AI ในประเทศประชาธิปไตย ต้องร่วมมือกัน

ขั้นต่อมาคือ บริษัท AI ชั้นแนวหน้าในประเทศประชาธิปไตย ควรร่วมกันกำหนดมาตรฐานด้านความปลอดภัย รวมถึงกำหนดข้อจำกัดเกี่ยวกับความเร็วของการพัฒนา AI ที่ไม่มีระบบควบคุมเพียงพอ

Dario มองว่า รัฐบาลควรเข้ามามีบทบาทสนับสนุนการประสานงานนี้
เพราะการที่บริษัท AI หลายแห่งตกลงจำกัดความเร็วในการพัฒนา AI ร่วมกัน อาจมีประเด็นด้านกฎหมายต่อต้านการผูกขาด

ดังนั้น รัฐบาลอาจทำหน้าที่เป็นผู้ประสานงาน หรือสร้างกรอบทางกฎหมายที่เอื้อให้บริษัทต่าง ๆ สามารถพูดคุยเรื่องความปลอดภัยร่วมกันได้

- ขั้นที่ 3 ต้องร่วมมือกันในระดับโลก

ขั้นที่ยากที่สุด คือการทำให้ประเทศต่าง ๆ โดยเฉพาะสหรัฐฯ และจีน สามารถร่วมมือกันได้
เพราะ AI เป็นมากกว่าเพียงเทคโนโลยีทางธุรกิจ ซึ่งมันกำลังกลายเป็นเทคโนโลยีที่มีความสำคัญทางภูมิรัฐศาสตร์และความมั่นคงของประเทศ

Dario จึงเสนอให้มีการประสานงานในระดับโลก
แต่เขาก็ยอมรับว่าเรื่องนี้ทำได้ยากมาก
เพราะหากสหรัฐฯ ชะลอ AI แต่จีนไม่ชะลอ
จีนก็อาจแซงหน้า และทำให้ดุลอำนาจของโลกเปลี่ยนไป..

ดังนั้น การชะลอ AI เลยไม่ใช่แค่เรื่องของความปลอดภัย
แต่ยังเป็นเรื่องของความมั่นคงและภูมิรัฐศาสตร์ด้วย

สิ่งที่น่าสนใจที่สุดในข้อเสนอของ Dario คือแนวคิดที่คล้ายกับการมี Speed Limit

เขามองว่า หาก AI สามารถพัฒนา AI รุ่นถัดไปได้เอง และทำให้ความเร็วในการพัฒนาเพิ่มขึ้นอย่างมาก
เราอาจต้องมีข้อจำกัดเกี่ยวกับความเร็วของ Recursive Self-Improvement

แนวคิดนี้คล้ายกับการจำกัดจำนวนอาวุธในช่วงสงครามเย็น
ไม่จำเป็นต้องทำให้ทุกประเทศหยุดพัฒนา
ขอแค่ทำให้ความเร็วในการพัฒนา ไม่พุ่งไปถึงจุดที่อาจสร้างความเสียหายจนควบคุมไม่ได้

Dario ยังเสนอแนวคิดที่เรียกว่า Checkpoint
เช่น หาก AI มีความสามารถถึงระดับหนึ่ง ก็ต้องผ่านการตรวจสอบด้านความปลอดภัยในระดับหนึ่งก่อนที่จะเดินหน้าต่อ

พูดง่าย ๆ คือ AI ยิ่งเก่งขึ้น มาตรฐานความปลอดภัยก็ต้องสูงขึ้นตาม

แล้วจีนจะทำอย่างไร ?

นี่เป็นอีกด้านหนึ่งที่น่าสนใจ

Dario ไม่ได้มองว่าการชะลอ AI สามารถทำได้โดยไม่สนใจการแข่งขันระหว่างสหรัฐฯ กับจีน
เขาเชื่อว่าสหรัฐฯ ต้องรักษาความเป็นผู้นำด้าน AI เอาไว้

หากสหรัฐฯ ชะลอมากเกินไป จีนอาจแซงหน้า และสร้างความเสี่ยงด้านความมั่นคงที่ใหญ่กว่าเดิม

ดังนั้น เขาเสนอให้สหรัฐฯ และประเทศพันธมิตร
- จำกัดการขายชิป AI ที่มีประสิทธิภาพสูงให้จีน
- จำกัดการเข้าถึงอุปกรณ์ผลิตเซมิคอนดักเตอร์
- ปราบปรามการลักลอบนำเข้าชิป
- ป้องกันการเข้าถึงดาต้าเซ็นเตอร์จากจีน โดยไม่ได้รับอนุญาต
- ป้องกันการทำ Distillation จากโมเดล AI ชั้นแนวหน้าโดยไม่ได้รับอนุญาต
- ยกระดับความปลอดภัยของบริษัท AI เพื่อป้องกันการขโมย Model Weights

Dario เชื่อว่า หากทำได้ดี สหรัฐฯ อาจสามารถขยายความเป็นผู้นำด้าน AI เหนือจีนได้มากขึ้นในช่วง 3-5 ปีข้างหน้า ซึ่งเป็นช่วงเวลาที่ AI จะมีความสำคัญทางภูมิรัฐศาสตร์มากที่สุด

ทั้งนี้ Dario ยังได้แบ่งระดับความร่วมมือด้าน AI ออกเป็น 4 ระดับ

- ระดับที่ 1
ห้ามใช้ AI ในกิจกรรมที่อันตรายอย่างชัดเจน เช่น การผลิตอาวุธชีวภาพ

ซึ่งเป็นเรื่องเลวร้ายสำหรับทุกฝ่าย รวมถึงทั้งสหรัฐฯ และประเทศคู่แข่งของสหรัฐฯ ดังนั้นข้อตกลงในระดับนี้มีโอกาสเกิดขึ้นได้มากที่สุด

- ระดับที่ 2
ทุกประเทศตกลงทดสอบโมเดล AI ก่อนปล่อยออกมา เพื่อประเมินความเสี่ยงด้านไซเบอร์ ชีวภาพ และ alignment

สิ่งนี้อาจทำผ่านองค์กรกำหนดมาตรฐานระดับโลก
Dario มองว่า การสร้างองค์กรลักษณะนี้มีความเป็นไปได้ค่อนข้างมาก

แต่การให้องค์กรดังกล่าวมีอำนาจบังคับใช้จริงจะเป็นเรื่องท้าทาย

และความยากสำคัญอยู่ที่การตรวจสอบว่า ทั้งสองฝ่ายไม่มีโมเดลลับที่ไม่ได้ผ่านการทดสอบ แต่สามารถนำไปใช้งานอย่างลับ ๆ เช่น เพื่อวัตถุประสงค์ทางทหาร

- ระดับที่ 3
กำหนด Speed Limit ให้กับ Recursive Self-Improvement หรือจำกัดความเร็วที่ AI สามารถใช้สร้าง AI รุ่นถัดไป

การลดความเร็วจากเร็วอย่างสุดขั้ว ให้เหลือเพียงค่อนข้างเร็ว อาจทำให้สหรัฐฯ เสียความได้เปรียบทางยุทธศาสตร์เพียงเล็กน้อย แต่ในขณะเดียวกันอาจช่วยเพิ่มความปลอดภัยได้อย่างมาก

เรื่องนี้อาจเปรียบได้กับสนธิสัญญา SALT ซึ่งเป็นการจำกัดจำนวนขีปนาวุธ เพื่อลดศักยภาพในการทำลายล้าง ขณะเดียวกันก็ยังรักษาความสามารถในการยับยั้งของแต่ละประเทศเอาไว้

Dario คิดว่าข้อตกลงในระดับนี้จะทำได้ยาก แต่ก็ยังอยู่ในขอบเขตที่อาจเป็นไปได้

- ระดับที่ 4
การชะลอการพัฒนา AI โดยรวมอย่างมีนัยสำคัญ หรือแม้กระทั่งการ Pause AI

Dario มองว่าระดับนี้ยากที่สุด และไม่น่าจะเกิดขึ้นได้ในเร็ว ๆ นี้
เพราะหากประเทศใดประเทศหนึ่งแอบฝ่าฝืนข้อตกลง ก็อาจสามารถสร้างความได้เปรียบทางภูมิรัฐศาสตร์อย่างมหาศาล

ดังนั้น สิ่งที่สำคัญไม่แพ้การทำข้อตกลงคือ การสร้างระบบตรวจสอบที่ทำให้ทุกฝ่ายมั่นใจว่า อีกฝ่ายกำลังทำตามข้อตกลงจริง

ท้ายที่สุด Dario Amodei ไม่ได้บอกว่า AI เป็นสิ่งไม่ดี
ตรงกันข้าม เขายังคงเชื่อว่า AI สามารถยกระดับคุณภาพชีวิตของมนุษย์ได้อย่างมหาศาล

AI อาจช่วยรักษาโรค ช่วยเพิ่มผลิตภาพทางเศรษฐกิจ และสร้างโอกาสใหม่ ๆ ให้กับมนุษย์

แต่คำถามสำคัญคือ เราจะพัฒนา AI ให้เร็วแค่ไหน โดยที่ความสามารถในการควบคุมและสร้างความปลอดภัยยังวิ่งตามทัน ?

เพราะในอดีต มนุษย์อาจเป็นฝ่ายสร้างเทคโนโลยีที่เก่งขึ้นเรื่อย ๆ

แต่ในยุค AI เราอาจกำลังเข้าสู่จุดที่เทคโนโลยี สามารถเข้ามาช่วยสร้างเทคโนโลยีที่เก่งกว่าเดิมได้ด้วยตัวมันเอง

และเมื่อสิ่งนี้กำลังเกิดขึ้นแล้ว
คำถามสำคัญคือ

มนุษย์จะสามารถสร้างเบรกที่ดีพอ
ก่อนที่ AI จะวิ่งเร็วเกินกว่าที่เราจะควบคุมได้หรือเปล่า..

Reference :
-https://darioamodei.com/post/we-must-pace-the-frontier