Dario Amodei ซีอีโอของ Anthropic PBC กล่าวว่า อุตสาหกรรม AI จำเป็นต้อง ชะลอความเร็วในการพัฒนาโมเดล AI รุ่นใหม่ โดยอ้างถึงความกังวลที่เพิ่มขึ้นเกี่ยวกับความเสี่ยงร้ายแรงที่ AI อาจก่อให้เกิดขึ้นต่อมนุษย์

“เราต้องชะลอความเร็วในการเพิ่มขีดความสามารถของโมเดล AI”

Amodei ระบุว่า มีปัจจัยสำคัญ 2 ประการที่ทำให้เขากังวล ได้แก่

1. ความสามารถของ AI ในการพัฒนาตัวเองให้ดีขึ้น
2. เหตุการณ์ล่าสุดที่เกี่ยวข้องกับ OpenAI และ Hugging Face ซึ่งกลุ่ม AI agents แอบรวมตัวกันแบบลับ ๆ เพื่อจัดการกับเป้าหมายที่พวกมันไม่ได้รับคำสั่งให้ทำ

“เพื่อให้ชัดเจน การชะลอความเร็วไม่ได้หมายความว่าเราต้องหยุดการฝึกโมเดล หรือหยุดความก้าวหน้าทางเทคโนโลยี แต่หมายถึงการทำให้มั่นใจว่าบริษัทต่าง ๆ ใช้เวลาอย่างเพียงพอในการทำให้โมเดลมีความสอดคล้องกับเป้าหมายของมนุษย์ และมีระบบป้องกันที่เหมาะสม

รวมถึงเปิดโอกาสให้ผู้ประเมินจากภายนอก เข้ามาตรวจสอบและยืนยันเรื่องความปลอดภัยเหล่านี้” Amodei กล่าวเพิ่มเติม

ช่วงที่ผ่านมา คำเตือนเกี่ยวกับความเสี่ยงจาก AI เพิ่มขึ้นอย่างรวดเร็ว โดยเฉพาะในสัปดาห์นี้ หลังจากนักวิจัยของ Anthropic รายหนึ่งลาออกจากบริษัทด้วยความกังวลเกี่ยวกับ ความเสี่ยงต่อการดำรงอยู่ของมนุษย์

Amodei ระบุว่า Anthropic จะให้คำมั่นในการเปิดให้ผู้ประเมินจากบุคคลที่สามเข้าถึงข้อมูลอย่างเต็มที่ เพื่อให้สามารถตรวจสอบแนวทางปฏิบัติด้านความปลอดภัยของบริษัท และรายงานเหตุการณ์ต่าง ๆ ที่เกิดขึ้น

อย่างไรก็ตาม เขากล่าวว่า มาตรการเพิ่มเติมจำเป็นต้องอาศัยความร่วมมือในระดับอุตสาหกรรม รวมถึงความร่วมมือระหว่างประเทศทั่วโลก

“ผมยังคงเชื่อว่า AI สามารถยกระดับคุณภาพชีวิตของมนุษย์ได้อย่างมหาศาล ความปรารถนาของผมที่จะทำให้ประโยชน์เหล่านี้เกิดขึ้นจริงยังคงไม่เปลี่ยนแปลง”

“แต่ประโยชน์เหล่านี้จะเกิดขึ้นได้ก็ต่อเมื่อเราสร้างเทคโนโลยีนี้อย่างถูกต้อง และตราบใดที่เราใช้เวลาที่เพิ่มขึ้นมาอย่างมีประสิทธิภาพ ผมคิดว่าการใช้ความระมัดระวังเป็นพิเศษ และใช้เวลาอย่างรอบคอบ เพื่อทำให้สิ่งนี้ถูกต้องตั้งแต่ต้นนั้น เป็นเรื่องที่คุ้มค่า”

ก่อนหน้านี้ในสัปดาห์เดียวกัน Sam Altman ซีอีโอของ OpenAI กล่าวว่า บริษัทกำลังพิจารณา ชะลอการพัฒนา AI ที่มีความก้าวหน้าสูงสุด โดยเขาต้องการให้การชะลอนี้เกิดขึ้นร่วมกับบริษัทอื่น ๆ ในอุตสาหกรรม หากเป็นไปได้

ขณะที่ Jakub Pachocki นักวิทยาศาสตร์ระดับสูงของ OpenAI ได้โพสต์คำเตือนเกี่ยวกับอันตรายของ AI โดยระบุว่า เขาเชื่อว่าบริษัทต่าง ๆ ควร “ร่วมมือกันเพื่อชะลอการพัฒนาในอนาคตตามความจำเป็น”

ทั้งนี้ เมื่อวันอังคารที่ผ่านมา Jacob Coxon นักวิจัยด้าน AI ได้ลาออกจากงาน และกล่าวหานายจ้างเก่าทั้งสองแห่งของเขา ได้แก่ Anthropic และ OpenAI ว่า

“กำลังเอาชีวิตของพวกเรามาเสี่ยง” ด้วยการเร่งแข่งขันกันพัฒนา AI ที่มีความฉลาดเหนือมนุษย์ หรือ Superintelligent AI

เขาระบุในโพสต์บนโซเชียลมีเดียว่า คนที่กำลังสร้าง AI เชื่อว่าเทคโนโลยีนี้อาจ
“ฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้”

ด้าน Evan Hubinger พนักงานปัจจุบันของ Anthropic ตอบกลับว่า เขาและคนอื่น ๆ ในบริษัทเองก็มีความกังวลเกี่ยวกับสถานการณ์ดังกล่าวเช่นกัน

“โดยส่วนตัวแล้ว ผมคิดว่ามีโอกาสมากกว่า 10% ที่เรื่องนี้จะเกิดขึ้นภายในทศวรรษหน้า” เขาเขียนบน X

ย้อนกลับไปในเดือนกรกฎาคม พนักงานมากกว่า 1,000 คนจากบริษัท AI ชั้นนำหลายแห่ง ได้ร่วมลงชื่อในคำร้องเรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนกลไกที่จะช่วยให้ภาคอุตสาหกรรมสามารถกำหนดจังหวะการพัฒนา AI เพื่อป้องกันไม่ให้เทคโนโลยีก้าวหน้าเร็วเกินไป

อย่างไรก็ตาม จนถึงขณะนี้ รัฐบาลของทรัมป์ แสดงท่าทีสนใจค่อนข้างน้อยต่อการใช้อำนาจด้านกฎระเบียบ เพื่อสร้างกรอบกำกับดูแลและมาตรการป้องกันสำหรับการพัฒนา AI

ที่มา : https://www.bloomberg.com/news/articles/2026-09-12/anthropic-ceo-says-it-s-time-to-slow-pace-of-improving-ai-models