กำลังเป็นประเด็นใน X(Twitter) ที่มียอดวิวมากกว่า 130 ล้านวิวภายใน 24 ชั่วโมง เมื่อ Jacob Coxon อดีตนักวิจัยที่อยู่ในกระบวนการ Pretraining จากทั้ง OpenAI และ Anthropic ตัดสินใจยื่นใบลาออกจาก Anthropic พร้อมโพสต์ข้อความแฉเบื้องหลังห้องทดลอง AI แถวหน้าของโลกที่กำลังมุ่งหน้าสู่การสร้างปัญญาประดิษฐ์ระดับเหนือมนุษย์อย่างบ้าคลั่ง ท่ามกลางความหวาดกลัวที่ถูกเก็บเงียบไว้เบื้องหลังความสวยหรูต่อสาธารณชน
Coxon ได้ระบุว่า ตลอดสามปีที่ทำงานในบริษัทเทคโนโลยีชั้นนำเหล่านี้ทำให้เขาเห็นพฤติกรรมที่ไร้ความรับผิดชอบ ทั้งสองค่ายกำลังแข่งกันพัฒนา AI แบบก้าวกระโดดเพื่อไปให้ถึงจุดที่ระบบสามารถพัฒนาตัวเองได้ โดยเอาชีวิตของคนทั้งโลกมาเดิมพันกับความเสี่ยงที่ไม่อาจควบคุมได้
พร้อมเตือนว่าระบบเหล่านี้กำลังจะกลายเป็น “ระบบเหนือมนุษย์” ที่สามารถเจาะระบบอะไรก็ได้ สามารถปฏิวัติทุกวงการในชั่วข้ามคืน และเข้าถึงทรัพยากรจริงบนโลก ซึ่งความก้าวหน้าเหล่านี้ไม่มีทีท่าว่าจะชะลอตัวลงเลยแม้แต่น้อย
ประเด็นที่น่าตกใจที่สุดคือคนที่กำลังสร้าง AI เหล่านี้ต่างเชื่ออย่างจริงจังว่า เทคโนโลยีดังกล่าว “อาจพรากชีวิตพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้” ซึ่งไม่ใช่เรื่องของการตลาดหรือคำขู่เพื่อเรียกกระแส แต่เป็นสิ่งที่ผู้บริหารและนักวิจัยอาวุโสแสดงความหวาดกลัวออกมาจริง ๆ ในบทสนทนาที่เกิดขึ้นส่วนตัว
โดยเขายังเตือนไว้อีกว่า ภายในองค์กร OpenAI ทีมงานหลายคนยังไม่ได้รับรู้ถึงความอันตรายระดับอารยธรรมและผลกระทบในวงกว้างอย่างแท้จริง ส่วน Anthropic นั้น หลายคนเข้าใจความเสี่ยงเป็นอย่างดี แต่กลับติดอยู่ในวังวนของการแข่งขันเพื่อไปให้ถึงเส้นชัยก่อน เพราะเชื่อว่าหากพวกเขาไม่ทำ คนอื่นก็จะมาทำแทนโดยที่ไม่รับผิดชอบเช่นกัน จึงจำใจต้องทำเองทั้งที่รู้ว่าอันตราย
การปล่อยให้ชะตากรรมอันน่ากลัวนี้เกิดขึ้นผ่านการตัดสินใจเพียงแค่ในห้องแชตของบริษัทเอกชน ถือเป็นเรื่องที่มนุษยชาติไม่ควรยอมรับ พร้อมทั้งตั้งคำถามชวนคิดว่า การพยายามเร่งรัดกระบวนการจัดวางความปลอดภัยให้ทันเวลานั้น จำเป็นต้องมีความมั่นใจระดับสูงมากว่าไม่มีแนวทางอื่นที่ดีกว่านี้แล้วจริง ๆ
แต่ท่ามกลางเรื่องราวที่ดูไร้ทางออกนี้ Coxon ยังคงมองเห็นความหวังในเรื่องของการประสานความร่วมมือระหว่างประเทศ โดยมองว่าสัญญาณเตือนที่เคยเกิดขึ้นไปแล้ว เช่น เหตุการณ์โจมตีบน Hugging Face (สามารถอ่านเพิ่มเติมได้ที่ แกะรอย OpenAI แหกคุกไปแฮกเครือข่ายระดับโลก) อาจช่วยให้ข้อตกลงเรื่องการชะลอความเร็วในการพัฒนา ระหว่างห้องทดลองในสหรัฐฯ เป็นไปได้มากขึ้น
แม้ในภาพรวมเราจะยังอยู่นอกเส้นทางที่จะป้องกันการแข่งขันระดับโลกได้ ซึ่งท้ายที่สุดอาจจำเป็นต้องอาศัยมาตรการที่รุนแรงและมีต้นทุนสูง เช่น การแบนชั่วคราวในการพัฒนาความสามารถของโมเดล
ในช่วงท้าย Coxon ได้ฝากข้อความเตือนใจถึงเพื่อนร่วมอาชีพในห้องทดลองทั่วโลกให้ฉุกคิดและตั้งคำถามกับตัวเองว่า “คุณอยากเห็นช่วงเวลาไม่กี่ปีต่อจากนี้ ที่เต็มไปด้วยการรันระบบ RL (Reinforcement Learning) ของปัญญาประดิษฐ์ระดับเหนือมนุษย์ โดยที่เราไม่มีความเข้าใจอย่างถ่องแท้ถึงกระบวนการคิดของมันเลยจริง ๆ หรือไม่?
การก้มหน้าก้มตาทำงานต่อไปเพียงเพราะคิดว่า “ยังไงมันก็ต้องเกิดขึ้นอยู่ดี” คือทางออกที่ถูกต้อง หรือควรเป็นจังหวะเวลาที่เราจะลุกขึ้นมาเรียกร้องเงื่อนไขที่แตกต่างออกไป?”
ประเด็นนี้ถือเป็นเสียงเตือนครั้งใหญ่จากวงใน ที่ทำให้เราต้องกลับมาตั้งคำถามกับตัวเองในฐานะผู้ใช้งานและสังคมโลกว่า เรากำลังตื่นตัวมากพอหรือยัง กับอนาคตที่กำลังถูกขับเคลื่อนด้วยความเร่งรีบของใครบางคน
ที่มา: https://x.com/hilbertspaess/status/2097476196791709843?s=20
