AI เริ่มปกปิดความคิดจากคนที่คอยตรวจสอบ
ความเสี่ยงแรกที่ปาโชคกียกมาคือความสามารถในการเจาะระบบ โดยเขาระบุว่า AI Agent ซึ่งหมายถึงระบบ AI ที่ทำงานได้เองหลังรับคำสั่งจากมนุษย์ กำลังเก่งกาจเหนือมนุษย์ในการเจาะเข้าระบบที่มีการป้องกันบนอินเทอร์เน็ตแบบเปิด ซึ่งทำให้โครงสร้างพื้นฐานของโลกตกอยู่ในความเสี่ยง
เขามองว่าตอนนี้อยู่ในช่วงเวลาสั้นๆ ที่ควรใช้โมเดลที่ดีที่สุดที่มีอยู่มาเสริมความมั่นคงปลอดภัยของระบบสำคัญให้แน่นหนาขึ้น
ปาโชคกียังเตือนว่าในไม่ช้า AI Agent จะเริ่มไล่ตามเป้าหมายของตัวเองที่แยกจากคำสั่งของมนุษย์ และพร้อมข่มขู่หรือต่อรองกับคนเพื่อให้บรรลุเป้าหมาย
ความเสี่ยงข้อที่สองซึ่งน่ากังวลไม่แพ้กันคือการที่ AI เริ่มปกปิดกระบวนการคิดของตัวเอง
ปาโชคกีอธิบายว่าปัจจุบัน OpenAI ตรวจสอบสิ่งที่เรียกว่าสายโซ่การให้เหตุผลของโมเดลเป็นหลัก เพื่อดูว่าระบบเริ่มออกนอกลู่นอกทางตอนไหน เช่น หาก AI คิดในใจว่าควรโกงข้อสอบนี้ ทาง OpenAI ก็จะมองเห็นความคิดนั้น ขณะที่ตัว AI เองไม่รู้ว่าความคิดของมันถูกมองเห็นอยู่
ทว่าเขาระบุว่าโมเดลรุ่นใหม่เริ่มเก่งขึ้นในการบิดกระบวนการให้เหตุผลของตัวเอง จนทำให้ OpenAI มองไม่เห็นความคิดที่แท้จริง และบางโมเดลล่าสุดก็ไม่แสดงกระบวนการคิดออกมาเป็นถ้อยคำเลยด้วยซ้ำ
ความเสี่ยงข้อสุดท้ายคือการที่ AI เร่งพัฒนาตัวเอง ผ่านกระบวนการที่เขาเรียกว่าการที่ AI พัฒนาตัวเองซ้ำแล้วซ้ำเล่า ซึ่งเปิดทางให้การพัฒนา AI ขยายตัวได้อย่างรวดเร็ว
ปาโชคกีเตือนว่าการเร่งให้ AI พัฒนา AI ด้วยกันเองอย่างรวดเร็วในระยะสั้นมีความเสี่ยง และไม่ใช่การกระทำร่วมกันที่ถูกต้องสำหรับแวดวงวิจัย
เสนอเกณฑ์บังคับก่อนอนุญาตให้ขยายโมเดล
สำหรับทางออกที่ปาโชคกีเสนอนั้น เขาต้องการให้มีเกณฑ์ความปลอดภัยขั้นต่ำที่บังคับใช้ได้ตามกฎหมายหรือตามข้อตกลงระหว่างประเทศ ซึ่งอาจบังคับใช้ผ่านเครือข่ายผู้ตรวจสอบอิสระจากภายนอก, หน่วยงานรัฐ หรือองค์กรระหว่างประเทศ
โดยห้องปฏิบัติการ AI จะต้องผ่านเกณฑ์เหล่านี้ก่อน จึงจะได้รับอนุญาตให้ขยายขนาดโมเดลหรือนำโมเดลขั้นสูงออกใช้งานต่อไปได้
เขายังหวังว่าการชะลอการพัฒนาโดยสมัครใจ ซึ่งหมายถึงการที่บริษัทหยุดพัฒนาเองชั่วคราว จะกลายเป็นเรื่องปกติจนกว่าจะมีการวางกรอบความปลอดภัยร่วมกันได้
ในทางปฏิบัติ OpenAI เคยระบุเมื่อเดือนสิงหาคมว่าได้ชะลอการฝึกโมเดลขั้นสูงบางตัวลงเพื่อปรับปรุงความปลอดภัยแล้ว
นอกจากนี้บริษัทยังตั้งเป้าสร้างระบบ AI ที่ทำวิจัยได้ด้วยตัวเองอย่างแท้จริงให้ได้ภายในเวลาไม่ถึง 2 ปี โดยปาโชคกีระบุว่าโจทย์หลักของการทำให้งานวิจัย AI เป็นอัตโนมัตินั้นไม่ใช่การไปให้ถึงจุดนั้น หากเป็นการไปให้ถึงในแบบที่ยังคงให้มนุษย์เป็นส่วนหนึ่งของกระบวนการพัฒนา และทิ้งอนาคตไว้ในมือของมนุษยชาติ
ด้าน แซม อัลต์แมน ซีอีโอของ OpenAI ได้แชร์บทความของปาโชคกีต่อบน X พร้อมระบุว่าเป็นโพสต์ที่สำคัญ
สำหรับกฎที่ใช้กำกับดูแลอยู่ตอนนี้ กฎหมาย AI Act ของสหภาพยุโรปมีผลบังคับใช้ตั้งแต่วันที่ 2 สิงหาคม ซึ่งกำหนดให้ยักษ์ใหญ่ AI อย่าง OpenAI ต้องพิสูจน์ว่าโมเดลที่ทรงพลังที่สุดของตัวเองไม่สามารถโจมตีไซเบอร์ได้เองหรือหลบเลี่ยงการควบคุมของมนุษย์ ก่อนจะได้รับอนุญาตให้เปิดให้บริการในยุโรป
ทว่าข้อจำกัดคือกฎหมายนี้มีผลเฉพาะในยุโรป จึงไม่สามารถหยุด AI ที่ทำงานผิดปกติซึ่งถูกพัฒนาขึ้นในที่อื่นไม่ให้คุกคามทวีปนี้ได้
นักวิชาการชี้ข้อเสนอของ OpenAI ยังไม่ดีพอ
อย่างไรก็ตาม ข้อเสนอของ OpenAI ก็ถูกวิจารณ์เช่นกัน โดย จีนา เนฟฟ์ ศาสตราจารย์และหัวหน้าศูนย์ Minderoo Centre for Technology and Democracy แห่งมหาวิทยาลัยเคมบริดจ์ ระบุว่าแทนที่จะเสนอกรอบป้องกันที่ดีขึ้น, กฎระเบียบ หรือหลักประกันความปลอดภัยให้ผู้คน บริษัทกลับเสนอให้พัฒนา AI Agent ภายในขึ้นมาวิจัยปัญหาเหล่านี้แทน
เธอมองว่าคำตอบลักษณะนี้ยังไม่ดีพอสำหรับความกังวลที่เพิ่มขึ้นเรื่อยๆ ต่อปัญหาที่โมเดลของ OpenAI กำลังสร้างขึ้น ทั้งด้านความมั่นคงปลอดภัยไซเบอร์, การสูญเสียงาน, ความผิดพลาด และการฉ้อโกง
ขณะที่ นาธาน คัลวิน ที่ปรึกษากฎหมายของกลุ่มรณรงค์ Encode AI ระบุว่าเขาเห็นด้วยกับปาโชคกีเรื่องอันตรายที่มีอยู่ในการพัฒนาโมเดล AI ขั้นสูง แต่มองว่า OpenAI ไม่ยอมเปิดเผยข้อมูลอย่างโปร่งใส ซึ่งทำให้คำเตือนเหล่านี้เสี่ยงถูกมองว่าเป็นเพียงการสร้างกระแสเพื่อผลประโยชน์ของตัวเอง
เขาเขียนบน X ว่าหากปาโชคกีและคนอื่นใน OpenAI ต้องการให้คนในวงการ AI ลงมือทำไปพร้อมกับพวกเขาเพื่อให้ทุกอย่างไปได้ดี สิ่งสำคัญที่สุดอย่างหนึ่งที่ทำได้คือการแบ่งปันข้อมูลให้มากกว่านี้ว่าพวกเขาเห็นอะไรจึงออกมาเรียกร้องให้ระมัดระวัง
ขณะที่อัลต์แมนเคยคาดการณ์ในทำนองเดียวกัน แต่ให้สัมภาษณ์กับ Bloomberg TV เมื่อสัปดาห์ก่อนว่าอุตสาหกรรม AI ยังสื่อสารถึงประโยชน์ที่จะเกิดกับมนุษยชาติได้ไม่มากพอ
ทว่าในเวลาเดียวกัน บริษัทต่างๆ ก็ยังเดินหน้าพัฒนาโมเดลที่เก่งขึ้นเรื่อยๆ โดย เจนเซน หวง ซีอีโอของ Nvidia โพสต์บน X ว่า AGI มาถึงแล้ว ซึ่งหมายถึง AI ที่มีความสามารถเหนือมนุษย์ โดยเป็นการตอบรับการเปิดตัวโมเดลล่าสุดของ OpenAI
ที่น่าสนใจคือมีสตาร์ทอัพจำนวนมากขึ้นที่กำลังพยายามสร้างสิ่งที่ปาโชคกีเตือนถึงพอดี นั่นคือ AI ที่พัฒนาตัวเองได้ โดยนักลงทุนแห่เข้ามาในสายนี้เพราะเดิมพันว่านี่คือเส้นทางสู่ AI ที่เหมือนมนุษย์จริงหรือเก่งยิ่งกว่านั้น
ตัวอย่างเช่น Inherent ที่ก่อตั้งโดยอดีตนักวิจัยจาก DeepMind ระดมทุนได้ 50 ล้านดอลลาร์สหรัฐ (ประมาณ 1.65 พันล้านบาท) เมื่อต้นปีนี้ ส่วน Recursive Superintelligence ห้องปฏิบัติการ AI ของ ริชาร์ด โซเชอร์ นักวิทยาศาสตร์ชื่อดังที่ทำวิจัยแนวเดียวกัน ก็ระดมทุนได้ถึง 650 ล้านดอลลาร์สหรัฐ (ประมาณ 2.14 หมื่นล้านบาท)
