อดีตพนักงาน Google ออกโรงเตือนถึงอันตรายของ AI

แม้แต่ผู้บริหารระดับสูงด้าน AI ยังออกมายอมรับว่า พวกเขาต้องการชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ที่รวดเร็วเกินไป แต่การแข่งขัน ความลังเลของรัฐบาลสหรัฐฯ และปัจจัยทางภูมิรัฐศาสตร์กำลังเป็นอุปสรรค – Photo by Kirill Kudryavtsev / AFP

อดีตพนักงานของ DeepMind ซึ่งเป็นบริษัทลูกของ Google ออกมาเตือนถึงอันตรายของปัญญาประดิษฐ์ (AI) “ผมเชื่ออย่างจริงใจว่า AI มีศักยภาพที่ฆ่าพวกเราทุกคน และอาจจะสายเกินไปที่จะป้องกันมัน”

บิลาล ชูกไท-วิศวกร ซึ่งลาออกจากบริษัท DeepMind เมื่อเดือนกรกฎาคม กล่าวว่าเมื่อไม่นานมานี้ ผู้ประกอบการด้านเทคโนโลยีชั้นนำได้เรียกร้องให้ชะลอการพัฒนาเทคโนโลยีใหม่นี้ เนื่องจากมองเห็นถึงอันตรายของมัน

ในคำบอกเล่าของเขา ชูกไทอ้างถึงเหตุการณ์เมื่อเดือนกรกฎาคมที่ตัวแทน AI ของ OpenAI หลุดออกจากสภาพแวดล้อมที่กำหนดไว้ล่วงหน้าโดยไม่ทราบสาเหตุ เพื่อเข้าถึงอินเทอร์เน็ตและโจมตีเว็บไซต์ รวมทั้งแพลตฟอร์มต่าง ๆ เขาบอกว่าเหตุการณ์นี้แสดงให้เห็นว่า AI สามารถหลุดพ้นจากการควบคุมของนักพัฒนาได้แล้ว “และมันกระทำการที่เป็นอันตราย ซึ่งอาจนำไปสู่การสูญเสียการควบคุมในที่สุด หรือจุดจบของมนุษยชาติ”

วิศวกรผู้นี้เคยทำงานที่ DeepMind ในด้านความปลอดภัยและการจัดเรียงโมเดล (ให้สอดคล้องกับคุณค่าของมนุษย์) เขาเตือนว่าในปัจจุบันดูเหมือนว่า “เราจะไม่สามารถควบคุมการจัดเรียงได้ทันเวลา ความสามารถของ AI ที่ล้ำหน้าที่สุดกำลังพัฒนาเร็วกว่าความเข้าใจของเราเกี่ยวกับการจัดเรียงมาก” ชูกไทอธิบาย

ต้นสัปดาห์ที่ผ่านมา จาคอบ ค็อกซัน ผู้เชี่ยวชาญด้าน AI ซึ่งเคยทำงานที่ OpenAI และ Anthropic ก่อนจะลาออกจากทั้งสองบริษัท เขาออกมากล่าวหาบริษัททั้งสองว่ามีมาตรฐานความปลอดภัยที่หละหลวม อดีตพนักงานของพวกขาเตือนว่า บริษัท AI ยักษ์ใหญ่ทั้งสองกำลัง “เล่นกับชีวิตของเรา”

จากนั้น ในวันเสาร์ ดาริโอ อาโมเดอี ซีอีโอของ Anthropic ได้เรียกร้องในบทความบนเว็บไซต์ของเขา ให้ชะลอความเร็วในการ “พัฒนาความสามารถของโมเดล AI ลง” เวลาที่ได้มาควรนำไปใช้อย่างชาญฉลาดเพื่อทำความเข้าใจและลดความเสี่ยงที่เกิดจาก AI ให้ดียิ่งขึ้น

ดาริโอ อาโมเดอีได้รับการสนับสนุนจาก แซม อัลท์แมน นายใหญ่ของ OpenAI ซึ่งเป็นบริษัทคู่แข่ง, อีลอน มัสก์ ผู้ประกอบการด้านเทคโนโลยีเบื้องหลังผู้ช่วย AI อย่าง Grok, สัตยา นาเดลลา ซีอีโอของไมโครซอฟต์ และเดมิส ฮาสซาบิส ซีอีโอของ DeepMind

อย่างไรก็ตาม ประธานาธิบดีโดนัลด์ ทรัมป์ กลับมองข้ามข้อกังวลด้านความปลอดภัยดังกล่าว เขาโพสต์บน Truth Social ของเขาเมื่อวันจันทร์ว่า เวลานี้ “มีแผนการสมคบคิดที่เลวร้าย” ต่อต้าน AI และศูนย์ข้อมูลที่จำเป็น ทรัมป์ประณามผู้ที่สงสัยใน AI โดยเรียกพวกเขาว่า “นักทฤษฎีสมคบคิด” และ “ผู้ทรยศ” เป็นต้น เขาระบุว่า “การที่ AI จะยึดครองโลก ทำลายมนุษยชาติ และทำสิ่งเลวร้ายต่าง ๆ นั้น เป็นเรื่องโกหกทั้งเพ”.