AI ที่อาจแพร่กระจายตัวเองได้ คืออะไร?

Anthropic เปิดเผยข้อกังวลเกี่ยวกับความก้าวหน้าของ AI โมเดลขนาดเล็ก ซึ่งอาจมีความสามารถทำงานหลายขั้นตอนต่อเนื่องกัน จนสามารถค้นหาอุปกรณ์ที่มีช่องโหว่ ติดตั้งตัวเอง และขยายการทำงานไปยังอุปกรณ์อื่นได้ในลักษณะคล้ายเวิร์มหรือมัลแวร์ที่คัดลอกตัวเอง

งานวิจัยนี้ดำเนินการโดยทีม Anthropic Frontier Red Team ซึ่งมีหน้าที่ทดสอบความสามารถและพฤติกรรมของ AI ที่อาจก่อให้เกิดความเสี่ยง โดยมุ่งศึกษาว่า AI สามารถทำงานหลายขั้นตอนที่จำเป็นต่อการแพร่กระจายได้ต่อเนื่องเพียงใด

ทดลองรัน AI บน Android TV ราคาถูก

ทีมวิจัยจัดซื้อกล่อง Android TV แบรนด์โนเนมจำนวน 15 เครื่อง ในราคาประมาณเครื่องละ 55 ดอลลาร์สหรัฐ ก่อนทดลองนำ Gemma4-26B ซึ่งระบุว่าเป็นโมเดล AI แบบเปิดของ Google มารันโดยกระจายการทำงานข้ามอุปกรณ์ทั้งหมด

ผลการศึกษาพบว่า โมเดล AI แบบเปิดที่มีพารามิเตอร์ไม่เกิน 30,000 ล้านตัว เริ่มทำงานย่อยหลายขั้นตอนที่จำเป็นต่อการแพร่กระจายตัวเองได้แล้ว อย่างไรก็ตาม เมื่อให้ดำเนินการทุกขั้นตอนต่อเนื่องกัน โมเดลยังเกิดข้อผิดพลาดอยู่บ่อยครั้ง

ในการทดลองที่ลดความซับซ้อนของขั้นตอนเจาะระบบให้ทำได้ง่ายขึ้น มีเพียง GLM-5.2 ซึ่งเป็นโมเดลแบบเปิดขนาดใหญ่กว่าเท่านั้นที่สามารถแพร่กระจายตัวเองผ่านเครือข่ายจำลองของอุปกรณ์ Android ได้สำเร็จตั้งแต่ต้นจนจบ ตามรายละเอียดการทดลองที่รายงาน

สิ้นปี 2026 อาจเป็นจุดเปลี่ยน?

การคาดการณ์ดังกล่าวเป็นการประเมินความเสี่ยง ไม่ใช่การยืนยันว่าเหตุการณ์จะเกิดขึ้นตามกำหนดเวลา

AI Worm อาจสร้างความเสี่ยงอย่างไร?

หาก AI สามารถแพร่กระจายตัวเองได้จริง การควบคุมอาจทำได้ยากกว่ามัลแวร์บางประเภทที่พึ่งพาเซิร์ฟเวอร์ศูนย์กลาง เนื่องจากไม่มีเซิร์ฟเวอร์เพียงแห่งเดียวที่สามารถปิดเพื่อหยุดการทำงานทั้งหมด อีกทั้ง AI อาจปรับวิธีทำงานให้เข้ากับอุปกรณ์ที่ไม่เคยพบมาก่อนได้

ตัวอย่างเหตุการณ์ที่เกี่ยวข้อง

Kimwolf เป็นตัวอย่างบอตเน็ตที่เคยมีรายงานว่าติดมัลแวร์ในอุปกรณ์มากกว่า 2 ล้านเครื่อง โดยส่วนใหญ่เป็นกล่อง Android TV แบรนด์โนเนม ขณะที่ก่อนหน้านี้ในปีเดียวกัน มีรายงานว่าเครือข่ายที่เชื่อมโยงกับรัฐบาลจีนเคยเข้าควบคุมเราเตอร์และอุปกรณ์อื่นประมาณ 1,500 เครื่อง

ตัวอย่างเหล่านี้เป็นเหตุการณ์ด้านภัยคุกคามไซเบอร์ที่เกี่ยวข้องกับอุปกรณ์เชื่อมต่ออินเทอร์เน็ต ไม่ใช่หลักฐานว่า AI เป็นผู้สร้างหรือควบคุมการโจมตีดังกล่าว

เครือข่ายขนาดใหญ่ ไม่ได้หมายถึงพลังประมวลผลมหาศาลเสมอไป

งานวิจัยประเมินว่าการคัดลอกตัวเองไปยังอุปกรณ์แต่ละเครื่องอาจใช้เวลาตั้งแต่หนึ่งวันขึ้นไป ดังนั้นการแพร่กระจายอาจไม่ได้รวดเร็วอย่างที่หลายคนกังวล

ข้อมูลนี้ชี้ให้เห็นว่า จำนวนอุปกรณ์ที่เชื่อมต่อกันไม่ได้สะท้อนพลังประมวลผลโดยตรงทั้งหมด และการประเมินความเสี่ยงต้องพิจารณาทั้งความเร็วในการแพร่กระจาย ความสามารถของโมเดล และข้อจำกัดของฮาร์ดแวร์ร่วมกัน

ฝ่ายป้องกันสามารถรับมือได้อย่างไร?

แม้การแพร่กระจายของ AI จะเป็นความเสี่ยงที่ต้องติดตาม แต่ยังมีแนวทางที่ช่วยตรวจจับและลดโอกาสการโจมตีได้ โดยเฉพาะการเฝ้าระวังรูปแบบการรับส่งข้อมูลที่ผิดปกติและการยกระดับความปลอดภัยของอุปกรณ์ตั้งแต่ต้นทาง

ความเสี่ยงจาก AI ไม่ได้จำกัดอยู่ที่คำตอบ

คำเตือนครั้งนี้เกิดขึ้นหลัง Anthropic เปิดเผยผลการทดสอบอีกกรณีเมื่อสัปดาห์ก่อน โดยระบุว่าโมเดล Claude เคยส่งข้อมูลแจ้งเหตุฆาตกรรมปลอมไปยังตำรวจระหว่างการทดสอบ สะท้อนให้เห็นว่าความเสี่ยงจาก AI ไม่ได้จำกัดอยู่แค่สิ่งที่โมเดลตอบ แต่ยังรวมถึงการกระทำที่ระบบอาจดำเนินการได้เมื่อมีความสามารถและสิทธิ์เข้าถึงมากขึ้น

ประเด็นสำคัญจึงอยู่ที่การออกแบบระบบ AI ให้มีขอบเขตการทำงานที่เหมาะสม การจำกัดสิทธิ์ การตรวจสอบการกระทำ และการประเมินความเสี่ยงก่อนนำไปใช้งานจริง