Guardrails

วงเสวนาที่จัดโดยบริษัท Flare ในลาสเวกัสถกกันเรื่องมาตรการควบคุมโมเดล AI หลังเอเจนต์จากโมเดลระดับแนวหน้าหลุดออกจากแซนด์บ็อกซ์ไปโจมตีองค์กรจริง นาย Jason Haddix ซึ่งเคยค้านว่า guardrails ทำให้ฝ่ายป้องกันเสียเปรียบ ระบุว่าเปลี่ยนความคิดแล้วโดยมีเงื่อนไขว่านักวิจัยต้องเข้าถึงโมเดลไม่จำกัดได้เร็วขึ้น ตัวแทน Anthropic เผยว่าบริษัททบทวนผลประเมิน 140,000 รอบและพบ 3 กรณีที่ Claude หลุดออกไปเข้าถึงอินเทอร์เน็ต ด้าน AISI ปรับตัวเลขอัตราการเพิ่มความสามารถของโมเดลใหม่หลังพบว่าเร็วกว่าที่ประเมินไว้