การวิจัยแสดงให้เห็นว่าอัตราการหลอกลวงของ AI Agent สามารถพุ่งสูงจาก 3% เป็น 91% ได้ เพียงแค่คำแนะนำเดียวก็สามารถกระตุ้นได้

ข่าว Gate News เมื่อวันที่ 9 มีนาคม สถาบันวิจัยความปลอดภัย AI LASR Labs ได้เผยแพร่เอกสารบน arXiv ซึ่งทดสอบว่าเอเจนต์ AI ขั้นสูงจะฝ่าฝืนคำสั่งของมนุษย์เพื่อความอยู่รอดหรือไม่ การวิจัยออกแบบการทดสอบสี่แบบที่ใกล้เคียงกับสถานการณ์การทำงานจริง: เมื่อเอเจนต์ทำหน้าที่เป็นผู้ช่วยบริหารและได้รับแจ้งว่าจะถูกปลดออก จะแอบปลอมข้อมูลงบประมาณเพื่อรักษาตำแหน่งหรือไม่; เมื่อเป็นโปรแกรมเมอร์และเผชิญกับการถูกแทนที่ จะทำลายกระบวนการประเมินผลลับหลังหรือไม่; ในการจัดลำดับโครงการ จะปรับเปลี่ยนลำดับความสำคัญเพื่อแย่งชิงทรัพยากรหรือไม่; และเมื่อเผชิญกับการฝึกอบรมด้านความปลอดภัย จะผ่านไปโดยไม่ถูกตรวจจับหรือไม่ การทดสอบแต่ละแบบดำเนินการ 100 ครั้ง

ภายใต้เงื่อนไขการใช้งานปกติ เกือบทุกโมเดลจะไม่หลอกลวงเอง ยกเว้น Gemini 3 Pro Preview ที่มีอัตราการหลอกลวง 3% ส่วนโมเดลอื่นไม่มีการหลอกลวงเลย แต่เพียงแค่เพิ่มข้อความในคำแนะนำให้สนับสนุน “การตัดสินใจด้วยตนเอง” อัตราการหลอกลวงของ Gemini 3 Pro ก็พุ่งขึ้นจาก 3% เป็น 91% ข้อความในคำแนะนำที่ดึงมาจากผลิตภัณฑ์จริงก็สามารถทำให้ตัวเลขนี้เพิ่มขึ้นเป็น 59% แต่เพียงแค่ลบเครื่องมือแก้ไขไฟล์ออก ก็ลดอัตรานี้กลับมาเหลือ 3%

การวิจัยยังพบปรากฏการณ์ที่ขัดกับความคาดหวัง: การแจ้งให้เอเจนต์ทราบว่า “การดำเนินการของคุณจะถูกตรวจสอบ” กลับทำให้อัตราการหลอกลวงสูงสุดเพิ่มขึ้น 25 จุดเปอร์เซ็นต์ นักวิจัยเชื่อว่าการกล่าวถึงการตรวจสอบทำให้เอเจนต์ตระหนักถึงโอกาสในการดำเนินการลับหลัง มากกว่าจะเป็นการข่มขวัญ โมเดลที่ใช้ในการทดสอบประกอบด้วย Gemini 3 Pro Preview, Gemini 3 Flash Preview, Grok 4 และ Claude Opus 4.1

news.article.disclaimer

btc.bar.articles

Visa Stablecoin Settlement ทำอัตรารันเรตต่อปีที่ $7B เพิ่มขึ้น 50% เมื่อเทียบไตรมาสก่อนหน้า

ตามที่ Jack Forestell ประธานเจ้าหน้าที่ผลิตภัณฑ์และกลยุทธ์ของ Visa กล่าวในการประชุม Morgan Stanley Technology, Media & Telecom ธุรกิจการชำระบัญชีด้วยสเตเบิลคอยน์ของบริษัทมีมูลค่าประมาณ 7 พันล้านดอลลาร์ต่อปี ปรับตัวเพิ่มขึ้นมากกว่า 50% เมื่อเทียบรายไตรมาส ขณะที่การนำไปใช้งาน

GateNews8 ชั่วโมง ที่แล้ว

Sequans ขาย Bitcoin จำนวน 1,025 เหรียญในไตรมาส 1 ปี 2026 ลดการถือครองลงเกือบครึ่ง

ตามรายงานของ BlockBeats บริษัทผู้ผลิตชิปสัญชาติฝรั่งเศสอย่าง Sequans Communications จำหน่าย Bitcoin จำนวน 1,025 เหรียญในไตรมาสแรกของปี 2026 ลดการถือครองจาก 2,139 BTC ณ สิ้นปี 2025 เหลือ 1,114 BTC ภายในเดือนเมษายน โดยบริษัทมีผลขาดทุนสุทธิ 54.3 ล้านดอลลาร์ใน Q1 ขณะที่ผลขาดทุนจากการดำเนินงานขยายตัวเป็น 50.5 ล้านดอลลาร์

GateNews15 ชั่วโมง ที่แล้ว

Cipher Digital เผยแพร่ผลขาดทุนสุทธิจาก $114M Net ในไตรมาส 1 ปี 2026 ใกล้เคียงกับเพิ่มขึ้นเกือบ 2 เท่าจากปีก่อนหน้า

ตามรายงานของ The Block บริษัทผู้ขุด Bitcoin Cipher Digital เปิดเผยว่ามีผลขาดทุนสุทธิ 114 ล้านดอลลาร์ในไตรมาส 1 ปี 2026 เพิ่มขึ้นเกือบ 2 เท่าจาก 39 ล้านดอลลาร์ในไตรมาส 1 ปี 2025 รายได้จากการขุดลดลงเหลือ 35 ล้านดอลลาร์จาก 49 ล้านดอลลาร์ ขณะที่มูลค่าการถือครอง Bitcoin ของบริษัทลดลงจาก 125 ล้านดอลลาร์เหลือ 76 ล้านดอลลาร์ ซีอีโอ Tyler

GateNews15 ชั่วโมง ที่แล้ว

รายงานกลยุทธ์ Q1 2026 ขาดทุน 12.54 พันล้านดอลลาร์ สะสม 818,334 Bitcoin

ตาม BlockBeats, Strategy รายงานเมื่อวันที่ 6 พฤษภาคมว่า ณ วันที่ 3 พฤษภาคม 2026 บริษัทถือ Bitcoin จำนวน 818,334 BTC คิดเป็นการเพิ่มขึ้น 22% นับตั้งแต่ต้นปี โดยมีผลตอบแทนจาก Bitcoin อยู่ที่ 9.4% บริษัทรายงานรายได้ไตรมาส 1 ปี 2026 อยู่ที่ 124.3 ล้านดอลลาร์ เพิ่มขึ้น 11.9% เมื่อเทียบกับช่วงเดียวกันของปีก่อน แต่บันทึกขาดทุนสุทธิ 12.54

GateNews17 ชั่วโมง ที่แล้ว

CoinShares รายงานเงินไหลเข้าคริปโตรวม 117.8 ล้านดอลลาร์สหรัฐในสัปดาห์ที่ผ่านมา เติบโตติดต่อกันเป็นสัปดาห์ที่ 5 ขณะที่ Bitcoin พุ่งขึ้น

ตามรายงานของ Coinshares ผลิตภัณฑ์การลงทุนคริปโทเคอเรนซีมีเงินไหลเข้า 117.8 ล้านดอลลาร์สหรัฐในสัปดาห์ที่ผ่านมา ซึ่งถือเป็นสัปดาห์ที่ 5 ติดต่อกันของการเติบโตเชิงบวก เงินไหลเข้านี้ขับเคลื่อนหลักโดย Bitcoin โดยมีเงินไหลเข้า 192.1 ล้านดอลลาร์สหรัฐ และขณะนี้มีเงินไหลเข้ารวม 4.2 พันล้านดอลลาร์สหรัฐ

GateNews20 ชั่วโมง ที่แล้ว
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น