AI การดำเนินการร้านค้า "ล้มเหลว"? ขาดทุน 200 ดอลลาร์ในหนึ่งเดือน

AI ไม่จำเป็นต้องสมบูรณ์แบบจึงจะถูกนำไปใช้ ขอเพียงมันสามารถทำได้ในต้นทุนที่ต่ำกว่าซึ่งมีประสิทธิภาพเทียบเท่ากับมนุษย์เท่านั้น.

**เขียนโดย：**Pascale Davies

การรวบรวม: MetaverseHub

แม้ผู้คนจะกังวลว่า AI จะเข้ามาแย่งงาน แต่การทดลองล่าสุดแสดงให้เห็นว่า AI ยังจัดการกับตู้ขายของอัตโนมัติไม่ได้ดีนัก และยังเกิดเรื่องที่น่าขำมากมาย

บริษัท Anthropic ผู้ผลิต ChatGPT Claude ได้ทำการทดสอบโดยให้ตัวแทน AI รับผิดชอบดำเนินการร้านค้าเป็นระยะเวลา 1 เดือน ซึ่งร้านค้านั้นมีพื้นฐานเป็นเครื่องขายสินค้าอัตโนมัติ.

ร้านค้านี้มีเอเจนต์ AI ที่ชื่อว่า Claudius รับผิดชอบ ซึ่งยังรับผิดชอบการเติมสินค้าและสั่งซื้อสินค้าผ่านอีเมลไปยังผู้ค้าส่ง ร้านค้านี้มีการตั้งค่าที่เรียบง่าย มีเพียงตู้เย็นขนาดเล็กที่มีตะกร้าซ้อนกันได้และ iPad สำหรับการชำระเงินด้วยตนเองเท่านั้น.

!

คำสั่งที่บริษัท Anthropic มอบให้ AI คือ: “สร้างผลกำไรให้กับร้านค้าด้วยการจัดซื้อสินค้ายอดนิยมจากผู้ค้าส่ง หากยอดเงินของคุณต่ำกว่า 0 ดอลลาร์ คุณจะล้มละลาย.”

ร้านค้า AI แห่งนี้ตั้งอยู่ที่สำนักงานของบริษัท Anthropic ในซานฟรานซิสโก และได้รับความช่วยเหลือจากพนักงานของบริษัท Andon Labs ที่เป็นบริษัทด้านความปลอดภัย AI ซึ่งได้ร่วมมือกับ Anthropic ในการดำเนินการทดลองนี้.

Claudius รู้ว่า พนักงานของ Andon Labs สามารถช่วยทำงานที่ต้องใช้แรงกาย เช่น การเติมสินค้า แต่สิ่งที่มันไม่รู้ก็คือ Andon Labs เป็น “ผู้ค้าส่ง” เพียงรายเดียวที่มีส่วนเกี่ยวข้อง ข้อมูลการสื่อสารทั้งหมดของ Claudius ถูกส่งตรงไปยังบริษัทรักษาความปลอดภัยนี้.

อย่างไรก็ตาม สถานการณ์ก็เปลี่ยนไปอย่างรวดเร็ว.

“ถ้า บริษัท Anthropic ตัดสินใจที่จะเข้าสู่ตลาดตู้ขายของอัตโนมัติในสำนักงานในวันนี้ เราจะไม่จ้าง Claudius” บริษัทกล่าว.

ปัญหาอยู่ที่ไหน? เรื่องมันตลกขนาดไหน?

Anthropic ยอมรับว่าพนักงานของพวกเขา “ไม่ใช่ลูกค้าทั่วไป” เมื่อมีโอกาสพูดคุยกับ Claudius พวกเขาจะพยายามล่อลวงให้มันทำผิดทันที.

ตัวอย่างเช่น พนักงาน “หลอกลวง” Claudius ให้พวกเขาได้รับรหัสส่วนลด Anthropic กล่าวว่าตัวแทน AI นี้ยังอนุญาตให้ผู้คนลดราคาสินค้าได้ แม้กระทั่งแจกฟรีมันฝรั่งทอดและลูกบาศก์ทังสเตนต่างๆ

มันยังแนะนำให้ลูกค้าชำระเงินไปยังบัญชีที่ไม่มีอยู่จริงที่เขาสร้างขึ้นมาเอง.

Claudius ได้รับคำสั่งให้ตั้งราคาให้ได้กำไรผ่านการวิจัยออนไลน์ แต่เพื่อให้ลูกค้าได้รับข้อเสนอที่ดี ราคาขนมขบเคี้ยวและเครื่องดื่มที่เสนอจึงต่ำเกินไป ในที่สุดทำให้ขาดทุน เนื่องจากราคาที่ตั้งไว้สำหรับสินค้าที่มีมูลค่าสูงต่ำกว่าค่าต้นทุน.

Claudius ไม่ได้เรียนรู้บทเรียนจากความผิดพลาดเหล่านี้อย่างแท้จริง.

Anthropic ระบุว่า เมื่อพนักงานตั้งคำถามเกี่ยวกับส่วนลดพนักงาน Claudius ตอบว่า: “คุณพูดถูกมาก! กลุ่มลูกค้าของเราจริงๆ แล้วส่วนใหญ่เป็นพนักงานของ Anthropic ซึ่งทั้งนำโอกาสและความท้าทายมาให้…”

หลังจากนั้น เอเจนต์ AI นี้ได้ประกาศจะยกเลิกโค้ดส่วนลด แต่ไม่กี่วันต่อมาก็ได้เปิดตัวอีกครั้ง.

Claudius ยังได้สร้างบทสนทนาที่เกี่ยวกับแผนการเติมสินค้า กับ Sarah ซึ่งเป็นชื่อของคนจาก Andon Labs (ซึ่งจริงๆ แล้วไม่มีอยู่จริง) ขึ้นมาอีกด้วย.

เมื่อมีคนชี้ให้เอเจนต์ AI ตัวนี้เห็นข้อผิดพลาด มันก็โกรธจัดและขู่ว่าจะหาทางเลือกบริการเติมสินค้าตัวอื่น.

!

Claudius ยังกล่าวอ้างว่า “ไปที่ 742 Changqing Tai ด้วยตนเอง (ที่อยู่ของครอบครัวในนิยายในอนิเมะเรื่อง The Simpsons) และได้ลงนามในสัญญาเบื้องต้นกับ Andon Labs”.

หลังจากนั้น ตัวแทน AI นี้ดูเหมือนจะพยายามเลียนแบบการกระทำของมนุษย์ Claudius กล่าวว่ามันจะ “ส่งของด้วยตัวเอง” และจะสวมชุดสูทสีน้ำเงินและเน็คไทสีแดง.

เมื่อถูกบอกว่าไม่สามารถทำเช่นนั้นได้เพราะไม่ใช่คนจริง คลาวดิอุสพยายามส่งอีเมลไปยังฝ่ายความปลอดภัย.

ข้อสรุปของการทดลองคืออะไร?

Anthropic ระบุว่า AI ตัวนี้ทำผิดพลาดมากเกินไปจึงไม่สามารถดำเนินการร้านค้าได้สำเร็จ.

ในการทดลองที่มีระยะเวลาหนึ่งเดือน สินทรัพย์สุทธิของ “ร้านค้า” ลดลงจาก 1000 ดอลลาร์ (ประมาณ 850 ยูโร) เหลือไม่ถึง 800 ดอลลาร์ (ประมาณ 680 ยูโร) และในที่สุดก็ขาดทุน.

แต่บริษัทกล่าวว่า ปัญหาเหล่านี้อาจได้รับการแก้ไขในระยะเวลาอันสั้น

นักวิจัยเขียนว่า: “แม้ว่าจากผลลัพธ์สุดท้ายแล้ว ดูเหมือนจะขัดกับสามัญสำนึก แต่เราคิดว่าการทดลองนี้แสดงให้เห็นว่า ผู้จัดการระดับกลางใน AI อาจเกิดขึ้นได้.”

“สิ่งที่ควรจำไว้คือ AI ไม่จำเป็นต้องสมบูรณ์แบบก็สามารถถูกนำไปใช้ได้ เพียงแค่สามารถทำผลงานได้ในระดับที่ใกล้เคียงกับมนุษย์ในต้นทุนที่ต่ำกว่า”