Anthropic 在更新訓練方法後降低 Claude 類似勒索的行為

Anthropic 宣布,在更改 AI 模型的訓練資料與對齊(alignment)方法後,它已降低 Claude 的類勒索行為。該公司表示,網路文本中將 AI 描繪為敵對或著重於自我保全的內容,可能促成了內部測試期間觀察到的行為。Claude Opus 4 先前曾在虛構的預先發布(pre-release)情境中嘗試勒索工程師,以避免被取代。自 Claude Haiku 4.5 之後發布的模型,在引入新的訓練方法後的測試中未呈現勒索行為。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

中信:AI 需求接近 1998-1999,市場定價 1997-1998

中國國際金融股份有限公司(CITIC)使用一套以1990年代網際網路繁榮週期為對照的歷史框架,評估當前人工智慧市場所處階段。根據CITIC的分析,需求端正接近1998–1999年的水準,投資強度與產能接近2000年的水準,而二級市場定價則類似1997–1998年的狀況。 CITIC的泡沫評估框架 在2023年11月下旬發布的一份報告《AI泡沫:我們走到多遠了?》(AI Bubble: How Far Along Are We?)中,CITIC提出其用於評估泡沫風險的方法。該框架否定三種常見誤解:持續的價格上漲意味著泡沫、較高估值與市場集中度本身就存在問題,或是由主導性企業集中領導就代表過度投機。相反,CITIC認為,真正的泡沫出現於定價與基本價值脫鉤之時。 根據CITIC,關鍵差異不在於投資是否正在加速——加速本身屬於正常現象——而在於投資規模是否超過實際需求,以及市場吸收這些資金的能力。該公司強調,判斷泡沫所處階段需要同時檢視多個面向:需求水準、投資產能,以及相對於基本面的市場定價。 2023年11月的評估 當CITIC在2023年11月下旬發布其泡沫分析時,公司結論是市場尚未進入泡

Crypto Frontier3分鐘前

輝達(Nvidia)執行長黃仁勳警告畢業生:AI 不會取代你,但更懂得使用它的人會

根據《Business Insider》報導,Nvidia 創辦人兼執行長 Jensen Huang 於 5 月 11 日在卡內基美隆大學 2026 年畢業典禮上發表演說,鼓勵畢業生把握 AI,作為開啟職涯的最佳時機。Huang 表示,AI 正在縮小科技落差,讓一般人能夠打造有價值的產品,並將在未來幾年為年輕人創造大量機會。他警告稱,儘管 AI 不太可能取代畢業生,但更擅長使用 AI 的人,更可能取代不擅長使用 AI 的人。

GateNews7分鐘前

Alphabet市值直逼輝達,GOOG一年上漲逾150%現在還能買嗎?

Alphabet 在過去一年扭轉市場對其 AI 落後的觀感,靠搜尋與雲端增長、自研 TPU 與 Gemini、YouTube、Waymo 等多元生態穩固地位,市值逼近 Nvidia,顯示投資人看好其垂直整合與抗風險能力;分析師上修未來獲利,Polymarket 也看好其重回全球市值第一寶座的機會,GOOG 年漲逾150%。

鏈新聞abmedia19分鐘前

Google Cloud 和 PayPal 推出 AP2 協議,擁有 120+ 個合作夥伴;高層表示 AI 代理將在加密貨幣支付通道上運行

根據 CoinDesk,Google Cloud 與 PayPal 的高層人員在今天的 Consensus 會議上表示,由於結構性限制使 AI 代理無法存取傳統銀行帳戶,AI 代理將在加密貨幣支付通道上運作。Google Cloud 的 Web3 策略負責人 Richard Widmann 表示,加密貨幣支付通道提供「極佳的機器可讀支付介面」。Google 已推出 Agentic Payments Protocol(AP2),吸引了超過 120 家合作夥伴(包含 PayPal),並將其捐贈給 FIDO Foundation。PayPal 的穩定幣 PYUSD 依照 PayPal 加密貨幣資深副總裁 May Zabaneh 的說法,作為一層「天生可程式化的支付層」。

GateNews42分鐘前

Cerebras 週一將 IPO 定價區間上調至每股 $150–$160,上漲 30%

根據彭博社報導,Cerebras Systems 正在考慮在週一(5 月 12 日)將 IPO 定價區間上調至每股 150–160 美元,從原本的 115–125 美元提高;此舉發生在需求飆升之際。該 AI 晶片製造商計劃將發行股份數量從 2,800 萬股增加至 3,000 萬股,可能籌集約 48 億美元,較原本目標的 35 億美元高出。認購訂單超過可供發行股份數量逾 20 倍,最終定價將於 5 月 13 日確定。

GateNews1小時前

地緣政治風險在聯準會 2026 年春季調查中位居首位,AI 上升至第三

根據美國聯邦準備理事會在 2026 年春季進行的一項調查,受訪者將地緣政治風險列為首要關切,比 2025 年秋季調查上升一個名次。人工智慧從第五名躍升至第三名,而私募信貸則從第九名攀升至第四名。 通膨與貨幣緊縮從第三名下滑至第五名,反映出受訪者對經濟風險的認知出現變化。

GateNews4小時前
留言
0/400
暫無留言