top of page

Google Gemini Minecraft Agents 在無人操控下擊敗 Ender Dragon

4 小時前
讀畢需時 12 分鐘

Google 表示,四個 Google Gemini Minecraft agents 在歷時 27 小時 14 分鐘後,於無人操控下擊敗了 Ender Dragon。這項結果描述的是一個團隊如何在屢次失敗後持續追求共同目標,而非依循人類撰寫的攻略流程。它亦引出一個更聚焦的問題:通用 coding agents 能自行組織多少協作?

研究人員 Maxence Faldor、Satinder Singh 和 Roberta Raileanu 表示,這些 agents 使用 Gemini 4 Argon。其於 10 月 15 日提交的 Minecraft agent study 指出,團隊在獲勝前共編寫了 2,783 個程式,並死亡 605 次。團隊在 Easy 難度的一個隨機生成生存世界中遊玩。

相關比較對象是 Voyager 等系統;Voyager 將語言模型與專為 Minecraft 建立的框架結合。Google 的實驗將焦點轉向通用 coding agents 在執行期間可自行組裝的能力。這令理解結果時,必須重視既有基礎設施與 agent 自行建立策略之間的分野。

Google Gemini Minecraft Agents 實際完成了甚麼

所報告的成就,是在特定條件下自主完成任務,而非對一般 Minecraft 表現的評分。

在這項實驗中,完成 Minecraft 意味着擊敗 Ender Dragon。每個 agent 透過 Mineflayer 控制一名玩家;Mineflayer 是一個用於與遊戲互動的 JavaScript 函式庫。這些 agents 透過聊天及共享記憶協作,後者是隊友可存取的持久記錄。

研究人員表示,他們沒有提供預先分配的角色或人類撰寫的遊戲策略。agents 自行產生及除錯執行行動所需的程式。人類監察整個過程,並保留暫停或停止的能力,但據報沒有介入。

這些細節界定了「無人類介入」的範圍。它指的是所報告運行期間的操控。人類仍然選擇模型、設定環境、提供工具並定義目標。

這項區分很重要,因為自主性總是在一套權限與能力安排之中運作。系統可獨立選擇下一步行動,同時依賴大量人類工程。要評估這種獨立性,必須清楚描述兩部分。

終點同樣重要。明確擊敗 boss 比開放式地要求取得進展,提供更清晰的完成準則。它讓研究人員有具體事項可對照環境驗證。

對讀者而言,這比 agent 單純宣稱完成任務更具資訊價值。可信的完成結果需要 agent 自身敘述以外的證據。當多個 agents 就彼此未必能直接觀察的工作交換報告時,這項區分尤其重要。

Minecraft 亦令依賴關係清晰可見。較後的目標可能需要早得多之前取得的資源或存取權。因此,局部進展必須有助於更大的流程。

分析價值在於,即使出現中斷與失敗行動,仍能維持這個流程。能描述完整計劃的 agent,仍須在情況令計劃部分失效時作出辨識。隊友隨後需要足夠的更新資訊,才能繼續有效工作。

所報告的勝利為研究人員提供一個具體例子作檢視。它並未證明相同設定在另一個世界中能有多常完成任務。單靠經過時間,也無法說明團隊是否有效率地運用資源。

因此,這個標題值得獲得關注,同時亦需要精確理解。Google 報告了一項在遊玩期間無人類操控下完成的任務。其更廣泛意義取決於該表現中哪些部分能在受控比較及重複實驗中保持。

壓力落在手工設計的 Agent 工作流程上

這項實驗促使開發者說明,其 agents 仍然需要哪些任務專屬指令。

通用 coding agent 是連接工具的模型,可讓它檢查、修改及執行程式碼。其實用性部分取決於模型,部分則取決於周邊系統。Minecraft 的結果令這個周邊系統成為焦點。

對 agent 開發者而言,專業知識可以放在多個位置。開發者可在執行前編寫詳細工作流程,或提供較通用的工具,要求 agent 自行建立方法。

這些選擇影響維護工作。詳細工作流程可令預期行為更易檢查,但當環境改變或出現陌生故障時,亦可能需要修訂。

自行建立程序的 agent 提供另一種可能。開發者將更多規劃負擔交由執行階段處理,因而需要更強的方法檢查最終行為是否正確。

Google Gemini Minecraft agents 令這個設計問題變得具體。有趣的比較在於,提供目標後會出現多少有用策略。單次完成運行不足以判定哪種架構能帶來最佳整體結果。

因此,建立 agent 產品的團隊不應把較少指令視為自動優勢。一項指令可能代表不必要的僵化、寶貴的領域知識,或必要的操作邊界。它的價值取決於移除後的結果。

同樣推理亦適用於可重用工具。一項專門行動可能隱藏了大量人類投入,也可能提供可靠介面,令困難工作流程得以實際執行。

有用的研究問題是,agents 能否在需要時建立等效能力。第二個問題是,當眼前情況改變後,這些能力能否保持可靠。兩者都需要成功結局以外的證據。

這對只展示最終成品的產品示範構成壓力。買家需要了解哪些內容預先提供、哪些由 agent 建立,以及哪些需要人類修補。缺乏這些資料時,看似相似的示範可能代表截然不同的能力。

對企業買家而言,這意味着可以進行更有成效的評估討論。要求供應商說明其系統對任務作出的假設,然後檢視當這些假設不再成立時,agent 如何運作。

對開發者而言,含意同樣務實。通用工具值得與精心編排的工作流程一併評估。正確比較應在等效條件下衡量完成度、監督、復原及資源使用。

Google 的結果提供了一個鮮明例子,但並未證明每個機構都應以自主規劃取代明確工作流程。它加強了測試這種替代何時有效的理由。

因此,眼前壓力落在證據標準上。Agent 建立者需要展示其協調安排的貢獻,即組織 agent 行動的軟件。模型能力與工作流程設計都值得審視。

共享記憶為個別行動提供團隊脈絡

當資訊改變隊友下一步的行動,協調才會變得有用。

研究人員描述 agents 共享提示、威脅、錯誤及位置。這些類別之所以重要,是因為它們服務不同決策。警告有助避免損失,位置則幫助另一名玩家採取行動。

核心分析問題是,這些交流是否改善執行表現。聊天量並不能取代這個答案。團隊可以頻繁溝通,同時重複犯錯或追求互不相容的計劃。

共享記憶提供了一種方式,讓資訊在即時交流後得以保存。但儲存一項陳述,並不令它自動變得準確、最新或相關。有效運作的團隊需要某種方式,將記憶中的資訊連接到當前環境。

以假設的軟件遷移為例。一個 agent 發現某項依賴的行為與文件不同。只有在其他 agents 作出相關修改前查閱該差異,記錄才有幫助。

這項記錄亦需要足夠細節以支持行動。含糊的警告令隊友需要自行重建問題。有用的備註會指出條件、觀察到的後果,以及有效的處理程序。

這就是共享記憶機制更廣泛的意義。它可將個別遭遇轉化為團隊可用的資訊。這些資訊是否改善表現,仍然是實證問題。

同一區分亦適用於故障復原。一次失敗行動可以帶來有用修正、不相關解釋,或具誤導性的結論。只有下一次嘗試能受益於先前發生的事情,持久性才有意義。

對知識工作者而言,這種聯繫並不陌生。可搜尋的 engineering knowledge base 服務相近的組織需要:當另一項任務依賴先前發現時,讓相關資料可供使用。這個類比並不意味着系統相同或表現等效。

Agent 記憶帶來額外的驗證問題。自動生成的備註即使所依據的觀察薄弱,仍可能聽起來很具權威。重用它可能將原本錯誤擴散至多名工作者。

因此,有用的記憶系統不只需要檢索,還需要證據、適用範圍,以及取代過時結論的方法。隨着任務歷時更久,這些要求變得更重要。

所報告的 Minecraft 行為之所以有趣,是因為溝通涉及持續進行的執行工作。共享威脅資訊或取回隊友物品,將協調連接到即時後果。這讓研究人員有比對話流暢度更具體的內容可作研究。

不過,成功救援並不能證明存在普遍可靠的協調政策。研究人員需要檢視被忽略的警告、不必要的重複工作,以及不正確的共享信念。這些失敗應與有幫助的交流一併納入分析。

一項強而有力的後續研究會追蹤一則資訊從觀察到行動的過程。另一個 agent 是否讀取它、改變計劃,並避免可量度的挫折?這條鏈會為共享記憶的貢獻提供更清晰證據。

對產品團隊而言,含意是應透過後續決策評估記憶。儲存更多備註並不足夠。相關結果在於,當這些備註可用時,agents 是否作出更佳選擇。

Voyager 與以影片為基礎的 Agents 提供不同比較

較早期研究顯示,介面及所提供框架為何應納入每次比較。

Voyager research 描述了一個圍繞 GPT-4 建立的 Minecraft agent。其框架結合自動課程、持續擴展的可執行技能庫,以及由回饋驅動的程式改進。這些組件組織探索,並有助重用成功行為。

該研究為 Google 的實驗提供有用參考。兩者均涉及語言模型將知識轉化為可執行行動。它們的周邊系統與目標不同,因此使用同一遊戲並不構成受控比較。

自動課程會選擇有助於持續學習或探索的任務。固定的最終目標則會為規劃帶來不同負擔。在未說明評估衡量甚麼之前,兩者本身並無高下之分。

同樣地,技能庫會儲存行為供日後重用。要評估其貢獻,必須檢視起初可用的資源,以及代理其後新增了甚麼。否則,模型與其累積的支援系統便難以區分。

較早前的 Video PreTraining study 探索了另一條路徑。研究利用網上遊戲影片,透過半監督式模仿學習來學習行為;這種方法結合了已標註範例與規模較大的未標註資料集。其代理透過滑鼠與鍵盤介面行動。

這個介面改變了問題本身。視覺控制需要理解螢幕內容並選擇低層次操作;程式設計介面則提供另一組觀察資訊與操作方式。

這項分別猶如透過軟件介面操作,與使用已有文件記錄的程式連接方式之間的差異。兩者都能完成有用工作,卻對感知、導航與執行提出不同要求。

因此,「打通 Minecraft」並不是完整的比較標籤。這個說法指出了一項結果,卻沒有交代重要條件。讀者需要知道所用介面、目標、起始資源及評估程序。

這亦解釋了為何歷史結果不應化為簡單排名。Voyager 的探索結果,並不直接衡量與擊敗末影龍相同的成果。以影片為基礎的控制方式,評估的是可由程式碼介導遊玩所略過的能力。

對業界而言,這意味代理研究需要多項互補測試。一項可檢視視覺互動,另一項可檢視程式合成,還有一項可檢視團隊協作。單一示範無法同樣充分地代表所有這些能力。

對軟件自動化而言,程式碼介導的環境仍然非常重要。許多工作場所的任務本已提供結構化資料及可程式化操作。當中的成功毋須模仿人類滑鼠操作,仍可具備實際價值。

同時,結構化存取可以簡化任務中一些重要部分。比較時應讓這項優勢清楚可見,否則讀者可能把較佳的環境存取,誤當成推理能力有更廣泛的提升。

因此,較合適的結論是關於架構的。Google 所報告的結果,為通用編碼代理追求一項延展且共享的目標增添了證據。較早期的系統有助辨識哪些能力彼此重疊,哪些則仍未被這些證據涵蓋。

這種框架既保留了該項成就的意義,也不會把它變成模型品牌之間缺乏證據支持的競賽。

一次成功運行仍未量度可靠性

完成只能證明在所報告條件下出現了結果;可靠性則需要更廣泛的紀錄。

單次運行無法揭示所有可能結果的分布。另一個世界可能更快完成、經歷更長時間的掙扎,或在容許預算內無法完成。成功終點並不能告訴我們哪種結果才是常態。

這是理解 Google Gemini Minecraft agents 時的關鍵界線。所報告的結果支持對一次執行的能力主張,但未能為每次未來執行提供可靠預測。

Easy 設定亦應納入解讀之中。難度是實驗條件的一部分,而非讀者稍後才會發現的註腳。改變難度便會形成另一項測試。

人類監察也是如此。一輪運行可以在沒有人為干預下進行,同時仍受監督。這種監察是否必要、可選,或可擴展,均需要另行研究。

獨立複現則會回答另一個問題。它會測試原團隊以外的人,能否根據足夠完整的描述重現結果。這與核實作者是否準確記錄了其操作過程不同。

這些分別對企業採用相當重要,因為錯誤在不同環境會帶來不同後果。遊戲容許重試的方式,未必適用於外部業務流程。評估必須考慮每次失敗操作的代價。

試想一個假設的採購流程。重複一次未成功的搜尋,相對容易撤銷;但若因誤解確認資訊而重複已完成的訂單,便會造成另一類問題。

這個比較說明,復原能力不能只按最終是否完成來衡量。系統還需要辨識不可逆轉的操作,並避免重複執行。它必須保留重試與造成額外損害之間的區別。

另一項不確定因素是多代理的貢獻。團隊成功並不表示團隊勝過單一代理。更多工作者可以分攤工作,卻也會帶來溝通與協調要求。

受控比較應保持環境與資源額度一致。否則,額外運算資源可能被誤認為團隊合作的優勢。研究人員需要區分這些解釋。

記憶也應獲得同樣處理。若團隊透過共享筆記完成任務,並不能單獨說明那些筆記提供了多少幫助。若其他條件仍可比較,沒有共享記憶的比較便能釐清其機制。

這些是研究問題,並非否定該結果的理由。當廣泛基準尚未存在時,探索性示範可以找出值得進一步研究的行為。當後續實驗針對它揭示的不確定性時,其價值便會提升。

對買家而言,實際教訓是應要求提供結果分布。典型完成時間、失敗嘗試及人工修復需求,與最強的一個示例同樣重要。精心包裝的成功故事無法取代這些量度。

對研究人員而言,機會在於把可見的勝利與因果證據連結起來。哪些元素是必要的、哪些有幫助、哪些只增加複雜性?回答這些問題,會令結果更容易應用到其他地方。

留意重複性、團隊比較與遷移能力

下一批有用證據應測試可重複性、分離協調因素,並檢視另一項任務。

未來數月首個值得留意的訊號,是在隨機生成世界中進行重複評估。有價值的報告應包括每次嘗試、其停止規則及結果。這將揭示在既定預算下,完成是否常見。

更有力的結果會顯示,成功可在不同起始條件下持續出現。較弱的結果則會揭示經常停滯,或依賴異常有利的情況。無論是哪一種發現,都會加深對原始示範的理解。

完成時間應與失敗情況一併報告。一個系統即使最終完成,仍可能無法在實際期限內提供可預測表現。當另一個流程依賴其工作時,結果的分布範圍便很重要。

研究人員亦應說明如何處理中斷與基礎設施問題。這些事件可影響經過時間及比較的公平性。清晰記錄可避免技術重啟變成實驗條件中看不見的改動。

第二個訊號是團隊配置之間的受控比較。單一代理、可溝通的團隊,以及沒有共享記憶的團隊,將可測試不同解釋。可比較的資源額度有助將協調與額外運算分開。

這會令對 Gemini 代理協調的解讀更精確。若溝通能持續改善結果,便會支持投資於共享狀態與交接機制;若優勢消失,較簡單的系統便值得更密切關注。

比較亦應檢視錯誤,而不只是勝利。團隊可能更常完成任務,卻產生更多互相矛盾的報告。相反,它們可能較能復原,但花費更多時間溝通。

這些取捨很重要,因為使用者很少只為一項指標作最佳化。實際系統需要在完成度、延誤、監督及資源使用之間取得可接受的組合。首選架構取決於任務限制。

第三個訊號是遷移至另一個有明確範圍的工作流程。設有隱藏檢查的軟件維護任務,會為規劃與復原提供另一種測試,也會令其與編碼代理產品的關係更直接。

有用的研究應披露起初提供的工具與指示,並識別任何人類修正,區分由代理撰寫的程序與外部提供的程序。這些細節會顯示該機制能否超越遊戲環境。

遷移能力不應從看似熟悉的行為推斷。在 Minecraft 分享警告與協調程式碼改動,在組織層面可能看似相似;它們仍需要各自證明能正確執行。

對開發者而言,這些訊號指出未來示範應要求甚麼。留意重複結果、可比較的基準,以及干預紀錄。這些細節比更長的精華影片揭示更多資訊。

對知識工作者而言,這個故事提供了一個理由,去檢視資訊如何在交接過程中保存。當一名成員已核實的發現能幫助另一名成員正確行動時,團隊便更有用。同一原則亦適用於參與者包括軟件代理的情況。

在採用受此結果啟發的系統前,先選擇一項具明確終點及可檢視操作的有界任務。問清楚甚麼證據可確立成功、失敗容許甚麼,以及何處仍需要人類判斷。這些問題能把吸引人的示範,轉化為你可實際使用的評估。

隨着後續證據出現,請在這個脈絡下看待 Google Gemini Minecraft agents。不要只看最後勝利,也要檢視促成勝利的條件。系統能否重複結果、從團隊合作受益,以及把方法遷移到另一項任務?請利用這些答案,判斷該結果支持多少自主性。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page