1. AI 代理人：自主執行任務的智慧系統 [0]

AI 代理人是一種能夠自主規劃和執行任務的系統，它利用多種工具來達成複雜的目標，並能根據環境變化調整策略。

1.1. AI 代理人的定義與運作方式 [3]

  1. AI 代理人是一種能夠自主規劃和執行任務的系統，無需人類持續輸入，能自行思考、決策和行動 [3]。
    1. 它能設計、審查並執行子任務，重複進行「自我提示」（self-prompting）的過程 [8]。
    2. AI 代理人與傳統 AI 最大的不同在於其自主規劃和適應性，能根據不斷變化的情況調整方法以達成目標 [10]。
    3. 它能自行推斷、規劃並執行最佳解決方案來完成人類請求的任務 [12]。
  2. AI 代理人透過工具來提供解決方案，這與傳統聊天機器人不同 [18]。
    1. 傳統聊天機器人僅對請求提供一般性回應，無法提供實際可行的解決方案 [20]。
    2. AI 代理人則能利用日曆應用程式、訂房網站等工具，提供最佳且可行的解決方案 [14]。
    3. 例如，一位挪威記者利用 AI 代理人規劃 4 天 5 夜的挪威旅行，AI 代理人會使用日曆應用程式推薦行程、透過訂房網站搜尋符合預算的飯店，並確認景點開放時間等 [14]。
  3. AI 代理人的核心構成要素包含環境、感測器、知識庫、經驗、處理器和致動器 [23]。
    1. 感測器（如攝影機、麥克風）收集環境數據，並結合知識庫中的資訊進行決策 [25]。
    2. 知識庫包含 AI 代理人預先學習的資訊、使用者提供的資訊及環境數據 [26]。
    3. 經驗是指 AI 代理人與使用者互動中學習到的過往經驗 [27]。
    4. 處理器根據這些資訊和經驗進行推論，規劃行動 [28]。
    5. 致動器則負責實際執行這些行動，與環境產生互動 [30]。
  4. AI 代理人的運作原理是一個循環過程：透過感測器感知環境，基於經驗和知識執行行動，行動後環境隨之改變，代理人再重新感知並做出新的決策，如此循環直到目標達成 [31]。
    1. 環境是代理人運作的領域，包含可觀察的當前狀態資訊，例如客戶服務聊天中的訊息、使用者資料、位置、語言等 [35]。
    2. 能力優先級（Bilities Priority）指模型透過數據預先學習的能力和知識程度 [37]。
    3. 目標是代理人根據使用者請求自行判斷的目的和待執行事項，並能將大目標細分為中間目標 [38]。
    4. 選項是代理人收集到的環境資訊或狀態 [40]。
    5. 代理人根據觀察到的資訊、過往經驗和能力等做出決策，包含規劃和行動，這些行動會再次改變環境，形成新的選項供代理人執行新的行動 [41]。
  5. AI 代理人與記憶、規劃和行動這三個核心要素互動 [44]。
    1. 記憶儲存與使用者的對話和過往執行經驗，作為規劃行動的基礎 [45]。
    2. 規劃階段會檢視計畫的不足之處，利用「思維鏈」（Chain of Thought, COT）來優化計畫，並透過「子任務分解」（Sub-Composition）將大目標細分為小目標 [46]。
    3. 行動是指代理人利用自身能力之外的工具來執行任務，例如設定日曆提醒 [47]。
    4. 代理人、規劃和行動各自使用獨立的大型語言模型（LLM），其中代理人作為核心監督者，需要最高智慧的模型來提升任務執行能力並減少循環次數，以產生更優質的回應 [49]。
  6. 目標導向型 AI 代理人（Goal-Based AI Agent）能處理日常生活中更廣泛的目標，例如旅行規劃、機票預訂、餐廳搜尋等 [52]。
    1. 這類代理人會識別可行的行動，做出最佳決策以達成目標 [54]。
    2. 它能將目標細分，評估子目標的優先順序，並根據環境變化或新資訊調整目標和策略，以高效運作 [55]。
    3. 有時會設置獨立的代理人來判斷優先順序 [56]。
    4. Gartner 分析師 Tom Kosho 預測，AI 代理人將在改變消費者日常生活中扮演越來越重要的角色，顯示其未來潛力 [57]。

1.2. 多代理人系統與 AutoGPT [59]

  1. 多代理人系統（Multi-Agent System）比單一代理人更有效，因為它能將複雜任務分解，讓每個代理人扮演特定領域的專家 [60]。
    1. 每個代理人利用適合其角色和任務的工具，專注於單一任務，從而提升各環節的品質，最終產生比單一代理人更優異的成果 [62]。
  2. AutoGPT 是一個多代理人研究案例，它使用三種代理人：任務生成代理人、執行代理人、任務優先順序指定代理人 [64]。
    1. 任務生成代理人：使用者輸入目標後，它會檢查記憶中已完成的相關任務，然後根據當前目標和已完成任務列表生成新的任務列表 [66]。
    2. 任務優先順序指定代理人：根據目標和上次執行的任務，為新生成的任務列表決定優先順序，並將其整理成優先順序列表供使用者確認 [69]。
    3. 任務執行代理人：在使用者批准後，執行優先順序最高的任務，並將執行結果、完成的任務列表以及使用者回饋儲存到記憶中 [71]。
    4. AutoGPT 會自主重複這六個步驟，直到達成使用者輸入的目標 [73]。
    5. 例如，使用者以文字形式設定目標後，AI 代理人會定義其名稱、角色和目標，並將目標細分為工具形式的子任務 [74]。
    6. 代理人會選擇達成目標所需的工具，並規劃要執行的任務 [77]。
    7. 在獲得使用者的批准和回饋後，代理人會自主重複框架中的步驟 2 到 6 [78]。

2. AI 科學家：全自動化科學研究框架 [80]

AI 科學家是一個端到端全自動化的研究框架，能從研究構思、實驗執行、論文撰寫到審查，大幅提升研究效率並降低成本。

2.1. AI 科學家框架概述與研究構思階段 [80]

  1. AI 科學家的目標是自主執行研究，是一個完全自動化的論文生成框架 [81]。
    1. 它能自動完成從研究構思、實驗執行、論文撰寫到審查和修改的整個過程 [83]。
    2. 特別是審查過程，它設計了一個基於大型語言模型（LLM）的自動化同儕審查機制 [84]。
  2. 在研究構思階段，AI 科學家會生成研究想法並進行評估 [85]。
    1. 系統會提供包含初始研究方向說明的模板，其中包含提示詞和基本模型程式碼 [85]。
    2. 生成的想法不僅是一句話的描述，還包括動機、整體結構、預期實驗結果和與現有研究的差異等具體說明 [86]。
    3. 在提出新想法時，還會生成簡要說明、論文標題和實驗計畫 [86]。
    4. 每個想法都會根據趣味性、可行性和新穎性三個方面進行自我評估並打分 [87]。
    5. 系統會重複修改和完善想法，總共生成約 50 個想法，然後檢查它們的整體新穎性 [88]。
    6. 透過 Semantic Scholar API 搜尋相關研究來評估想法的新穎性，這個評估過程也會重複進行 [89]。
    7. 如果新穎性評估結果為「新穎」或「非新穎」，則進入下一階段；如果難以判斷，模型會生成更多查詢進行搜尋 [90]。
    8. 這個過程旨在篩選掉與現有文獻過於相似的想法，只保留獨創且新穎的想法 [91]。
    9. 最終，只有被評估為「新穎」的想法才能進入實驗階段 [92]。
    10. 生成的想法、分數和新穎性評估結果都會被儲存 [93]。
    11. 想法範例會包含名稱、標題、實驗計畫的三項指標分數，以及是否新穎的判斷 [94]。

2.2. 實驗執行與論文撰寫階段 [96]

  1. 實驗代理人負責規劃和重複執行實驗，以生成最終結果 [96]。
    1. 它使用程式碼助手「Ada」來規劃和執行實驗 [97]。
    2. 只有被評為「新穎」的想法才會進行實驗，系統會根據想法和實驗計畫的提示詞生成實驗列表 [98]。
    3. 參考程式碼模板來實現程式碼，並設定實驗的最大執行次數，避免無限重複 [99]。
    4. 如果實驗失敗或超時，Ada 會修改和審查程式碼，使其更穩健 [100]。
    5. 例如，程式碼模板是黑色文字部分，紅色文字是 Ada 在重複實驗中刪除的程式碼，綠色文字是根據中間結果添加的程式碼 [101]。
    6. 所有實驗完成後，系統會生成實驗結果的視覺化圖表，Ada 會參考並修改預先提供的 Python 視覺化程式碼 [102]。
    7. 因此，視覺化資料可能與初始計畫不同，產生更準確的新結果 [103]。
    8. 系統還會撰寫解釋每個實驗結果核心內容的備註，這些備註將用於後續的論文撰寫 [105]。
    9. 備註不僅包含核心解釋，還記錄了實驗過程中發生的所有事項 [106]。
    10. 當所有實驗部分完成並判斷為成功後，便進入論文撰寫階段 [107]。
    11. 視覺化資料的備註範例具體說明了圖表的重點和構成，即使不看圖也能理解其內容 [108]。
  2. 論文撰寫階段涉及撰寫、審查和修改研究手稿，最終完成論文 [110]。
    1. 系統會根據所有實驗結果撰寫論文初稿，並遵循標準機器學習學術會議的論文格式，使用 LaTeX 撰寫 [111]。
    2. 為提高論文品質，撰寫和修改分為四個階段 [112]。
    3. 首先，給定空白的 LaTeX 模板，系統會逐節撰寫初稿 [113]。
    4. 每節初稿完成後，會進行精煉以檢查錯誤，無誤後再撰寫下一節的初稿，撰寫順序從引言到結論 [113]。
    5. 所有章節初稿完成後，系統會搜尋參考文獻，利用 Semantic Scholar API 搜尋資料，並僅引用搜尋到的論文來添加文本文件 [115]。
    6. 接著，對整體初稿進行自我反思，刪除重複資訊並簡化論文論點 [117]。
    7. 最後，在建構實際的 LaTeX 文件時，會檢查圖表是否重複、標籤是否準確、章節是否重複以及 LaTeX 錯誤是否已修正 [118]。
    8. 如果編譯失敗，系統會重複修改問題並重新編譯的過程 [119]。
    9. 通過這些步驟後，論文撰寫階段便告完成，隨後進入審查流程 [120]。

2.3. 自動化審查流程與實驗結果 [121]

  1. 自動化審查流程使用「自動化審稿人」（Automated Reviewer），這是一個基於 GPT-4 的代理人，根據 NeurIPS 審稿指南進行論文審查 [121]。
    1. 每次審查約產生 0.25 至 0.5 美元的 API 費用 [122]。
    2. 審查過程包含對撰寫的評論進行重複檢查和修改，以及整合多位審稿人評估的「審稿集成」（Review Ensemble）機制 [124]。
    3. 每篇論文會生成五份評論，並將這些評論集成以得出最終審查結果 [125]。
    4. 審查流程完成後，根據總體分數決定論文是「接受」還是「拒絕」 [126]。
  2. 實驗使用 Claude Sonnet 3.5、GPT-4、DeepSeek Coder 和 Llama 3.1 405 億參數模型 [129]。
    1. 評估指標有七項：生成的想法數量、通過新穎性檢查的想法數量、成功完成實驗的想法數量、最終撰寫成論文的想法數量、論文的平均審查分數、最高審查分數以及整個流程的總 API 成本 [130]。
    2. 生成 50 個想法約需 12 小時，撰寫數百篇論文和實驗總共花費一週 [133]。
    3. 超參數設定包括：每次執行提供 1-2 個種子想法，生成 50 個新想法；每個想法最多審查 3 次；新穎性搜尋最多 10 次；實驗執行次數設有上限；論文引用搜尋最多 20 次；LaTeX 錯誤修正嘗試最多 5 次；審查評論檢視 5 次；集成論文數量為 5 篇 [134]。
  3. 實驗結果顯示，Claude Sonnet 3.5 在三個研究領域（Diffusion Language Modeling, Grokking）中表現最優異 [140]。
    1. Claude Sonnet 3.5 的平均最高分數約為 5.33 [142]。
    2. 許多論文的自動化審稿人分數超過了學術會議的平均接受標準 6 分 [143]。
    3. GPT-4 在生成新穎想法方面表現出色，但在處理 LaTeX 方面能力不足，難以完成最終論文 [144]。
    4. DeepSeek Coder 在代理人應用能力上稍遜，但能顯著降低成本 [145]。
  4. 自動化審稿人的實驗結果與人類審稿人進行了比較 [146]。
    1. 將自動化審稿人與人類對 IEEE ICLR 2022 年 500 篇論文的決定進行比較 [147]。
    2. Sacc 和 GPT-4 Mini 的性能較差 [148]。
    3. GPT-4 是最能扮演審稿人角色的代理人，且在調整了論文接受與拒絕類別不平衡後，結果更為準確 [149]。
    4. AUC 值與人類或 GPT-4 直接評估的結果相似，而 F1 分數甚至優於人類 [150]。
    5. FPR（誤報率）指標越低越好，表示審查越嚴格，在此方面人類優於 GPT-4，作者認為這需要改進 [151]。
    6. FNR（漏報率）指標越低越好，表示沒有錯過好論文，在此方面 GPT-4 遠優於人類 [152]。
    7. 因此，AI 科學家研究中提出的自動化審稿人能有效判斷論文品質，並避免拒絕優秀論文 [153]。

2.4. 討論與結論 [154]

  1. AI 科學家代理人的優點與限制 [154]。
    1. 優點：能重複執行實驗、修改和完善程式碼，直到得出滿意的結果 [155]。它還能根據研究想法和實驗結果，自主生成更合適的新視覺化資料 [156]。
    2. 限制：在生成想法時，會產生過多相似的想法 [157]。雖然能熟練執行想法，但缺乏完全解釋演算法成功原因的背景知識 [158]。此外，生成的創意想法數量非常少，且大型語言模型在處理 LaTeX 方面的能力不高 [159]。由於整個研究流程完全依賴大型語言模型，其普遍的可靠性限制不容忽視 [160]。這些問題可能降低論文品質和可靠性，影響 AI 科學家的表現，表明其成果仍需人類研究者的審查和調整 [161]。
  2. 自動化審稿人代理人的優點與限制 [154]。
    1. 優點：能客觀分析和評估論文中的不足之處 [163]。生成的評論中包含許多與論文相關的有意義問題 [164]。
    2. 限制：缺乏傳統審查流程中作者反駁審稿人意見並再次審查的機制 [165]。
  3. 結論：AI 代理人能利用多種工具探索可行的解決方案，並根據環境調整策略以達成目標 [167]。
    1. 「AI 科學家」是首個完全自動化研究的端到端框架，涵蓋從想法生成、實驗設計、執行、結果視覺化到完整手稿撰寫的整個過程 [169]。
    2. 它還設計了自動化審查流程來評估論文品質，旨在選擇最佳研究想法，並使其運作方式類似於人類學術社群 [171]。