生成式AI快速發展，不少公務機關已開始將AI導入日常業務，協助政府機關導入AI的Headquarter.aii共同創辦人暨執行長黃建璋認為，真正的挑戰並非模型能力，而是AI Agent如何融入政府業務流程與治理架構。
目前大型語言模型（LLM）的競爭相當激烈，模型排行榜幾乎每隔一段時間就會更換，因此政府若將系統綁定單一模型，未來將面臨升級與轉換困難。他建議從一開始便應採取模型中立架構，保留彈性，才能隨技術演進持續選用最合適的模型。
一個完整的AI Agent除了LLM之外，還應包括工具（Tools）、提示詞（Prompt）、上下文（Context）以及能自主規畫與反覆執行任務的Agent Loop，特別是Agent Loop，「沒有Agent Loop的系統，很難稱為新一代AI Agent」。
透過工具串接資料庫、API與內部系統，再配合上下文管理與Agent Loop機制，AI才能依任務目標自行選擇不同執行方式，而非僅依固定流程運作。
在實際部署上，他將AI Agent區分為兩種型態，一種是採取Human-in-the-loop的人機協作模式，由AI完成大部分工作，但在人員審核後才進入下一步，適用於公文、審查、行政決策等高風險業務；另一型態是AI員工（Autonomous Agent），可自主完成整個流程，只在異常或事後稽核時才由人員介入，較適合郵件分類、文件整理、跨系統資料比對等高頻率、標準化的作業。
許多公部門AI示範計畫成效不如預期，並非是AI的能力不足，而是Agent型態與實際業務流程不匹配，例如每天需要處理的大量電子郵件分類，若AI完成分類後仍需人工逐件確認，反而無法真正降低工作負擔，此類工作便更適合採用全自動AI員工模式。
AI Agent與傳統RPA（機器人流程自動化）最大的差異，在於前者可根據情境動態調整流程，理解自然語言與非結構化文件，甚至可透過更新知識文件來調整工作規則，而不必重新開發程式，因此是在既有資訊系統上增加智慧判斷能力，而非取代原有系統。
適合AI Agent處理的工作有三個判斷標準，工作量大且持續發生、判斷標準明確、可直接串接內部系統。例如公文分文、文件查核、資格審查、郵件分類、跨系統資料比對等等，適合導入AI Agent。

資料來源：iThome