一、平臺概述
IT系統的建成即落后是一個相對常見的現象，信息技術領域的發展速度非常快，新的技術、工具和方法不斷涌現。一個系統從規劃到建成可能需要數月甚至數年的時間，在這期間，技術可能已經發生了重大變化，導致建成即落后。
過去的兩年中隨著大模型的問世，人工智能技術經歷了質的飛躍，作為最先進的人工智能技術，大模型技術仍在日新月異的快速發展。在國防智能化建設過程中如何避免建成即落后，是必須應對的挑戰。相較于民用大模型應用，大模型在國防領域的應用面臨著更多的挑戰：
為了應對上面的挑戰，紫光銀河大模型平臺應運而生，平臺提供了可持續的大模型生產線，聚焦“持續學習、人機協作、成長演化”。
模型持續學習，平臺基于完全國產化的軟硬件環境，結合國防領域私域數據，通過高效的模型重訓、模型微調、強化學習訓練、模型評估、模型安全等能力，實現了一站式、可持續的國防領域大模型構建。
系統人機協作，對于復雜業務平臺提供了基于大模型的多智能體框架，采用角色模擬、工具調用和人在回路的組合設計，使得多個智能體之間能夠自主配合，同時智能體也能與人類指揮官進行交互，通過人機協作完成復雜的綜合、組合型任務。
業務成長演化，平臺提供大模型倉庫，基座大模型可以隨著技術進步而升級或替換。另外平臺還提供60+項國防應用任務構建所需的工具，通過簡單的流程編排即可實現后勤保障行動方案制定、軍事公文寫作、檔案知識服務等多樣的大模型+國防業務場景應用，可編排的業務流程使得平臺能夠對未來業務變化快速響應，保護已有投資價值。
二、典型應用場景
（一）后勤保障行動方案制定
后勤保障行動方案制定主要利用了平臺的多智能體能力，由總計劃官智能體向路線規劃官、代碼執行官、文書官和評論官等不同職責的智能體下達任務，智能體間互相協助最終完成后勤保障行動方案制定。平臺支持智能體角色定義、工具調用、任務分配與協同、自動化執行、自我優化及反饋等功能。通過智能體并行處理任務，優化任務執行，可以提高行動方案制定的效率，另外在多智能體處理過程中也可以進行人為的干預，從而規范每個智能體的行為，形成人在回路。
（二）軍事公文寫作助手
軍事公文寫作助手利用海量公文數據訓練軍事公文領域大模型，以滿足軍事公文寫作風格要求，通過概要生成、長文本生成、文生圖等能力進行公文輔助創作。支持根據公文類型、綱要生成寫作內容，通過智能續寫、擴寫、潤色完成詞匯優化和段落重組，通過文生圖功能生成流程圖與架構圖。為了滿足軍事公文寫作嚴謹性的要求，寫作助手融合了知識庫、知識圖譜檢索增強能力，并為用戶提供相關軍事文獻參考。對于大模型生成的優秀文本可以回流至知識庫，從而不斷升模型在特定類型或主題上的公文寫作能力。軍事公文寫作助手可以激發創作靈感，將寫作效率提升10倍以上。
（三）大小模型協作的檔案知識服務
檔案知識服務應用中采用了“大模型為中樞、小模型為骨干”的能力設計，由總體規劃智能體自動完成意圖理解、工具理解以及規劃理解，自主組合調度領域大模型、任務場景模型以及傳統業務小模型的能力。小模型能夠快速準確地完成諸如關系抽取、實體識別等任務，在處理結構化數據和明顯的信息抽取任務時效果顯著。當任務涉及到需要更多背景知識、邏輯推理，需要深度分析時，就需要大模型來接管這些復雜的任務。大小模型合作可以充分利用各自的優勢，實現能力的互補，協作完成檔案鑒定、檔案整理著錄、檔案分級分類、檔案輔助編研、多模態電子檔案智能檢索等檔案業務應用。
三、平臺優勢
（一）智能體完成多模態復雜任務
平臺提供了基于大模型的多智能體框架，采用角色模擬、工具調用和人在回路的組合設計，使得多個智能體之間能夠自主配合完成復雜的綜合、組合型任務，實現了任務規劃能力、編排和調度大模型及各外部工具的能力，整合了文本、圖像、聲音等多模態交互的能力，從而完成多模態復雜任務。
（二）效率更高，成本更低
大模型平臺優選清華智譜ChatGLM系列作為基座模型，輔以高效的推理加速組件，在不損失模型推理精度的情況下最終實現了計算量級和顯存需求的降低，使得存儲開銷降至10分之1，推理速度顯著提升2至8倍，最大化的利用了計算資源，有效降低了算力成本。
（三）國產化自主可控硬件
平臺適配紫光恒越UNIS Server R3810 G6 服務器，該款服務器采用了完全國產化的硬件，其中CPU為飛騰5000C，GPU 為天H****，單卡FP16峰值算力能夠達到288TFLOPS。
（四）大模型生命周期安全
大模型平臺圍繞大模型生命周期核心資產，從數據、算法、模型、應用和環境五個維度保障大模型安全。采用數據隱私計算、模型后門檢測、漏洞挖掘修復、安全攻擊檢測、業務合規審核等技術手段，保障數據安全穩定、算法抗誘魯棒、模型決策可信、應用合法合規、環境安全可靠。
