新年伊始，為推動(dòng)前沿人工智能技術(shù)走近公眾、助力本地?cái)?shù)字化能力建設(shè)，江西兩只老虎科技有限公司近日在江西撫州開展新年公益科普活動(dòng)?；顒?dòng)面向本地從業(yè)者、在校學(xué)生及對AI感興趣的公眾開放，圍繞“大模型本地部署實(shí)踐、智能體（Agent）研發(fā)思路、大模型訓(xùn)練與微調(diào)流程”等主題，通過通俗講解、案例演示與互動(dòng)交流，幫助參與者更直觀地理解當(dāng)前大模型技術(shù)的發(fā)展方向與落地路徑。
作為一家以技術(shù)研發(fā)為核心的科技企業(yè)，江西兩只老虎科技有限公司長期投入大模型相關(guān)技術(shù)棧建設(shè)與工程化落地，重點(diǎn)圍繞推理服務(wù)本地化部署與性能優(yōu)化、面向業(yè)務(wù)場景的智能體編排與工具調(diào)用框架、以及數(shù)據(jù)處理、訓(xùn)練、評測、微調(diào)的研發(fā)鏈路持續(xù)迭代?；顒?dòng)現(xiàn)場，公司技術(shù)團(tuán)隊(duì)從“為什么要本地部署”切入，結(jié)合實(shí)際業(yè)務(wù)需求，系統(tǒng)介紹了本地部署在數(shù)據(jù)合規(guī)、響應(yīng)時(shí)延、成本控制與可控性等方面的價(jià)值，并對常見部署形態(tài)進(jìn)行拆解講解，包括單機(jī)推理與集群推理的差異、GPU資源調(diào)度與并發(fā)策略、推理加速思路，以及量化壓縮在降低資源占用、提升部署效率中的作用，讓聽眾對“從模型到服務(wù)”的工程路徑形成清晰認(rèn)知。
在智能體研發(fā)專題中，技術(shù)團(tuán)隊(duì)圍繞“讓模型從會說話走向會做事”的核心思路，講解智能體如何把模型能力、工具能力與流程能力結(jié)合起來，實(shí)現(xiàn)更穩(wěn)定、更可控的任務(wù)執(zhí)行?，F(xiàn)場重點(diǎn)介紹了檢索增強(qiáng)（RAG）、函數(shù)調(diào)用/工具調(diào)用、工作流編排、記憶管理與權(quán)限控制等關(guān)鍵模塊，并結(jié)合典型場景展示智能體在知識問答、文檔處理、自動(dòng)化運(yùn)維、代碼輔助與流程自動(dòng)化等方向的落地方式。技術(shù)團(tuán)隊(duì)同時(shí)強(qiáng)調(diào)，智能體系統(tǒng)不僅要追求“效果”，更要在可靠性、可解釋性與安全邊界上建立約束機(jī)制，避免在真實(shí)業(yè)務(wù)環(huán)境中出現(xiàn)不可控風(fēng)險(xiǎn)。
圍繞大模型訓(xùn)練與微調(diào)，分享內(nèi)容以“可落地、可復(fù)現(xiàn)”為原則，介紹數(shù)據(jù)準(zhǔn)備、清洗與標(biāo)注的基礎(chǔ)方法，說明預(yù)訓(xùn)練、指令微調(diào)（SFT）與偏好優(yōu)化等常見訓(xùn)練范式的差異，并結(jié)合實(shí)踐經(jīng)驗(yàn)講解如何以可控成本推進(jìn)迭代：例如圍繞目標(biāo)任務(wù)構(gòu)建高質(zhì)量樣本、建立評測集與自動(dòng)化評測指標(biāo)、通過LoRA等參數(shù)高效微調(diào)方式提升特定任務(wù)效果等?，F(xiàn)場還就算力規(guī)劃、訓(xùn)練穩(wěn)定性、版本管理與復(fù)現(xiàn)實(shí)驗(yàn)流程等工程問題展開討論，幫助參與者理解“大模型訓(xùn)練不是玄學(xué)，而是一套可拆解的工程方法”。
活動(dòng)設(shè)置互動(dòng)問答環(huán)節(jié)，參與者就“本地部署需要怎樣的硬件配置”、“如何選擇開源模型與量化方案”、“RAG如何提升穩(wěn)定性與命中率”、“智能體如何與企業(yè)系統(tǒng)對接”、“訓(xùn)練數(shù)據(jù)如何控制噪聲與偏差”等問題與技術(shù)團(tuán)隊(duì)深入交流。江西兩只老虎科技有限公司相關(guān)負(fù)責(zé)人表示：“AI發(fā)展很快，但真正有價(jià)值的是把技術(shù)變成可用、可控、可持續(xù)的能力。我們希望通過公益科普，讓更多人理解大模型的工程化路徑，降低‘只會聽概念’的門檻，也為本地培養(yǎng)更多懂落地的技術(shù)人才盡一點(diǎn)力。”
據(jù)介紹，江西兩只老虎科技有限公司后續(xù)還將持續(xù)開展面向公眾與企業(yè)的技術(shù)分享與實(shí)踐活動(dòng)，內(nèi)容將覆蓋大模型推理優(yōu)化、智能體平臺化、行業(yè)知識庫構(gòu)建、訓(xùn)練與評測體系搭建等方向，并在合規(guī)與安全前提下，推動(dòng)更多可復(fù)制的本地化落地方案，助力區(qū)域數(shù)字經(jīng)濟(jì)發(fā)展。