清華新聞網(wǎng)6月29日電 近期，清華大學(xué)交叉信息研究院趙行助理教授研究組及其合作單位的研究者們提出一種新型符號(hào)性記憶框架ChatDB，突破了此前常用的記憶框架中對(duì)儲(chǔ)存信息操作不精確、歷史信息儲(chǔ)存形式缺乏結(jié)構(gòu)性等局限。
圖1.ChatDB工作流程示意圖
ChatDB由一個(gè)大語(yǔ)言模型（如ChatGPT）和一個(gè)數(shù)據(jù)庫(kù)組成，可利用符號(hào)性操作（即SQL指令），實(shí)現(xiàn)對(duì)歷史信息長(zhǎng)期、精確的記錄、處理和分析，并幫助回應(yīng)用戶(hù)的需求。其框架包含三個(gè)主要階段：輸入處理（input processing），記憶鏈（chain-of-memory），總結(jié)回復(fù)（response summary）。第一階段，LLMs處理用戶(hù)輸入需求，對(duì)不涉及使用數(shù)據(jù)庫(kù)記憶模塊的指令，直接生成回復(fù)；而對(duì)涉及記憶模塊的指令，則生成能與數(shù)據(jù)庫(kù)記憶模塊交互的一系列SQL語(yǔ)句。第二階段，記憶鏈執(zhí)行一系列中間記憶操作與符號(hào)性記憶模塊交互。ChatDB按照先前生成的SQL語(yǔ)句依次執(zhí)行插入、更新、選擇、刪除等操作。外部數(shù)據(jù)庫(kù)執(zhí)行相應(yīng)的SQL語(yǔ)句，更新數(shù)據(jù)庫(kù)并返回結(jié)果。在執(zhí)行每一步記憶操作之前，ChatDB會(huì)根據(jù)先前SQL語(yǔ)句的結(jié)果決定是否更新當(dāng)前記憶操作。第三階段，語(yǔ)言模型綜合與數(shù)據(jù)庫(kù)交互得到的結(jié)果，并對(duì)用戶(hù)的輸入做出總結(jié)回復(fù)。
圖2.ChatDB框架概覽
為驗(yàn)證ChatDB中將數(shù)據(jù)庫(kù)作為符號(hào)性記憶模塊來(lái)增強(qiáng)大語(yǔ)言模型的有效性，并與其他的模型進(jìn)行定量比較，研究者們構(gòu)造了一家水果店運(yùn)營(yíng)管理的合成數(shù)據(jù)集，并命名為“水果商店數(shù)據(jù)集”，其中包含了70條按時(shí)間順序生成的商店記錄，約有3300個(gè)tokens（小于ChatGPT最大上下文窗口長(zhǎng)度4096個(gè)）。這些記錄包含水果店的四種常見(jiàn)操作：采購(gòu)、銷(xiāo)售、價(jià)格調(diào)整和退貨。ChatDB模型中的LLM模塊使用了ChatGPT（GPT-3.5 Turbo），溫度參數(shù)設(shè)置為0，并使用MySQL數(shù)據(jù)庫(kù)作為其外部符號(hào)性記憶模塊。對(duì)比的基線(xiàn)模型為ChatGPT（GPT-3.5 Turbo），最大的上下文長(zhǎng)度為4096，溫度參數(shù)也設(shè)置為0。研究者們?cè)谒痰陠?wèn)答數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)，發(fā)現(xiàn)相對(duì)于ChatGPT，ChatDB在這些問(wèn)題的解答上展現(xiàn)出了顯著的優(yōu)勢(shì)。
近日，該成果以論文“ChatDB：用數(shù)據(jù)庫(kù)作為符號(hào)性記憶模塊來(lái)增強(qiáng)大語(yǔ)言模型”（ChatDB: Augmenting LLMs with Databases as Their Symbolic Memory）發(fā)布于康奈爾大學(xué)ArXiv。
該論文共同第一作者為清華大學(xué)交叉信息研究院博士生胡晨旭和智源研究院研究員付杰，通訊作者為付杰和交叉信息院助理教授趙行，其他作者包括清華大學(xué)博士生杜晨壯、駱?biāo)济?，以及浙江大學(xué)助理教授趙俊博。
論文鏈接：
https://arxiv.org/abs/2306.03901
供稿：交叉信息研究院
編輯：李華山
審核：郭玲
