題 目:垂域大模型優(yōu)化方法與應(yīng)用
時(shí) 間:2025年8月30日(星期六)16:00
主講人:張通
地 點(diǎn):博學(xué)樓(第42教學(xué)樓)322會(huì)議室
主辦單位:電子信息工程學(xué)院
主講人簡介:張通,教授,IEEE Senior Member,華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院副院長,博士生導(dǎo)師,國家優(yōu)秀青年科學(xué)基金和廣東省杰出青年基金獲得者。主要從事情感計(jì)算和大模型等人工智能基礎(chǔ)算法及相關(guān)應(yīng)用研究。入選Elsevier全球前2%頂尖科學(xué)家榜單。擔(dān)任IEEE Transactions on Affective Computing,IEEE Transactions on Computational Social Systems, Brain Informatics和Journal of Intelligent Manufacturing等期刊副編。
講座簡介:
本報(bào)告主要圍繞大模型如何構(gòu)建可用、易用和通用的垂直領(lǐng)域大模型展開討論,從通用的多種數(shù)據(jù)模態(tài),包括圖像、文本、語音等,探索單模態(tài)LLM技術(shù),并在不同子任務(wù)下深入分析與挖掘單模態(tài)的特性與多模態(tài)間的關(guān)聯(lián)性,基于此構(gòu)建多模態(tài)綜合模型。在上述研究基礎(chǔ)上,通過對參數(shù)高效微調(diào)、知識(shí)遷移微調(diào)以及中文場景適配的研究,為垂域大模型構(gòu)建提供多方面的模型優(yōu)化策略。最后,針對不同垂域的知識(shí),設(shè)計(jì)通用的垂域優(yōu)化技術(shù),包括構(gòu)建垂域指令集并獲取結(jié)構(gòu)化知識(shí)、在垂域模型中設(shè)計(jì)單模態(tài)Agent以及基于MoE將多模態(tài)綜合模型打造成垂域模型的多模態(tài)基座。通過分層次分階段完成上述任務(wù),介紹大模型在多個(gè)場景下,實(shí)現(xiàn)領(lǐng)域內(nèi)賦能的應(yīng)用示范。