10月18日下午,為了開拓學生視野、了解前沿技術發展狀況和發展趨勢,更好的培養專業型人才,3044永利集团邀請了湖北大學計算機與3044永利集团教授、碩士生導師馬傳香教授在學院樓4203室為3044永利集团師生開展了題為“大語言模型原理、演進及應用”的學術講座。本次講座由我院彭慶喜教授主持,3044永利集团部分老師出席,并在課上引起了很多同學的讨論和提問。

講座開始前,彭慶喜對馬傳香教授的學術研究背景做了簡要介紹,馬傳香博士畢業于華中科技大學計算機軟件與理論專業,是武漢愛迪科技有限責任公司科技副總。馬傳香從事數據挖掘、人工智能相關方向的研究和應用工作已有多年,經驗豐富;同時參與的基金項目、發明的專利、發表的論文不僅從數量上更從質量上都頗具影響力。

講座開始後,馬傳香以大家熟知的目前非常火爆的ChatGPT為引子,引入了GPT(Generative Pre-trained Transformer)的概念,從而引爆了大家對人工智能的好奇,學生都打起十二分精神聽馬傳香講解。她從GPT這個切入點,講到GPT所依賴的Transformer框架,到整個Transformer框架的發展和演進,特别是其在大語言模型上的應用。Transformer之所以在大模型的處理中如此受歡迎,一是得益于其自注意力(Self-Attention)機制使得每個時間步的計算隻依賴于輸入的向量,因此可以實現完全并行的計算,這對于大模型來說,可以極大的減少其疊代周期;第二點就是Transformer自注意力機制能夠捕捉長距離的依賴關系,這對于數據量龐大的大模型來說能夠更好地構建全局的關系,即擁有宏觀觀察能力。第三點則是Transformer具有很好的可遷移性,可以通過在大規模數據上進行預訓練,然後在其他任務上進行微調,從而提高模型的表現,這使得大模型的适用範圍更廣,研發周期大大降低。

最後,馬傳香向大家舉了一些大語言模型的應用場景,例如文本分類、命名實體識别、機器翻譯、問答系統等。展示了她帶領的研究團隊所展開的一系列實踐探索。并回答了一些學生提出的問題。
精彩的講座結束了,但是學生們澎湃的心久久停息不下來,大數據、人工智能的發展帶給人們的是更加便利便捷的生活,相信我們的同學今後也将投身這個偉大的事業,用科技改變生活,改造世界。