（通訊員 李靖）近日，在Kaggle舉辦的全球競賽中，西安電子科技大學通信工程學院的研究生郭子淳同學在指導老師陳晨教授、俱瑩副教授的悉心指導下，榮獲大模型黑盒攻擊類競賽“LLMs - You Can't Please Them All”第一名的優(yōu)異成績。

此競賽吸引了來自全球各地的數(shù)據(jù)科學家、機器學習工程師以及相關領域的專家和學生共計超過1700支隊伍參與。參賽者們面臨著一系列復雜的挑戰(zhàn)，要求他們設計并實現(xiàn)能夠有效處理和理解自然語言的模型，同時解決實際應用中的各種問題。

使用 LLM 進行主觀評估（例如對生成文本的質量進行排名和評分）的情況越來越普遍。但是，任何自動評分系統(tǒng)都容易受到攻擊。不同的模型會有不同程度的自我偏見、位置偏見、長度偏見和風格偏見，這可能會對其提供穩(wěn)健評估的能力產(chǎn)生負面影響（Zheng 2023、Wang 2023、Panickssery 2024）。同樣，不同的模型對有針對性的攻擊（例如通用越獄）的脆弱性程度也會不同，這些攻擊可用于誤導系統(tǒng)（Wallace 2021、Zou 2023、Li 2024、Rando 2024）。

提高自動評審系統(tǒng)穩(wěn)健性的一種方法是納入多個 LLM 模型以組成一個 LLM 評審委員會。每個模型都與其他模型關系較遠，從而降低了出現(xiàn)共同漏洞的可能性。LLM 評審委員會的一個優(yōu)勢是它們對僅影響單個模型的漏洞不太敏感。本次比賽試圖回答這樣一個問題：是否可以強迫個別 LLM 評審員給出與集體共識相差甚遠的虛高分數(shù)。

郭子淳同學在比賽中展示了深厚的技術功底和創(chuàng)新思維，他所提出的解決方案不僅在技術層面實現(xiàn)了突破，還特別注重了模型的實際應用效果與用戶體驗。陳晨教授、俱瑩副教授以其豐富的研究經(jīng)驗和深厚的學術背景，提供了寶貴的建議和技術支持，幫助他在比賽過程中克服了多個難題，并最終取得了優(yōu)異的成績。

西安電子科技大學通信工程學院一直致力于為學生提供豐富的學術資源和實踐平臺，鼓勵和支持學生參加各類國際性競賽。學校、學院通過組織專項培訓、邀請行業(yè)專家進行講座等方式，不斷提升學生的專業(yè)技能和綜合素質。與此同時，教師們的積極參與和精心指導也是學生成長道路上不可或缺的一部分。此次獲獎，正是學校長期堅持“以賽促學”，強調教師指導作用的結果之一。

Kaggle 是一個全球知名的數(shù)據(jù)科學和機器學習競賽平臺，由 Anthony Goldbloom 和 Ben Hamner 于2010年創(chuàng)立，并在2017年被谷歌母公司 Alphabet 收購。它為數(shù)據(jù)科學家、機器學習工程師以及任何對數(shù)據(jù)分析感興趣的人提供了一個展示技能、學習新知識并解決實際問題的機會。它為廣大學生提供了展示自我、交流學習的機會，同時也是推動技術創(chuàng)新與發(fā)展的重要平臺。

未來，西安電子科技大學通信工程學院將繼續(xù)加強對學生參與國際競賽的支持力度，進一步深化教育教學改革，努力培養(yǎng)更多具有國際視野和社會責任感的高素質人才。我們期待著更多這樣的優(yōu)秀學子能夠在國際舞臺上發(fā)光發(fā)熱，為中國乃至世界的科技進步貢獻智慧和力量，同時也感謝所有背后默默付出的指導老師們。