5月18日從西安電子科技大學獲悉，由該校計算機科學與技術(shù)學院教授趙偉領(lǐng)銜的智能媒體計算機團隊，通過數(shù)據(jù)可信重建以及弱監(jiān)督深度學習框架，破解了數(shù)據(jù)質(zhì)量低及標注數(shù)據(jù)稀缺難題，進一步揭示了神經(jīng)網(wǎng)絡(luò)的決策機制，有效提升了現(xiàn)有可信人工智能方法的魯棒性、可解釋性和安全性。相關(guān)論文《可信沖突多模態(tài)學習算法》日前獲國際人工智能領(lǐng)域頂級學術(shù)會議AAAI2024杰出論文獎。
人工智能已經(jīng)日益深入人們生活。在醫(yī)療、自動駕駛等復雜場景中，人工智能對決策任務(wù)的誤判可能造成重大損失。傳統(tǒng)可信人工智能多關(guān)注單模態(tài)數(shù)據(jù)，無法滿足實際場景中多模態(tài)數(shù)據(jù)分析決策需求，單模態(tài)數(shù)據(jù)有限的信息量導致單模態(tài)智能可信度存在瓶頸。
為此，團隊打破單模態(tài)數(shù)據(jù)思路，提出沖突多模態(tài)學習算法，并通過數(shù)據(jù)可信重建以及弱監(jiān)督深度學習框架算法，實現(xiàn)了證據(jù)層面的沖突多模態(tài)數(shù)據(jù)可信融合。這能在提升人工智能決策性能的同時，可靠地度量決策置信度。此外，團隊從理論上證明，該方法能夠量化沖突模態(tài)帶來的負面影響。這有利于解決當前研究面臨的數(shù)據(jù)質(zhì)量低、決策不可信等難題，為后續(xù)研究提供了重要的理論基礎(chǔ)和技術(shù)支撐。
團隊成員徐偲副教授解釋，這種算法在給出置信度的同時，還會給出多模態(tài)數(shù)據(jù)的沖突度，實現(xiàn)了多模態(tài)信息的“去偽存真”。若置信度不高且沖突度較高時，人工智能的決策便明顯不太可信。