隨著大選投票進入關(guān)鍵階段，近日，一段由人工智能（AI）技術(shù)生成的印度總理莫迪熱舞視頻在社交網(wǎng)絡(luò)上瘋傳，為莫迪的高人氣再添一把火，也顯示AI在今年印度大選中熱度不減。
今年印度大選被稱為該國首次“AI選舉”，AI技術(shù)被廣泛應(yīng)用于競選活動，甚至被認為正在重塑印度的選舉生態(tài)。
不過，在選舉過程中，濫用AI也導(dǎo)致亂象叢生，為莫迪政府帶來巨大監(jiān)管挑戰(zhàn)。
首次“AI選舉”
在一段上傳于社交媒體X的AI生成視頻中，“莫迪”跟著一首動感十足的孟加拉語歌曲盡情舞動。
莫迪本人顯然對此感到驚喜。他在X的個人賬號上轉(zhuǎn)了這條視頻，并留言說：“和你們所有人一樣，我也喜歡看自己跳舞。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂!”
有網(wǎng)友贊莫迪是“印度有史以來最酷的總理”。
無獨有偶，上周，印度女強人、西孟加拉邦首席部長班納吉的一段AI生成的舞蹈視頻也火爆網(wǎng)絡(luò)。
莫迪和班納吉的舞蹈視頻都是用免費網(wǎng)站Viggle制作的。制作過程非常簡單，只需一張照片，再根據(jù)教程的基本提示，就能在幾分鐘內(nèi)生成視頻。
同時，視頻的病毒式傳播十分驚人。在社交媒體X上，“莫迪”熱舞視頻的瀏覽量逾千萬次。
這些只是AI技術(shù)“滲透”今年印度大選的最新“水印”。
印度本次議會下院（人民院）選舉被稱為該國首次“AI選舉”。
從生成數(shù)字人的競選視頻和個性化音頻消息，到“克隆”候選人的聲音給選民打電話，AI技術(shù)被認為正在重塑印度的選舉活動和競選方式。
比如，一段AI生成的“莫迪”拉票視頻讓印度選民獲得全新體驗。
視頻中，數(shù)字人“莫迪”竟然能叫出觀看視頻的選民名字。
又如，莫迪本人可以通過官方創(chuàng)建的AI翻譯工具Bhashini，將一場印地語的講話實時翻譯成泰米爾語、卡納達語、孟加拉語、旁遮普語等幾十種印度本土語言。
與此同時，莫迪所在的印度人民黨通過即時通訊軟件WhatsApp發(fā)送大量AI生成的拉票視頻。
在這些視頻中，印人黨成員以數(shù)字人形象現(xiàn)身，向選民宣傳莫迪的惠民政策。
通過AI技術(shù)，一些政黨為拉票還“復(fù)活”了已故具有影響力的政黨創(chuàng)始人或先驅(qū)。比如，在印度南部，一名國大黨領(lǐng)袖用AI技術(shù)制作了一段2分鐘視頻，再現(xiàn)其已故政治家父親的音容笑貌，以此喚起選民的記憶。
與競選集會、挨家挨戶拜票等傳統(tǒng)方式相比，有AI加持的新競選方式收獲事半功倍的效果。
一家制作競選材料和產(chǎn)品的AI初創(chuàng)公司創(chuàng)始人賈杜恩說，他的團隊每天可以制作1萬個AI視頻。“過去需要七八天才能完成的工作，現(xiàn)在可以在三分鐘內(nèi)搞定。”
按照專家的說法，AI還能降低溝通成本、提升民調(diào)效率。
印度政治活動家和傳播專家維什諾伊說，過去，政黨依靠由工作人員和志愿者組成的呼叫中心，或利用交互式語音應(yīng)答系統(tǒng)進行宣傳。如今，借助AI技術(shù)與選民溝通、互動，成本可以降低多達50倍。民調(diào)方面，“傳統(tǒng)上需要數(shù)月才能完成的調(diào)查現(xiàn)在可以在一天內(nèi)完成”。
拉杰尼蒂政治管理咨詢公司技術(shù)主管德什潘德指出，內(nèi)容生產(chǎn)的大規(guī)模擴張和向數(shù)字化傳播的轉(zhuǎn)變，凸顯政治信息傳遞方式的革命性變化，也標志著選舉策略進入新時代。
制造選舉亂象
然而，AI在成為競選利器的同時，其以假亂真的深度偽造（deep fake）能力也在干擾這場全球規(guī)模最大的選舉。
上月，濫用AI的新聞頻頻登上印度媒體頭條，盡顯AI在選舉中釋放的負能量。
在兩段AI生成的偽造視頻中，印度兩位寶萊塢知名演員對莫迪發(fā)起猛烈抨擊，并呼吁印度人投票給反對黨國大黨。
兩名演員表示均未授權(quán)制作相關(guān)視頻。而這兩段視頻在社交媒體上的瀏覽量都達數(shù)十萬次。
莫迪政府的兩名高級官員也遇到AI假視頻的尷尬。
其中，一個偽造視頻顯示，印度內(nèi)政部長沙阿談及一個敏感議題。他說，印人黨將停止面向少數(shù)族群的部分社會保障。慮及視頻或?qū)x情造成影響，沙阿迅速辟謠。
維什諾伊表示，印度已經(jīng)面臨巨大的虛假錯誤信息風(fēng)險，有了人工智能后，這些信息更能以100倍的速度傳播。
根據(jù)世界經(jīng)濟論壇1月份發(fā)布的一項調(diào)查，在未來兩年內(nèi)，虛假信息將比傳染病或非法經(jīng)濟活動給印度帶來更高的風(fēng)險。
事實上，AI被濫用不僅制造了選舉亂象，也在加劇印度國內(nèi)的黨爭。
針對兩名政府官員“中招”假視頻一事，印度警方逮捕了9人，其中6人為國大黨成員，國大黨譴責莫迪政府“專制濫權(quán)”。
競選活動啟動以來，執(zhí)政的印人黨與反對黨國大黨一直相互指責對方利用AI深度偽造與選舉有關(guān)的內(nèi)容，并在網(wǎng)上大肆傳播。
同時，兩黨也將AI作為互相攻擊的武器。比如，國大黨先前在照片墻（Instagram）上發(fā)布了一段AI生成的模仿莫迪的視頻，諷刺莫迪把大量資源投給商業(yè)富豪。
還有分析人士擔心，一些政客在競選中可以利用AI技術(shù)達到操縱公眾輿論的目的。
監(jiān)管是難題
面對濫用AI深度造假的問題，如何有效監(jiān)管是一大挑戰(zhàn)。
印度有近10億選民、逾8億網(wǎng)民，印度人平均每天花在社交媒體上的時間超過三個小時。在此背景下，制止虛假錯誤信息傳播是一項高風(fēng)險工作。
分析人士稱，這需要執(zhí)法人員和選舉官員全天候監(jiān)控，并向社交平臺Facebook和X發(fā)出刪除命令。而假消息在選舉季更是泛濫成災(zāi)，要迅速甄別并及時刪除幾乎是不可能完成的任務(wù)。
專家表示，僅僅靠逮捕、懲罰造假者和傳播者只能“治標”，印度需要制定全面的人工智能法律才能“治本”。
“根本沒有任何規(guī)則，”數(shù)據(jù)和安全研究員科達利說，“政府讓科技行業(yè)自我監(jiān)管，而不是制定法規(guī)”。
據(jù)悉，印度政府只是要求科技公司在公開推出“不可靠”或“未經(jīng)測試”的AI模型或工具之前，必須獲得政府批準。
有評論指出，AI技術(shù)已融入印度的政治格局，促使競選活動和信息傳播方式發(fā)生重大轉(zhuǎn)變。但是，濫用AI以及相關(guān)監(jiān)管缺位也為“AI+選舉”的前景帶來重大挑戰(zhàn)。