新華社北京5月20日電（記者李雯）盡管人工智能生成內(nèi)容已非常流暢，但提供的信息很多時(shí)候還是不準(zhǔn)確。日本研究人員近日在德國(guó)《先進(jìn)科學(xué)》雜志發(fā)表的一項(xiàng)研究成果顯示，這一問(wèn)題與人類(lèi)的語(yǔ)言障礙——失語(yǔ)癥類(lèi)似。新研究成果可以為研究人員改進(jìn)人工智能提供參考。

智能體、聊天機(jī)器人等基于人工智能的工具正越來(lái)越多地應(yīng)用于日常生活。考慮到人工智能模型在提供信息時(shí)表現(xiàn)出“高度自信”，如果用戶對(duì)所討論主題或領(lǐng)域缺乏足夠了解，會(huì)很容易把其中的錯(cuò)誤信息當(dāng)成正確的。

為此，日本東京大學(xué)研究人員使用了一種名為“能量景觀分析”的方法。這種方法最初由物理學(xué)家開(kāi)發(fā)，旨在使磁性金屬中的能量狀態(tài)可視化，最近應(yīng)用于神經(jīng)科學(xué)。研究人員檢查了不同類(lèi)型失語(yǔ)癥患者在靜息狀態(tài)下的大腦活動(dòng)模式，并將其與幾個(gè)公開(kāi)可用的人工智能大語(yǔ)言模型的內(nèi)部數(shù)據(jù)比較。

失語(yǔ)癥患者可能會(huì)很流利地說(shuō)出一些毫無(wú)意義或難以理解的話。研究人員發(fā)現(xiàn)，人工智能與此有相似之處。在這些人工智能模型中，數(shù)字信息或信號(hào)的流動(dòng)和運(yùn)作方式與某些失語(yǔ)癥患者一些大腦信號(hào)的行為方式極為相似。

研究人員說(shuō)，人工智能模型在出現(xiàn)嚴(yán)重錯(cuò)誤時(shí)仍表達(dá)流暢，這與感覺(jué)性失語(yǔ)癥的癥狀有相似之處，即說(shuō)話流利卻總說(shuō)不出什么意思。這并不意味著聊天機(jī)器人有“腦損傷”，但它們可能被鎖定在一種僵化的內(nèi)部模式中，限制其靈活運(yùn)用所儲(chǔ)存知識(shí)，就像得了感覺(jué)性失語(yǔ)癥。

研究人員表示，對(duì)神經(jīng)科學(xué)來(lái)說(shuō)，這項(xiàng)研究提供了一種可能的新方法，可以根據(jù)大腦內(nèi)部活動(dòng)而不僅是外部癥狀來(lái)分類(lèi)和監(jiān)測(cè)失語(yǔ)癥等疾??；對(duì)人工智能研究來(lái)說(shuō)，這將幫助研究人員從內(nèi)到外改進(jìn)人工智能系統(tǒng)的架構(gòu)。