電網領域也需有效應對人工智能“幻覺”

　　當前，人工智能迅猛發(fā)展，其應用范圍已滲透至社會生產與生活的各個領域。然而，人們在享受人工智能帶來的高效便捷體驗的同時，也難逃人工智能“幻覺”的困擾。這里的“幻覺”，指的是人工智能生成的看似合理但實際不準確或虛假的信息。

　　在電網領域，人工智能的應用越來越廣泛、深入，其固有的“幻覺”現(xiàn)象可能給電網企業(yè)帶來風險與挑戰(zhàn)，是電網數(shù)字化、智能化發(fā)展進程中不容忽視的問題。

　　何為人工智能“幻覺”

　　人工智能大模型有時會編造一些并不存在的細節(jié)，生成與事實相悖的答案，給出一些并不準確的鏈接……這些現(xiàn)象都可以歸為人工智能“幻覺”。

　　人工智能“幻覺”主要發(fā)生在生成式人工智能大模型中，是指模型在輸出過程中生成看似合理、邏輯通順，但與客觀事實不一致的內容，就像人類在認知過程中出現(xiàn)錯覺、虛構記憶一樣。一項調研顯示，對于“公眾認為使用人工智能過程中有哪些突出問題”，反饋最多的是“內容不準確，或含虛假信息”，占比高達42.2%。

　　值得注意的是，“幻覺率”并非越低越好，模型需要在準確性、創(chuàng)造性與應用場景之間進行權衡。高“幻覺”模型在開放性任務中會展現(xiàn)出更強的推理能力，但容易產生錯誤事實;低“幻覺”模型則更依賴訓練數(shù)據，靈活性受限。

　　人工智能會產生“幻覺”

　　源于數(shù)據、算法與環(huán)境等多重因素

　　生成式人工智能的工作原理類似于“成語接龍”游戲，模型通過預測下一個詞語的概率分布來生成輸出內容。人工智能“幻覺”的產生并非單一因素所致，而是數(shù)據基礎、算法機制與交互環(huán)境等多重因素交織作用的結果。

　　模型的學習過程高度依賴訓練數(shù)據，而數(shù)據本身的質量、完整性與準確性直接決定了模型的輸出結果。數(shù)據缺陷是導致人工智能“幻覺”的重要原因之一。如果訓練數(shù)據中存在錯誤、片面或未發(fā)布的內容，模型就可能在學習過程中建立起錯誤的關聯(lián)。例如，某模型基于尚未正式發(fā)布的行業(yè)標準進行訓練，輸出的內容就可能與現(xiàn)行規(guī)范不符。知識固化也是人工智能“幻覺”的誘因之一。部分模型過度依賴參數(shù)化記憶，缺乏動態(tài)更新能力，在面對訓練數(shù)據之外的新問題時，往往無法準確應答。例如，某模型僅基于2024年之前的數(shù)據進行訓練，那么在面對2024年之后的事件時，可能會虛構信息來填補“知識空白”。

　　盡管模型具備強大的文本生成能力，但其算法機制仍有局限性，在一定程度上加劇了“幻覺”的產生。長文本處理不足可能使模型過于關注局部詞句而忽視整體邏輯結構，陷入“只見樹木不見森林”的困境，導致生成的內容前后矛盾、邏輯混亂。數(shù)據壓縮與信息丟失也是關鍵問題。為提升處理效率，模型在處理海量數(shù)據時通常會壓縮，舍棄看似冗余的細節(jié)信息，而這一過程可能導致關鍵信息丟失。為填補這些“空白”，模型可能會虛構內容來“自圓其說”。同時，目前大多數(shù)模型缺乏對生成內容真實性的驗證機制，錯誤信息可能在生成過程中不斷被合理化，最終導致“幻覺”的產生。

　　模型的輸出內容不僅取決于其內部機制，還深受用戶輸入的影響。在實際應用中，環(huán)境因素往往成為人工智能“幻覺”的“放大器”。用戶提問模糊、提示不清或邏輯矛盾的情況下，模型難以準確理解用戶意圖，可能會“自由發(fā)揮”，生成偏離實際需求的內容。在多輪對話中，偏差的累積放大現(xiàn)象尤為明顯。某一環(huán)節(jié)生成的內容存在偏差，后續(xù)生成的內容可能會基于這一錯誤進行推理，最終使輸出內容與事實嚴重偏離。

　　面對人工智能“幻覺”

　　需從數(shù)據、技術、管理、人才等方面發(fā)力

　　面對人工智能“幻覺”帶來的潛在風險，電網企業(yè)需采取系統(tǒng)性、多層次的應對策略，構筑起堅實的安全防線。

　　優(yōu)化數(shù)據治理。通過構建電力專業(yè)語料庫，持續(xù)更新技術標準、行業(yè)規(guī)范及最新研究成果、實踐案例等專項數(shù)據，提升數(shù)據的行業(yè)針對性和時效性。強化數(shù)據清洗與標注，引入機器學習算法，全面提升數(shù)據質量。加強多源數(shù)據融合校驗，整合傳感器數(shù)據、設備圖像、運維文本等多模態(tài)信息，通過交叉驗證機制降低單一數(shù)據源偏差影響。建立全生命周期數(shù)據追溯體系，實現(xiàn)從數(shù)據采集、模型訓練到模型迭代全程可控、可追溯。

　　創(chuàng)新模型架構。調整模型參數(shù)，降低隨機性，通過設置關鍵參數(shù)，明確要求模型“僅基于已有知識回答，如不知道請明確說明”，減少編造傾向。引入檢索增強生成技術，將電力規(guī)程、設備參數(shù)、運行經驗等專業(yè)知識嵌入模型推理過程，進一步約束模型生成邊界，提升模型的準確性和專業(yè)性。開啟思維鏈模式，讓模型展示推理步驟和邏輯過程，便于發(fā)現(xiàn)并糾正潛在的邏輯跳躍或事實錯誤。構建“大模型+小模型”混合架構，根據業(yè)務場景靈活調整功能分配，實現(xiàn)語義理解和精準計算的高效協(xié)同。

　　健全體制機制。在應用人工智能過程中，優(yōu)化雙軌驗證制度，明確人工經驗驗證和人工智能推理校驗流程。針對電網調度、故障診斷等關鍵場景，合理設置人工復核節(jié)點，形成更高效、更可靠的人機協(xié)作模式。優(yōu)先選取中低風險場景開展人工智能試點應用，待技術成熟后逐步推廣。

　　提升員工素養(yǎng)。提升員工核查事實的技能，組織員工參與人工智能項目開發(fā)實施，通過模擬演練提高實戰(zhàn)能力。推廣多源比對驗證方法，引導員工利用不同人工智能工具對同一問題提問，比對答案差異識別潛在“幻覺”。搭建人工智能應用最佳實踐共享平臺，促進跨部門、跨單位溝通合作，推動企業(yè)人工智能應用整體水平提升。(作者：趙三珊 華珉 單位：國網上海市電力公司電力科學研究院)