內容摘要：研究人員指出，由于技術原理限制，至少兩類虛假信息無法根除。OpenAI團隊發現，大語言模型像應試學生一樣，在不確定時會猜測答案而非承認無知。專家向《自然》雜志表示，不僅消除幻覺\不可能\，阻止AI憑空捏造引用尤其困難。AI幻覺大語言模型虛假信息OpenAI統計機器使用人工智能聊天機器人時的一大問題是它們會"幻覺"——即編造內容而非承認不確定。研究人員指出，由于技術原理限制，至少兩類虛假信息無法根除。OpenAI團隊發現，大語言模型像應試學生一樣，在不確定時會猜測答案而非承認無知。專家向《自然》雜志表示，不僅消除幻覺"不可能"，阻止AI憑空捏造引用尤其困難。普渡大學學者指出，目前幻覺發生率已降至"用戶可接受"水平。《自然》解釋稱，這種缺陷源于大語言模型作為"統計機器"的工作原理——通過歸納學習關聯性來生成看似合理但可能錯誤的答案。
AI幻覺大語言模型虛假信息OpenAI統計機器
免責聲明：以上"OpenAI的研究人員承認，聊天機器人無法停止編造虛假事實"內容和圖片來源于網絡，本網站轉載僅為傳遞更多行業信息和交流之目的，著作權屬原創者所有，如有版權問題請聯系網站管理員刪除。