|
點擊 973回復 0
原帖
2024-10-26 21:56
哈佛大學最新報告:LLM 等價于眾包,只是在輸出「網絡共識」哈佛大學最新報告:LLM 等價于眾包,只是在輸出「網絡共識」
哈佛大學研究了大型語言模型在回答晦澀難懂和有爭議問題時產生「幻覺」的原因,發(fā)現模型輸出的準確性高度依賴于訓練數據的質量和數量。
研究結果指出,大模型在處理有廣泛共識的問題時表現較好,但在面對爭議性或信息不足的主題時則容易產生誤導性的回答。
對于具有廣泛共識的主題,例如 Barack Obama 名言等,模型通常能夠給出正確的答案,對于更具體的問題,例如有關鐵電性的科學論文,大模型雖然能提供正確的引文格式,但內容基本都是錯的,或是將真實存在的作者與不存在的論文結合起來。 |
粵公網安備 44030402000745號
客服微信