本周早些時(shí)候，谷歌AI搜索建議用戶使用“1/8 杯Elmer's膠水”來增稠披薩醬，這引發(fā)了源源不斷的笑話。現(xiàn)在看來，AI Overview從Reddit上的一個(gè)十年前的笑話中收獲了（糟糕的）食譜破解方法，導(dǎo)致一些人指出，谷歌在Reddit帖子上訓(xùn)練大型語言模型是一個(gè)錯(cuò)誤。

 

為 NFL 效力的狗。更換汽車“轉(zhuǎn)向燈液”的技巧。建議用剪刀跑步以增強(qiáng)免疫系統(tǒng)。這些只是使用Google全新AI概覽功能的幾個(gè)例子，也是許多人在嘗試使用世界上最受歡迎的搜索引擎時(shí)首先看到的東西。

經(jīng)過多年（可能違法的）行業(yè)主導(dǎo)地位，谷歌的名字已成為“互聯(lián)網(wǎng)搜索”的代名詞。但其日益爭議的生成式人工智能項(xiàng)目可能會(huì)迅速抹去這一聲譽(yù)——尤其是已經(jīng)為許多用戶提供的實(shí)驗(yàn)性“人工智能概覽”功能。谷歌在本月初的新工具公告中寫道，人工智能概覽被宣傳為一種從廣泛的網(wǎng)站和已發(fā)布（通常受版權(quán)保護(hù)）內(nèi)容中提煉內(nèi)容的方法，據(jù)稱可以讓人們?cè)L問“更多不同類型的網(wǎng)站，以解決更復(fù)雜的問題”。

但是，盡管AI Overview可能給出了許多正確的答案，但當(dāng)它出錯(cuò)時(shí)，顯然是極其錯(cuò)誤的。迄今為止最流行的例子是谷歌本周早些時(shí)候建議使用“1/8杯Elmer's膠水”來增稠披薩醬，這引發(fā)了源源不斷的笑話。現(xiàn)在看來，AI Overview從Reddit上的一個(gè)十年前的笑話中收獲了（糟糕的）食譜破解方法，導(dǎo)致一些人指出， 在Reddit帖子上訓(xùn)練大型語言模型是一個(gè)錯(cuò)誤。（谷歌現(xiàn)在每年向論壇網(wǎng)站支付6000萬美元來這樣做）。

在向Verge和其他網(wǎng)站提供的一份聲明中，谷歌發(fā)言人聲稱，像在披薩上涂上黏合劑這樣的創(chuàng)意只會(huì)出現(xiàn)在搜索“通常非常不常見的查詢時(shí)，并不代表大多數(shù)人使用AI概覽的體驗(yàn)”。但撇開谷歌搜索披薩醬配方技巧并不“罕見”這一事實(shí)不談，已經(jīng)有一個(gè)X帳戶專門突出了數(shù)百個(gè)“足夠谷歌”的AI概覽示例，這說明了當(dāng)前的問題。

當(dāng)然，許多古怪的說法，如“約翰·亞當(dāng)斯總統(tǒng)21次畢業(yè)于威斯康星大學(xué)”、“蛇是哺乳動(dòng)物”和“制造氯氣來清潔你的洗衣機(jī)”等，可能是經(jīng)過編輯的惡作劇圖片，無法區(qū)分這一事實(shí)只能說明互聯(lián)網(wǎng)存在更大的問題。而且，如果谷歌的許多荒謬或徹頭徹尾危險(xiǎn)的人工智能建議中只有一部分是真的那么辯稱它們只是系統(tǒng)中的漏洞很可能無法保護(hù)該公司免受法律挑戰(zhàn)和訴訟的沖擊。

Google承諾公司將不斷改進(jìn)其產(chǎn)品，包括AI Overview。在一份提供給Ars Technica的聲明中，一位發(fā)言人表示：“我們?cè)谕瞥鲞@項(xiàng)新體驗(yàn)之前進(jìn)行了廣泛的測(cè)試，并將使用這些孤立的例子來繼續(xù)完善我們的整體系統(tǒng)。”目前還不清楚這些錯(cuò)誤答案會(huì)在AI Overview中持續(xù)出現(xiàn)多久，或者這種缺陷是否真的可以修復(fù)。但與此同時(shí)，至少Google有大量“孤立的例子”可以用作學(xué)習(xí)經(jīng)驗(yàn)。在他們繼續(xù)改進(jìn)這些系統(tǒng)的同時(shí)，用戶可以嘗試在自己的Google 搜索中禁用AI。

Google針對(duì)這些爭議，聲明道：“絕大多數(shù)AI Overview都提供了高質(zhì)量的信息，并提供了在網(wǎng)絡(luò)上進(jìn)行深入挖掘的鏈接。我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法重現(xiàn)的例子。在推出這一全新體驗(yàn)之前，我們進(jìn)行了廣泛的測(cè)試，正如我們?cè)谒阉髦型瞥龅钠渌δ芤粯樱覀兎浅８兄x大家的反饋。我們會(huì)根據(jù)內(nèi)容政策迅速采取行動(dòng)，并利用這些案例對(duì)我們的系統(tǒng)進(jìn)行更廣泛的改進(jìn)，其中一些改進(jìn)已經(jīng)開始推出。”