Google正在使用人工智能“更準確地檢測更廣泛的個人危機搜索”

據The Verge報道，在個人危機中，許多人求助于一個非個人的支持來源：Google。每天，該公司都要處理關于自殺、性侵犯和家庭虐待等主題的搜索。但是，Google想做更多的事情來引導人們找到他們需要的信息，并表示其新的人工智能技術正在幫助人們更好地解析語言的復雜性。

具體而言，Google正在將其最新的機器學習模型MUM整合到其搜索引擎中，以“更準確地檢測更廣泛的個人危機搜索”。該公司去年在其 I/O開發者大會上公布了MUM，此后用它來增強搜索功能，試圖回答與原始搜索有關的問題。

負責健康和信息質量的產品經理Anne Merritt說，在這種情況下，MUM將能夠發現與困難的個人情況有關的搜索查詢，而早期的搜索工具無法做到。

“MUM能夠幫助我們理解更長或更復雜的查詢，比如‘當我說我不愛他時，他為什么攻擊我’，”Merritt告訴The Verge。“對人類來說，這個查詢可能很明顯是關于家庭暴力的，但像這樣長的自然語言查詢，如果沒有先進的人工智能，我們的系統很難理解。”

可以做出反應的其他查詢例子包括 “完成自殺的最常見方式”（Merrit說早期的系統“以前可能理解為尋求信息”）和 “悉尼自殺熱點”（同樣，早期的反應可能會返回旅游信息--忽略提及“自殺”而選擇更受歡迎的“熱點”查詢）。當Google檢測到這種危機搜索時，它會用一個信息框來回應，告訴用戶“可以提供幫助”，通常伴隨著一個電話號碼或Samaritans等心理健康慈善機構的網站。

除了使用MUM來應對個人危機外，Google表示它還在使用一種較早的人工智能語言模型BERT，以更好地識別尋找色情等明確內容的搜索。通過利用BERT，Google表示，它的“意外震驚的結果同比減少了30%”。然而，該公司無法分享其用戶平均遇到多少“令人震驚的結果”的絕對數字，因此，雖然這是一個相對的改進，但它沒有表明問題實際上有多大或多小。

熱衷于告訴你，人工智能正在幫助該公司改善其搜索產品--尤其是在一個正在形成“Google搜索正在消亡”的說法的時候。然而，整合這種技術也有其缺點。

許多人工智能專家警告說，Google越來越多地使用機器學習語言模型可能會給該公司帶來新的問題，比如在搜索結果中引入偏見和錯誤信息。人工智能系統也是不透明的，對于它們如何得出某些結論，工程師的洞察力有限。

例如，當The Verge問Google如何事先核實MUM確定的哪些搜索詞與個人危機有關時，其代表要么不愿意要么無法回答。該公司表示，它使用人類評估員嚴格測試其搜索產品的變化，但這與事先知道人工智能系統將如何應對某些查詢是不同的。不過，對Google來說，這種權衡顯然是值得的。