AI的自動推薦總是差強人意，該如何改善背後的演算法？

在當前的網路環境中，後台的AI推薦系統會依賴我們的數位足跡（比如我們的點擊內容、瀏覽頁面、購買等行為）來給予最佳推測，然而這些結果總是沒有真的「摸透使用者的心」。為了打造能更準確預測用戶偏好的演算法，組織可採取一系列有效做法：首先，檢查演算法是否存在人類偏見；其次，改進演算法設計以更好地反映使用者的規範性偏好；此外，應使用多樣化的用戶數據來訓練演算法；最後，確保演算法不僅參考用戶的實際行為，還能直接反映其指定的偏好。

現在企業、非營利組織和政府都在設計演算法，用來了解與預測使用者的偏好。他們把演算法內建在推薦系統裡，協助消費者做出各種選擇，從該購買哪些產品或服務、該看哪部電影，到該從事哪些工作，不一而足。這些演算法是依據使用者的行為來推測使用者的偏好，因此人類的偏見就會融入演算法的設計裡。如果想讓演算法更有效地預測使用者偏好、更能夠提升消費者福祉與社會福祉，那麼組織在衡量使用者偏好的時候，就必須把人類偏見納入考量。

假設有某個新的應用程式號稱能徹底改變你的晚餐。這個程式運用專有的演算法，專門針對你的喜好來推薦食物。你急著想試用，於是很快就註冊。但你得到的推薦菜色與你預期的不同。星期一，推薦的品項是披薩。星期二，漢堡。星期三，炸雞。星期四，烤肉。星期五，牛排配炸薯條。你十分疑惑，打電話給業者詢問這是怎麼回事。

他們解釋：「我們的演算法會分析你過去的食物訂單，挑出你最喜愛的食物，然後只推薦你最愛的那些食物。這是完美的個人化飲食方案！」

演算法是這樣打造出來的。這就是演算法不如人意的原因。

協助我們做出最佳決定的演算法──也就是讓我們得到最好的想法、體驗、工作、對象與產品──應該要能讓我們的生活更豐富。但演算法目前無法實現這樣的承諾，例如用於規畫社群媒體、分配健康照護服務，和為車險訂價的演算法都還做不到。為政府及非營利組織而打造、用來預測犯罪活動或為大學入學考試評分的演算法，表現也還不如預期。