為什麼以及什麼原因導致了這些令人不安的異常值？原因通常是數據太少或缺乏代表性。該演算法並不帶有種族歧視或性別歧視。少數群體的代表性往往不夠明確。讓我們記住：機器根據提供的數據創建我們的世界的模型。重要的是要理解數據從來都不是中性的，也不可能真正被中和。它們體現了我們的世界、我們的過去。理解這些並將其納入數據處理中非常重要。因此，無論誰決定機器接收的數據，最終都會控制結果，而且，如果你仔細考慮，還可以改變感知到的現實。
除此主題之外的另一個重要問題，也被專家稱為「偏見」，是如何向使用者附件或 他的人工智慧 链接可能呈現結果的問題。當資訊按照機率值排序並以不適合上下文的方式呈現時，使用者很有可能會把自己的知識和常識拋到一邊。我們不再像聽取朋友的第二意見那樣聽取額外的信息，而是讓機器的言語成為行動的法則——這是人工智能尚處於起步階段的未來中需要解決的另一個方面。
危險迫在眉睫？
以下是基於機器學習的監控可能被濫用的一些例子。
(螢幕截圖)
以後，就算戴墨鏡也無法避免被認出來。
本文展示了基於機器學習的臉部辨識的強大功能。即使戴著厚厚面具的人，也能被辨識為臉孔。其本質原因在於機器靈活處理幹擾訊息的能力。
機器知道你是否會升級。
影片示範了基於機器學習的行為分析，有點令人毛骨悚然。在這裡，對群體互動進行評估以查找可能出現的異常，並展示和識別群體中的個體。例如，可以預測示威期間可能發生的升級情況並自動啟動對策。
機器告訴國家你的可信度。中國發布了
《社會信用體系建設規劃綱要》。本質上，它是關於創建一個完全自動化的評級系統，顯示公民的可信度（信任分數）。 _
牆又回來了。
主題再次是透過牆來創建和監視邊界，儘管這堵牆就像監視一樣是虛擬的，但其方法同樣可怕。
讀心術不再是魔術。
科技直接讀取我們的思想是本文所述發展的一部分。腦電波透過感測器（EEG）測量，並透過機器學習轉換成單字或動作。