漢娜．弗萊

博客來0010819360

打開演算法黑箱：反噬的AI、走鐘的運算，當演算法出了錯，人類還能控制它嗎？

Hannah Fry

「演算法，一種按步驟解決問題或達成某種目的之程序，尤其是藉由電腦。」

本書分別從六個領域探討演算法在讓我們生活變得更加便利與進步的同時，人們是怎麼過於依賴和相信它們，並把自己的權力交出去。舉例來說，有人因為相信 google map 的導航路線差點掉下懸崖。又如搜尋引擎建議的搜尋結果決定我們看到什麼內容，進而影響選舉的結果，但人們不曉得自己正被操弄。

演算法會犯錯、會不公正，但人類也不是完美的。我們應該將演算法定位成人類出錯時會進行矯正救濟的角色，和人類以夥伴關係一起合作，善用彼此的強項，包容彼此的缺點，而非全然交給演算法做主。我想這是這本書想帶給我們的啟示。

----------
📘 資料
這些隱藏在背景畫面中的演算法，正運用你不知道它們擁有且絕不主動提供的資料謀利。它們已經把你最個人、最隱私的秘密，變成一種商品。每次當你把資料雙手奉上，資訊就被蒐集賣給資料仲介。這些資料被整合起來，然後創造出僅此一份、鉅細靡遺的檔案，一份針對你的數位分身所做的個人簡介資料檔。這些資料可以作為精準投放廣告、推斷個人身分、甚至公民評分系統等用途。

📙 司法
只要法官有自己評估案件的自由，便會有大量的不一致狀況。容許法官有自由裁量的空間，意味著容許這個系統含有運氣的成份。利用隨機森林的演算法，以隨機分段的資料，建立數千個較小的決策樹，接著要求每一個決策樹投票，取所有答覆的平均值。市面上有很多種類似的系統可以預測罪犯再犯風險，並評估可否交保。然而要小心偽陰性與偽陽性，在公平與誤判的天秤上取得平衡。

📘 醫療
1. 醫生有跟多面向大概是演算法永遠無法複製的，同理心是其中一項。
2. 人類在特異度上表現好，而演算法則是在靈敏度上更勝一籌。兩者的合作模式，可以提升準確度又可節省時間。不過跟司法領域一樣，要擔心過度診斷造成的過度治療。
3. 華生不會一直是個幻想，但要讓他成真， 我們需要放棄隱私權，我們的紀錄可能受到危害、遭竊取或被用來對付我們。例如世界上很多國家可以拒絕糖尿病患投保或治療。
4. 提供唾液樣本給基因體及生物科技公司，換得你的遺傳性狀報告，與此同時，該公司也累積了巨大的基因資訊資料庫。如果你授權同意 (有 80% 的客戶這麼做)，該公司會將你的基因資料以匿名的形式賣給其他研究夥伴，如學者和製藥公司賺取可觀的利潤。每當你寄出樣本換取商用基因報告，有件事應當牢記在心：你不是在使用產品，你就是產品。

📙 車輛
太過依賴自動系統的潛藏危機，像是導致人類能力的退化，例如法航 447 號空難。沒有在注意狀況的駕駛人，就在你需要對路況最了解的那一刻，你將會是最不清楚的那個；加上缺乏練習，在你得處理需要最高階技巧的狀況時，你的準備將會是極盡可能的差。讓機器的技能與人類的技能互補，像是 Volvo 的自動緊急煞車 (守護神模式，而非司機模式)

📘 犯罪
演算法只能預測未來發生某些事件的風險，而非預測事情本身。演算法能讓人們更容易事先阻止潛在的犯罪，但演算法誤差也可能會錯誤地犧牲無辜者。人們為了前者會願意犧牲後者到什麼程度？

📙 藝術
托爾斯泰說，藝術不是手工藝品，而是傳達藝術家所體驗到的感受。那麼演算法所製作的作品可以稱作藝術嗎？

AI技術蓬勃發展的現在，這本書能幫助我們審視演算法在各個領域的應用，與之共同合作而非被它操弄

「封面上的英文標題是Hello World，在迎接演算法世界到來的時刻，我們如何在機器世界裡當個人？」

很喜歡作者的敘事手法，此書是關於演算法對我們生活的影響，分別從權力、資料、司法、醫療、車輛、犯罪以及藝術做說明及探討，裡面數個例子令人印象深刻。

其中權力壹章內提到監控防衛蘇聯領空核彈預警系統的軍官，在冷戰最激烈的期間執勤時，某日警報狂響，電腦偵測到美國飛彈朝俄羅斯領土前進，但他並不確定是否要信任演算法，演算法只偵測到五枚飛彈，以美國的規模來說小的不合理，他僵在座位上，結果他選擇不回報警訊，分秒過去了，顯然沒有核彈落在俄國土地上，他終於知道自己是對的，演算法出錯了，而他的決定也避免了一場世界級的核子戰爭。

而在另一方面，這個例子發生在2015年，兩名工程師被找來維修雲霄飛車的故障問題，解決後他們做了一個測試，送了一輛空的車廂去繞一圈，但他們沒注意到那節車廂並未回返，並且停在軌道中間。於此同時，工作人員加開了一列車廂為了應付越來越長的人龍，聽到控制室傳來淨空訊息就開始讓遊客上車並啟動；幸好，雲霄飛車設計時就已經為這種狀況做了安全演算法的規劃，為了避免碰撞，車廂在第一趟爬坡時停了下來，控制室發出警報；但工程師相信他們剛剛已把雲霄飛車修好，所以他們認為自動警報系統出錯了。於是兩人一同按下重啓按鈕，最後列車撞上停在軌道中間的空車，造成好幾人重傷，兩名少女因此失去了雙腿。

此兩個生死交關的場景，同樣都否決了演算法，結果卻是大相徑庭，在人類與演算法的權力天平上，到底什麼才是對的？

在探討人類與演算法的關係中，我很喜歡這句話「在演算法的時代，人類從未如此刻這般重要。」演算法只能成為一個輔助的工具，而人類才是真實有感情的生命，有靈魂有意識的做為一個個體活在這個世界上。

打開演算法黑箱：反噬的AI、走鐘的運算，當演算法出了錯，人類還能控制它嗎？

所有書評

AI技術蓬勃發展的現在，這本書能幫助我們審視演算法在各個領域的應用，與之共同合作而非被它操弄

人類與演算法的權力天平上，到底什麼才是對的？