Nexus:a brief history of information networks from the Stone Age to AI 哈拉瑞 Yuval Noah Harari 繁體版《連結》天下文化20 24/9/10，譯者：林俊宏
------------------------
第九章 民主制度，還能對話嗎？
（一）AI 的特性
1. 理性與感性
（1）理性主義：啟蒙運動以來，人類相信只有理性認知才能認識這個世界，人可以將世界上的所有事物或是道德，都可以被定義描述與規則化
（2） 感性認知：康德之後的浪漫主義則不認為人是理性的，而應該是感性的。就像我們看到貓，不用給他定義清楚，我們也可以知道他是貓，每個人都可以有共同的認知。至於為什麼我們共同理解他是貓，這不需要被定義或給予規則。
2. 兩種電腦的演算法：
（1）規則性的辨識：人類將所有規則輸入進去電腦，電腦演算法根據規則做判斷。例如辨識貓，是根據規則，符合就通過。這情況下，若沒有規則，就無法正確判斷。
（2）無規則的辨識：現在的AI就是用這種方式來判斷，AI 會有很多參數，但不是利用規則來列出判斷準則，而以歸類或近似程度給予判斷。現在的LLM，chat-GPT的預測方式，就是類似的作法。
（二）民主制度
1.民主制度優勢在於自我修正機制，目前仍是最好的選擇；
2.民主制度結合電腦網路應該要符合四大原則
（1） 電腦網路要向善，是要幫助人類而非控制人類； 像AI在健康照護一樣是人類更幸福，而非監控人類
（2）去中心化：帶腦網路應該由民間來運作而非政府機構來運作，讓溝通管道可以暢通
（3）相互性：AI的監控機制，幫助政府有效監控人民；也應該讓人民可以監控政府或是執政當局，而不是單方面的監控，而不公平
（4）給予包容的空間：AI的監控資訊，如果掐得太緊，很使得很多人的生活面臨困難，例如保險公司對於疾病風險的預測，銀行對於民眾信用的監控，企業對於員工雇用的條件，應該放大容許程度，以避免過度限制。
（三） 對民主的挑戰
1.作者指出，資訊技術的發展，為民主制度帶來了新的機遇和挑戰。一方面，網際網路和社群媒體的普及，使得公民更容易獲取資訊、表達意見，促進了政治參與。但另一方面，虛假資訊的傳播、演算法的操控，也對民主的根基構成威脅。
2，群體思維。如果某個人對所有決策專斷獨行，就連最親近的顧問也不敢發出異議，就不可能有任何對話。像這樣的網路，就處於最獨裁的那一端。
3，同溫層效應，參與對話的人都在同温層，會操縱議題的一方勝出
4，假新聞效應，民主的關鍵在於能否進行自由、平等、理性的對話。在演算法時代，越來越難以分辨真假資訊，也越來越容易被演算法操控，這使得理性的公共對話變得更加困難。
在一個非人類智能可能主導對話的時代，事情更是如此。……天真的資訊觀反對監管，認為全然自由的資訊市場，會自然而然產生真理真相與秩序。但這只是天真的幻想，完全悖於民主的實際發展史。維護民主對話從來都不是件容易的事，過去所有的民主對話場域（從國會與市政廳、到報紙與廣播電臺）都需要監管。而在一個非人類智能可能主導對話的時代，事情更是如此。
（四）AI 演算法與人類演算法的思路不同
1， 犯罪偵測軟體：盧米斯與COMPAS案例 （383）不知道演算法背後邏輯
2.，ALPHAGO 的招式邏輯，人類也無法知道（386）
3，貸款演算法，可能延伸的問題？（391）
4，怎麼審查演算法？確保演算法的偏誤？（392）
5，社會信用體系應該被禁止（394）
（五）AI 產生內容的風險
1. Twitter（X）的內容 20～30%是機器產生的，未來假新聞可能亂真（396）
2. 操弄人心的機器人（397）
3. 如何避免AI散發激發憤慨的情緒的內容？（399）
4 民主制度的崩潰來自人類無法管理AI的資訊（400）
第十章 極權制度，被演算法控制
（一）人類的情緒模式
人類可以透過看到對方的情緒，表情，而可以預測出他的下一步動作
AI 可以透過生物資料數據，而可以找出人的行為模式，進而進行預測
（二）AI會傾向極權主義
當人類的資訊爆炸到人無法處理的時候，人類傾向交給AI幫忙做判斷與決策
極權主義，具有比較大的效率
（三）獨裁者的兩難
當獨裁者使用演算法來監督菁英幹部時，怎麼判斷訊息的真假？（411）
如果獨裁者不相信有權力的幹部，因為這些幹部掌控演算法的數據，而獨裁者相信AI演算法，他將會變成AI的傀儡（413）
HH：作者的推論邏輯有點不清楚
第十一章 矽幕：全球因AI分裂
（一）中美兩套的AI發展
因為美國對中國的晶片禁運，短期排擠中國，但長期將會讓中國發展出自己的一套軟體與硬體
（二）未來的世界
1. 資料殖民者： 擁有AI的國家，如中國美國，將成為資料的殖民者，其他使用它的設備的國家都是資料殖民地
2. 數位帝國的崛起
擁有資料與技術者掌握數據資源
貧者越貧，富者越富
3. 數位繭（information cocoon）
不同的地區在形成不同的數位圈，例如中國，美國，歐盟，俄羅斯，印度等等
（三）全球連結
但面對AI 與人的競爭，人類應該全球合作
合作才是解方（444）
HH：除了合作，互相包容才是解方
結語：打造強大的自我修正機制，不要讓權力失衡
1.AI 的發展，就像以前的聖經發展，需要大家合作來給他正典化，大家合作來編寫出一個AI的故事，大家共同相信，然後服從這個故事，一起合作下去
2.這一次，我們不要參考聖經的正典化塑造一個神，而是將AI看作一個科學，可以不斷修正，為了人的福祉去修改
