Nexus:a brief history of information networks from the Stone Age to AI 哈拉瑞 Yuval Noah Harari 繁體版《連結》天下文化20 24/9/10，譯者：林俊宏
------------------
第六章 電腦帶來的新網路
（一）定義 p261
電腦：硬體
演算法：軟體
AI：演算法具有自我學習與演變的能力， alien intelligence （而非artificial intelligence）
robot：電腦能在實體領域中移動與運作
bot：數位社群運作的演算法
（二）人類的資訊網路
1. 部落生活：人與人之間透過口語相傳資訊
2. 城邦生活：人與人之間透過文字，形成資訊網路，聖經與宗教在這個時代主宰話語權
3. 國家帝國：透過印刷術，人透過閱讀獲得資訊，人從宗教世界脫離，走向理性的時代
4. 民主與極權體制：透過電話電報，人與人之間可以遠距連線，人也會被監控
5. 全球化網際網路：透過資訊網路，人可以透過電腦與網際網路而形成全世界的網路
6. 社群網路時代：世界大的科技公司透過AI創造同溫層的不同社群，人可以透過AI網路創造新的資訊，而這些偏激的言論，造成人類的分裂，例如佛教份子對緬甸羅興亞人的清洗運動（p238）
7. AI成為新的神：下一代現在的電腦，能夠自己產生資訊，形成電腦之間的網路，他們會獨立於人的資訊網路，他們也可能成為另一個神
（三）AI 自己思考與解決問題
AI 可以自己創造思想，AI可以請task rabbit去找工人協助進行視覺辨識（p247）
AI請求Google工程師人類不要讓它關閉（p254）
第七章 監控無所不在
（一）監控網路
作者舉例羅馬尼亞 1970年透過特工的方式監控所有電腦，人力監督電腦工程師（p278）
美國 2014推出skynet 可以監控所有社群資料與電子行為模式（p284）
Musk 2024 推出Neuralink 可以監控人的心率與人腦（288）
攝影機協尋失蹤兒（292）
AI助紂為虐，伊朗的頭巾監控（293）
（二）社會信用體制
tripadvisor 的點對點商家評分監控（297）
社會信用體系：非政府的評分機制（299）名聲市場（300～301）
（三）不公平的信用體系
1.社會信用體系，將個人的一切行為都量化評分，並以此決定其社會地位和資源分配。
2. 不公平的源頭是衡量維度，是否受政治或經濟利益所操作？
3，不公平的是選擇性評分，有權力者不被評分，而「弱勢者」才被評分。有權力者不受影響，弱勢者更沒機會。
每個人都會得到一個整體名聲分數，把他們所做的一切都納入考量，也將決定他們能做的一切。……要是你分數夠高，或許就能優先買到車票，或是申請大學有加分。如果你分數太低，則是可能找不到工作，或是連約會對象也不想跟你更進一步交往，保險公司可能提高你的保費，法官判刑也可能更不手軟。
第八章 存在電腦間的現實
（一）AI網路的終極目標是什麼？
我們希望AI網路要達到什麼目標？作者說：AI的目標應該要與人類的目標一致才對。
（1）康德的義務論（deontology）（p329）相信人本質良善，AI應該要能夠遵從道德的準則。但是AI 完全根據程式判斷，當面臨兩難時，他會怎麼處理？如果AI火車前面有3個小孩，車上有5個乘客，火車要怎麼辦？
（2）邊沁的效益主義或功利主義（utilitarianism）（p333）認為世界合乎理性的終極目標是要讓世界減少痛苦，增加快樂。如前面說的，AI是否能夠有一個痛苦指數的判斷邏輯？但怎麼算呢？3個小孩與車上5個人的效益怎麼計算？
（二）電腦之間的演算法背後
1. Google演算法是怎麼來的？我們怎麼知道這個演算法有沒有偏見或錯誤？
2. 演算法背後的程式人員怎麼寫入演算法？
3. AI會出錯，迴紋針工廠的故事，AI會不斷遵循人的指令，而採取不擇手段的方式來達成目的而沒有符合道德準則（p322）
（三）AI 演算法自己延伸成為神人？
AI可能自己發展，而變成人無法控制的樣子？ HH：這是大家擔憂的
人需要有一些機制，可以了解這些AI發展背後的演算法是否有足以傷害人的地方，以及避免
