人臉辨識、數位威權、同溫層效應……
科技是中立的嗎?
科技真的能帶來更好的未來嗎?
人工智慧將走向何方,只取決於我們如何利用嗎?
自由、平等、正義、民主、種族議題與氣候變遷──這些對人類生活至關重要的諸多議題與概念,與人工智慧有何關聯?
卡夫卡的《審判》、歐威爾的《一九八四》裡頭所描繪的社會狀態,或許將不再只是文學寓言。AI的發展及其帶來的技術革命,甚至已經超越了二十年前的網際網路,它能夠與人交談、能夠學習甚至創作,它看似能夠大幅改善人類的生活,但也將顛覆我們所熟知的各種價值……
AI不只是一種科技,更是一種政治。它能夠存取龐大的資料,從中進行應用與學習,卻也能從這些數據中進行預測、操控與管制。AI具有「權力」,僅以倫理學角度看待AI已經不合時宜,我們必須正視它為人類社會帶來的挑戰,無論是技術層面的運用,例如執法手段的變革對公民自由形成的威脅,或是潛在的影響,例如大數據對人類行為(勞動、消費、金融)的形塑與規訓。它有可能危害民主、加速社會的透明化、加劇當前的分配不平等、形塑人們的自我認同;甚至,我們不得不超前思考AI在未來形成一種政治社群的可能。
本書大膽嘗試理論跨界,以古典理論回應當代議題,同時提出政治哲學所關懷的重要議題及概念,必須將科技發展納入視野,且必然隨著科技的發展而改變。無論是人文學術界、技術工程界、產業界或是政策制定者,都不可不知與AI相關的規範性理論,及本書所提供的理論框架。本書適合所有關注AI技術的讀者,及所有關心總體趨勢的讀者。
| 目錄 |
導論
「我猜是電腦弄錯了」:在二十一世紀的約瑟夫.K
本書的理論依據、目標與方法
本書結構與各章概述
二、自由:人工智慧的操控與機器人奴役
導言:歷史上的自由宣言與當代奴役
人工智慧、監控與執行法律:剝奪消極自由
人工智慧與人類行為的操縱:規避人類的自主性
對於自我實現與解放的威脅:人工智慧的剝削與機器人奴隸的問題
誰來決定人工智慧?作為參與的自由、選舉中的人工智慧,與言論自由
其他與政治相關的自由概念與其他價值
三、平等與正義:由人工智慧所造成的偏見與歧視
導言:偏見與歧視作為提出關於平等與正義問題的焦點
為什麼偏見是錯的(1)?在英語世界中標準的自由主義政治哲學中的平等與正義
為什麼偏見是錯的(2)?階級與認同理論作為普世的自由主義思想之批判
結論:人工智慧不是政治上中性的
四、民主:同溫層效應與機器極權主義
導論:人工智慧作為民主的一個威脅
人工智慧作為對民主、知識、審議與政治本身的威脅
由柏拉圖開始:民主、知識與專業
超越多數決與代議
審議與參與式民主v.s.爭勝與基進式民主
訊息泡泡、同溫層效應與民粹主義
更多的問題:操控、取代、課責和權力
人工智慧與極權主義的起源:鄂蘭的教誨
人工智慧與極權主義
鄂蘭論極權主義的起源與平庸之惡
五、權力:經由數據的監控與(自我)規訓
導論:權力作為政治哲學中的一個主題
權力與人工智慧:邁向一般性的概念框架
馬克思主義:人工智慧作為科技資本主義的一項工具
傅柯:人工智慧如何使我們臣服,並使我們成為主體
規訓與監控
知識、權力、以及自我和主體的形成與塑造
技術展演、權力、與人工智慧
結論和待解問題
六、非人類怎麼辦?環境政治與非人類主義
導論:超越一種以人為本的人工智慧和機器人技術的政治
在政治上,不是只有人類才算數:動物和(非人類)自然的政治地位
對於人工智慧和機器人技術之政治的影響
人工智慧對非人類和自然環境所造成的影響之政治意義
人工智慧本身的政治地位?
結論:政治技術
我們迄今在本書所做的事,以及我們能得出什麼結論
下一步該怎麼做:關於政治技術的問題
致謝
參考資料
| 內容節錄 |
專文導讀
用哲學把握現實
曾瑞明(香港大學哲學博士,自由寫作者)
哲學裡不乏奇思妙想,比如美國政治哲學家羅爾斯(John Rawls)的無知之幕(veil of ignorance)、諾齊克(Robert Nozick)的感受機器(experience machine),還有希哲柏拉圖(Plato)的蓋吉斯之戒(The Ring of Gyges)都是比較出名的思想實驗(thought experiment)。然而,哲學到底不是純思遊戲,各種理論和探討的出發點往往是出於對現實的關懷。羅爾斯想做的,其實是透過排除我們的階級、性別和不同社會位置的考慮,以找出無偏私的分配方法,好讓社會有合乎正義之法。諾齊克則想指出當代的效益主義對人的錯誤理解,人並不只是感受和慾望的載體。柏拉圖要問的是我們在沒有懲罰等後果下,我為何要道德(why should I be moral)。可見,哲學家有更深邃的問題佔據著他/她,去指導他/她的探究。
然而,現在的世界可說是比從前更難以想像了。科技的發展,特別是人工智慧,衝擊了我們對社會和自我的想像。人工智慧似乎無所不知,無所不能,不少行業面臨挑戰,翻譯家面對的是前所未有的對手,律師找案例的能力對電腦來說是小菜一碟。既然有人工智慧了,還要人來做什麼?樂觀者表示或有新工種的出現,但我們仍然要問,人工智慧跟過去的機器或科技創新真的一樣嗎?因為人工智慧也是有創造力的,現在連發明的工作都可以交給人工智慧了!
在這種情況下,我們或者感到惶恐,或者期待美麗新世界。但世界有些東西仍不會變,那就是政治秩序仍然存在、國族國家(nation state)的格局依然存在、權力的運用和壓迫依然駭人。我們要問的是,人工智慧是否會令壓制和不平等惡化,是否會挑戰民主制度,甚至強化極權?然而,這些問題卻是被忽略的、不被重視的。
政治哲學在此就扮演著極其重要的角色。當大家仍沉醉於後冷戰和福利國家等框框去展開政治哲學思考時,我們不得不佩服馬克.科克爾柏格(Mark Coeckelbergh)已做好了對新時代討論的一番預備。這位維也納大學哲學系教授的其中一本前作《人工智慧倫理學》(AI: Ethics)早成為筆者對人工智慧作倫理哲學探討的啟蒙著作,而新作《AI世代:從政治哲學反思人工智慧的衝擊》(The Political Philosophy of AI: An Introduction)更是夢寐以求的作品。我與作者的看法一致,人工智慧不但衝擊我們的倫理思維,其政治影響力更是不容低估;而政治哲學跟倫理學並不會是同一種討論,我們不能把政治哲學看成是實用倫理學而已。人工智慧關乎自由、平等、正義和權力等重要政治哲學課題。當本書的英文版在二○二二年出版時,筆者就立即找來閱讀,作者正正指出人工智慧充滿了政治性,而非只是一種工具或者關於智能(intelligence)的東西,但這些討論,相較於倫理學上的討論卻顯得貧乏。而這本著作絕對能填補這方面的空白。
筆者一直關注不平等(inequality)的課題,於是也就特別在意人工智慧會否加劇不平等的情況。作者指出透過機器學習(machine learning)的人面辨識系統愈來愈被依賴,但我們卻未曾思考人工智慧是否是大公無私的,或演算法內有沒有偏見(bias)的問題。我們其實無從知道,程式人員是怎樣教育人工智慧,也不知程序人員本身帶著怎樣的世界觀和怎樣的偏見。而人卻總是有著偏見──正是因為這些偏見,可能使得一些弱勢族群在申請信用卡,申請工作時遭遇困難,因為人工智慧早就將他們排拒在外,在此同時,我們大多數人卻還相信人工智慧只是公平地運作。
在認清人工智慧其實與政治和政治哲學有關之後,我們當然會更想知道其他概念如何可以幫助我們把握人工智慧。第二章談自由,就讓我們對英國政治哲學家柏林(Isaiah Berlin)那兩種自由,即「積極自由」和「消極自由」有了新的體會。比如在網購平台,演算法不斷向我推介新產品,在其中我有真正意義上的自我掌控(積極自由)嗎?或者,在這世代只講消極自由真的足夠嗎?
第四章談的是民主。同樣,當言論和信息可以被演算法所控制時,我們政治信念的形塑就已經不是可以用理性和審議來解釋,而是各種勢力操控下的結果。這樣的話,民主的價值將更難維持、更難捍衛。我們都知道雖然民主不是萬能,卻是最能尊重個人意見與決定的政治制度,但是如果根本沒有所謂「我」的決定,民主跟極權又有何異?
筆者特別喜歡第五章,作者引入權力(power)的概念做討論。作者並不止步於對自由主義式政治哲學的興趣,更能對傅柯(Michel Foucault)和馬克思(Karl Marx)的理論做出合理的引用。這些哲學家未必能講出什麼是正義,但對不正義和各種壓迫卻注意且描述得更深,因為他們看出了權力的不對等關係。馬克思要求我們正視具體的歷史和社會背景,我們的社會有兩個階級,擁有生產工具(means of production)的資本家和沒有生產工具的大眾,而人工智慧一旦被資本家所用,那麼會如何與資本主義結合,如何有利於資本家的剝削(exploit)?今天,我們對人工智慧的使用無從置喙,我們僅有作為「使用者、用戶」的微弱權力(比如向OpenAI投訴ChatGPT最近變「懶惰」了),但對應否使用以及如何使用,我們畢竟只是被餵食的「觀眾」。在這種視角下,我們並沒有太大信心能對人工智慧的使用感到樂觀。
政治哲學作為一種公共哲學,可以透過概念的把握和澄清,以及理論的建構和各種說理活動,讓公民對公共議題有參與和討論。這本書是導論性質,但足以成為人文學科學生的入門書,更是公共空間活躍者們應該要人手一本的參考書。華人世界對於人工智慧的討論興趣並不算高,也許仍受「科技歸科技,政治歸政治」、「科技中立」種種思維的影響,但哲學有著澄明的性質,可以讓我們看清現實,不被眩目的新知阻礙我們理解本質上不變的權力世界。
| 作者簡介 |
馬克.科克爾柏格 Mark Coeckelbergh。一九七五年生於比利時,人工智慧倫理學專家、科學哲學家,現為維也納大學哲學系教授,專攻媒體與技術哲學。曾任哲學與技術學會(Society for Philosophy and Technology, SPT)主席、歐盟執行委員會人工智慧高級專家組成員;著作豐富,包括了Growing Moral Relations(2012)、 Human Being @ Risk(2013)、 Environmental Skill(2015)、Money Machines(2015)、New Romantic Cyborgs(2017)、Moved by Machines(2019);教科書Introduction to Philosophy of Technology(2019)、 AI Ethics(2020)。
作者從現象學與關係學角度思考機械哲學,主要著作集中在機械倫理學與資訊溝通技術(ICT, information and communication technologies)等領域;作者的另外一本著作Human Being @ Risk講述了「脆弱性」與技術之間的關係,在該書中提出了「脆弱性的人類學」(anthropology of vulnerability)的概念,並投入到人類增強(human enhancement)與超人類主義(transhumanism)的問題,同時該著作也獲得許多迴響。
在學術活動之外,作者亦活躍於媒體及各類公開講座。百餘篇學術論文與出版物獲得大量引用,同時亦時常接受媒體採訪,談論無人機技術的倫理問題等。
| 譯者簡介 |
鄭楷立,英國華威大學政治與國際研究系博士,臺大政治學系兼任助理教授,學術專長是當代政治哲學/理論(主要是分配正義理論、平等主義、政治哲學方法論和馬克思主義)。翻譯,但不以翻譯為業。
AI世代:從政治哲學反思人工智慧的衝擊 The Philosophy of AI: An Introduction
作者 | AUTHOR
馬克.科克爾柏格 Mark Coeckelbergh
出版社 | PUBLISHER
商周出版
書號 | ISBN
9786263189881
出版日期 | PUBLICATION DATE
2024/01/11
出貨地 | PLACE OF DEPARTURE
台灣