AI煞的住車嗎？
最近兩個 Anthropic工程師辭職，他們認為現在AI正朝向一個不可控的未來前進，有可能在10年之內把人類消滅。緊接著Anthropic CEO Dario Amodei 發表了一篇文章 "We Must Pace the Frontier,"（我們必須放慢發展的腳步）這篇文章一出，引起軒然大波，Open AI的老闆Sam Altman, Google DeepMind CEO Demis Hassabis 和馬斯克先後發表聲明，支持他一下的論點。
美國政府在這個問題上，與他們的看法完全相反。就在前個禮拜財政部長還在說，如果美國輸了AI競爭，就沒有明天。川普也說， AI 事關美國前途，我們絕對不能放慢腳步。
其實我對他們兩者的言論都有疑慮。現在AI已經商業化和政治化，這些公司大佬和政客的發言背後，很可能有商業及政治目的。AI之所以發展那麼迅速，就是這些公司造成的。他們嘴巴上這麼說，但擴張的腳步卻絲毫沒有放慢。
其實不管 Google， OpenAI，Anthropic 或馬斯克的 xAI，都有千絲萬縷扯不清的路線及商業利益的糾葛。最早是Google 把AI技術用在他們的搜索引擎中，馬斯克和 Altman想突破Google的壟斷而創立Open AI。後來雙方因為路線不和而分手， 至于 Anthropic 的高級主管，幾乎全來自OpenAI。他們彼此批評同時又彼此競爭。馬斯克很早就對AI的危險發出警告，但他也是花最多錢投資AI的人。現在這幾個大佬聯合聲明要AI煞車。我不知道他們心裡在打什麼算盤，大概是希望當別人在煞車的時候，他好開足了馬力往前衝。
AI是人類科技的一大發明，就跟當年原子彈一樣，開發者是科學家，要求禁止的也是科學家，但一旦落到政客和財團手中，就由不得這些科學家了。
Szilard 是中子連鎖反應及核能應用的發明者，二次大戰期間，上書總統要求發展原子彈的也是他，結果美國在極短時間內結合了所有科技精英發展原子彈。你說這些科學家難道事先不知道原子彈的威力嗎？他們是精英中的精英，當然知道。可是當你沒有看見他真正發生的時候，誰都不知道他的可怕。
奧本海默是曼哈頓計劃的負責人，當他看到第一顆原子彈爆炸的時候，說了一句話，“現在我成了死神，世界的毁滅者。”，Szilard當年提議要做原子彈，是擔心納粹走在前面，他沒想過後果會是什麼。當他最後知道美國真的要用原子彈的時候，他緊急寫信給總統要求停止，但一切都太遲了。戰後他花了一輩子精力要求禁止核子武器。
核武競賽是美蘇之間的事，雖然後來有禁核和限核的條約，但針對的好像都是其他國家。大國可以擁有核武，但小國不行。在這些小國眼中，這分明是欺負人，你有原子彈，我們只有乖乖聽話的份，哪有這種道理？所以大國如果自己不放棄，而要伊朗，北韓或其他國家放棄，那是不可能的。更何況核能的應用還牽涉到很多商業利益，難道這些技術就只能少數國家擁有嗎？
AI也一樣，科學家的想像力和創造力是沒有限制的。但他們所開發出來的東西，最後會對人類產生什麼影響，就不是他們能控制的。
AI已經成為一個龐大的利益集團。公司要靠他發財，政客用它擴充實力。雖然表面上美國和中國在彼此競爭，但其他國家也沒閑著。AI的供應鏈遍布全世界，台灣這幾年政府和學術界一天到晚都在鼓吹AI。 台灣的電子產業靠它發了大財，台積電靠它成為護國神山。在這種情形下，台灣會希望AI踩剎車嗎？
人類的很多做法是自相矛盾的，比方說武器的研發，明明知道武器是傷人的，可是大家還不斷地增加經費研發新型武器。巡弋飛彈，超高音速導彈，自殺式無人機，核動力航母及潛艇，他們的殺傷力比以前的大了不知多少。這些武器正在烏克蘭，伊朗和巴勒斯坦的戰場上殺人。我們有因此踩剎車嗎？
AI 的發展已經是一條不歸路，科技巨頭如 Google，Meta, Amazon, Oracle 為了AI，不知道花了多少錢，用了多少電，裁了多少人，用了多少公共資源，整個世界的格局都已經因它而開始改變。你覺得煞車容易嗎？
我曾寫過一篇文章，科技發展會過熱嗎？講到一個會自我學習的系統，如果沒有適當的 Damping機制，很可能會失控。這個機制必須是內建的，可以隨著系統的進展而改變。如果只是在發現問題的時候才緊急剎車，那是剎不住的。
做賊的喊捉賊，也許是良心發現，也許是作賊心虛，但他們心裡想的大概是，最好別人都被逮到，而自己可以逍遙法外。
“