今日資訊

AI界也有宮鬥劇?人工智慧安全的矛盾對決

希望透過更好的報導與文章品質,讓台灣社會向上提昇。

圖片來源:達志影像
圖片放大

OpenAI公司開除後又迎回執行長阿特曼(Sam Altman),反映出盡速開發人工智慧AI改變世界與衡量AI對社會影響的兩大陣營在安全、廣泛選擇方面的基本差異。

被視為ChatGPT之父的OpenAI執行長阿特曼17日遭公司開除,震撼科技界,隨即引來包含科技巨擘微軟(Microsoft)在內一些最大投資方遊說讓阿特曼回歸,經過一番角力後,OpenAI22日宣布阿特曼回任執行長。

ChatGPT去年11月推出後,引來對AI公司的瘋狂投資,包括微軟(Microsoft)投資100億美元至OpenAI,以及Alphabet和亞馬遜(Amazon.com)等巨額投資其他新創公司。

路透社報導,像阿特曼這派人認為AI應快速發展供大眾使用、如同由公眾進行壓力測試讓產品臻於完善;另一派則如開除阿特曼的OpenAI董事會成員,認為最安全的前進之路首推在實驗室完善測試AI後再對外發表,以確保使用安全無虞。

有些人警告超高智慧軟體可能會變得無法控制,終致釀災,這也是信奉「有效利他主義」科技工作者憂慮之處,認為發展AI應讓人類受惠。這類較看重安全的人就包含OpenAI首席科學家,同時也是開除阿特曼的董事會一員蘇茨克維(Ilya Sutskever)。

AI控制的自駕車開發圈也有類似爭執。一派認為必須在密集的城市街道上行駛才能充分了解車輛功能和缺點,另一派則呼籲要更審慎,擔心這項技術會帶來不可預知風險。

對能根據簡單提示衍生出連貫內容的生成式AI憂心,隨這次阿特曼遭開除而白熱化。OpenAI的ChatGPT過去一年廣受歡迎,加速關於如何監管和開發這項軟體的爭論。簡而言之,這次OpenAI宮鬥劇的核心是「開發派」與「安全派」的理念之爭。

ConjectureAI公司執行長雷希(Connor Leahy)屬安全派,他說問題在於AI究竟是只像社群媒體或加密貨幣等這類一般產品,還是一種有超越人類能力並變得不可控的技術,「之後的未來會屬於機器嗎」。

據報導,蘇茨克維覺得阿特曼太快將OpenAI的軟體推行到用戶端,這恐危害安全。

蘇茨克維和一位副手7月在部落格發文:「我們沒有一套引導或控制潛在超級AI的解決方案,避免它變成洪水猛獸。」「人類將無法可靠地控管比我們聰明許多的AI系統。」

據報本月稍早,OpenAI在一場開發者活動宣布一系列新產品,包括一款ChatGPT-4軟體版本及像虛擬助理,尤其令人關切。

在19日曾短暫獲OpenAI任命代理執行長的希爾(Emmett Shear),9月時就在社群媒體主張「放慢」AI發展腳步,稱「如果我們現在的速度是10,我認為應該把目標放在1到2之間就好」。

然而這回OpenAI裡幾乎全體員工都站在阿特曼這邊,讓他在這場AI宮鬥最終高奏凱歌班師回朝,也使「開發派」暫時在這場拉鋸中取得上風。

延伸閱讀
OpenAI開除執行長,員工揚言跳槽,微軟或成最大贏家!

  • 分享: