電腦與人腦的神經元數量可能出現黃金交叉, AI逐漸成為新一代萬物之靈的「它時代」來了!
圖片來源:pexels
對於摩爾定律走不下去的焦慮感,終於因為類神經網路的規模和發展逐步提高,有了解方。從1980 年到2020 年,這40 年間類神經網路有了顯著的進展。一方面是類神經網路的規模逐步提高,另一方面則是類神經網路的模型,也隨著腦神經科學的突破而不斷推陳出新。
我們整理過去40 年知名神經網路模型的神經元數量趨勢,並依此推估到2040 年之前,單一AI 系統的神經元數量可以達到500 億個,而人類的腦神經元數量約為860 億個,我們可以將之視為「AI 模型的摩爾定律」。更重要的是,如果依照這個趨勢發展下去,電腦與人腦的神經元數量可能會在30 年之內出現黃金交叉!
AI 將顛覆現有的市場格局
除了從神經元數量推演接下來的趨勢,我們還可以從機器學習所投入的計算資源增長趨勢來加以佐證。
機器學習系統的訓練計算量(Floating Point Operations,FLOPs),直譯為「浮點數的計算次數」,這是常用於衡量神經網路訓練過程中所需要的計算資源/負荷的一個重要指標,通常與計算複雜性、訓練成本、時間以及所需的硬體資源等條件相關。
時代基金會在2022 年5 月發表了《EPOCH AI》研究報告,以浮點數計算能力的演進作為主要指標,將機器深度學習劃分為3 個時期:
1. 前期(1950-2010 年):在機器深度學習出現之前,訓練計算量大約每29 個月翻倍1 次。
2. 深度學習時代(2010-2015 年):訓練計算量大約每12 個月翻倍1 次。
3. 大規模時代(2015-2016 年):部分由大型企業主導的模型開始從主要趨勢中分離出來,這些大型模型使用的訓練計算量,比同期系統還要高出2 至3 個量級,因此也將翻倍時間縮短到5 個月到7.3 個月。
要特別提醒的是,自2010 年至2022 年5 月,機器深度學習模型的訓練計算量已經增長了100 億倍!這表示機器深度學習模型的需求,正在以前所未有的速度飛躍前進中。
根據IT 發展的前4 大週期觀察之,當科技進步符合或超越摩爾定律每2 年成長1 倍的速度,就意味著這樣的指數型成長將會產生相當巨大的影響力。再加上這段期間巨量資金與頂尖人才的加速匯集,我們已經可以預期,AI 即將顛覆現有的市場格局!
它時代來了!
自2017 年Google 科學家瓦斯瓦尼(Ashish Vaswani)等人在開創性論文《Attention is All You Need》中提出了Transformer 模型之後, 這種使用自注意力機制的新型架構,便成為人工智慧和自然語言處理(NLP)領域先進模型的基礎。
到了2022 年,OpenAI 推出了GPT-3, 這是一個更先進的自然語言處理AI 模型,具有超過1,750 億個參數,性能遠超過以往的AI 模型,尤其在文本生成、問答、文本摘要等多個自然語言處理任務上展示了強大的能力。
從資金、技術、市場需求,種種跡象均已顯示,AI 時代真的來了。從2020 年至2040 年的20 年間,IT 發展進入第5 個週期,這期間全球各地各產業都將迎來巨大的AI 紅利,包括生產力急速提升、科技重大突破、人們更多需求被滿足,甚至人類當前在生命醫學、量子力學、宇宙奧祕、時空之謎等各方面所遭遇的重大課題,都會在AI 的協助下突飛猛進。
我們也把這樣的AI 時代稱為「它時代」。
「它」(it) 這個詞, 一方面代表了IT 資訊科技(Information Technology), 另一方面也是指除了人類的「他」及「她」之外,這個世界上還有另一種擁有智力與自主行動的它(it),會在這期間徹底改變人類的生活樣貌,
伴隨著它愈來愈聰明,在大幅提高人類福祉的同時,也逐漸成為新一代的萬物之靈。
※ IT發展大週期
- 1940–1960 初始計算機時代
- 1960–1980 企業商用時代
- 1980–2000 個人電腦時代
- 2000–2020 行動裝置時代
- 2020–2040 人工智慧時代
意義:AI 智力將超過人類,甚至會成為新一代的萬物之靈
得利:所有掌握住機會的人
