downloadGroupGroupnoun_press release_995423_000000 copyGroupnoun_Feed_96767_000000Group 19noun_pictures_1817522_000000Member company iconResource item iconStore item iconGroup 19Group 19noun_Photo_2085192_000000 Copynoun_presentation_2096081_000000Group 19Group Copy 7noun_webinar_692730_000000Path
移至主內容
隨著演算法不斷進化,「AI人工智慧」鋪天蓋地襲來,生活中越來越多種的應用反映了人工智慧的價值,例如我們在使用電商購物時,網站推薦商品能夠切中消費者心中所需,數位機器人的對話也逐漸具備真人回應的精準與辨識度,而這一切的成果,都將仰賴大量數據資料與不斷強化的運算力來做為背後的支撐。 Table of content:AI晶片市場成長規模ASIC晶片的強項在哪裡?關鍵字一次看懂CPU中央處理器GPU圖形處理器FPGA現場可程式化邏輯閘陣列ASIC 特定應用積體電路雲端大廠Google、AWS、Meta及微軟等紛紛投入ASIC AI晶片市場強勢擴張,運算效能供不應求根據TrendForce研究報告指出,在數位化與智慧化趨勢推動下,包括智慧型手機、智慧音箱甚至是工業機器人等物聯網裝置設備都將不斷增加,加上自動駕駛、影像辨識與ChatGPT等應用,在在都加速了AI技術發展與晶片市場的擴張,預期在雲端運算、智慧車應用領軍下,將持續帶動市場高速成長,至2025年全球AI晶片市場規模將上看740億美元,2022~2025年的CAGR達到23.8%。從應用面的本質來看,隨著數據資料量體正不斷提升,從文字到影像的交互生成與轉換,這場AI運算的賽局已可預見過去單純以CPU(中央處理器)為首的裝置已無法滿足應用場景所需的運算效能;因此除了讓專注於GPU(圖形處理器)技術開發的NVIDIA、AMD近期聲勢大漲,ASIC(Application Specific Integrated Circuit)客製化晶片的抬頭,更是眾人關注的目標。 ASIC晶片的強項在哪裡?關鍵字一次看懂能夠處理不同的任務場景的優勢,是早年CPU被大量產用原因,AI應用早年聚焦在聲音影像的辨識,帶動了GPU的發展;但當運算需求無法被滿足時,更加專精、更符合某領域應用,針對特殊運算需求的客製化晶片ASIC就成了最佳解答。在分析ASIC客製化晶片為何能成為明日之星前,我們需要對於目前已發展的幾個重要運算處理器,先有初步的認識。 一、CPU中央處理器中央處理器 (Central Processing Unit) 可以視為電腦/裝置的大腦,負責執行整體協調,控制電腦與作業系統的各種指令,適合進行更為複雜的運算處理。 二、GPU圖形處理器圖形處理器 (Graphics Processing Unit) 採用平行運算架構,可以同時處理許多相對簡單的任務,加速處理效率,因此強項在於處理影像、圖片相關資訊,能同時進行大規模運算,在遊戲領域,影片剪輯及AI有絕佳著力點。 三、FPGA 現場可程式化邏輯閘陣列現場可程式化邏輯閘陣列(Field Programmable Gate Array)。晶片出廠後,能由使用者重新設定功能,調整它適合執行的任務以滿足場景所需,可視為半客製化晶片概念。適合在需要靈活性與可以重新配置的場景做發揮,包括通訊設備等,能更有彈性的適應不同演算法任務需求,惟晶片成本較高,不利於大量採用。 四、ASIC 特定應用積體電路特定應用積體電路(Application Specific Integrated Circuit)即客製化晶片,顧名思義,針對特定且專門之應用需求開發的晶片,特別適合應用在單純的應用環境,但對於性能、與能耗有更高、更嚴格的標準需求,例如挖礦、特殊演算法的資料分析及推論等,其製造出來的晶片多半僅能滿足單一場域的應用,無法相容於其他應用場域。 如上圖,想像不同的運算處理器就如同公司裡各式各樣的員工,各擅勝場:CPU 是全能性的通才,不僅加減乘除都會做、連複雜的一元二次、三元二次題目都能解,然而像這樣的人才不僅數量較少、薪資也相對高昂;GPU則是在某些專業領域表現特別突出,但也有比較做不來的工作,例如特別會算加法和減法,其他項目是弱項;FPGA 員工適應力強、配合度高,無論指派到哪個部門都能工作,缺點是雖然什麼都學得會、效率卻不高;而 ASIC 則像是公司為了某項任務特地培養的專案人才大軍,例如訓練出一批超級擅長算乘法的員工,這批員工除了乘法以外不具備其他專業,不過當他們集體專注在處理大量的乘法業務,對公司來說平均成本更佳、效率也達到最大化。晶片的表現,不外乎從「效能」、「功耗」及「應用場域」三者間的表現去評斷,在開發運算架構時,就如同企業招募不同專長的人才一起工作一樣,如何配合任務去設計電路為晶片找到最佳的表現空間、發揮價值就更顯重要。 如何在既有的系統及成本下提升運算效能、降低資料傳輸距離以減少能耗損失、避免產生過高熱能等,都是考量。以CPU與GPU為例,CPU多以下達指令並處理邏輯運算為主,但一次只能執行一個任務,在處理影像及巨量資訊時的速度相比具備平行運算能力、能夠同時執行很多任務的GPU要來的慢,但兩者間並不互斥、反而能共生共榮,在CPU的帶領下發揮GPU的算力,讓電腦與設備能有絕佳效能,同時透過先進製程輔助讓算力大增之餘,也可有效降低能耗。特別是在AI時代下,各式的應用擁有各自的演算法,即便是相同的演算法,訓練(Training)以及推論(Inference)的需求也不盡相同,如何在打造AI雲端伺服器如何同時滿足「效能」、「功耗」及「應用場域」進而到整個系統建置的成本,並為未來的擴充或任務轉換保留相對應的空間…等,都讓業界思索找出能更完美契合的那塊晶片拼圖,這也讓FPGA與ASIC找到了著力點。至於FPGA與ASIC的差異何在?FPGA可視為隨意塑型之黏土,面對不同應用場景能有比CPU、GPU更彈性的調整空間,搭配合適的軟硬體整合,可以針對不同的應用場景進行細緻的軟硬體調整,來達到最佳化的效能,為既有的系統架構提供了彈性,充分發揮加速運算效能表現,這在系統開發初期尚須進行微調的狀況下尤為重要。而ASIC則完全針對單一應用場景進行全客製化設計,開發時間與成本上相對FPGA大,但卻能更吻合某特定領域之所需,當人工智慧發展越趨成熟、產業應用朝向單一領域專精發展,ASIC 將在運算上成為不可或缺的得力助手;以AI晶片舉例,GPU雖可以滿足大多數基本運算的要求,但ASIC則能再更進一步瞄準單一場域執行任務,更加精準針對自身的需求進行匹配,獲得更好的效能及功耗,整體的能耗比甚至能較GPU好上數倍,大量導入的情況下甚至能攤提開發的費用,反而有助於降低成本。 搶進投入ASIC晶片!雲端大廠追求效能,創造兆元市場規模正因ASIC的導入能更精準針對特定領域、特定產品提升運算力表現,同時有效節省能耗,這也讓雲端大廠包括Google、AWS、Meta及微軟等紛紛投入。以Google來說,其自行研發的TPU晶片能達到2-3倍的效能提升;AWS也同樣為了提高效能搶進ASIC市場,提供每瓦50%的性能提升,讓客戶可以擁有更快、更經濟的方式訓練大型模型;而Meta所開發的客製化加速器「MTIA」則可以創造2倍的性能提升。在在顯示雲端業者已經開始在差異化的應用上,以ASIC晶片提供客戶更優異的AI解決方案。根據摩根士丹利的報告,2027年時這類ASIC晶片在雲端半導體市場將有機會從現在的個位數占比成長至30%。Global Information也指出,ASIC市場規模將在2030年來到345億美元,不過該項產品的研發成本仍是小型企業發展的重要障礙。從半導體產業的生態來看,晶片開發需投入大量人力與資金成本,這意味著雲端業者可能要自組IC 設計團隊;與此同時,晶片製造的成本也隨著先進製程技術演進而飛漲。也因此,運算的成本與效益,將會成為投入特定領域運算需求時的重要考量。台灣半導體產業作為全球科技業者背後重要的供應鏈,面對這場AI賽局與ASIC晶片的研發,依舊是充滿機會。以「晶圓製造」跟「封裝測試」環節來說,客戶下單晶片的需求提升,勢必將帶動產業發展,而手握先進製程與先進封裝等關鍵技術的業者,更是這群雲端業者不可或缺的夥伴。至於在開發ASIC晶片比較有關聯的上游IC設計端來說,若擁有重要IP或關鍵人才,將有機會成為雲端業者開發ASIC晶片的重要合作夥伴。 結語再回到那個令使用者驚艷的精準廣告投放場景,正因為有了過去CPU與GPU將大量資料進行運算分析,產生出初步的模型(Model),成為了個別場域應用的基石。而雲端業者投入ASIC的開發,則在不產生更多能耗下,利用更強的晶片效能處理更大規模的AI模型幫助廣告投放變得更貼近、更快速。「精準」的最後一哩路,就是以ASIC為首的客製化AI晶片所能發揮之處。綜觀來看,各項AI晶片皆有其優勢與弱點,端看應用面如何從效能、表現、成本等進行全面評估。而GPU依舊能發揮重要角色,扮演AI伺服器與主要運算力的幕後功臣;至於如何安排ASIC、FPGA接棒在不同領域的應用發揮價值,讓客戶能更快速獲得解決方案,也是目前雲端業者的機會與挑戰。 【延伸閱讀】半導體是什麼?晶片產業一次看懂 立即閱讀【延伸閱讀】先進製程領軍:全面剖析半導體產業突破摩爾定律的極限 立即閱讀#關於SEMI國際半導體產業協會成立於1970年,SEMI於全球設有10大營運據點,並於1996年正式成立SEMI國際半導體產業協會台灣分會,致力協助連結全球半導體和電子設計及製造供應鏈3,000多家會員企業,以及150萬名專業人士。自同年起固定舉辦年度SEMICON® Taiwan國際半導體展、國際高峰會與各項大型技術論壇,持續推升台灣之國際影響力及競爭力。SEMI國際半導體產業協會始終秉持客觀中立原則,並以誠信、透明、敏捷為核心價值,為台灣企業會員提供半導體產業智庫角色,促進國際間產、官、學、研各界深度交流,推動台灣半導體產業與全球接軌,搭建雙向溝通對話機制。SEMI國際半導體產業協會目前在台灣成立十八大技術委員會,以持續推動設計、裝置、設備、材料、服務和軟體方面的產業成長和技術創新為目標,並竭力提供企業會員完整的市場產業情報、標準制定、政策倡議、人才培育、永續發展、供應鏈管理和各式計劃協助,助力會員應對產業挑戰。更多資訊歡迎瀏覽www.semi.org,或加入SEMI Facebook粉絲團、SEMI LinkedIn。 SEMICON Taiwan 國際半導體展SEMICON Taiwan 國際半導體展不僅匯集全球具影響力廠商、人才和技術,創造新市場機會,更是台灣最國際化且唯一的半導體專業展會。SEMICON Taiwan 2024 | 9月4-6日 | 台北南港展覽館一館 二館 | 了解更多
Read More
針對高用電需求之產業及企業,「高效能管理」與「穩定供電」的需求至關重要。特別是在半導體製造過程中,穩定可靠的電力供應不僅是維持生產效率的基石,更是確保產品高品質的前提。在SEMI旗下之GESA智慧儲能委員會2024年第一季會議中,我們深入探討了儲能技術對於實現能源轉型與支持再生能源發展之關鍵作用。儲能系統的應用可以「電表」為界,分「表前」與「表後」兩種策略,其中,「表前」儲能系統,主要安裝於電網端,致力於穩定電網運作;而「表後」儲能則安裝於用戶端,旨在實現用電調節及成本優化。2023年,全球儲能建置達110GWh,其中台灣貢獻了約1GWh,佔全球年增裝量近1%,然而台灣儲能建置主要集中於調頻輔助服務,將近九成為「表前」儲能應用。然而,「表後」儲能則是目前全球儲能市場需求成長最快的領域,在台灣市場也開始備受矚目。此次委員會聚焦於「表後儲能」議題討論,以用戶端類型區分為工商儲能、家戶儲能,針對2050淨零碳排目標,預計工商儲能需求將迅速成長,家用儲能朝自給自足邁進。此技術為用戶提供了削峰填谷、備用電源、負荷平衡及電力市場參與等電力管理策略,尤其對於電力需求之大型用戶而言,能有效降低運營成本並提升對電力供應波動的韌性,增強企業營運穩定及可靠性。(GESA 智慧儲能委員會) 表後儲能有廣泛的應用場景,如工業園區、商業大樓、電動車充電站、醫院、學校、大型社區、別墅區等,主要展現的功能及優點: 削峰填谷:通過在用電成本較低的時段儲存電力,在高峰期釋放電力,工商企業可以降低能源成本。這有助於優化電費結構,減少高峰電價的支出。備用電源:對於需要確保連續供電的應用,如數據中心、醫院和製造工廠,儲能系統可以提供備用電源,以應對電力中斷或緊急情況。負荷平衡:儲能系統可以用於平衡不同時間段的電力需求,降低用電峰值,減少電費支出。電力市場參與:工商業儲能系統可以參與電力市場,根據電力價格波動來購買低成本電力並在高峰時段出售高價電力,獲得收益。近年世界各地因極端氣候所引發的停電事故愈趨頻繁,也提高用電端的防患意識及裝設儲能系統的意願,只需把平時多餘的電能儲存後,若遇到災害降臨導致停電事故,儲能必能為工廠及家庭提供所需之用電。GESA智慧儲能委員會於2/19結束了第一季的委員會議,由新任主席黃義協副總經理,帶領儲能委員們針對台灣接下來的儲能發展政策與挑戰進行討論,也將持續整合產業建言及需求,給予政府單位制定與推動儲能相關政策時作為參考,積極推進國內智慧儲能產業發展。(新任主席 黃義協 台泥儲能科技股份有限公司副總經理) (由左至右排序:榮譽主席 艾祖華博士, 新任主席 黃義協 台泥儲能科技股份有限公司副總經理, 副主席 譚宇軒 台普威能源股份有限公司總經理, SEMI GESA綠能暨永續發展聯盟資深總監 蘇貞萍)
Read More
眼前供應鏈看似平衡、一切安好時,難免會想自問:「韌性和敏捷度為何那麼重要?」其實癥結在於我們身處的世界變化極快,不可控的干擾層出不窮,供應鏈震盪不斷。全球電子廠現已意識到問題所在,紛紛將建立韌性和敏捷的供應鏈視為優先,確保營收無虞同時,還能強化競爭優勢。為了加強整體價值鏈的持續性營運以及半導體產業的成長,SEMI於2023年初正式啟動供應鏈管理倡議計劃(Supply Chain Management Initiative),成立產業諮詢委員會(Industry Advisory Council, IAC),成員包括 Genpact和Resilinc等產業領導大廠和策略夥伴,希望進一步打造更敏捷及具韌性的全球電子供應鏈。委員會將提供SEMI會員面對供應鏈中斷所需的解決方案,協助企業制訂積極的策略、最佳作法納入各自的供應鏈風險管理(SCRM)計畫,確保營運及供應商網絡安穩無虞。 供應鏈韌性重要性何在?一般來說,尋購(sourcing)和採購(procurement)一向是後勤辦公室職能的一部分,目標就是以盡可能低的成本按時將產品從A點運送到B點。然而,在當今快速變化和互聯的環境中,僅關注出貨和成本的策略已不敷使用。全球最強大、最具韌性的公司不僅能在各式動盪中存活,艱困時期還可凸顯競爭優勢,搶下市佔、提升財務表現。注重韌性和敏捷的企業和無特別作為的同業兩者之間的鴻溝,在疫情和晶片短缺催化下不斷擴大。簡而言之,投資供應鏈韌性的企業不僅能安然度過接踵而來的黑天鵝事件,更因有辦法創造競爭優勢而持續蓬勃發展。 豐田和蘋果超前佈署 領先業界一步穩固營運成長以豐田(Toyota)為例,2021年半導體短缺危機期間,在許多汽車同業利潤大失血、出現數十億美元虧損之後將近八個月,豐田的生產線才首次陷入癱瘓。豐田將自身的適應性歸功於投資多年供應鏈風險和韌性計劃有成-詳細描繪供應鏈所需、找出對生產可能帶來最大影響、不可或缺的零件,以保有足夠的庫存;同時,豐田與供應商之間以透明度和協作為基礎的緊密伙伴關係也是關鍵所在。最後,豐田頂住了晶片短缺的考驗,讓營收進一步成長,穩坐2021年全球最大汽車製造商的寶座。蘋果公司(Apple)是另一個很好的例子,早在晶片短缺之前,蘋果就已建立了庫存管理策略方針,有效儲備關鍵零組件,同時和企業夥伴維持牢固的合作關係。晶片短缺大潮襲來時,蘋果運用緊急庫存採購策略,在競爭對手為了移除自身供應鏈各式瓶頸叫苦連天之際,坐收破紀錄的利潤。 半導體產業統整步調 強化供應鏈韌性、帶動後續行動在供應鏈管理產業諮詢委員會指導下,SEMI成立了兩個工作小組,開發標準化工具、流程和方法,協助業界聚焦韌性和敏捷供應鏈的重要性。韌性工作小組負責定義並導入多層風險熱圖的標準化流程、風險管理框架和韌性指標,提升企業因應意外斷鏈的管理能力。工作小組成員提出的關鍵建議包括藉由繪製次級供應商(或稱多層熱圖)以及引入人工智慧驅動事件和斷鏈事件監控等機制挖出一級供應基礎外的隱密資訊;韌性策略的重要原則是透過子層了解自身供應鏈、識別風險點,並依據斷鏈衝擊程度制訂因應措施的優先順序。敏捷工作小組則專注於定義和開發領先和落後的供應鏈管理指標和儀表板,有助供應鏈斷鏈時加快決策速度。此一架構側重意外變化的即時快速報告,同時維持客戶服務水準、服務水準協議、流動性和成本結構不受影響,而要能打造敏捷供應鏈,靠的正是與整體供應鏈合作夥伴密不可分的關係。敏捷供應鏈單靠一己之力無法達成,企業需透過有效、透明的合作模式和夥伴互通有無、共享資訊,才能在斷鏈時迅速回應。敏捷供應鏈非是盲目規劃,而是藉由最新的數據分析,在產品生產就確認有足夠的產品需求。一組通用的指標和儀表板為敏捷工作小組的核心所在,藉以衡量供應鏈因應不可控因素的能力,長鞭效應、供應商韌性評分以及全半導體部門的庫存緩衝水平等也都在相關指標之列。有興趣加入上述工作小組的企業歡迎與我們聯繫,[email protected]。 背景資料製定韌性和敏捷性專案計劃前,企業應深入了解如監控、子層可見度和韌性評分等用來支應最佳韌性實踐的流程。例如在前期,即製作次級供應商熱圖之前,首先應建立區分關鍵以及非關鍵供應商的標準,以識別對於供應鏈至關重要的供應商為誰。其中一種方法是從產品物料清單下手,找出營收貢獻度較高的產品普遍所需的零組件,接著用這些通用零件對應出一級供應商名單,同時列為與收入連續性密切相連的關鍵零組件。在材料清單中跨四到五層、繪製每一供應商的熱圖並無法延展,因此每家企業都需有識別供應鏈中關鍵零組件或供應商特徵的能力。企業供應鏈管理團隊組織結構也是需納入考量的重要因素,許多績效最高的團隊共通點如下:一位善於領導的管理者、有一小團隊為後盾,負責公司韌性和敏捷性計劃維護,使其與時俱進、越加完善。 關於SEMI供應鏈管理倡議計劃SEMI供應鏈管理倡議計畫為半導體產業界唯一匯集產業領導大廠,共同推進韌性和敏捷電子供應鏈的全球平台。產業諮詢委員會致力於帶動跨供應鏈成員參與、加強數據收集,確保全球端到端供應鏈的營運連續性、可見性和透明度。SEMI透過論壇、基準測試、標準制定和策略合作夥伴關係等方式協助會員企業預測並針對供應鏈中斷採取有效的應對措施。更多相關資訊請洽SEMI供應鏈管理倡議計畫官網,或與我們聯繫:[email protected]。 關於作者Chris Benham為資深供應鏈從業者,於電信業、航空業和數位儲存領域累積超過20年經驗。職涯中曾任多種領導職務,專注於數據和先進分析、商品成本管理、數位轉型和變革管理。現於Seagate Technology擔任供應鏈長幕僚官,監督策略方向、供應鏈路線圖、董事會層級溝通和KPI等業務。
Read More