青云科技 2024 AI 算力發布會成功舉辦，以 “無界算力，共創數智未來” 為主題，全面展示了青云在 AI 算力領域的產品創新、生態建設及場景落地成果。

青云科技副總裁沈鷗與中科曙光智能計算產品事業部副總經理胡曉東、中關村科服副總經理陳俊豪、智譜 VP 聞劍輝、升哲科技首席架構師張國棟等合作伙伴代表，就“智算生態協同創新，構建企業數智未來”坐而論道，展開深入交流。

企業應用 AI 的挑戰與困難

主持人：2023 年常被視作 AIGC 元年，2024 年則被稱為 AIGC 的應用之年。當前，企業對于使用 AI、引入 AI 的意愿極為強烈，但實際上，在這個過程中企業會面臨諸多挑戰與困難。下面請各位嘉賓來依次談談如何看待企業應用 AI 時所遇到的挑戰和困難。

張國棟：升哲科技基于算力底座以物聯網和人工智能為依托，提供城市級的數據服務，因此我們會做大規模城市治理等相關應用的開發。目前，我們已在平臺中引入多模態大模型，對業務流程進行改造。當前面臨的最大挑戰在于，多模態、大模型的使用方式與傳統模型差異顯著，整個用戶邏輯、界面交互流程以及使用方法都與以往大不相同。我們仍在摸索當中，同時也在與各地用戶共同打磨、嘗試，以期找到更好的邏輯，充分發揮多模態、大模型的強大威力。此外，我們發現目前市面上熟悉多模態、包括大語言模型的產品經理，以及懂得如何運用的工程師較為稀缺。

聞劍輝：就人工智能應用而言，智譜觀察到，當前客戶面臨的最大挑戰或許在于自我革命。如今，真正在人工智能應用方面推廣力度較大的往往是超大規模企業，因為他們資金充裕且有長遠規劃。還有一些技術、市場驅動的企業，他們積極主動擁抱未來，希望借此提升自身生產力。然而，對于一些中型企業或傳統行業來說，相對而言包袱較重。一方面，他們需要看清大模型的發展路徑，另一方面，顛覆自身所有業務模式以及 IT 構建模式對他們而言難度頗大。從這個角度來看，無論是大模型的生態建設，包括底層算力和上層應用，大家都只有不斷創新，真正向客戶展現出應用價值和未來創新價值，才能將大模型真正應用于千行百業。

胡曉東：中科曙光聚焦于算力底座這一層，從與各行業的合作溝通經驗來看，我們認為，對于企業而言，關鍵在于如何充分挖掘自身的場景價值和數據價值。此前我們談到 2023 年是 AIGC 元年，實際上在 2023 年，新的大模型持續發布，趨勢十分明顯。而到了 2024 年，大家都在致力于實現自身行業的垂直落地，大模型的發布節奏反而會稍緩一些。對于企業來說，AI 的幾大要素包括算力、算法和數據。算力無疑是非常重要且熱門的，在算法方面，大家都在積極發展大模型，國內外在算法上處于互相追趕的狀態。實際上，在企業應用上，更為重要的是數據。我們常說 AI 賦能千行百業，專有的數據和場景才是千行百業的特征所在。企業不可能完全依賴一個第三方來發展 AI，必須聯合起來，既有外部的算力專家和算法專家，同時也有了解企業內部場景和應用數據的人員，共同進行抽象和挖掘，提煉出特有的行業屬性，才能促進企業的深層應用，推動垂類 AI 場景實現更好的發展。

陳俊豪：中關村科服有幾個方面的認識：其一，作為北京市屬國企，除了我們這類服務科技創新的企業，還有很多是服務民生及基礎設施建設運營的企業，第一個問題便是如何將自身的服務產品與客戶數據和模型相結合，獲得高質量、可用于訓練和推理的數據，這個事頗具難度，是當下傳統行業以及國央企要積極擁抱人工智能但又有實現障礙的原因之一。

其二，中關村在北京有十幾個園區，在北京之外還有幾十個園區，園區里匯聚了相當數量的科技企業。如何讓這些企業用上更便宜的算力，是一個關鍵問題。正如青云科技分享了許多關于多卡、異構、國產算力與進口算力的適配等情況，對用戶來說還有很多障礙。我們也在思考究竟是投入算力基礎設施建設，還是與青云這樣的生態伙伴共同打造一個智算服務平臺。

其三，我們特別希望能夠扶持國內的國產算力企業，包括芯片企業。我兼任中關村芯園的董事長，芯園為一大批芯片設計企業提供流片等服務，我們同樣希望能夠早日用上我們自己的國產算力。

沈鷗：我想表達兩點：第一， AI 對于傳統的 IT 基礎架構、傳統應用而言都是顛覆性的。正如剛才聞總所說，對于算力建設者來說，這種顛覆性意味著他們需要理解大模型建設背后的深層次技術能力是如何達成的，他們首先要在自身的組織架構以及知識體系上進行一些重構。

第二，評估以何種方式去構建與大模型相關的應用系統和系統架構，這對于大多數企業而言都是一個新的課題，這也正是為什么剛才花費了較多時間來介紹青云在各個行業和場景中的挑戰和 AI 建設場景。我們遇到了不少客戶，他們提出的問題仍然是基于傳統的 CPU 理念的，我們希望通過這樣的場景介紹，為那些希望使用大模型應用的客戶指出一條路，讓他們知道起點在哪里，如何逐步走好建設大模型的道路。

生態合作才能更好實現 AI 落地

主持人：從今年人工智能產業的發展情況來看，所有企業都在談論生態。在當前行業狀態下，各位嘉賓是如何看待通過生態合作來實現更好的客戶成就，或者幫助企業獲得更好的產品或服務的？正好前面陳總談到關于生態合作的一些想法，那這個問題先請陳總回答。

陳俊豪：先分享一個消息，中關村科服多次承辦由北京市國資委主辦的科創企業與北京市屬國有企業應用場景發布對接會。最近一次預計在 12 月初，可能由京津冀三地國資委共同舉辦，歡迎今天在座的生態伙伴前來參與。

從我們自身的角度來看，如果大家現在都去建設算力基礎設施，短期內可能會出現過剩的情況，最科學的方法是根據企業的實際需求提供全棧式解決方案。而這個全棧式解決方案從理論上講不應該由一家企業來提供，也不可能形成一家獨大的市場格局。我們作為第三方專業科技服務機構，希望在市里、區里相關政策的支持以及行業生態伙伴的合作下，以最少的成本為企業提供最好的服務，讓大家在賺錢的前提下共同做好這件事，使所有相關產業鏈中的客戶和服務者都能獲得自己的應有收益。

我們期望這個生態更開放、更共享。我們后續還將進行一個開源社區的建設落地工作，包括與青云科技一起，針對某些應用場景，如數字醫療等場景進行生態開發，非常歡迎大家共同合作。

張國棟：升哲自身積累了物聯網和人工智能方面的能力，擁有相關的軟硬件資源。然而，在 IaaS 和 PaaS 部分，當一個城市接入成千上萬個攝像頭時，底層平臺所承受的壓力是巨大的。所以在這方面，我們每個算力中心基本上都是與青云合作，由青云為我們提供 IaaS 和 PaaS 的能力，這樣我們便可以專心致志地做好應用服務工作。

聞劍輝：大模型技術從本質上來說是對傳統人工智能的更新與迭代。大模型技術在應用側，更為關鍵的是降低了應用開發廠商進入人工智能技術領域的門檻。所以實際上，大模型本身就是從根本上擁抱生態的產物。從整個生態建設的角度來看，最需要的是良好的土壤和空氣。在這一點上，我們確實堅定不移地期望國家和政府能夠給予相應的產業扶持，從而帶動上下游企業共同發展。最后，我還是想強調，生態建設不光是我們同業之間的合作，更多的是需要涵蓋我們的客戶。只有將大家真正的場景落地，才能真正讓這個生態進入正循環。

胡曉東：剛才沈總分享里 AI 架構圖中，底層是算力底座，中間涵蓋平臺層、模型層以及一些行業應用，最上層則是用戶。結合這張圖來看，曙光作為底層算力底座，在推動我們的產品和方案時，要做的事情是從底座直接貫穿至上層用戶場景。這樣的業務特征決定了我們在生態中具有一項優勢，即拉通作用。我們可以與客戶共同分析業務需求，明確需要什么樣的功能，如何對行業進行場景化分析，以及需要什么樣的 ISV 等等。

即便我們的某個伙伴專注于某個層面，因為畢竟整個鏈條很長，我們可以并且愿意將分析出來的需求共享，以硬件為載體，與整個上下游拉通，形成整體解決方案。這是我們愿意提供的價值，并且我們希望以曙光的硬件作為載體，以場景作為切入點，將整個鏈條所需的廠商聚集在一起，共同推進，讓千行百業的場景得以落地。

沈鷗：建設生態是青云在整個智算建設過程中最為看重的一點，對于主持人的問題，我稍作延展。在整個生態合作當中，如何讓生態合作伙伴建立起更好的互信，從而使這個生態真正落地，我認為是關鍵所在，這并非僅僅依靠一個紙面簽字或者單純進行技術對接就能實現的。

我們希望能夠從客戶的實際業務場景出發，共同規劃和驗證，和方案落地實施。只有當各方的解決方案合作起來，真正解決客戶的痛點和難點，讓客戶覺得物有所值時，客戶才會買單。只有當多方合作形成的方案被復制，被更大客戶所應用，才能帶來更好的經濟效益，推動大家繼續前行。因此，我們需要先彼此達成共識，明確目標，為商業合作的達成共同努力。

企業 AI 投資的 ROI 如何保障

主持人：在近兩年的訪談當中，我們發現，企業常常在大模型投入方面表現得特別遲疑或者擔憂。他們尤其擔心自身的資源投入與回報周期不匹配，大家都在思索投資回報率（ROI）究竟如何，都期望找到良好的解決方案來推進這件事。關于這個問題，我想先請從事大模型相關工作的聞總談談看法。

聞劍輝：這確實是一個頗為難答的問題。但有一點是明確的，大模型的未來或者說人工智能的未來是不可逆轉的。正如我一開始所說，很多客戶要么具備規劃能力，要么有著進行變革、創新的緊迫需求，所以往往會更快地接觸這些新技術。對于很多中型企業或者有一定資金能力但目前仍在遲疑的客戶，我個人的建議是，大家可以跨過淺水區，直接進入深水區。如果一項技術能夠給企業帶來革新，尤其是對核心應用的革新，相信每個企業都會進行資金投入的嘗試。

但如果大家認為大模型目前只能解決一些淺顯的問題，那么確實可能會遲疑。但大模型技術的更新迭代非常快，我們今天的投入可能在三個月、六個月內看不到結果，但三個月、六個月之后的大模型技術或許真的能夠讓他們獲得一些成果。所以，我覺得那些遲疑的企業可以跨過淺層應用，直接到深水區進行嘗試。

胡曉東：這個問題歸根結底是要解決投入與產出之間如何匹配的問題。首先是選擇適合自身的投入方式。實際上，企業的定位各不相同，如果讓每個企業購買千張卡去構建自己的大模型，這肯定不現實，也無法獲得回報。企業需要考量自身的需求體量、業務特征以及此前的工作模式。比如，企業可以根據自身情況選擇構建自己的集群進行微調，打造具有行業屬性的模型。如果體量再小一些，可以考慮采用一體機或者利用線上資源池。總之，企業要選擇與自身情況相匹配的投入方式。

其次是產出要有逐步的預期。不能期望立即產生回報、立即改變生產模式并實現降本增效。而是從改變某些局部業務場景開始，逐步深化到企業的更多層面。企業還是要先入場，只有先入場，才能在快速變化的環境中找到適合自己的模式。如果行動越來越慢，可能就更跟不上時代的潮流了。

陳俊豪：我們需要跳出來審視這個問題。從產品可復制、算力可復制以及能夠無限獲取邊際收益的角度來看，我認為人工智能是一個永遠不可逆的潮流。大家在與人工智能相關的所有事情上的投入，終將把人解放出來，最終可能只需要便宜的能源。而在這件事情上，政府和大型國央企或許會找到更好的解決方式。就大模型而言，邊際收益一定是正的，并且一定是能夠無限放大的。

沈鷗：在過去的三年多時間里，北美有幾家公司從事無人卡車業務，從明星公司最高市值 120 億美元，到現在基本上都黃了。為什么呢？看到一個觀點，任何大模型、AI 智能要在場景落地時，一定要回到這個場景最本質的地方去理解整個業務的鏈路，以及與業務相關聯的各個利益方到底是如何考慮和參與的。只有找準了真正能解決痛點、帶來現金流的場景時，無論是用戶方還是技術方，大家都會非常愿意投入。

所以說，大模型相關的投資回報率（ROI）到底是高還是低呢？我認為有兩個維度：第一個維度，大模型對于整個產業來說是革命性的變革，如果現在不投入，可能就會落后。這也是為什么這兩年大家拼命投入智算中心，不計成本地進行 AI 應用開發，就怕晚了一步。第二個維度，選擇真正能通過 AI 工具帶來質變的場景和應用。當成功做出一個案例時，后續就很容易迭代和快速復制，到那時 ROI 這件事就會變得相對容易。這就要看企業思考哪個維度優先，不同的企業會有不同的選擇。

如何看待開放與標準化

主持人：我們今年看到“人工智能+”成為非常重要的戰略，大家也在探討算力中心的互聯互通、大模型的標準以及操作性。從技術開放、開源、標準化的角度來講，對 AI 生態有哪些助力？

沈鷗：在過去的一年里，青云積極參與到國家的一些標準建設當中，包括參加了許多信通院的標準制定工作。在國家算力互聯互通的測試驗證中，青云也是第一批完成相關技術驗證工作的企業。

剛才介紹時提到，青云在構建生態時有一個重要利器，那就是云原生平臺，這是基于我們的開源社區所打造的非常強大的產品，現在 K8s 是智算相關技術依賴的的一個重要基礎，無論從事存儲、網絡還是其他方面的工作，包括像英偉達所提供的產品服務 NIM，都是基于云原生 Kubernetes。大家相互之間使用同一種技術，同一個技術平臺進行溝通，會變得非常方便。國家層面正在建立互聯互通標準，而我們則建立企業與企業之間在技術對接平臺的標準。這些標準結合在一起，會對 AI 產業的發展起到非常大的推動作用。

陳俊豪：中關村科服對政府部門的一些相關政策和支持會更為了解，包括市經信局、市科委、市發改委、市國資委在冗余資源的組織、公共服務能力方面，甚至是對企業的投入補貼、使用推廣以及相應的對客戶的補貼等方面，我們可以進行一些對接。

胡曉東：首先，開放無疑是當前行業中不可回避的問題，更是主旋律。在傳統觀念中，企業有上下游的概念，但在人工智能領域，可能并非傳統的上下游概念。智算中心更像是一個全連接的存在，只有這樣才能屏蔽一些困難。比如，不同行業的場景提供商無需關心底層云平臺采用何種調度策略，而對于同樣的行業廠商來說，他們關心的是將軟件層對接好，無需理會底層的硬件是何種芯片或服務器。這樣的模式決定了不同的合作方向。只有實現全面連接，才能推動這個行業快速發展。如果選擇一條封閉的道路，很快就會與大的發展趨勢脫節。

另一點是標準化。我們需要建立一個統一標準，曙光也同樣參與了一些信通院的標準制定工作，包括如何進行平臺適配、調度、切分以及接口設計等。這樣能夠形成行業的高效合作，減少溝通時間，讓各家更加專注于自己的領域，做好迭代，促進一個更加完整的產業鏈良性發展。

聞劍輝：如今可以說我們處于一個萬眾創新的時代。我們的同業與我們的客戶共同摸索創新，最終目的是為了百花齊放。既然國家制定了發展新質生產力的大戰略，我們期望在大戰略的引領下，大家能夠將各自的優勢發揮得更加淋漓盡致，只有這樣，我們的未來才可能相對更加便捷，也能夠讓我們更加快速地看到成果。

張國棟：從實際應用的角度來說，國家制定標準是一件好事。我們現在使用過很多開源或者閉源的大模型，目前大家基本對 OpenAI 的協議都是兼容的，都可以進行調用。但是，在一些特別的功能上，比如對一些圖片進行檢測或者分割的時候，每家的語法還是不太一樣，這一方面的統一標準很難制定出來，相信標準的制定出來會對行業有更多推動作用。

對行業的期待

主持人：最后我想請各位專家、嘉賓用一句話說一下自己，對 AI、對算力行業的期待。

張國棟：人工智能已經在悄悄改變我們的工作和生活。

聞劍輝：分享智譜堅信的一句話：讓機器像人一樣思考。

胡曉東：希望和大家一起攜手創新，開放共贏。

陳俊豪：祝愿每一家企業都能用算力助力自己發展。

沈鷗：我來收尾，要求一個“特權”，說兩句話。第一句是代表公司，我們希望整個 AI 的發展越來越好，能真正滲透到千行百業，為企業的發展助力。第二句是代表個人，我希望像具身機器人這些新的 AI 技術，能解決越來越多的現實生活問題，比如養老。