在AI for Education驅(qū)動(dòng)教育教學(xué)高質(zhì)量發(fā)展、AI for Science引領(lǐng)科研范式深層次變革的歷史機(jī)遇下,AI技術(shù)與教育、科研的深度融合成為可能。然而,面對(duì)當(dāng)前教育、科研領(lǐng)域算力應(yīng)用場(chǎng)景雜、算力需求品種多、算力推廣門檻高等特點(diǎn),亟需一個(gè)算力平臺(tái)來(lái)對(duì)底層算力資源進(jìn)行統(tǒng)一匯聚、按需調(diào)配、動(dòng)態(tài)調(diào)度,以支撐上層各類教育、科研行業(yè)的模型和應(yīng)用穩(wěn)定運(yùn)行。那么該如何去構(gòu)建這樣一個(gè)面向教育垂直行業(yè)的算力平臺(tái)呢?上海師范大學(xué)率先探索出一條新路徑。
由上海師范大學(xué)分析測(cè)試與超算中心和國(guó)家(上海)新型互聯(lián)網(wǎng)交換中心聯(lián)合打造的國(guó)內(nèi)首個(gè)教育行業(yè)算力服務(wù)平臺(tái)—上海教育智算服務(wù)平臺(tái)于日前重磅上線。該平臺(tái)可為上海、長(zhǎng)三角區(qū)域乃至全國(guó)的各類院校在開(kāi)展教育實(shí)踐重塑、人工智能教育課程建設(shè)、科技研發(fā)和學(xué)術(shù)研究等方面提供完整的服務(wù)和賦能方案。
上海教育智算服務(wù)平臺(tái)架構(gòu)
上海教育智算服務(wù)平臺(tái)以國(guó)家(上海)新型互聯(lián)網(wǎng)交換中心為底座,通過(guò)打造教育教學(xué)應(yīng)用平臺(tái)、高校科研實(shí)訓(xùn)平臺(tái),將教育行業(yè)模型應(yīng)用生產(chǎn)企業(yè)、基礎(chǔ)教育學(xué)校、高等院校、科研院所高效銜接起來(lái),平臺(tái)具備以下特點(diǎn):
標(biāo)準(zhǔn)化平臺(tái)整合,覆蓋基礎(chǔ)教育各類教育教學(xué)場(chǎng)景,高等院校各類科研教學(xué)場(chǎng)景,筑牢教育數(shù)字化底座;
全流程安全可控,數(shù)據(jù)專網(wǎng)專用傳輸、分級(jí)分類存儲(chǔ),國(guó)家級(jí)區(qū)塊鏈提供可信核驗(yàn)保障;
大算力按需隨選,各類算力高效并網(wǎng),多元異構(gòu)靈活調(diào)度,大幅降低用算成本;
國(guó)產(chǎn)化全棧兼容,適配國(guó)內(nèi)外主流硬件架構(gòu)和軟件框架,優(yōu)先調(diào)配國(guó)產(chǎn)化算力資源,培育行業(yè)應(yīng)用生態(tài)。
教育、科研團(tuán)隊(duì)可以在平臺(tái)上輕松創(chuàng)建、部署和管理“萬(wàn)能工具箱”。用戶只需提交算力和應(yīng)用的訂購(gòu)需求,由平臺(tái)完成算力資源的分配、應(yīng)用模型的匹配和場(chǎng)景化編排,形成可以直接使用的容器化應(yīng)用。每個(gè)容器化應(yīng)用都集成了實(shí)現(xiàn)場(chǎng)景需求所需的算力資源和所有依賴環(huán)境,大幅簡(jiǎn)化了復(fù)雜環(huán)境的配置過(guò)程。容器化的應(yīng)用編排和部署方式也避免了不同項(xiàng)目之間的環(huán)境沖突,可以實(shí)現(xiàn)多項(xiàng)目的高效管理和快速切換,提高教育實(shí)踐任務(wù)和科研任務(wù)的靈活性和可擴(kuò)展性。
上海教育智算服務(wù)平臺(tái) 應(yīng)用場(chǎng)景支撐
如何獲取可靠穩(wěn)定的算力資源?
高昂的購(gòu)置成本和缺乏專門預(yù)算,導(dǎo)致基礎(chǔ)教育領(lǐng)域算力資源匱乏,而高校雖有GPU資源,但仍面臨設(shè)備稀缺和使用競(jìng)爭(zhēng)激烈的問(wèn)題。云端算力不失為一個(gè)好選擇。上海教育智算服務(wù)平臺(tái)一方面積極聯(lián)絡(luò)算力廠商打造教育領(lǐng)域的專用算力基礎(chǔ)設(shè)施,另一方面積極對(duì)接算力云企業(yè)以算力共享的方式將現(xiàn)有的算力設(shè)施直接引入教育領(lǐng)域,雙管齊下穩(wěn)步打造教育領(lǐng)域算力基礎(chǔ)設(shè)施,從而規(guī)避高昂的投資成本、過(guò)長(zhǎng)的建設(shè)周期等現(xiàn)實(shí)問(wèn)題。
如何解決網(wǎng)絡(luò)傳輸問(wèn)題?
大規(guī)模訓(xùn)練數(shù)據(jù)上傳到云端服務(wù)器會(huì)嚴(yán)重影響基礎(chǔ)教育課堂、高校科研效率,然而,教育網(wǎng)絡(luò)環(huán)境的建設(shè)需要大量的投資,短時(shí)間內(nèi)恐怕難以滿足所有學(xué)校的算力訪問(wèn)需求。為此,上海教育智算服務(wù)平臺(tái)積極推動(dòng)IXP算力專網(wǎng)方案的落地。該方案專為算力交換和數(shù)據(jù)傳輸設(shè)計(jì),支持快速部署滿足支持算力使用的靈活網(wǎng)絡(luò)環(huán)境,能夠提供高速、低延遲的數(shù)據(jù)傳輸通道,確保不同地理位置的計(jì)算節(jié)點(diǎn)之間能夠高效、穩(wěn)定地交換數(shù)據(jù)。
算力成本過(guò)高?
“講卡傷感情,沒(méi)卡沒(méi)感情”。算力需求迅速提升,背后能源的消耗非常驚人,算力資源的購(gòu)置成本十分高昂。尤其對(duì)于基礎(chǔ)教育領(lǐng)域,往往缺乏專項(xiàng)經(jīng)費(fèi)來(lái)支撐算力租賃服務(wù)。上海教育智算服務(wù)平臺(tái)通過(guò)建設(shè)算力調(diào)度交易平臺(tái),搭建了算力交易服務(wù)體系,推動(dòng)社會(huì)算力資源的互聯(lián)互通與可交易性。集中化資源調(diào)度能夠減少能源消耗和運(yùn)維成本平臺(tái)。平臺(tái)也支持用戶“用多少,配多少”,并提供按卡時(shí)、日、周、月的靈活計(jì)費(fèi)方式,為上海地區(qū)、長(zhǎng)三角乃至全國(guó)提供教育普惠算力。
數(shù)據(jù)安全隱患?
從數(shù)據(jù)安全和可控的角度來(lái)看,算力放置到學(xué)校內(nèi)或者教育網(wǎng)內(nèi)相對(duì)來(lái)說(shuō)內(nèi)容更加可控,但這又與費(fèi)用高昂、有限的經(jīng)費(fèi)預(yù)算形成了矛盾。上海教育智算服務(wù)平臺(tái)通過(guò)數(shù)據(jù)專網(wǎng)進(jìn)行專用傳輸,保障數(shù)據(jù)在傳輸過(guò)程中的安全性,并采用分級(jí)分類存儲(chǔ)管理方式,確保不同類型的數(shù)據(jù)得到合理的保護(hù)。同時(shí)引入國(guó)家級(jí)區(qū)塊鏈技術(shù)提供可信核驗(yàn)保障,確保數(shù)據(jù)的完整性和不可篡改性。平臺(tái)支持國(guó)產(chǎn)化全棧兼容,適配主流國(guó)產(chǎn)化軟硬件,優(yōu)先調(diào)配國(guó)產(chǎn)化算力資源,切實(shí)提高數(shù)據(jù)安全性和穩(wěn)定性。
算力調(diào)用和使用門檻高?
上海教育智算服務(wù)平臺(tái)構(gòu)建了算力調(diào)度一體化服務(wù),像“購(gòu)物網(wǎng)站”一樣緊密連接供需方,通過(guò)市場(chǎng)化的運(yùn)營(yíng)和服務(wù)體系,實(shí)現(xiàn)算力資源統(tǒng)籌調(diào)度,降低算力調(diào)用門檻。平臺(tái)能夠整合覆蓋基礎(chǔ)教育與高等院校的各類教學(xué)與科研場(chǎng)景的容器化應(yīng)用,教育或科研團(tuán)隊(duì)只需像使用一個(gè)APP一樣,便能輕松完成算力在場(chǎng)景任務(wù)中的使用。
前瞻部署,用算力托舉智能教育推進(jìn)、科研范式變革
算力充足、傳輸快速、安全性強(qiáng)、價(jià)格實(shí)惠、使用方便...上海教育智算服務(wù)平臺(tái)是國(guó)內(nèi)首發(fā)真正意義上的普惠、安全、易用的教育算力平臺(tái)。這是上海師范大學(xué)分析測(cè)試與超算中心為上海、長(zhǎng)三角區(qū)域乃至全國(guó)人工智能教育推進(jìn)、AI for Science 引領(lǐng)科研范式變革做的前瞻部署。
算力是應(yīng)用與學(xué)習(xí)人工智能的必要基礎(chǔ)設(shè)施,智能時(shí)代基礎(chǔ)教育重塑變革的首要難題是如何獲取可靠穩(wěn)定的算力支撐。即使在北上廣深之類的一線大城市中,學(xué)校中購(gòu)置算力服務(wù)器的也寥寥無(wú)幾,建設(shè)帶GPU的機(jī)房就更少了。基礎(chǔ)教育面臨著“算力從哪里來(lái),算力到哪里去,算力該怎么用”三大難題。
AI for Science正在引領(lǐng)科研范式變革,利用人工智能算法、大數(shù)據(jù)資源以及強(qiáng)大的算力效能幫助科研人員更精準(zhǔn)地構(gòu)建問(wèn)題模型,推動(dòng)科學(xué)規(guī)律的深入探索,大幅提升科研效率。然而,許多高校和研究機(jī)構(gòu)仍依賴傳統(tǒng)的分散式算力資源采購(gòu)和管理模式,算力利用效率低下,無(wú)法滿足大型模型研發(fā)的高性能計(jì)算需求,拖慢了科研進(jìn)程。如何整合算力資源,優(yōu)化資源分配,是實(shí)現(xiàn)AI for Science的關(guān)鍵挑戰(zhàn)。
上海教育智算服務(wù)平臺(tái)的推出尤為必要。目前,平臺(tái)已經(jīng)在教育教學(xué)實(shí)踐和科研創(chuàng)新兩個(gè)場(chǎng)景中孵化了兩個(gè)容器應(yīng)用,且具備了一定應(yīng)用基礎(chǔ)。
國(guó)內(nèi)首個(gè)教師教育大模型
上海師范大學(xué)近期發(fā)布了國(guó)內(nèi)首個(gè)用于師范生培養(yǎng)的教師教育大模型MetaClass。該模型集成了符合學(xué)生認(rèn)知的大語(yǔ)言推理模型、符合學(xué)生性格特點(diǎn)的行為模型,構(gòu)建了模型驅(qū)動(dòng)的具有自主思考能力的學(xué)生智能體,能自主演繹教學(xué)場(chǎng)景,為師范生提供真實(shí)的實(shí)訓(xùn)平臺(tái),同時(shí)精準(zhǔn)記錄實(shí)訓(xùn)過(guò)程,智能評(píng)估教學(xué)技能,形成自適應(yīng)的師范生培養(yǎng)模式。
這是在上海教育智算服務(wù)平臺(tái)上孕育出的第一個(gè)大模型,通過(guò)最大限度地還原真實(shí)的課堂,讓師范生能夠進(jìn)行充分的模擬教學(xué),更自信地走上講臺(tái)。在平臺(tái)算力的支持下該模型已經(jīng)在全國(guó)近30所師范院校中開(kāi)始部署試用。
師范生使用MetaClass模擬課堂授課
140億參數(shù)的師范生教學(xué)反思文本評(píng)估大模型,22小時(shí)完成微調(diào)!
上海師范大學(xué)研究團(tuán)隊(duì)近日成功在上海教育智算服務(wù)平臺(tái)上部署了一個(gè)助力教師發(fā)展的研究項(xiàng)目——師范生教學(xué)反思文本評(píng)估大模型,用于推進(jìn)師范生教育質(zhì)量研究。研究團(tuán)隊(duì)僅在雙卡環(huán)境下,用時(shí)22小時(shí)完成了5000條教學(xué)反思文本數(shù)據(jù)的20輪訓(xùn)練,成功實(shí)現(xiàn)了對(duì)師范生教學(xué)反思文本中的教學(xué)理念、教學(xué)方法、反思深度等多維度的精準(zhǔn)評(píng)估,極大提升了科研數(shù)據(jù)處理效率。值得一提的是,平臺(tái)提供的靈活算力調(diào)度與容器化部署使得研究人員無(wú)需深度技術(shù)背景,也能迅速搭建和運(yùn)行所需的計(jì)算任務(wù),極大降低了科研創(chuàng)新的技術(shù)門檻。
上海教育智算服務(wù)平臺(tái)建成后,接下來(lái)的關(guān)鍵任務(wù)是確保“算力該如何用”的有效支持。目前,平臺(tái)的管理和運(yùn)營(yíng)由上海師范大學(xué)分析測(cè)試與超算中心與國(guó)家(上海)互聯(lián)網(wǎng)交換中心共同提供保障。保障團(tuán)隊(duì)不僅包括專門的技術(shù)運(yùn)營(yíng)組,負(fù)責(zé)平臺(tái)的培訓(xùn)、計(jì)算資源管理以及安全運(yùn)營(yíng),還有一支專注于算力優(yōu)化和與基礎(chǔ)研究對(duì)接的團(tuán)隊(duì)。保障團(tuán)隊(duì)也承擔(dān)著師資培訓(xùn)任務(wù),通過(guò)提升教師對(duì)算力、算法和模型的理解,為其開(kāi)展人工智能應(yīng)用與教育學(xué)習(xí)提供支持。同時(shí),為了幫助不熟悉算法的科研團(tuán)隊(duì),保障團(tuán)隊(duì)還提供架構(gòu)和代碼優(yōu)化服務(wù),協(xié)同提升科研效率。
(供稿、圖片:上海師大分析測(cè)試與超算中心)