紅(hóng)彤軟件(jiàn)助力某智能(néng)科技(jì)人工(gōng)智能(néng) API 平台容災項目
項目名:人工(gōng)智能(néng) API 平台容災項目
背景及需求*
深圳市(shì)某智能(néng)科技(jì)有限公司是一(yī)家緻力于開(kāi)發視覺AI技(jì)術(shù),為(wèi)健康與美麗産業(yè)賦能(néng)的留學生(shēng)創業(yè)企業(yè),核心團隊包括多(duō)名AI算(suàn)法人才、醫(yī)療領域的資深從(cóng)業(yè)者。
某智能(néng)在本地托管數據中心構建了擁有一(yī)定算(suàn)力的AI 集群,聯合多(duō)家專業(yè)醫(yī)療機(jī)構和海量标注數據(超過1000萬的臨床皮膚案例數據),依托獨有的算(suàn)法和數據研發了一(yī)個(gè)用于皮膚健康狀态檢測的人工(gōng)智能(néng)平台,并将研究成果産品化制造在全球銷售了超過3萬台皮膚檢測硬件(jiàn)産品,包括測膚儀、AI魔鏡、皮膚放(fàng)大鏡、頭皮放(fàng)大鏡等,同時還(hái)提供了一(yī)個(gè)面向互聯網企業(yè)用戶(如美容機(jī)構、皮膚病醫(yī)院、美妝手機(jī)應用等)的 API 平台,此 API平台已部署在 AWS 北(běi)京區域,目前已經擁有超過500萬的用戶群體在使用API 平台進行皮膚健康檢測和相(xiàng)關應用。
随著(zhe)數據中心所存儲的皮膚數據(主要為(wèi)大量高(gāo)清皮膚圖片)越來越多(duō),目前的數據存儲量已經達到(dào)了100TB級别。為(wèi)安全長(cháng)期的保存 AI算(suàn)法所需的數據,某智能(néng)購買了Veritas的NetBackup産品用于數據的備份,同時為(wèi)進一(yī)步保證數據的高(gāo)可用和長(cháng)期歸檔存放(fàng)的需求,某智能(néng)希望能(néng)夠在AWS上(shàng)使用 Amazon Simple Storage Service來進行AI平台海量文件(jiàn)的存儲備份,通(tōng)過Veritas的NetBackup産品将本地的文件(jiàn)備份到(dào) Amazon Simple Storage Service 中。
同時考慮到(dào)原部署在本地托管數據中心的 API 平台的互聯網訪問帶寬及後端服務的穩定性,希望在 AWS 國(guó)内區域部署完整的 API 平台的備用容災環境,并逐漸将原有的客戶端訪問切換到(dào) AWS 上(shàng)的 API 平台。
解決方案*
架構圖
架構設計*
在本方案中,為(wèi)了在項目需求中實現AI平台海量文件(jiàn)的存儲備份以及 API 平台的容災環境部署,我們主要采用了以下(xià)技(jì)術(shù)方法來實現架構設計和部署:
• 參考 AWS Identity and Access Management最佳實踐來規劃和完成 AWS Identity and Access Management中的用戶創建、權限配置和安全設置;
• 在AWS國(guó)内(北(běi)京區域)創建Amazon Virtual Private Clouds進行網絡隔離和其他服務部署;
• 在AWS中國(guó)(北(běi)京區域)創建Amazon Simple Storage Service存儲桶,并根據數據特征規劃多(duō)種不同的存儲類型,包括Amazon S3 Standard、Amazon S3 Glacier、Amazon S3 Glacier Deep Archive 等;
• 由Veritas 原廠工(gōng)程師(shī) 在本地數據中心完成Veritas NetBackup的配置,完成Amazon Simple Storage Service與本地數據中心 Veritas NetBackup之間的數據傳輸;
• 設置本地數據中心 Veritas NetBackup的傳輸策略,同步寫入本地備份設備及 AWS 中國(guó)的Amazon Simple Storage Service存儲桶;
• 在AWS中國(guó)(北(běi)京區域)創建Application Load Balancer、Amazon Elastic Compute Cloud 實例組、Amazon RDS、Amazon API Gateway、AWS lambda、Amazon DynamoDB 等服務,用于部署 API 平台的容災平台。
• 在AWS中國(guó)(北(běi)京區域),通(tōng)過 Amazon Cloudwatch進行各個(gè)服務的監控和告警設置。
項目收益*
通(tōng)過結合使用 Veritas NetBackup 和 Amazon Simple Storage Service,我們為(wèi)客戶構建了一(yī)個(gè)經濟、可靠、安全的數據備份系統;同時我們通(tōng)過使用 Application Load Balancer、Amazon Elastic Compute Cloud 實例組、Amazon RDS、Amazon API Gateway、AWS lambda、Amazon DynamoDB 等服務,為(wèi)用戶構建了一(yī)個(gè)彈性、高(gāo)性能(néng)的 API 容災平台。
• 成本:通(tōng)過使用 Veritas NetBackup 将客戶的文件(jiàn)傳輸到(dào) Amazon Simple Storage Service,實現了用戶文件(jiàn)的安全備份,同時通(tōng)過使用豐富的 Amazon Simple Storage Service 存儲類,以及結合使用 Veritas NetBackup 的去重壓縮功能(néng),在雲中的文件(jiàn)存儲成本隻有本地數據中心的1/3;
• 安全性:所有的文件(jiàn)傳輸鏈路(lù)均使用 SSL 加密,并通(tōng)過使用 IAM 角色來完成 Amazon Simple Storage Service 存儲桶内文件(jiàn)的安全權限控制;同時我們開(kāi)啓了 Amazon Simple Storage Service 的相(xiàng)關審計功能(néng),可以記錄并分析所有的訪問情況;
• 效率:通(tōng)過使用我們提供的方案,經過大量的測試,不同來源的用戶訪問 API 接口的響應時間大幅下(xià)降,從(cóng)原來的平均超過 500ms 下(xià)降到(dào)100ms以内,提升了五倍的 API 訪問效率;用戶決定後續陸續将本地數據中心的 API 訪問遷移到(dào) AWS 中國(guó)區域部署的 API 平台。
項目成效*
• Veritas 和 AWS 均為(wèi)我公司的合作夥伴,通(tōng)過此項目的測試和部署,我們對結合使用 AWS Partner Veritas 的 NetBackup 産品和 Amazon Simple Storage Service 服務積累了很多(duō)經驗,并獲取了有一(yī)定參考價值的數據存儲成本對比數據,在未來涉及到(dào)數據備份、容災的場景中均可以推薦給其他用戶使用,從(cóng)而可以為(wèi)用戶提供企業(yè)級的經濟、可靠、安全的數據備份和容災系統。