當前,人(people)工智能浪潮持續蔓延,聊天機器人(people)和(and)生(born)成式人(people)工智能成爲(for)主流。AI技術在(exist)快速改變人(people)們(them)日常生(born)活的(of)同時(hour),也帶來(Come)大(big)量有關安全合規、應用(use)安全等方面的(of)新風險、新挑戰。
近日,在(exist)全國(country)信息安全标準化技術委員會2023年“人(people)工智能安全與标準研讨會”上(superior),信安标委大(big)數據安全标準特别工作(do)組發布了(Got it)《人(people)工智能安全标準化白皮書(2023版)》。該标準梳理了(Got it)人(people)工智能技術與應用(use)發展現狀,分析了(Got it)人(people)工智能面臨的(of)新的(of)安全風險,并指出(out)了(Got it)人(people)工智能安全标準需求,确保AI發展與安全相輔相成。
深度學習需要(want)利用(use)大(big)量數據進行訓練,人(people)工智能服務能力很大(big)程度上(superior)也依賴于(At)背後的(of)海量數據。目前,應用(use)市場上(superior)存在(exist)許多熱門的(of)人(people)工智能聊天機器,如AI聊天創作(do)機器人(people)、AI問答機器人(people)等,其背後就是(yes)大(big)語言模型,核心邏輯便是(yes)對海量數據進行處理、加工和(and)輸出(out)的(of)過程。然而,這(this)也意味着該類應用(use)很可能在(exist)用(use)戶不(No)知情的(of)情況下收集用(use)戶查詢的(of)相關内容,并用(use)于(At)後續模型的(of)開發。出(out)于(At)對信息的(of)保護,一(one)些歐洲國(country)家的(of)公司和(and)機構禁止使用(use)此類人(people)工智能産品,以(by)防止公司機密數據洩露。
AI技術的(of)不(No)斷完善,使其成爲(for)生(born)産力進步的(of)有力抓手。許多企業組織将人(people)工智能視爲(for)企業數字化轉型的(of)得力助手,将其應用(use)于(At)移動應用(use)APP,以(by)更好地(land)開展移動辦公,爲(for)客戶提供更好的(of)業務服務,同時(hour)提高工作(do)效率及降低成本。然而,黑産組織對AI應用(use)的(of)蓄意攻擊也在(exist)不(No)斷增加,通過侵入系統破壞組織的(of)業務運作(do),不(No)僅可以(by)竊取用(use)戶和(and)企業數據,還能夠對企業的(of)人(people)工智能模型等核心資産進行篡改。因而,對企業核心資産安全的(of)保護加強也尤爲(for)重要(want)。
· 個(indivual)人(people)需加強信息保護意識,遵守企業制定的(of)相關規範,避免個(indivual)人(people)及企業數據遭受到(arrive)安全威脅。
· 企業在(exist)使用(use)AI應用(use)的(of)同時(hour),也需要(want)加強管理制度規範及員工安全防範意識培訓。
· AI服務提供方需積極落實《數據安全法》、《個(indivual)人(people)信息保護法》等相關規範,确保用(use)戶及業務數據的(of)安全性,同時(hour)更需加強人(people)工智能模型參數等相關技術的(of)機密性,以(by)保障企業利益不(No)受侵犯。
乐泾达软件科技針對人(people)工智能移動業務安全提供應用(use)和(and)數據的(of)全周期安全防護。
· 通過對移動應用(use)APP程序文件進行全面的(of)、多維度的(of)、自動化安全掃描,發現程序代碼中存在(exist)的(of)安全漏洞和(and)數據洩露風險。同時(hour)使用(use)隐私合規檢測功能,盡可能在(exist)應用(use)開發階段,解決應用(use)安全合規問題。
· 在(exist)操作(do)系統原有安全體系基礎上(superior),利用(use)動态加載、動态代理、虛拟機保護和(and)加解密等技術手段,對應用(use)程序進行統一(one)安全加固,保證移動應用(use)的(of)安全性和(and)完整性,防止移動應用(use)被反編譯、動态調試和(and)篡改打包,确保移動應用(use)上(superior)線發布後的(of)安全可靠運行。
· 通過應用(use)自動化沙箱加殼,實現應用(use)獨立隔離運行環境,提供應用(use)權限控制、應用(use)隐私保護、數據防洩漏、數據加密保護等,增強移動應用(use)業務數據和(and)運行時(hour)的(of)安全性,保障應用(use)業務安全可靠。
在(exist)當前快速發展的(of)人(people)工智能時(hour)代,AI的(of)雙刃劍效應不(No)可避免。爲(for)确保AI系統不(No)被濫用(use)或操縱,需要(want)各方積極采取措施,将安全性置于(At)首要(want)位置,通過嚴格的(of)隐私保護和(and)數據安全措施,共同構建值得信賴的(of)AI生(born)态系統。
此處放标題
内容暫無