當地時間5月4日，美國白宮宣布了旨在遏制人工智能風險的首個新舉措。報告顯示美國國家科學基金會計劃撥款1.4億美元建立專門用于人工智能的新研究中心。政府還承諾發布政府機構的指導方針草案以確保對人工智能的使用保障“美國人民的權利和安全”。谷歌、微軟、OpenAI等人工智能公司已同意在8月的網絡安全會議上對其產品進行審查。
國內來看，4月11日國家互聯網信息辦公室就《生成式人工智能服務管理辦法》公開征求意見。
(資料圖片僅供參考)
海外的角度，近期著眼于人工智能監管的國家正在增加，如4月11日美國商務部下轄咨詢機構國家電信與信息管理局開始就AI相關監管問題向社會各界征集意見，國土安全部部長表示該部門將成立一個人工智能特別工作組；歐洲議員同樣呼吁制定更多的規則來對人工智能技術加以監管，并列出了幾項期待的舉措，包括在擬議的《人工智能法案》草案中提供一個框架，此外還提及應召開關注人工智能風險的全球峰會等等。
安信證券認為，認為AI監管主要體現在三個方面：
1)對數據集獲取的安全合規性：由于AI模型需要大量數據的訓練，在使用過程中也需要上傳數據獲取模型輸出結果，因為針對企業內部在使用AI大模型時候上傳數據的安全和保密性需求將會持續提升，利好數據安全和加密類企業的需求增長，如啟明星辰、安恒信息、奇安信、深信服、安博通、信安世紀、三未信安、格爾軟件等。
2)對人工智能模型的可解釋性和透明性：目前的AI大模型均是基于深度學習搭建，其中的決策機制和過程尚不透明，模型的可解釋性較差，這對于AI的應用構成了比較大的挑戰。未來針對AI模型可解釋性的研究也將會持續發展，利好AI算法類企業的突破。
3)對人工智能生成內容的識別和審核：由于AI模型本身是否具有歧視性和偏向性尚存在爭議，因此對于人工智能生成內容的識別和審核需求將會提升，包括反生成式AI系統在內的產業將會受益，相關公司如美亞柏科等。
根據公開資料梳理，相關公司包括但不限于：
數據安全：電科網安、深信服、啟明星辰等；
數據要素：易華錄、浙數文化等；
信息安全：安恒信息，浩瀚深度，中新賽克，美亞柏科；
隱私計算：綠盟科技、星環科技。
關鍵詞：
